J.P. Morgan comprou e colecionou obras de arte de valor equivalente a cerca de dois terços de sua propriedade ou 900 milhões de dólares hoje. Muitas das obras que comprou foram obtidas durante as últimas duas décadas de sua vida. Após sua morte, seu filho, J.P. Morgan Jr., doou grande parte da coleção de seu pai ao Metropolitan Museum of Art.
J.P. Morgan gostava especialmente de arte islâmica e outros objetos islâmicos, como tapetes, painéis de azulejos otomanos e vidro esmaltado. Ele também tinha uma grande coleção de mídia, que consistia em livros impressos e manuscritos. Antes de morrer, J.P. Morgan foi citado como tendo dito: "Nenhum preço é muito alto por um objeto de beleza inquestionável e autenticidade conhecida."