Os historiadores acreditam que instrumentos semelhantes a harpas surgiram no antigo Egito por volta de 3000 a.C. e apareceram em sua forma angular moderna na Ásia por volta de 1500 a.C. As harpas representadas em desenhos de cavernas do antigo Egito eram estruturadas como arcos de caça, que são os objetos que os historiadores atribuem à inspiração do formato da harpa. No entanto, os asiáticos refinaram a forma da harpa adicionando uma caixa de ressonância e um pilar sólido para suporte.
As primeiras harpas apresentavam fios longos e finos feitos de materiais orgânicos, como fibras vegetais. As harpas variavam em estilo e até mesmo posição de execução, dependendo da região de origem. Em muitas partes da Grécia e de Roma, as harpas existiam como instrumentos verticais e os músicos dedilhavam as cordas usando as duas mãos. Na região da Mesopotâmia, entretanto, as harpas existiam como instrumentos horizontais. Os músicos colocavam as harpas no colo e usavam palhetas para dedilhar as cordas.
As harpas estão entre os instrumentos mais antigos do mundo. Eles eram amplamente utilizados no antigo Egito e na Ásia. As harpas migraram para outros lugares, desfrutando de uma breve popularidade na Índia e no Oriente Médio antes de desaparecer repentinamente. As harpas reapareceram na Europa, no entanto, durante o século IX. Sua forma mudou ligeiramente em relação às versões anteriores, fortemente influenciada pelo visual gótico. Harpas góticas apresentavam pescoços alongados e torsos delgados para um visual elegante. Harpas cromáticas surgiram durante o século 16, aparecendo como instrumentos com duas ou três fileiras de cordas.
