Embora a data real de sua invenção seja desconhecida, sabe-se que o cavalo de balanço esteve presente por volta de 4000 a.C. na Grécia e na Pérsia antigas. Acredita-se que os cavalos de balanço com bases em meia-lua tenham se originado de berços. O cavalo de balanço mais antigo conhecido que ainda existe em 2014 é de cerca de 1610 e acredita-se que tenha pertencido ao rei Carlos I.
Os primeiros cavalos de balanço feitos com bases em meia-lua foram feitos de uma maneira muito grosseira. Freqüentemente, eles tinham uma cabeça rudemente serrada, com nada mais do que uma tora como corpo. Com o tempo, os cavalos de balanço se tornaram mais sofisticados, alguns com pinturas ornamentadas e entalhes detalhados.