As pilhas do mar se formam como resultado do bater constante das ondas oceânicas contra um penhasco. A erosão cria cavernas marinhas no penhasco e arcos se desenvolvem com o tempo. À medida que a rocha se desgasta ainda mais, os arcos se transformam em pilhas de mar.
As cavernas marinhas se formam quando a forte energia das ondas cria rachaduras na superfície da rocha. Com o tempo, as rachaduras tornam-se maiores, eventualmente formando bolhas. As ondas continuam a erodir as bolhas e elas se transformam em cavernas marinhas. Se o penhasco se projeta para o oceano, as ondas podem quebrar os dois lados da rocha, transformando cavernas marinhas em arcos. Se uma metade do arco for mais mole do que a outra, o lado mais macio se quebra mais rápido, deixando um lado para se tornar uma pilha de mar.
Uma pilha marítima localizada na costa do Oregon, chamada Jump-Off Joe, era feita de arenito, sofrendo erosão ao longo do século XX. Outras pilhas do mar em Bandon Beach, Oregon. São compostas de arenito ou chert, rochas que são relativamente duras quando medidas na escala de Mohs. As ondas erodem as rochas por meio da corrosão e da ação hidráulica, mas só podem quebrar rapidamente as rochas macias. A parte interna do promontório ou penhasco que é mais difícil leva mais tempo para se quebrar em cavernas marinhas ou arcos. O processo continua até que as ondas empurrem a paisagem costeira para o interior.