A principal característica da Kaaba é a Pedra Negra. A Pedra Negra é uma rocha de origem desconhecida que é considerada sagrada pelos adoradores muçulmanos. Os muçulmanos acreditam que esta pedra seja uma relíquia da época de Adão e Eva, colocada no lugar pelo profeta Maomé.
Os cientistas, por outro lado, originalmente acreditavam que a pedra era um meteorito, mas agora acreditam que também poderia ser um pedaço de basalto ou vidro natural. A Kaaba também contém três pilares que sustentam o telhado e uma pequena mesa do altar usada para abrigar óleos aromáticos. Vários objetos semelhantes a lâmpadas também estão pendurados no telhado da Kaaba.