As primeiras civilizações conhecidas por terem feito uso de carbono foram os sumérios e egípcios, que usaram carvão como combustível sem fumaça e para fundir minérios de metal. Mais tarde, usos registrados de carvão para fins medicinais foram encontrados em Textos egípcios e gregos que datam de 1500 a 400 a.C. Em 1772, o químico francês Antoine Lavoisier demonstrou que os diamantes eram uma forma de carbono.
Entre 1779 e 1786, Carl Wilhelm Scheele na Pomerânia sueca e Berthollet, Monge e Vandermonde na França demonstraram que a grafite, ou "grafite de lápis", era principalmente carbono. Só em 1789, no entanto, o elemento foi nomeado e listado como "carbono" em um livro escrito por Lavoisier.
Formas novas e exóticas de carbono, ou alótropos, foram introduzidas a partir de 1985 com a descoberta do buckminsterfullereno, ou C60, e suas formas associadas, incluindo nanotubos e fulerenos. Esta descoberta rendeu aos seus três descobridores, R. Curl, H. Kroto e R. Smalley, o Prêmio Nobel de Química de 1996. C60 foi recentemente apontado como a maior molécula encontrada no espaço sideral e acredita-se que seja criada dentro de estrelas evoluídas.
Em termos de abundância, o carbono ocupa o quarto lugar no universo. Ele ocupa o 15º lugar na categoria de elementos contidos na crosta terrestre. Os alótropos de carbono mais conhecidos são diamante, grafite e carbono amorfo, que inclui fuligem e carvão.