O carbono foi descoberto pela primeira vez nos tempos pré-históricos como carvão. Ele foi reconhecido como um elemento no século 17, depois que Robert Boyle classificou um elemento como uma substância que não pode ser decomposta em substâncias mais simples.
Carbon foi batizado pelo cientista francês Antoine Lavoisier ao realizar uma variedade de experimentos para revelar suas propriedades. Em um de seus experimentos, Lavoisier usou uma lupa para focalizar os raios do sol em um diamante e viu o diamante queimar e desaparecer. Ele notou que o diamante se combinava com o oxigênio para formar dióxido de carbono, o que o levou a concluir que o diamante e o carvão eram ambos feitos de carbono.
Em 1770, Carl Wilhelm Scheele mostrou que o grafite também queimava para formar dióxido de carbono e, assim, descobriu outra forma de carbono. Outra forma de carbono, o fulereno, foi descoberta em 1985 por Robert Curl, Harry Kroto e Richard Smalley. O fulereno também era chamado de "buckminsterfullereno" porque suas moléculas se assemelhavam às cúpulas geodésicas projetadas pelo arquiteto Buckminster Fuller para a Feira Mundial de 1967. A forma de carbono descoberta mais recentemente é o grafeno, que consiste em uma única camada de átomos de carbono dispostos em hexágonos. O grafeno foi descoberto em 2004 por Kostya Novoselov e Andre Geim, que usaram fita adesiva para destacar uma única camada de átomos do grafite para produzir essa forma de carbono.