A definição básica de um composto inorgânico é qualquer substância em que dois ou mais elementos, além de carbono, se combinam. Os compostos que contêm carbono são normalmente classificados como orgânicos, com exceção de carbonetos, carbonatos e cianetos, tornando a distinção entre compostos orgânicos e inorgânicos um pouco obscura em algumas situações.
A União Internacional de Química Pura e Aplicada estabelece definições para termos químicos. Apesar de ter sido incumbida dessa tarefa, a União ainda não definiu os termos "compostos inorgânicos" ou "compostos orgânicos". Algumas disciplinas científicas definem compostos inorgânicos como não vivos e compostos orgânicos como vivos. A água é um excelente exemplo de um composto inorgânico.