A chuva ácida causa erosão ao reagir quimicamente com certos minerais na rocha, fazendo com que ela se dissolva na água e escape das estruturas nas quais está ligada. Este é um problema particularmente com calcário e rochas derivadas dela, como o mármore. O constituinte básico do calcário é o carbonato de cálcio, que é muito vulnerável a compostos ácidos.
A chuva ácida é criada quando processos industriais e outros processos modernos liberam compostos de enxofre na atmosfera. Estes reagem com a água, criando ácido sulfúrico, o principal constituinte ativo da chuva ácida. Esse ácido dissolvido é carregado com a chuva para o calcário ou mármore, e o carbonato de cálcio da rocha reage com ele. Essa reação gera água, dióxido de carbono, íons de cálcio e íons de sulfato. Todos esses produtos são carregados com a água da chuva. Isso corrói as estruturas naturais e artificiais feitas de calcário e esgota o solo de importantes compostos de cálcio.
A chuva ácida também prejudica o meio ambiente de outras maneiras. A chuva ácida se acumula em corpos d'água, como lagos, tornando-os mais ácidos. Isso pode tornar os lagos tão ácidos que não suportam mais a maioria dos peixes e outros tipos de organismos. Além disso, a dissolução de cálcio e outros compostos no solo pode liberar alumínio tóxico e outros íons no meio ambiente.