A primeira esposa de Jimmy Dean foi Mary Sue Wittauer e sua segunda esposa foi Donna Meade. Seu primeiro casamento terminou em divórcio após 40 anos e o segundo durou 19 anos até sua morte aos 81 anos, um casal meses antes de seu 82º aniversário.
Dean e Wittauer tiveram três filhos juntos, mas ele não teve nenhum com sua segunda esposa, Donna. Menos de um ano após seu divórcio de Wittauer, Dean se casou com Meade, que também era cantor e compositor. Os dois moravam em Varina, Virgínia, em uma propriedade de 200 acres que foi reconstruída depois que foi queimada em um incêndio.