Downton Abbey é filmado em vários sets e locações no Reino Unido. O Castelo Highclere, localizado no norte de Hampshire, é usado para fotos externas da própria Abadia, bem como muitas fotos internas.
Muitos locais históricos reais e castelos foram usados para filmar a série. A segunda casa da família Crawley é, na verdade, Grey's Court em Oxfordshire. A casa dote é, na verdade, a Mansão Byfleet, localizada em Surrey. A estação de Downton é a estação ferroviária Horsted Keynes em Sussex. O Castelo Duneagle é na verdade o Castelo Inveraray em Argyll, na Escócia. O Castelo de Brancaster é filmado no Castelo de Alnwick em Northumberland, e a propriedade Haxy Park faz parte de Waddesdon Manor em Buckinghamshire