Tate Modern’in bulunduğu sanat galerileri orijinal olarak farklı işlevlere sahiptiler. 1947 ile 1963 yılları arasında mimar Giles Gilbert Scott tasarımına göre iki aşamalı bir inşaat ile bu bölgede "Bankside Elektrik Santralı"’ni inşa etti. 1981 yılında da bu elektrik üretim santralı kapandı.

Yapı mimarlar grubu olan Herzog & de Meuron tarafından yeniden tasarlanarak müze olarak hizmet vermeye başladı. Müzenin inşaatını ise Carillion adlı bir inşaat firması gerçekleştirdi.