Paul Baumgarten 1919 ile 1924 yılları arasında Gdansk Teknoloji Üniversitesinde daha sonra da da Berlin Teknik Üniversitesinde mimarlık eğitimi aldı. Mezun olduktan sonra Berlin'de yer alan Mebes & Emmerich Mimarlık Şirketi’nde 1928 ile 1932 yılları arasında çalıştı. 1932 yılından itibaren ise bağımsız olarak çalışmaya başladı.
1934 yılında Berlin’in Charlottenburg semtinde yer alan Atık Transfer İstasyonu’nu (Müllverladestation AG) tasarladı. Bu yapı Nazi Almanyası'nın en ünlü modernist yapıları arasında sayılır.
1937 ile 1945 yılları arasında Philipp Holzmann AG inşaat şirketinin inşaat bölümünü yönetti. 1952 yılında ise Berlin Sanat Üniversitesinden profesörlük unvanını aldı.
Katkıda bulunduğu yapılar arasında en çok tanınmış olanı Reichstag'ın restorasyonu projesidir.