Synagogen ble reist mellom 1875 og 1878 ved Tłomackie-plassen etter tegninger av Leander Marconi. Etter oppstanden i Warszawas getto ble den sprengt i luften av de tyskenazistene i 1943 (av Jürgen Stroop personlig).
Den store bygningen hadde form som et latinsk kors og var bygd i klassisistisk stil med innslag av empire og renessanse. Synagogens treskipede indre var avsluttet med en pseudoromansk apside. Over hovedskipet befant en stor kuppel seg, noe som skulle symbolisere den største og betydeligste synagoge i Warszawa. Bygningen hadde en lengde på 64 meter. Synagogen hadde svært rikt utstyr.
