A zsinagóga 1869 és 1872 között épült közadakozásból, tervezője az osztrák Otto Wagner, aki a bécsi szecesszió vezető alakja volt.
A falán magyar nyelvű emléktábla olvasható, amely azokra a zsidókra emlékeztet, akiket 1941-ben ebben az épületben gyűjtöttek össze, mielőtt a megszállt ukrajnai Kamenyeck-Podolszkba szállítottak a magyar hatóságok, ahol a németek legyilkolták őket.
Az épület a második világháború óta romos, 1959 óta nem használják vallási célokra, 1979-ben a teteje is beszakadt. 1980-ig laktak az épülethez csatlakozó bérlakásban, ekkor azonban ezt kiürítették, mert az épület életveszélyessé vált. Az 1980-as években az Alba Regia Állami Építőipari Vállalat vásárolta meg a hitközségtől. Az 1990-es években állagmegőrző munkákat hajtottak végre rajta, a felújítást azonban nem fejezték be. Az Alba Regia 1992-ben csődbe ment. 1994-ben az épület az Állami Vagyonügynökség tulajdonába került. 2006-ban a Budapesti Zsidó Hitközség kapta vissza, azóta be lehet menni megnézni. Az épület ma is impozáns, belső tartozékai azonban hiányoznak. 2007-ben kihirdették a felújításra kiírt pályázat eredményét. Az épületben kap majd helyet a tervek szerint a Kárpát-medencei Zsidó Néprajzi Múzeum.