Davne 1900.godine među Jevrejima grada Sarajeva rodila se ideja da se izgradi novi Hram. Općinsko Vijeće 1923.godine pokreće pokreće ideju izgradnje Hrama sa mrtve tačke. Neposred­no iza apela usvojen je po istom Vijeću i statut od 7. novembra 1923. Konstituiran je Odbor na čijem čelu je bio predsjednik Jevrejske opštine gosp. Abram Majer Altarac. Na njegov poziv na saradnju odazvali su se najviđeniji sarajevski Jevreji medu njima nadrabin g. dr. Moric Levi, g. Mordehaj Atijas, g. Avram Levi Šadić, g. Cezar Sutnbulović i dr.

U februaru 1924., kupljeno je zemljište na kojem se će nalaziti Veliki sefardski hram u iznosu od 100.000 švicarskih franaka, 1926.godine postavljen je kamen temeljac, objekat je završen 1930.godine. Izgled hrama ideja je arhitekte Rudolfa Lubinskog a radove je izvodilo građevinsko preduzeće Till i Šmit.

Dimenzije hrama su iznosile 100×30 metara i mogao je da primi do 1000 vjernika, dok je kupola koja je krasila vrh ovog objekta, bila oslonjena na 28 betonskih stubova, također ukrašenih u maorskom stilu. Tokom 1941. godine, nacistička vlada vrši progon jevrejskog stanovništva, pljačkanje imovine i uništavanje kulture koja je stoljećima harmonično koegzistirala sa ostalim kulturama u Bosni i Hercegovini. 1965. godine arhitekta Ivan Štraus je dobio zadatak da obnovi stari hram i prilagodi ga trenutnim potrebama grada, jer ga je, po završetku rata, Jevrejska općina poklonila gradu Sarajevu.