Synagoga została zbudowana w latach 1882-1883, według projektu Gidona Weinerta. Uroczyście otwarta 19 kwietnia.
Murowany z cegły budynek synagogi wzniesiono na planie prostokąta w stylu mauretańsko-eklektycznym. Z zewnątrz wyróżniała się monumentalną fasadą zwieńczoną półkolem z okrągłym okienkiem i dwoma szpiczastymi wieżyczkami oraz płaską kopułą, obejmującą znaczną część dachu.
Wewnątrz w zachodniej części znajdował się przedsionek, z którego wchodziło się do głównej sali modlitewnej, którą z trzech stron otaczały galerie dla kobiet. Całość posiadała 350 miejsc siedzących. Na chórze znajdowały się organy.
Podczas nocy kryształowej z 9 na 10 listopada 1938 roku (a dokładnie rano 10 listopada), bojówki hitlerowskie spaliły synagogę. Po spaleniu synagogi jej mury zostały rozebrane, a grunt w 1941r. odkupiło miasto za 2000 marek (umowę ze strony gminy żydowskiej podpisali jej ostatni przwodniczący Alfred Selowsky oraz syn poprzedniego przewodniczącego gminy, Alfred Laskau). Na miejscu po synagodze wybudowano po pewnym czasie zbiornik przeciwpożarowy; po jego zasypaniu, w latach 60. zbudowano w tym miejscu sklep spożywczy (tzw. "dom chleba"), który spłonął w latach 70.
Obecnie na miejscu dawnej synagogi stoi nowy gmach Filharmonii Zielonogórskiej.
9 listopada 2008 roku na miejscu, gdzie stała synagoga został odsłonięty obelisk upamiętniający jej zniszczenie podczas nocy kryształowej. Został ufundowany przez Lubuską Fundację Judaica. W uroczystości wzięli udział przedstawiciele gmin żydowskich z Polski, Niemiec i Izraela oraz rabin Walter Rothschild z Berlina. Na obelisku widnieje napis: "W tym miejscu stała synagoga zniszczona przez nazistów 9/10 X 1938". Za: