W dolnej części widoczny również budynek plebanii oraz dom parafialny
Na rogu ulic Wileńskiej i Ogrodowej, w miejscu dzisiejszej Państwowej Szkoły Muzycznej I stopnia, niegdyś stał kościół ewangelicki. Była to świątynia luteran wyznania augsburskiego. Została wybudowana w latach 1909–1911 według projektu architekta Jürgena Krögera. Podczas II wojny światowej nie uległa większym zniszczeniom, jednak po wojnie powoli niszczała i w latach 60. XX wieku została rozebrana. Do dziś zachował się jedynie budynek plebanii, w którym znajduje się urząd stanu cywilnego oraz dom parafialny, mieszczący Cech Rzemiosł Różnych oraz inne instytucje.
W latach międzywojennych kościół był jednym z symboli miasta. Od strony frontowej posiadał dwie wieże w stylu barokowym, których hełmy pokryte były miedzianą blachą. Owalna część centralna pokryta była wspartą na czterech kolumnach kopułą. Mury kościoła wykonane były z czerwonej cegły klinkierowej. Jego długość wynosiła 44,5 m, szerokość 30 m, a wysokość wież wraz z krzyżami 51 m. Kopuła wznosiła się na wysokość 17 m. Wejście, prowadzące przez wykonany z piaskowca portal, prowadziło od strony ulicy Wileńskiej. Wewnątrz ściany były tynkowane na szaro i zdobione złoceniami. Przedłużeniem portalu był obszerny przedsionek, nad którym znajdował się chór muzyczny.