Budynek został wzniesiony w latach 1887–1891 przy ul. Karola Szajnochy 7/9 (niem. Roßmarkt) według projektu architekta miejskiego Richarda Plüddemanna. Pomieszczenia Miejskiej Kasy Oszczędnościowej (sale operacyjne, skarbiec i pomieszczenia administracyjne) umieszczono na parterze, a na wyższych piętrach znalazły się przestrzenie dla Biblioteki Miejskiej (niem. Stadtbibliothek) na 150 tys. ksiąg. W budynku mieścił się ponadto oddział Banku Miejskiego (niem. Breslauer Stadtbank), który w 1931 lub w 1933 roku przeniósł się do wzniesionego dla niego wieżowca na wrocławskim Rynku, oraz pomieszczenia dla Archiwum Miejskiego (niem. Stadtarchiv) (przeniesione w 1906 do nowego gmachu Archiwum Państwowego przy ulicy M. Skłodowskiej-Curie) oraz mieszkania służbowe, w tym dla dyrektora.
Opis architektoniczny thumb|left|200px|Herb Wrocławia na starym gmachu Biblioteki Uniwersyteckiej we Wrocławiu
Ceglano-kamienny gmach o powierzchni użytkowej 1243 m² zaprojektowano w stylu neogotyckim (gotyku północnego) z elementami romańskimi, na planie zbliżonym do prostokąta. Projekt miał nawiązywać do niemieckiego stylu narodowego i w symboliczny sposób do średniowiecznej tradycji przechowywania archiwów;