W 1906 roku rozebrano pozostałą część pałacową, a w jej miejsce rozbudowano budynek bankowy. Z dawnego pałacu Kospothów pozostawiono jedynie fragmenty dekoracji fasady, wmurowane w elewacje na dziedzińcu bankowym, które według Wojciecha Brzezowskiego pochodzą z domu nr 36.
Architektura Pierwotny budynek pałacowy był trójskrzydłową, kalenicową budowlą wzniesiona na planie litery „C”, z tylną oficyną. Był trójkondygnacyjnym budynkiem o układzie jedno i dwutraktowym z tylną klatką schodową, z sześcioosiową elewacją frontową, od 1869 powiększoną do ośmiu osi.
W czwartej osi, licząc od strony wschodniej, umieszczony był piaskowy portal kolumnowy o koszowo zamkniętym otworze z profilowanymi węgarami i archiwoltą z kluczem. W przyłuczach portalu znajdowały się dekoracje z liści akandu. Całość zamykał bogato ozdobiony naczółek zamknięty łukiem segmentowym;