Architektura Pięciopiętrowy pałac Michała Fiodorowicza był budowlą dużą i monumentalną. Jego wygląd łączy w sobie elementy stylu staroruskiego i architektury włoskiej. Oprócz tradycyjnych rosyjskich technik zdobniczych – szyrynki, ornamentowych wzorków, kafli i rzeźbionego złoconego grzebienia na kalenicy – w architekturze pałacu zastosowano klasyczne formy porządkowe. Wielopoziomowa schodkowa kompozycja z otwartymi galeriami i schodami zachowuje cechy choromskiej historycznej architektury rosyjskiej. Był to jednak nowy typ budowli kamiennej z amfiladą przestrzeni wewnętrznych, równoważoną regularnie rozmieszczonymi bryłami, charakterystycznymi dla pałaców z czasów późniejszych. We wschodniej i zachodniej części piwnicy, otoczonej łukowymi emporami, znajdowały się cerkwie domowe; tym samym Pałac Tieriemny był pierwotnie centrum trzyczęściowej kompozycji osiowej. Zmianom można przypisać także wygląd głównej fasady od strony dziedzińca frontowego.
Pałac wzniesiony jest z cegły, jego poszczególne elementy – pilastry, ościeżnice okienne, portale drzwiowe, parapety chodników – wykonano z białego kamienia.