Od 1933 roku rozpoczęły się pojedyncze aresztowania mieszkańców domu, które przybrały charakter masowy w okresie wielkiego terroru, kiedy walka z rzekomymi „wrogami ludu” dotknęła najwyższych urzędników państwowych, wojskowych i partyjnych. Spośród mieszkańców domu represjonowano ponad 700 osób, wśród których byli marszałkowie Michaił Tuchaczewski i Wasilij Blücher, Aleksiej Rykow i jego żona Nina, czy wysocy rangą pracownicy partyjni Pawieł Postyszew, Josif Piatnicki i Moisiej Kałmanowicz. Niektóre mieszkania pod koniec lat 30. zmieniały właścicieli po pięć razy: w pewnym okresie w całych klatkach wszystkie mieszkania były zapieczętowane, w tym w uprzywilejowanej „dwunastce”. Chęć zajęcia większej przestrzeni życiowej doprowadziła do licznych donosów na sąsiadów, a przez dom przetoczyła się fala samobójstw, w tym wśród kobiet i dzieci. Niejednokrotnie zdarzało się, że mieszkańców aresztowano całymi rodzinami, rozstrzeliwano i chowano w masowych grobach.