Służyło jako areszt śledczy i miejsce egzekucji.
Obiekt był przewidziany dla maksymalnie 951 tymczasowo aresztowanych mężczyzn, w tym 49 miejsc dla recydywistów uzależnionych od alkoholu (oddział terapeutyczny) oraz 45 dla więźniów niebezpiecznych (oddział o podwyższonych standardach ochronnych). Dozór nad nimi sprawowało 404 funkcjonariuszy, jednostka zatrudnia też 33 pracowników cywilnych.
W czasie II wojny światowej więzienie pełniło funkcje pomocnicze dla głównego niemieckiego więzienia, którym był Pawiak. Było ono stale przeludnione; w listopadzie 1941 przebywało tam rekordowe 2505 więźniów. Pod koniec lipca 1944 roku 665 więźniów (ok. 30% stanu) zwolniono, część przewieziono do zakładów karnych w Kaliszu i Poznaniu, pozostałych Niemcy zamierzali skierować do kopania rowów przeciwczołgowych.
Pierwszego dnia powstania warszawskiego żołnierze z 1. kompanii szturmowej 4. Rejonu Obwodu Mokotów AK podjęli nieudaną próbę zdobycia więzienia. Następnego dnia w odwecie SS rozstrzelało na więziennym dziedzińcu ok. 600 więźniów. W obliczu nieuchronnej śmierci część osadzonych podniosła bunt i przy pomocy mieszkańców Mokotowa kilkuset więźniów zdołało uciec.