Przebywali w nim jeńcy, szpiedzy i pospolici kryminaliści.
W latach 1919–1939 więzienie znajdowało się pod zarządem władz polskich.
W latach 1939–1941 więzieniem administrowało radzieckie NKWDEwa Siemaszko, „Kaźń na Kresach Wschodnich”, [w:] Lato 1941 – polski dramat, dodatek specjalny IPN do dziennika Rzeczpospolita, 22 – 23 czerwca 2011, s. 2..
W latach 1941–1944, podczas okupacji niemieckiej, więzienie podlegało niemieckiej policji bezpieczeństwa. Przetrzymywano w nim podejrzanych o wrogą działalność wobec Rzeszy.
Od 1944 roku białostocka jednostka podlegała Resortowi Bezpieczeństwa Publicznego, który 1 stycznia 1945 został przekształcony w Ministerstwo Bezpieczeństwa Publicznego. Więzienie zapełnione było ludźmi z opozycji politycznej i oddziałów zbrojnego podziemia. W 1956 roku więzienie przeszło pod nadzór Ministerstwa Sprawiedliwości. W 1975 roku powstał Oddział Zewnętrzny w Hajnówce i nowy Zakład Karny w Białymstoku. W latach 80. areszt był modernizowany – dobudowano budynki, w których znalazły się pomieszczenia takie jak świetlica dla odwiedzających, kuchnia i pralnia, zainstalowano również centralne ogrzewanie i kanalizację.