Od lipca 1941 do lipca 1944 był on pod okupacją niemiecką jako Okręg Białostocki. Już na przełomie czerwca i lipca 1941 roku Niemcy zamordowali w Białymstoku od 6,5 tys. do 7 tys. Żydów. Pod koniec lipca tegoż roku w mieście utworzono getto, w którym w 1943 roku wybuchło powstanie. Armia Krajowa odmówiła pomocy żydowskiemu ruchowi oporu w getcie ze względu na obecność w nim komunistówAugust Grabski „Żydzi skazani na komunę”, „Gazeta Wyborcza” 16/17 września 2006, s. 30.. Ostatecznie białostoccy Żydzi zginęli w obozach zagłady w Treblince i na Majdanku. Po zajęciu miasta, w dawnych koszarach 10 Pułku Ułanów Litewskich hitlerowcy utworzyli obóz dla jeńców radzieckich. Pierwotnie przetrzymywano tam ok. 10–12 tys. jeńców, którzy na skutek ekstremalnych warunków bytowych, głodu i chorób masowo ginęli. Obóz zlikwidowano jesienią 1943 roku. W lipcu 1944 miały miejsce ciężkie walki między 3 Armią 2 Frontu Białoruskiego Armii Czerwonej a wojskami niemieckimi o Białystok (podczas operacji białostockiej zginęło 4643 żołnierzy Armii Czerwonej), w wyniku których miasto poważnie ucierpiało, zniszczeniu uległo prawie 80 procent zabudowy. Po II wojnie światowej odbudowane miasto na zawsze utraciło swój poprzedni charakter, będący dziedzictwem parowiekowej jego historii.