26 maja 1940 został mianowany do stopnia generała majora.
II wojna światowa Po przystąpieniu ZSRR do działań wojennych został dowódcą 27 Armii Bałtyckiego Okręgu Wojskowego, a następnie dowódcą 34 Armii Północno-Zachodniej, zastępcą dowódcy 61 Armii, 20 Armii, dowódcą 39 Armii, odpowiednio na zachodnim froncie, Froncie Kalinińskim i 1 Froncie Nadbałtyckim. W marcu 1943 został ciężko ranny pod Wiaźmą i przez pięć miesięcy przebywał w szpitalu wojskowym. thumb|Tablica upamiętniająca gen. N. E. Bierzarina w Berlinie Od maja 1944 dowodził 5 Armią Uderzeniową w operacjach ofensywy radzieckich sił zbrojnych: operacji jassko-kiszyniowskiej, wiślańsko-odrzańskiej i bitwie o Berlin. Brał udział w walkach m.in. w rejonie Grabowa i później na północ od Kostrzyna. W szturmie Berlina dowodzona przez niego 5 Armia Uderzeniowa otrzymała zadanie szczególnego znaczenia, zajęcie sektora w środku miasta, tam gdzie znajdowała się Kancelaria Rzeszy; wkroczyła do berlińskiej dzielnicy Marzahn 21 kwietnia 1945.