Od 23 lipca do 12 sierpnia 1942 roku był dowódcą Frontu Stalingradzkiego, z którego to stanowiska został odwołany za błędy w czasie walk na przedpolach Stalingradu.
Następnie od października 1942 roku był dowódcą 33 Armii Frontu Zachodniego (w październiku 1943 roku tej armii podporządkowano polską 1 Dywizję Piechoty). W dniu 9 września 1943 roku został mianowany generałem pułkownikiem. Armią tą dowodził do marca 1944, a następnie 2 kwietnia został dowódcą 3 Gwardyjskiej Armii 1 Frontu Ukraińskiego, którą dowodził do końca II wojny światowej. Dowodzona przez niego armia wraz z innymi armiami zajęła 15 stycznia 1945 Kielce, 17 stycznia sforsowała Pilicę i Wartę, 18 stycznia zajęła Skarżysko-Kamienną, 20 stycznia brała udział w okrążeniu 17-tysięcznego zgrupowania wroga pod Opocznem, a 28 stycznia dotarła do Odry, którą następnie sforsowała. W dniu 6 kwietnia 1945 roku nagrodzony tytułem Bohatera Związku Radzieckiego.