Żołnierze Armii Krajowej odmawiali wstępowania do Armii Polskiej pod dowództwem gen. Zygmunta Berlinga, rozbrojenia i rozwiązania struktur oraz negowali fakt włączenia Wileńszczyzny w granice Związku RadzieckiegoPaweł Dybicz (red.), Zakłamana historia powstania warszawskiego, t. I, Fundacja Oratio Recta, Warszawa 2014, , s. 190–197.Stefan Karboński, Polskie Państwo Podziemne. Przewodnik po Podziemiu z lat 1939–1945, Świat Książki, 2008..
W styczniu 1945 na czele 3 Frontu Białoruskiego brał udział w operacji wschodniopruskiej, przełamując niemiecką obronę w północnej części Prus Wschodnich. Wraz z 2 Frontem Białoruskim odciął od sił głównych zgrupowania niemieckie w Sambii, Królewcu i na wybrzeżu Zalewu Wiślanego. Zmarł raniony odłamkiem artyleryjskim podczas wizyty na linii frontu w okolicach Melzaka (ob. Pieniężno w woj. warmińsko-mazurskim).
Według innej wersji pocisk za odjeżdżającym samochodem z generałem wystrzeliła załoga czołgu Armii Czerwonej w rewanżu za zastrzelenie przez generała ich dowódcy na oczach załogi.
Został pochowany na jednym z centralnych placów Wilna. Po odzyskaniu niepodległości przez Litwę, w latach 90. XX wieku, jego ciało przeniesiono do Moskwy i pochowano na Cmentarzu Nowodziewiczym.