Czasy II wojny światowej (1941–1945) W maju 1942 roku został członkiem nowo powstałego Komitetu Centralnego partii komunistycznej. Szybko awansował do Sekretariatu. Po masowych zatrzymaniach członków partii został pierwszym sekretarzem. W czerwcu 1943 roku w miejsce partii komunistycznej utworzył mniej radykalną Partię Pokoju, co zostało poddane krytyce przez węgierskich działaczy komunistycznych przebywających w Moskwie, w tym przez Rákosiego. Po rozpoczęciu okupacji niemieckiej 15 marca 1944 został jednym z przywódców i organizatorów ruchu oporu. Skontaktował się z przywódcą partyzantki jugosłowiańskiej Josipem Broz Tito, którego poprosił o pomoc w formowaniu partyzantki. W końcowej fazie wojny został aresztowany pod fałszywym nazwiskiem, nie został zidentyfikowany. Kiedy został skazany na karę więzienia, zbiegł i powrócił do Budapesztu. Na miejscu stanął na czele Komitetu Wojskowego partii.