II wojna światowa W 1939 bezskutecznie ubiegał się o powrót do wojska. W czasie okupacji niemieckiej utrzymywał kontakty z komunistyczną grupą „Młot i Sierp”. Jesienią 1939 wyrobił sobie fałszywe dokumenty na nazwisko Zwoliński – posługiwał się nim w czasie okupacji. Według oficjalnej biografii Żymierskiego, wydanej anonimowo w PRL w 1986 (ze wstępem gen. Wojciecha Jaruzelskiego), w lutym 1940 konspiracyjny sąd obywatelski złożony ze zdecydowanych antypiłsudczyków uznał aresztowanie i wyrok z 1927 za polityczny i zrehabilitował Żymierskiego. Sąd obywatelski prawdopodobnie nie miał świadomości, iż Żymierski był wówczas agentem sowieckiego wywiadu NKWD, a decyzja sądu nie miała znaczenia i mocy prawnej w świetle obowiązującego prawa karnego II RP, gdyż jedynymi organami sądowniczymi mogącymi w warunkach okupacyjnych uniewinnić Żymierskiego był działający od maja 1940 system sądownictwa konspiracyjnego Polskiego Państwa Podziemnego (powołany z ramienia legalnego Rządu RP – kontynuatora przedwojennych struktur państwa polskiego) – np.