W opinii o Żymierskim Śmigły-Rydz pisał (1921): „Bardzo dobry oficer Sztabu Generalnego w wyższych dowództwach, zdolny, bardzo obowiązkowy, bardzo czynny, doskonały wychowawca korpusu oficerskiego, bardzo dobry administrator, o wielkiej inicjatywie”.
W czasie przewrotu majowego w 1926 stanął po stronie wojsk rządowych (m.in. nadzorował transport jednostek poznańskich w kierunku Warszawy oraz dowodził tzw. grupą Żymierskiego, która z okolic Sochaczewa podążała na stolicę), po ich klęsce został aresztowany wraz z generałami Tadeuszem Rozwadowskim, Juliuszem Malczewskim i Włodzimierzem Zagórskim. Wkrótce jednak generałów przewieziono do wojskowego więzienia śledczego na Antokolu w Wilnie, podczas gdy Żymierskiego uwięziono w Warszawie. 20 sierpnia 1926 doprowadzony z więzienia do Belwederu odbył rozmowę z Piłsudskim. Działał w Związku Oficerów Rezerwy RP, gdzie współpracował z mjr. Pawłem Piskozubem.