Natomiast 19 lipca 1927 r. mianowano go szefem Oddziału III Sztabu Generalnego. 1 stycznia 1929 Prezydent RP awansował go na stopień generała brygady ze starszeństwem z dniem 1 stycznia 1929 i 5. lokatą w korpusie generałów. 19 czerwca 1931 zwolniony został ze stanowiska dowódcy 19 DP, a 7 lipca tego roku wyznaczony na stanowisko zastępcy I wiceministra Spraw Wojskowych. 2 lipca 1934 Prezydent RP mianował go I wiceministrem spraw wojskowych. 12 maja 1935, po śmierci Józefa Piłsudskiego, Prezydent RP, na wniosek premiera Walerego Sławka powierzył mu kierownictwo Ministerstwa Spraw Wojskowych. Od 13 października 1935 do 30 września 1939 był ministrem spraw wojskowych w rządach Mariana Zyndrama-Kościałkowskiego i Felicjana Sławoja Składkowskiego. Na stopień generała dywizji został mianowany ze starszeństwem z 1 stycznia 1936 i 3. lokatą w korpusie generałów. Kasprzycki początkowo jako kierownik, a później jako minister był odpowiedzialny za kierowanie administracją i gospodarką wojskową oraz za wyszkolenie wojska i obsadę personalną, czyli za kadrę dowódczą polskich sił zbrojnych. Ponadto odpowiadał za przygotowanie armii do ewentualnych działań wojennych. Reprezentował też sprawy sił zbrojnych oraz obronności państwa, w tym także przemysłu zbrojeniowego, na forum rady ministrów.