1 listopada 1942 roku został mianowany komendantem Okręgu Kraków AK na miejsce przeniesionego do Komendy Głównej AK ppłk. dypl. Zygmunta Miłkowskiego. Dzięki umiejętnościom i doświadczeniu Józefa Spychalskiego Okręg Kraków AK został wkrótce wzorowo zorganizowany i przygotowany do powstania zbrojnego. Na przełomie lata i jesieni 1943 roku pod naciskiem trójki powiatowej Stronnictwa Ludowego „Roch” odwołał mjr. Juliana Makowskiego („Bończa”, „Juliusz") z funkcji komendanta Obwodu Kraków-Powiat AK i powierzył ją mjr. Józefowi Kowalówce („Erwin", „Kogut"; 1895–1944) jako zdolnemu do pracy ponad podziałami politycznymi. 4 października 1943 roku Spychalski wydał rozkaz usprawnienia postępowań karnych w sądach podziemnych, zobowiązujący świadków do składania własnoręcznych zeznań, w którym przestrzegał, że „samowolne i nieuzasadnione wykonanie kary śmierci jest karalne”. Na przełomie lutego i marca 1944 roku wydał na podstawie kontroli przeprowadzonej w Inspektoracie Mielec AK przez oficera Kedywu por. Zenona Sobotę („Świdę”) rozkazy zlikwidowania komendanta Obwodu Mielec kpt. Antoniego Koguta („Kruszyny”) i trzech oficerów kontrwywiadu lub dywersji.