Po wyjściu z więzienia zgłosił się do służby w Wojsku PolskimArmia Krajowa - szkice z dziejów Sił Zbrojnych Polskiego Państwa Podziemnego, pod redakcją Krzysztofa Komorowskiego, Warszawa 1999, s. 411.. W oczekiwaniu na przerzut z ZSRR do kraju, planowany pierwotnie na koniec września 1941 roku, przeszedł m.in. szkolenie spadochronowe. Od października 1941 roku w Buzułuku uczestniczył w pracach organizacyjnych przy formujących się tam jednostkach Wojska Polskiego.

15 grudnia 1941 – 6 stycznia 1942 roku towarzyszył Władysławowi Sikorskiemu w drodze z ZSRR do Londynu. Nie skorzystał z propozycji służby w sztabie Naczelnego Wodza i 30/31 marca 1942 roku jako cichociemny wrócił do kraju w roli oficera łącznikowego Naczelnego Wodza. Sikorski widział Józefa Spychalskiego na stanowisku zastępcy komendanta Armii Krajowej. Kontrwywiad AK ustalił jednak, że w okresie aklimatyzacji skoczków Józef Spychalski mimo zakazu kontaktów spotkał się ze swym bratem Marianem, wówczas jednym z dowódców komunistycznej Gwardii Ludowej. W rezultacie Spychalski nie objął spodziewanej funkcji.