W końcu 1940 nawiązał kontakt z Benoît Frachonem odnawiając tym samym kontakty z zakonspirowaną Partią Komunistyczną. Po ataku Hitlera na Związek Radziecki środowisko komunistów francuskich oficjalnie przystąpiło do Ruchu Oporu, Komitet Centralny powierzył Tillonowi tworzenie oddziałów wojskowych partii – Organizacji Specjalnej Walki (OS) i Batalionów Młodzieży. W marcu 1942 został on Komendantem Krajowym Wolnych Strzelców i Partyzantów (FTP) – zbrojnego ramienia partii, które w ramach Frontu Narodowego zdecydowano się otworzyć na ludzi z różnych środowisk politycznych (głównie lewicowych) nie ograniczając ich jedynie do komunistów. FTP dzielili się na część złożoną z Francuzów (Wolni Strzelcy i Partyzanci Francuscy – FTPF) i obcokrajowców (Imigrancka Siła Robocza – FTP-MOI). Jednocześnie umocniła się pozycja Tillona w centralnych kręgach partyjnych, dzięki czemu stał się drugą po Duclosie najważniejszą osobą w PCF. W wyniku unifikacji Ruchu Oporu w lutym 1944 powstały Francuskie Siły Wewnętrzne (FFI) – jednolita organizacja skupiająca wszystkie ruchy i siatki podziemia – w których skład weszły także FTP. Z powodu zachowania przezeń autonomii Tillon zachował swoje stanowisko Komendanta Krajowego Wolnych Strzelców i Partyzantów.