Po kapitulacji trafił jako jeniec wojenny do obozu w Skierniewicach, jednak już w listopadzie 1939 roku znalazł się z powrotem w Poznaniu, gdzie wstąpił do Narodowej Organizacji Wojskowej, współuczestnicząc w tworzeniu jej struktur terenowych w Wielkopolsce.
Wysiedlony w 1940 roku do Krakowa, również tam działał w strukturach konspiracyjnych Narodowej Organizacji Wojskowej, a od 1942 roku Armii Krajowej, w której ukończył kurs podchorążych. Zagrożony aresztowaniem w trakcie tworzenia oddziału partyzanckiego, schronił się w lasach w okolicy Radłowa, gdzie od maja 1944 roku dowodził, jako podporucznik „Jawor”, oddziałem partyzanckim Armii Krajowej „Janina”. W nocy z 25 na 26 lipca 1944 roku oddział, liczący wówczas około 30 osób, współuczestniczył w osłonie lądowiska „Motyl” w Jadownikach Mokrych w ramach akcji Most III.
W sierpniu 1944 roku, podczas przygotowań do Akcji „Burza” oddział „Janina” wszedł jako kompania w skład I batalionu „Barbara” 16 pułku piechoty AK (Jan Gomoła otrzymał awans na porucznika) i wraz z nim przeszedł w rejon Pogórza Rożnowskiego.