Więzień niemieckiej nazistowskiej machiny terroru thumb|Tablica w Sierakowie Po najeździe Niemiec na Polskę we wrześniu 1939 r. znalazł się w Warszawie. Tam 4 października został aresztowany przez Gestapo i uwięziony na Pawiaku. Zwolniony po dwóch tygodniach, powrócił do Poznania, lecz już 9 listopada 1939 r. został ponownie aresztowany i osadzony w Forcie VII, gdzie przeszedł prawdziwą gehennę. Mimo różnego rodzaju szykan i tortur, zachowywał cierpliwość i wspierał współwięźniów.
24 kwietnia 1940 został przewieziony do niemieckiego obozu koncentracyjnego w Dachau. Należał do pierwszego transportu więźniów polskich do Dachauks. Gerard Mizgalski Święci w dziejach narodu.. 6 czerwca tego roku osadzono go w obozie w Gusen, lecz 8 grudnia 1940 powrócił do Dachau, gdzie otrzymał numer obozowy 22064.
W Gusen pracował w kamieniołomach i przy budowie obozu. Chory na serce, bez jednej nerki, przetrwał skrajnie trudne warunki egzystencji obozowej. Po kryjomu organizował modlitwy i nabożeństwa oraz podnosił współwięźniów na duchu. Po przewiezieniu do Dachau pracował najpierw na plantacjach, a później w pończoszarni.