Po dojściu Hitlera do władzy w 1933 r., ostrzeżony przed aresztowaniem, nielegalnie przekroczył granicę z Polską i zamieszkał w Działdowie. W 1935 r. został sekretarzem Związku Mazurów. Współpracował także z Polskim Związkiem Zachodnim i Związkiem Weteranów Powstań Narodowych. W 1936 r. objął posadę technika w dziale katastralnym Urzędu Skarbowego w Działdowie. 27 września 1938 r. przyjął obywatelstwo polskie. Od września 1939 r. aż do końca wojny ukrywał się we wsi Milanów koło Radzynia Podlaskiego pod przybranym nazwiskiem Lucjan Mielecki.

W trakcie powojennej akcji tworzenia polskiej administracji oraz przyjmowania polskich osadników z Polski środkowej oraz Kresów, jednym z najważniejszych problemów było wysiedlenie Niemców z Prus Wschodnich (zgodnie z postanowieniami międzynarodowymi oraz rozporządzeniami władz Polski). Przy określaniu narodowości ludności miejscowej stosowano się m.in. do instrukcji Jakuba Prawina z 26 maja 1945 r. Wyszczególniono tam grupy ludności podlegające rejestracji, oraz warunki, jakie trzeba było spełnić, aby być zakwalifikowanym do polskiej grupy narodowościowej. W 1945 r. Gustaw Leyding-Mielecki wraz z żoną Agnieszką powrócił na Mazury i wznowił swą działalność polityczną, współtworząc Tymczasowy Zarząd Okręgowy Stronnictwa Ludowego w Olsztynie.