Po zajęciu Polski przez wojska niemieckie we wrześniu 1939, został rok później skierowany jako rezydent wywiadu pod pseudonimem „Iwan” do okupowanej Warszawy. Występował pod fałszywym nazwiskiem Piotra Iljicza Wasiljewa jako pełnomocnik ds. majątku byłego poselstwa sowieckiego. Współpracował z agentką NKWD Jeleną D. Modrżynską ps. „Marja”. Oboje mieli za zadanie zbierać informacje wywiadowcze dotyczące działań niemieckich na zajętych ziemiach polskich. Udało im się ustanowić kontakty z m.in. prof. Władysławem Spasowskim i Wandą Wasilewską. W marcu 1941 przekazał szefowi Głównego Zarządu Bezpieczeństwa Państwowego Wsiewołodowi Mierkułowowi informację o koncentracji wojsk niemieckich przy granicy z ZSRR. W dzień ataku na Związek Radziecki P. I. Gudimowicz wraz z J. D. Modrżynską zostali aresztowani przez Gestapo, po czym 28 czerwca przewieziono ich do Berlina do radzieckiego poselstwa. Na początku lipca wraz z innymi obywatelami ZSRR wymieniono ich na granicy bułgarsko-tureckiej na dyplomatów niemieckich przebywających na terytorium Związku Sowieckiego. Piotr I. Gudimowicz został odznaczony Orderem Czerwonego Sztandaru. Następnie w stopniu pułkownika objął funkcję zastępcy szefa jednego z oddziałów 4 Wydziału NKGB.