W maju 1927 został przeniesiony do centrali Oddziału II Sztabu Głównego (SG) w Warszawie, formalnie na stanowisko zastępcy szefa Referatu „C”, ale faktycznie był oficerem łącznikowym między kontrwywiadem a Ministerstwem Spraw Wewnętrznych (MSW). Objął stanowisko zastępcy naczelnika Wydziału Bezpieczeństwa (WB) MSW. Jego zadaniem było nadzorowanie pracy naczelnika WB Henryka Kaweckiego, który nie cieszył się zaufaniem kierownictwa kontrwywiadu.
thumb|left|250px|Krzymowski jako kapitan (lata 20. XX wieku)
Na początku 1928 został skierowany jako kurier Oddziału II SG do Moskwy. We wrześniu 1928 wysłano go do Rumunii w celu wyjaśnienia afery związanej z aresztowaniem kierownika placówki wywiadowczej Oddziału II SG Eugeniusza Szadurskiego przez rumuńską policję polityczną. Szadurski został oskarżony o współpracę z wywiadem sowieckim. Dochodzenie przeprowadzone przez Krzymowskiego udowodniło, że zarzuty były bezzasadne.
Równocześnie przez dwa lata studiował w Szkole Nauk Politycznych. 2 kwietnia 1929 został mianowany majorem ze starszeństwem z 1 stycznia 1929 i 47. lokatą w korpusie oficerów piechoty.