Od lutego 1917 roku w wojsku. Członek komitetów żołnierskich w armii. W organach WCzK-OGPU-NKWD od 1918 roku. W okresie 1920–1930 na kierowniczych stanowiskach w regionalnych organach WCzK-GPU (tomskim, jenisejskim, semipałatyńskim, irkuckim). W latach 1923–1924 ludowy komisarz spraw wewnętrznych Buriacko-Mongolskiej ASRR, gdzie prześladował lamaizm, tłumił lokalne powstanie mongolskie, porywał z Mongolii i Chin antykomunistycznych "białych" Rosjan, zajmował się sabotażem i dywersją. W latach 1924–1928 na kierowniczych stanowiskach w OGPU w republikach Azji Środkowej, gdzie tłumił antykomunistyczne powstanie basmaczy.

Od 1930 roku zastępca szefa Zarządu Gułagu. W okresie od 9 czerwca 1932 do 16 sierpnia 1937 szef Głównego Zarządu Obozów OGPU (następnie NKWD}. Jednocześnie od 22 lipca do 26 października 1936 był szefem wydziału przesiedleń NKWD, szefem budowy Kanału Wołga-Moskwa (1936–1937), budowanego przez więźniów Gułagu. Od września 1936 do sierpnia 1937 – zastępca ludowego komisarza spraw wewnętrznych ZSRR.