Zdemobilizowany został w 1921, zostając niemal natychmiast przewodniczącym działu propagandy i agitacji w organizacji partyjnej Autonomicznej Republiki Tatarskiej, członkiem komitetu wykonawczego tejże organizacji i członkiem komitetu wykonawczego we władzach Kazania. Już rok później wyznaczono go „sekretarzem odpowiedzialnym” za organizację w rejonie Mari z siedzibą w Krasnokokszajsku.
Natychmiast po przyjeździe do Krasnokokszajska Jeżow podjął działalność propagandową, objął nadzór nad miejscowymi związkami zawodowymi i znacjonalizowanym przemysłem, odpowiadał za ściągalność obowiązkowych dostaw produktów rolnych nałożonych na miejscową ludność. To ostatnie zadanie – według zachowanych sprawozdań – sprawiało mu najwięcej trudności. W przesyłanych do Moskwy protokołach Jeżow starał się za pomocą odpowiedniego stylu przedstawiania informacji zaprezentować jako sumienny, zaangażowany działacz, dla którego jedyny problem stanowiły skomplikowane układy personalne panujące w organizacji, których nie znał jako przybyły z zewnątrz.