Posiadane kwalifikacje ślusarza sprawiły, że został skierowany do pracy w 5 Zakładach Zbrojeniowych Frontu Północnego, którą wykonywał do połowy 1917 r.
W tym samym roku Jeżow związał się z lokalnym ruchem socjalistycznym. Nie jest jednak pewne, w którym dokładnie momencie został formalnie członkiem partii bolszewickiej; jeszcze jesienią 1917 funkcjonował w oficjalnych wykazach lokalnego ugrupowania o nazwie „Internacjonaliści”, ogólnie identyfikującego się z Socjaldemokratyczną Partią Robotników Rosji. Jeżow był w tym okresie aktywnym organizatorem i działaczem. Współtworzył nowe komórki partyjne w fabrykach, zajmował się kontaktem z działaczami zesłanymi przed 1917 na Syberię, rozprowadzał literaturę marksistowską. W tym czasie rozwijał także własne zainteresowania filozofią socjalizmu, zwłaszcza teoretyków marksistowskich. Praca, jaką wkładał w studiowanie dzieł klasyków marksizmu sprawiła, że w tym samym roku zaczął być określany w wewnątrzpartyjnych dokumentach jako „pracownik umysłowy”, chociaż nie miał żadnego formalnego wykształcenia w tym kierunku.