W 1935 został jednym z pierwszych pięciu radzieckich dowódców promowanych na stopień marszałka Związku Radzieckiego.

W latach 1937–1938 I zastępca komisarza obrony, powołany na miejsce aresztowanego, a następnie rozstrzelanego Michaiła Tuchaczewskiego, wcześniej zresztą poparł wykluczenie z partii zarówno jego, jak i komandarmów Iony Jakira oraz Ijeronima Uborewicza.

W styczniu 1938 r., pół roku od rozpoczęcia czystki w Armii Czerwonej, Politbiuro WKP (b) negatywnie oceniło dotychczasową pracę Jegorowa, zarzucając mu organizowanie pracy sztabu generalnego „w sposób wyjątkowo niezadowalający” i to, iż miał wiedzę o spisku zorganizowanym przez innych wysokich oficerów. 4 lutego odwołano go z dotychczasowej funkcji, powierzając mu dowodzenie drugorzędnym Zakaukaskim Okręgiem Wojskowym. W zasadzie jego los był już w tym momencie przesądzony.