Po krótkim czasie generał popadł w niełaskę po raz drugi i został przywrócony do służby dopiero w 1803, na poprzednie stanowisko. W ciągu pięcioletniej działalności inspektora artylerii Arakczejew całkowicie zreorganizował podległe mu oddziały. Oceniany przez historyków jako zdolny organizator wojskowy, nigdy nie był natomiast strategiem.
W 1808 mianowany ministrem wojny, przeprowadził w armii rosyjskiej, w tym w jej zaopatrzeniu i systemie kształcenia wojskowych, kolejne zmiany. W czasie wojny rosyjsko-szwedzkiej w latach 1808–1809 był pomysłodawcą manewru polegającego na przejściu wojsk rosyjskich przez zamarzniętą Zatokę Botnicką, co pozwoliło przenieść walki na terytorium przeciwnika i przyczyniło się do wcielenia Finlandii do Imperium Rosyjskiego. Arakczejew pozostawał ministrem wojny do 1810, gdy odszedł z urzędu, protestując przeciwko zatajeniu przed nim projektu utworzenia Rady Państwa. Na żądanie Aleksandra I objął jednak stanowisko kierownika departamentu spraw wojskowych w Radzie Państwa. W czasie wojny francusko-rosyjskiej roku 1812 i kampanii antynapoleońskiej lat 1813–1814 należał do najbliższych współpracowników cara, odmówił jednak przyjęcia w dowód uznania stopnia feldmarszałka.