Pod koniec sierpnia, gdy w trakcie mobilizacji, von Armin został szefem sztabu 5 Armii.

II wojna światowa 9 września 1939 roku von Armina przeniesiono do Führerreserve. W połowie września powrócił do służby, obejmując dowództwo nad 95 Dywizją Piechoty. W grudniu wraz ze swoją dywizją został przeniesiony na Linię Zygfryda. 29 lutego 1940 roku awansowano go do stopnia generała piechoty. Wiosną 1940 roku von Armin dowodził dywizją podczas inwazji na Francję. Jego działalność została opisana przez generała Karla von Pragera, dowódcę XXV Korpusu Armijnego następująco: „Podczas pierwszego, dwumiesięcznego, okresu działań jego nowo sformowanej dywizji na froncie nad Górnym Renem dał się poznać z jak najlepszej strony; dzięki swemu rozważnemu, osobistemu oddziaływaniu bardzo szybko podniósł gotowość bojową dywizji. Pod względem osobowości, kompetencji i przygotowania zawodowego doskonale nadaje się do pełnienia funkcji dowódcy dywizji w przyszłej armii czasu pokoju, a prawdopodobnie także dowódcy korpusu”, pod tą pozytywną oceną podpisał się także dowódca 7 Armii, generał artylerii Friedrich Dollmann. 19 lutego 1941 roku kolejną ocenę wystawił von Arminowi zastępca dowódcy IX Korpusu Armijnego Rudolf Schiewindt: „Człowiek prawy i otwarty, o zdrowych ambicjach. Sumienny i aktywny;