Od 1932 r. służył w Biurze Operacji Morskich, w 1935 r. został awansowany na generała brygady, a rok później na generała majora. W 1935 r. został dowódcą piechoty morskiej. Jako komendant marines znacząco zwiększył zdolności formacji do działań desantowych z morza oraz doprowadził do zwiększenia jej stanu liczbowego z 16 tys. ludzi (1935) przez 50 tys. w połowie 1941 r. i 143 tys. pod koniec tego roku do 300 tys. w 1945 r., zgrupowanych w 6 dywizji i 4 skrzydła. W 1940 r. otrzymał nominację na drugą kadencję na stanowisku komendanta marines, a w 1942 r. odebrał awans na generała porucznika. Ceniony za umiejętności szkoleniowe, kładł duży nacisk na trening.
Jednocześnie Holcomb nie miał operacyjnej zwierzchności nad jednostkami piechoty morskiej w polu, prowadził jedynie szkolenie i ekwipował oddziały. W 1942 r., po sporach między adm. Richmondem Kellym Turnerem i gen. mjr Alexandrem Vandegriftem na tle operacji na Guadalcanal, Holcomb naciskał na wyznaczenie jasnych linii podległości w łączonych operacjach, w efekcie czego dowódcy marynarki i piechoty morskiej mieli mieć równy status. Sprzeciwiał się integracji rasowej korpusu, twierdząc że pomniejszy zdolności bojowe.