Od roku 1929, w stopniu komandora podporucznika, dowodził I Flotyllą Torpedowców. Od 1931 był kierownikiem wydziału personalnego oficerów w Ministerstwie Obrony, a w 1933 został szefem wydziału personalnego floty. W latach 1934–1935 dowodził krążownikiem „Karlsruhe”. W październiku 1937 uzyskał stopień kontradmirała i powierzono mu funkcję dowódcy Sił Torpedowych (Führer der Torpedoboote, FdT). Po wybuchu II wojny światowej, we wrześniu 1939 walczył na Bałtyku i m.in. wziął udział w potyczce z polskimi okrętami koło Helu (na pokładzie niszczyciela „Leberecht Maass”). Od 21 października 1939 został dowódcą Sił Zwiadowczych. Podczas kampanii norweskiej pancerniki „Scharnhorst” i „Gneisenau”, osłaniające pod jego flagą siły desantowe, stoczyły walkę z brytyjskim „Renownem”. Przewidywano, iż jako dowódca sił morskich „Zachód” będzie dowodził siłami morskimi podczas planowanej inwazji Wielkiej Brytanii. W styczniu 1940 mianowano go wiceadmirałem, w czerwcu odznaczono Krzyżem Rycerskim i 18 czerwca 1940 został dowódcą floty. We wrześniu awansował na admirała.