W 1961 roku odszedł z klubu, a następnie w latach 1961–1963 trenował FC Saarbrücken. W Oberlidze dał się poznać jako trener, który wiedział, jak pracować długoterminowo. Zostało to później potwierdzone podczas pobytu w klubie Bundesligi – Eintrachcie Brunszwik.
Eintracht Brunszwik mały|Helmuth Johannsen w 1965 roku. Następnie został trenerem występującego w nowo utworzonej Bundeslidze – Eintrachtu Brunszwik, który w sezonie 1962/1963 w Oberlidze północnej zajął 3. miejsce, z której oprócz Lwów do Bundesligi został mianowany Hamburger SV oraz Werder Brema. Oprócz trenera do klubu przybyli: Peter Kaack z VfR Neumünster i Hans-Georg Dulz z Hamburger SV. Johannsen, jako typ trenera z realistycznymi celami, po dokładnej analizie możliwości klubu w sferze sportowej i finansowej, przewidywał spadek klubu z Bundesligi oraz spadku liczby zawodników i kibiców. Ostatecznie klub sezon 1963/1964 zakończył na 11. miejscu z 28 punktami w tabeli ligowej i tym samym pozostał w Bundeslidze.