Po ukończeniu z wysoką lokatą akademii Marynarki Wojennej (Marineschule) we Flensburgu, mimo chęci wstąpienia do prężnie rozwijającej się floty podwodnej, skierowany został do służby jako instruktor: najpierw na „Emden”, później zaś na lądzie.
Służba na okrętach podwodnych W związku z wybuchem wojny Guggenberger został oddelegowany do centrum szkolenia załóg U-Bootów w Neustadt. Rozpoczął swoją służbę na okrętach podwodnych w październiku 1939 roku, szybko, bo już w styczniu następnego roku, obejmując funkcję pierwszego oficera wachtowego na U-28, U-Boocie typu VIIA. Pod dowództwem Kptlt. Güntera Kuhnkego odbył na północnym Atlantyku i w kanale La Manche cztery patrole bojowe mające na celu stawianie min i zwalczanie żeglugi nieprzyjaciela. Po przeniesieniu wyeksploatowanego U-28 do flotylli szkolnej, w listopadzie 1940 roku Guggenberger objął przejściowo dowództwo nad jednostką, kończąc także kurs dowódców U-Bootów.