Po 10 latach pobytu w radzieckich obozach jenieckich, odzyskał wolność i wrócił do RFN, gdzie czekała na niego żona, do której pisał każdego dnia, spędzonego na froncie.
Następnie został oficerem w zachodnioniemieckim lotnictwie wojskowym, gdzie dowodził pierwszą jednostką całkowicie złożoną z odrzutowców F-104 Starfighter (JG 71). Odwiedził także USA, gdzie został przeszkolony na amerykańskim sprzęcie.
Hartmann uważał Lockheeda F-104 za maszynę awaryjną i niebezpieczną, i sprzeciwiał się jej wprowadzeniu do niemieckich sił zbrojnych. Później okazało się, że jego opinia była uzasadniona (Starfighter miał 282 wypadki, w których zginęło 115 pilotów w czasie zwykłych lotów treningowych, ponadto wybuchła afera „łapówkarska” związana z tą maszyną, tzw. Lockheed scandal), mimo to Hartmann popadł w konflikt ze swoimi zwierzchnikami i został zmuszony do odejścia na emeryturę w 1970.
Erich Hartmann zmarł 20 września 1993Erich Hartmann. w wieku 71 lat. Rosja oczyściła Hartmanna z zarzutów w styczniu 1997;