W 1965 został po raz pierwszy wybrany do Bundestagu. Odnawiał mandat w kolejnych wyborach w 1969, 1972, 1976, 1980, 1983, 1987, 1990 i 1994. Od 1965 do 1969 pełnił funkcję parlamentarnego dyrektora frakcji FDP. W 1966 został wybrany do zarządu krajowego FDP w Nadrenii Północnej-Westfalii, a w 1968 na stanowisko zastępcy przewodniczącego federalnego.
W październiku 1969 objął funkcję ministra spraw wewnętrznych w koalicyjnym rządzie socjaldemokratów i liberałów, kierowanym przez kanclerza Willy’ego Brandta. Kierując tym resortem, nadzorował akcję grupy specjalnej Federalnej Straży Granicznej w czasie ataku terrorystycznego na Letnich Igrzyskach Olimpijskich w Monachium w 1972.
Działalność partyjna i rządowa od 1974 W maju 1974 został członkiem nowo utworzonego gabinetu koalicyjnego, kierowanego przez kanclerza Helmuta Schmidta. Objął stanowiska wicekanclerza i ministra spraw zagranicznych zajmowane dotychczas przez Waltera Scheela, który został wybrany na stanowisko prezydenta federalnego. Jednocześnie Hans-Dietrich Genscher zastąpił Waltera Scheela w roli przewodniczącego FDP. Stojąc na czele niemieckiej dyplomacji, odpowiadał za sformułowanie nowej strategii odprężenia w stosunkach ze Związkiem Radzieckim i jego krajami sojuszniczymi.