W 1985 zrezygnował ze stanowiska przewodniczącego FDP.
W latach 1989–1990 brał aktywny udział w procesie przemian społeczno-politycznych w Europie Środkowo-Wschodniej. 30 września 1989 gościł w Pradze, gdzie negocjował z władzami czechosłowackimi możliwość wywozu z terytorium Czechosłowacji uchodźców z NRD, zgromadzonych na terenie ambasady RFN w Pradze. Wieczorem tego samego dnia wygłosił przemówienie z balkonu budynku ambasady skierowane do przebywających tam uchodźców. W momencie ogłoszenia zgody na wyjazd uciekinierów jego przemówienie zostało przerwane owacją. Uzyskał także zgodę Ericha Honeckera na przejazd przez terytorium NRD zaplombowanych pociągów ze wschodnioniemieckimi uchodźcami z Czechosłowacji i Polski. Uczestniczył w spotkaniach ministrów spraw zagranicznych w ramach tzw. konferencji dwa plus cztery, która doprowadziła do zawarcia 12 września 1990 w Moskwie traktatu o ostatecznej regulacji w odniesieniu do Niemiec, a w konsekwencji do zjednoczenia obu państw niemieckich. 14 listopada 1990 wspólnie z Krzysztofem Skubiszewskim podpisał traktat między Niemcami i Polską o potwierdzeniu istniejącej granicy na Odrze i Nysie Łużyckiej.