Z powodzeniem ubiegał się o reelekcję w wyborach w 1981, 1985, czerwcu 1989, listopadzie 1989, 1990, 1993, 1996 i 2000, będąc deputowanym nieprzerwanie do 2004.
W 1978 przyłączył się do Nowej Demokracji Konstandinosa Karamanlisa. Był ministrem koordynacji w latach 1978–1980, a następnie do 1981 ministrem spraw zagranicznych w gabinecie Jeorjosa Ralisa. W 1984 zastąpił Ewangelosa Awerofa na stanowisku przewodniczącego Nowej Demokracji. Kierowana przez niego ND ponownie przegrała wybory w 1985 z socjalistami. Zwyciężała następnie w obu wyborach w 1989, nie uzyskując jednak większości parlamentarnej. Doprowadziło to do kolejnych wyborów w 1990. Po nich w kwietniu 1990 Konstandinos Mitsotakis stanął na czele nowego rządu. W 1992 pełnił w swoim gabinecie funkcję ministra spraw zagranicznych. Zakończył urzędowanie na stanowisku premiera w październiku 1993 po przegranych wyborach. W tym samym roku ustąpił również z kierowania partią, został honorowym przewodniczącym Nowej Demokracji.
Życie prywatne W 1953 poślubił Marikę Mistotakis, która zmarła w 2012.