W latach 1998–2002 pracował w kancelarii węgierskiego premiera jako szef Departamentu Komunikacji (1998–1999) oraz Departamentu Prasy i Informacji (1999–2002). W latach 2002–2003 zajmował się analizami politycznymi dla grupy parlamentarnej Fideszu, następnie był szefem gabinetu prezesa partii (2003–2006). W 2006 po raz pierwszy uzyskał mandat posła do Zgromadzenia Narodowego. Stanął na czele frakcji parlamentarnej Fideszu. W 2010 i w 2014 z powodzeniem ubiegał się o poselską reelekcję. 29 maja 2010 objął funkcję wicepremiera oraz ministra sprawiedliwości i administracji publicznej w drugim rządzie Viktora Orbána. 6 czerwca 2014 w trzecim gabinecie dotychczasowego premiera przeszedł na urząd ministra spraw zagranicznych i handlu. Zakończył urzędowanie 22 września 2014 w związku z przygotowaniami do objęcia od 1 listopada tego samego roku stanowiska w Komisji Europejskiej – w ramach KE, na czele której stanął Jean-Claude Juncker, otrzymał nominację na komisarza ds. edukacji, kultury, młodzieży i sportu. Zakończył urzędowanie wraz z całą KE w 2019.