W działalność polityczną zaangażował się w 1977, wstępując do bawarskiej Unii Chrześcijańsko-Społecznej. Działał także w chadeckiej młodzieżówce Junge Union. W latach 1987–1991 pełnił funkcję wiceprzewodniczącego federalnych struktur tej organizacji. Od 1990 do 2003 zasiadał w radzie miejskiej Erlangen, gdzie przewodniczył frakcji radnych CSU. W 1994 po raz pierwszy wybrany na posła do landtagu, reelekcję uzyskiwał w 1998, 2003, 2008, 2013, 2018 i 2023. Od 1997 do 1998 był zastępcą sekretarza generalnego CSU, następnie przez rok sekretarzem stanu w bawarskim ministerstwie pracy i zdrowia. Później pełnił funkcję wiceprzewodniczącego (1999–2003) i przewodniczącego (2003–2007) klubu deputowanych swojego ugrupowania.
W 2007 został ministrem spraw wewnętrznych w rządzie Günthera Becksteina. W 2008 ubiegał się o przewodnictwo w CSU, jednak zrezygnował przed głosowaniem, popierając Horsta Seehofera. W jego utworzonym w tym samym roku gabinecie pozostał na stanowisku ministra spraw wewnętrznych, utrzymując ten urząd również w 2013, kiedy to dodatkowo powierzono mu kwestie budownictwa i transportu. W obu tych gabinetach obejmował też funkcję drugiego wicepremiera.