Zasłużony dla partii Kohl był jednak zamieszany w afery finansowe, co znacznie popsuło reputację partii. Był on jej przewodniczącym do czasu porażki w wyborach z 1998 roku, kiedy zastąpił go Wolfgang Schäuble. Ten jednak zrezygnował z przywództwa w 2000 r., na skutek skandalu finansowego w łonie CDU. Jego następczynią została Angela Merkel. W wyborach 1998 roku CDU uzyskała 28,4% głosów (CSU – 6,7%), a w 2002 – 29,5% (CSU – 9.0%). Unia odniosła zwycięstwo w wyborach 2005 roku, jednak nie na tyle wysokie, aby rządzić samodzielnie. Z tego powodu powstała tzw. wielka koalicja, utworzona z SPD. Problemem było to, iż oba ugrupowania domagały się fotela kanclerza. Po trzech tygodniach negocjacji ustalono, iż Merkel zostanie kanclerzem, a SPD otrzyma 8 z 16 stanowisk ministerialnych. Umowa koalicyjna została podpisana 14 listopada. Merkel została wybrana kanclerzem przez większość deputowanych (397 do 217) nowo zebranego Bundestagu 22 listopada 2005.