Sekretarzem Partii Demokratycznej został mianowany na jej kongresie założycielskim 14 października 2007. Objął to stanowisko dzięki wygraniu głosowania, odbywającego się w całych Włoszech tego samego dnia. W głosowaniu mogli wziąć udział wszyscy obywatele powyżej 16 roku życia i po wniesieniu opłaty w wysokości 1 euro. Zdobył 75,1% spośród około 2,5 mln wszystkich oddanych głosów, pokonując m.in. minister Rosy Bindi.
W przedterminowych wyborach parlamentarnych w 2008 blok PD i jej koalicjanta Włochy Wartości przegrał z Ludem Wolności Silvia Berlusconiego i jego sojusznikami. Kierowana przez Waltera Veltroniego partia zajęła drugie miejsce, zdobywając 37,6% głosów poparcia, przechodząc tym samym do opozycji. Lider PD uzyskał w tym głosowaniu mandat posła do Izby Deputowanych XVI kadencji, wykonywał go do 2013.
17 lutego 2009 zrezygnował ze stanowiska sekretarza PD po kolejnej porażce tej partii, tj. przegranych wyborach lokalnych na Sardynii. Cztery dni później na jego następcę został wybrany Dario Franceschini.
Odznaczenia i wyróżnienia Orderem Zasługi Republiki Włoskiej I klasy (2009) Wielki Oficer Medalu Wschodniej Republiki Urugwaju (Urugwaj, 2003) doktorat honoris causa John Cabot University w Rzymie (2003)