Premier Luksemburga thumb|Władimir Putin i Jean-Claude Juncker, 2007 20 stycznia 1995 stanął na czele luksemburskiego rządu, kontynuując koalicję z Luksemburską Socjalistyczną Partią Robotniczą (LSAP), której jeden z liderów Jacques Poos pozostał wicepremierem. Jean-Claude Juncker kontynuował jednocześnie pracę jako minister finansów oraz pracy i zatrudnienia. W tym samym roku zrezygnował z przywództwa w CSV (funkcję tę przejęła Erna Hennicot-Schoepges). Po zwycięstwie chadeków w 1999 ponownie stanął na czele gabinetu (przy zachowaniu teki ministra finansów), tym razem współtworzonego przez Partię Demokratyczną (wicepremierem została Lydie Polfer). Doprowadził tym samym do zakończenia współpracy z LSAP trwającej łącznie 15 lat.
W 2004 po słabym wyniku wyborczym demokratów odnowił koalicję z socjalistami (na stanowisko zastępcy powołał Jeana Asselborna), po raz trzeci obejmując urząd premiera wraz z resortem finansów. W 2005 przed referendum dotyczącym tzw. eurokonstytucji publicznie zadeklarował rezygnację w przypadku jej odrzucenia (ostatecznie za jej przyjęciem opowiedziało się około 57% głosujących).