Po raz pierwszy w Knesecie znalazł się po wyborach w 2003 roku (szesnasty Kneset). Bardzo aktywny w swojej działalności parlamentarnej – zasiadał w komisji śledczej ds. lokalizacji i restytucji mienia ofiar holocaustu, komisji finansów, komisji konstytucyjnej, prawa i sprawiedliwości, był przewodniczącym komisji ds. walki z wypadkami drogowymi, był także członkiem komisji ekonomicznej, komisji finansów, komisji edukacji, kultury i sportu (sprawował w niej funkcję przewodniczącego podkomisji sportu), komisji kontroli państwowej, komisji ds. pracowników cudzoziemców, komisji praw dziecka oraz komisji śledczej ds. przemocy w sporcie.
W wyborach w 2006 roku ponownie zdobył mandat.
Po wyborach w 2009 roku w których Erdan dostał się po raz trzeci do Knesetu, lider Likudu Binjamin Netanjahu utworzył koalicję rządową, zaś Erdan wszedł 31 marca 2009 w skład gabinetu jako minister ochrony środowiska. Funkcję sprawował do 18 marca 2013 kiedy zaprzysiężono kolejny rząd Netanjahu.