Po powrocie do Izraela wstąpił do Partii Pracy. Podczas wojny Jom Kipur w październiku 1973 nie pełnił żadnej funkcji. W wyborach parlamentarnych 1973 Rabin został wybrany do VIII Knesetu, w którym zaangażował się w prace parlamentarnej komisji spraw zagranicznych i obrony. Premier Golda Meir powołała Icchaka Rabina na urząd ministra pracy. Rząd jednak podał się do dymisji w wyniku ogłoszenia raportu Komisji Agranata, która badała tło wybuchu wojny Jom Kipur. Doszło wówczas do walki o przywództwo nad Partią Pracy. W wewnętrznych wyborach Icchak Rabin otrzymał 298 głosów, a Szimon Peres otrzymał 254 głosy. W wyniku tego zwycięstwa, Rabin został 2 czerwca 1974 przywódcą Partii Pracy, która była zwycięska partią w wyborach parlamentarnych. W rezultacie Rabin został jedynym kandydatem na urząd premiera.
Pierwsza kadencja premiera thumb|Icchak Rabin w kibucu Elot (1975) thumb|Icchak Rabin i Jimmy Carter (1977) W dniu 3 czerwca 1974 Icchak Rabin został mianowany na 5. premiera Izraela. Był pierwszym premierem Izraela urodzonym w kraju.