Szef Sztabu Generalnego W dniu 25 grudnia 1963 otrzymał awans na generała porucznika (raw alluf) i został 7. szefem Sztabu Generalnego Sił Obronnych Izraela. Przez większość tego czasu, premier Lewi Eszkol pełnił równocześnie funkcję ministra obrony, dając Rabinowi dużą swobodę działania. Stworzył on nową metodę szkolenia wojskowego i nowy system dowodzenia. Stworzona w ten sposób nowa strategia wojskowa czekała na wypróbowanie w warunkach wojny.
W 1964 powstała Organizacja Wyzwolenia Palestyny, która rozpoczęła różnorodne działania terrorystyczne wymierzone przeciwko Izraelowi. Palestyńczycy otrzymywali przy tym szerokie wsparcie od sąsiednich państw arabskich. Siły Obronne Izraela przeprowadzały odwetowe operacje atakując bazy terrorystów na terytorium Libanu i Jordanii. W lipcu 1966 izraelska armia przeprowadziła dużą operację przeciwko syryjskim planom odwrócenia biegu źródeł rzeki Jordan. W dniu 13 listopada 1966 przeprowadzono operację Samoa zajmując kilka wiosek w okolicy Hebronu. Doszło wówczas do konfrontacji z jordańską armią. W dniu 7 kwietnia 1967 doszło do bitwy powietrznej nad Wzgórzami Golan, w której Izraelczycy zestrzelili sześć syryjskich samolotów myśliwskich MiG-21. Po bitwie izraelskie myśliwce przeleciały nad Damaszkiem.