Po urodzeniu się Icchaka Rabina, jego rodzice przeprowadzili się do Hajfy, gdzie w 1925 urodziła się jego siostra Rachela. Ich ojciec pracował w firmie elektrycznej i ze względów zawodowych przenieśli się do Tel Awiwu. Zamieszkali w osiedlu mieszkaniowym Szabbazi. Ich matka podjęła tutaj pracę i została wybrana do Rady Miejskiej Tel Awiwu. Jesienią 1934 z jej inicjatywy otworzono szkołę żydowską w kibucu Giwat ha-Szelosza. Naukę w niej rozpoczął młody Icchak. W 1937 rozpoczął naukę w szkole rolniczej we wsi młodzieżowej Kadoorie. W pierwszym roku nauki zmarła matka Icchaka (chorowała na raka). Latem 1938 nastąpiło tymczasowe zamknięcie szkoły z powodu dużych wystąpień arabskich. Icchak, nie chcąc wracać do ojca, udał się do kibucu Ginnosar, gdzie przebywał ze starszym kolegą ze szkoły Jigalem Allonem. Nauczył się tutaj obsługi broni i nawiązał pierwszy kontakt z żydowską organizacją paramilitarną Hagana. Po powrocie do szkoły, kontynuował naukę i ukończył ją z wyróżnieniem latem 1940. W nagrodę za wyniki w nauce otrzymał stypendium na University of California w Stanach Zjednoczonych. Miał nadzieję zostać inżynierem systemów nawadniających. Jednak II wojna światowa pokrzyżowała te plany.