Po wojnie założył wioskę młodzieżową w Ein Kerem i uczył się w seminarium nauczycielskim. W latach 1952–1957 studiował na wydziale rolniczym Uniwersytetu Hebrajskiego, na którym w 1971 obronił doktorat. W 1958 został starszym pracownikiem naukowym w zakresie entomologii leśnej w Instytucie Badawczym Leśnictwa Ilanot, w którym założył własne laboratorium badawcze. W 1986 przeniósł się wraz z większością pracowników Instytutu Badawczego w Beit Dagan. Jego praca naukowa skupiała się na szkodnikach tui i sosen. Halperin opracował skuteczne metody zwalczania szkodników tych roślin, które były tanie i nieszkodliwe dla drzew. Przeszedł na emeryturę w 1996.

Po 1989 odwiedził Polskę, Białoruś i Niemcy, by odnaleźć przyjaciół z czasów młodości i napisać książkę autobiograficzną „Ludzie są wszędzie” (2002).

Życie prywatne Józef Halperin był synem Haima Halperina i Heleny z domu Goldlust (oboje zginęli w obozie zagłady w Treblince). W 1951 ożenił się z Sarą Resnik, z którą rozwiódł się po 6 latach. Małżeństwo miało syna – Efraima. Przed śmiercią, w 2007, mieszkał w Ness Cijjona.

Zmarł 1 maja 2010 i został pochowany na cmentarzu w Be’er Ja’akow.