Odegrał przy tym kluczową rolę w procesie kształtowania charakteru osadnictwa żydowskiego w Palestynie. Zmienił charakter pierwszych kolonii, w których byli bogaci właściciele plantacji i biedni robotnicy, na kolektywne spółdzielnie rolnicze – kibuce i moszawy. Stały się one podstawą tworzenia przyszłego państwa żydowskiego. Ruppin pomógł powstać osadom Ilanijja, Deganja Alef, Kewucat Kinneret i Merchawja. Działalność Ruppina nadała kształt drugiej alii (lata 1904–1913).
W 1925 roku był jednym z założycieli organizacji Brit Szalom, która poparła dwu-państwowe rozwiązanie problemu Palestyny. Jednak po arabskich zamieszkach z 1929 roku, pozostawił ten ruch. Od tego momentu uważał, że jedynym możliwym rozwiązaniem jest utworzenie niezależnego państwa żydowskiego. A sposobem realizacji tego celu był rozwój osadnictwa i kolonizacji Palestyny. W 1926 roku Ruppin dołączył do grona pracowników naukowych Uniwersytetu Hebrajskiego w Jerozolimie, gdzie utworzył Wydział Socjologii. Później budynek wydziału nazwano jego imieniem. W latach 1933–1935 był dyrektorem Agencji Żydowskiej. W 1934 roku wydał swoje najsłynniejsze dzieło „Żydzi w nowoczesnym świecie”.
Zmarł w dniu 1 stycznia 1943 roku w Jerozolimie. Został pochowany w kibucu Deganja Alef.