Następnie wycofał się z polityki i przeprowadził do Galilei, gdzie pracował jako robotnik rolny. W 1908 roku przyłączył się do żydowskiej organizacji samoobrony Bar Giora w osadzie Szajara. 12 kwietnia 1909 roku Dawid uczestniczył w akcji zbrojnej po arabskiej próbie kradzieży. W wymianie ognia zginął wówczas jeden z wartowników i rolnik z Szajara. Gdy w 1909 roku grupa Bar Giora przekształciła się w organizację Ha-Szomer, Dawid zgłosił się jako ochotnik do nowo tworzonych żydowskich sił samoobrony. Pomagał w tworzeniu grup wartowników strzegących bezpieczeństwa izolowanych żydowskich społeczności rolniczych Menachemja, Zichron Ja’akow i Kefar Sawa. W 1910 roku został redaktorem gazety partyjnej Poalej Syjon „Jedność”. Po raz pierwszy użył wtedy pseudonimu Ben Gurion do podpisu swojego artykułu. Ważnym momentem w jego życiu były odwiedziny 7 listopada 1911 roku miasta Saloniki. Pojechał tam w celu nauki języka tureckiego. W mieście znajdowała się duża społeczność żydowska, ciesząca się dużymi prawami ze strony władz tureckich. Dawid Grün był pod wielkim wrażeniem tego, co widział, i nazwał je „żydowskim miastem, które nie ma sobie równego na świecie”. Zrozumiał wówczas, że „Żydzi są w stanie wykonywać wszelkie rodzaje prace”, i mogą być bogatymi biznesmenami, kupcami, rzemieślnikami, a także naukowcami i profesorami.