W dniu 10 września 1952 roku – po sześciu miesiącach negocjacji – osiągnięto porozumienie z rządem Konrada Adenauera. Dawid Ben Gurion powiedział wówczas do Nachuma Goldmanna: Po raz pierwszy w historii żydowskiego narodu, po setkach lat ucisku i grabieży (...) uciskający i grabieżcy mają zwrócić z powrotem co zagrabili i zapłacić zbiorowe odszkodowanie za część strat materialnych. W 1954 roku podobne porozumienie podpisano z Austrią. Goldmann równocześnie działał na rzecz rozwoju edukacji i kultury żydowskiej. W asymilacji widział zagrożenie dla dalszego istnienia narodu żydowskiego w świecie, dlatego przywiązywał dużą wagę do utrzymywania silnych więzów społeczności istniejących w diasporze z Izraelem. W latach 1956–1968 był prezydentem Światowej Organizacji Syjonistycznej. W tym charakterze otwarcie skrytykował izraelski rząd za uprowadzenie Adolfa Eichmanna i wezwał do osądzenia tego nazistowskiego zbrodniarza wojennego przez międzynarodowy sąd. W 1962 roku otrzymał izraelskie obywatelstwo, ale nigdy nie zamieszkał na stałe w Izraelu. W 1969 roku otrzymał obywatelstwo Szwajcarii.