Partia nie znalazła się w koalicji rządowej w trzecim rządzie Dawida Ben Guriona, ale weszła do czwartego gabinetu, zaraz po tym jak premier wyrzucił z niego członków ultraortodoksyjnych partii religijnych Agudat Israel i Po’alej Agudat Jisra’el (powodem tego był spór o edukację religijną). Generalni Syjoniści weszli także w skład piątego rządu (pod kierownictwem Moszego Szareta), ale nie znaleźli się już w szóstym gabinecie.
W wyniku wyborów w 1955 roku liczba mandatów posiadanych przez Ogólnych Syjonistów zmniejszyła się do 13. Nie zostali włączeni w skład żadnego z rządów powołanych w trakcie kadencji trzeciego Knesetu. Wyniki wyborów w 1959 roku oznaczał dalsze zmniejszenie reprezentacji parlamentarnej tego ugrupowania, tym razem do 8 deputowanych. Postanowiono połączyć się z posiadającą 6 miejsc Partią Progresywną. W wyniku tego powstała Partia Liberalna. Nowe ugrupowanie pomogło obalić rząd w 1961 roku, popierając wniosek o wotum nieufności, wystosowany przez Likud wobec gabinetu (powodem tego była tzw. Afera Lawona).