Po wybuchu rewolucji październikowej w 1917 musieli jednak uciekać z Rosji i wyjechali wówczas do Palestyny. Rosyjscy Żydzi, którzy przypłynęli do Jafy bez żadnego kapitału, byli nazywani „uciekinierami Ruppina”. Nie mając możliwości włączenia się do lokalnego rynku pracy, który koncentrował się niemal wyłącznie na pracy ręcznej, zajęli się drobnym handlem owocami i warzywami. Po wielu sprzeciwach w 1920 burmistrz Tel Awiwu Meir Dizengoff zatwierdził plan utworzenia małego placu targowego przy ulicy Ha-Karmel.
Targowisko szybko się rozrastało, obejmując swoim obszarem prawie całą ulicę Ha-Karmel oraz niektóre z sąsiednich uliczek w osiedlu Kerem ha-Temanim. Osiedle to było zamieszkałe w większości przez żydowskich emigrantów z Jemenu. Byli to najczęściej ludzie ubodzy, utrzymujący się z drobnego handlu. Były to czynniki sprzyjające rozwojowi bazaru.
Podczas wojny domowej w Palestynie w latach 1947–1948 bazar znajdował się pod ostrzałem arabskich snajperów, prowadzących ogień z sąsiedniej Jafy. Ostrzał zakończył się 13 maja 1948, gdy Jafę zajęły żydowskie oddziały militarnej organizacji Irgun.