W 1917 roku Sztern przybył do Warszawy, gdzie osiadł na stałe, zaś w 1919 debiutował jako poeta. Sympatyzował przez pewien czas z grupą literacką „Hałastra”. Tworzył wyłącznie w języku jidysz. Jego wiersze i eseje publikowane były przez pisma reprezentujące wszystkie możliwe barwy polityczne i światopoglądowe. Publikował między innymi w „Literarisze Bleter” oraz dzienniku społeczno-politycznym „Hajnt”. Przedwojenną sławę przyniósł Szternowi cykl poetycki Szpitol lider (Wiersze szpitalne) z 1923 roku, opisujący przewlekłą chorobę poety. Uznawany był za jednego najważniejszych poetów jidysz okresu międzywojennego. Pomimo przychylnych ocen krytyków nie wydał za życia żadnej książki. Stronił od środowisk literackich i był samotnikiem. Większość czasu spędzał wśród chasydów oraz na studiach talmudycznych.