Z tego powodu w 1900 roku wystąpił z organizacji i odsunął się od nurtu syjonizmu politycznego.
Działalność kulturalna Po opuszczeniu ruchu syjonistycznego Birnbaum stał się czołowym rzecznikiem kultury żydowskiej w diasporze. Swoją pracę szczególnie mocno związał z kulturą Żydów aszkenazyjskich i językiem jidysz. W dniach 30 sierpnia - 3 września 1908 roku zorganizował Konferencję Języka Jidysz w Czerniowcach na Ukrainie. Wzięło w niej udział wielu czołowych pisarzy jidysz, a Birnbaum ogłosił jidysz językiem narodowym Żydów. Birnbaum propagował swoje poglądy przez liczne artykuły oraz wykłady wygłaszane w społecznościach żydowskich. Zainicjował w ten sposób prąd i ruch kulturowy zwany jidyszyzmem.
W latach 1912–1914 mieszkał w Berlinie, po czym ponownie powrócił do Wiednia.
Działalność religijna W latach poprzedzających I wojnę światową Birnbaum stopniowo porzucił swoje materialistyczne i świeckie poglądy, przyjmując coraz bardziej tradycyjny religijny światopogląd judaizmu. Około 1916 roku został ortodoksyjnym Żydem. Można go postrzegać jako prekursora współczesnego ruchu Baal Teshuva, promującego powrót świeckich Żydów do religijnego życia w judaizmie. W 1917 roku opublikował w języku niemieckim i jidysz książkę „Lud Boży” (niem. Gottesvolk).