Po rozpadzie małżeństwa Chany Różańskiej i Abrahama Goldberga w 1909, dwoje starszych dzieci zamieszkało z ojcem, natomiast Józef z matką (do 1914). Chana Różańska pochodziła z zamożnej rodziny żydowskiej, była rzeźbiarką amatorką. Abraham Goldberg zamieszkiwał z dziećmi początkowo u swego starszego brata Israela w Warszawie, a po pewnym czasie związał się z pochodzącą z bardzo zamożnej rodziny warszawskich Żydów Ewą Glass. Około 1915 wraz z Ewą Glass i wszystkimi dziećmi Abraham Goldberg zamieszkał w kamienicy przy ulicy Chłodnej 17/50 w Warszawie.
Różański do ósmego roku życia pobierał nauki w domu, a od 1915 podobnie jak brat uczęszczał do męskiego gimnazjum żydowskiej spółki Chinuch w Warszawie, którego budynek znajdował się przy placu Krasińskich 3 w Warszawie. Będąc w szóstej klasie zorganizował nielegalne kółko samokształceniowe o orientacji marksistowskiej. Został relegowany ze szkoły, ale pozwolono mu na powrót i zdanie matury w 1925. Po maturze rozpoczął studia na Wydziale Prawa Uniwersytetu Warszawskiego, które ukończył w 1929. Zarówno w dokumentach szkolnych, jak i akademickich podawał wyznanie mojżeszowe. Mimo iż w 1929 otrzymał on dowody doktoranckie nie uzyskał stopnia doktora i brak jakichkolwiek śladów jego działalności naukowej.