11 października 1908 zesłano go do guberni tiumeńskiej, z której uciekł do Szwajcarii, w której założył gazetę „Raboczij Mir” w 1914, a w latach 1915–1917 redagował anarchistyczną publikację „Raboczeje Znamja” i „Put’ k Swobodie” w 1917.

Po rewolucji lutowej wrócił do Rosji, gdzie zaangażował się w anarchistyczną agitację w ramach Moskiewskiego Związku Ideowej Propagandy Anarchizmu, a następnie wspierał bolszewików w rewolucji październikowej oraz zorganizował Biuro Anarchistów Zagłębia Donieckiego. W tym okresie uznał, że dyktatura bolszewików stanowi niezbędny okres przejściowy do osiągnięcia anarchii oraz że należy połączyć siły przeciwko Białej Armii. Został członkiem sztabu Rewolucyjnej Powstańczej Armii Ukrainy, a także rozpoczął pracę w anarchistycznym wydawnictwie „Głos Pracy”. Grossman porzucił działalność polityczną po stłumieniu lewicowej opozycji przez rządu bolszewików. Następnie skupił się na pracy w Rosyjskim Stowarzyszeniu Pisarzy Proletariackich. W jego ramach publikował prace o twórczej metodzie literatury proletariackiej. W 1922 został wykładowcą Socjalistycznej Akademii Nauk Społecznych i również na początku lat 20. został profesorem Moskiewskiego Uniwersytetu Państwowego, W 1923 został członkiem Państwowej Rady Naukowej, w ramach której zatwierdzał plany edukacyjne dla uczelni oraz szkół.