Po uwolnieniu został członkiem żydowskiej „piątki” bojowej Organizacji Bojowej PPS. W jej skład weszli oprócz Szulmana: Adam Szynkman (litograf), Mojżesz Urbach (zegarmistrz), Sonia Mendelson (rękawiczniczka), oraz NN pseudonim „Kasztan”.
14 maja 1906 dokonał na rogu ulic Świętokrzyskiej i Marszałkowskiej udanego zamachu bombowego na prześladowcę robotników, podkomisarza policji carskiej N. Konstantinowa. Podczas ucieczki z miejsca zdarzenia ranił goniącego go żołnierza, mimo to został trafiony pociskami przy ulicy Zielnej. Zmarł w bramie przy ulicy Zielnej 33. Początkowo nie znano jego nazwiska. Zostało ono ujawnione w nekrologu w Robotniku.
Piosenka o jego czynie, którą przez wiele lat śpiewano i recytowano, obecnie popadła w zapomnienie. Andrzej Jan Niemojewski napisał na jego cześć poemat prozą Baruch. Aby nie dopuścić do manifestacyjnego pogrzebu, policja wykradła jego ciało. Zniszczyła także pomnik ustawiony na jego grobie przez robotników. W okresie międzywojennym liczne ulice w dzielnicach żydowskich polskich miast nosiły imię Barucha Szulmana. W 1927 z inicjatywy PPS została odsłonięta tablica pamiątkowa na jego grobie, na którym równocześnie ustawiono nowy nagrobek w obecnym kształcie. 19 grudnia 1930 pośmiertnie odznaczony Krzyżem Niepodległości z MieczamiMonitor Polski z 1930 r. Nr 300, poz.