Po wybuchu powstania styczniowego został w początkach 1863 członkiem Komitetu Obywatelskiego Galicji Zachodniej w Krakowie oraz organizatorem oddziałów wysyłanych za kordon do Królestwa Polskiego. Od lipca 1863 r. Józef Baum sprawował funkcję dyrektora Wydziału Wojskowego w Radzie Prowincjonalnej Galicji ZachodniejGalicja w Powstaniu Styczniowym, w: Powstanie Styczniowe. Materiały i dokumenty, red. Stefan Kieniewicz, Ilia Miller, Wrocław-Warszawa-Kraków-Gdańsk 1980, s. 150,. Aresztowany w sierpniu 1863 i przewieziony do lwowskiego więzienia w dawnym klasztorze karmelitów. W czerwcu 1864 sąd wojenny uwolnił go z braku dowodów winy.
Był członkiem Rady Powiatowej i prezesem Wydziału Powiatowego w Wadowicach (1867-1883). Zaangażowany na rzecz rozwoju Wadowic, działał na rzecz powstania w tym mieście czteroklasowego gimnazjum humanistycznego z polskim językiem wykładowym (1866) a następnie rozwoju tej placówki. Jego staraniem m.in. wybudowano w 1874 nowy budynek gimnazjum. Dzięki jego energii powstał także Sąd Obwodowy w Wadowicach (1876). Działał także na rzecz przeprowadzenia przez miasto linii kolejowych: Bielsko – Kraków oraz Trzebinia – Skawce. Jako pierwszy w Galicji założył najpierw Powiatową Kasę Oszczędności w Wadowicach a następnie w całym powiecie gminne kasy oszczędności.