Regularnie udawał się z wizytami duszpasterskimi do różnych parafii w eparchii, odwiedzał tambowskie seminarium oraz więzienie.
Szczególne starania Hieronim czynił na rzecz poprawy poziomu życia duchowego w monasterach w eparchii, w których zauważył wiele przypadków naruszania reguły mniszej i niski poziom wiedzy teologicznej. W 1892 i 1893 organizował spotkania przełożonych klasztorów męskich i żeńskich. Wprowadził w monasterach obowiązek wspólnego śpiewu wszystkich mnichów i mniszek, zobowiązał członków wspólnot do lektury literatury duchownej, zabronił mniszkom wynajmowania pokoi w monasterze kobietom niezwiązanym z klasztorem. W monasterze Wniebowstąpienia w Tambowie otworzył przytułek dla starszych mniszek, zainicjował również rozbudowę klasztoru. Podobne działania podjął także w monasterze św. Dymitra i św. Hilariona.