Głównym zadaniem sędziego śledczego było przede wszystkim prowadzenie śledztwa, wykonywali oni także pewne czynności w trakcie prowadzenia przez prokuratura bądź policję dochodzenia. Na mocy przepisów ustrojowych mogli być także zobligowani do wykonywania funkcji orzeczniczej poprzez powołanie ich do składu sądzącego. Wszczęcie śledztwa następowało na wniosek prokuratora bądź na wniosek poszkodowanego. Do kompetencji sędziego należały między innymi przesłuchiwanie świadków i biegłych, przeprowadzanie oględzin lub rewizji, a także wydawanie zezwoleń stronom i ich pełnomocnikom na przeglądanie aktM. Materniak- Pawłowska, Instytucja sędziego śledczego w II Rzeczypospolitej Czasopismo prawno-historyczne 2013 t. LXV, z. 1, s. 283–285..
Według założeń projektu zmiany procedury karnej z 1926 sędzia śledczy miał być niezależnym od stron procesowych, jednakże na podstawie Kodeksu postępowania karnego z 1928, a także późniejszych reform jego samodzielność została w znacznym stopniu ograniczona przez wnioski prokuratora m.in. o uchylenie bądź złagodzenie środka zapobiegawczego, ograniczenie swoich czynności do określonych przez prokuratora, a także obligatoryjne zakończenie śledztwa przez sędziego w momencie, gdy żądał tego prokuratorC.