W 1880 uzyskał zgodę władz austriackich na powrót do kraju i w tym roku został spowiednikiem w kościele Panny Maryi w Krakowie. W mieście udzielał się w pracy społecznej i zyskał tam powszechny szacunek. W czasie pogrzebu Agatona Gillera 20 lipca 1887 w Stanisławowie wygłosił płomienne kazanie patriotyczne, za co spotkały go represje ze strony władz austriackich i został zmuszony do opuszczenia Krakowa. Jako formalnie nieprzyjęty do diecezji duchowny otrzymał nakaz niezwłocznego opuszczenia stanowiska. Po powrocie z zesłania abp. Felińskiego w latach 80. i zakładaniu przez niego szkół sióstr Zgromadzenia Rodziny Maryi ks. Żuliński został powołany przez swojego przełożonego do placówki w Łomnej. Po wprowadzeniu obligatoryjnej nauki w języku niemieckim odszedł z pracy w szkole. Od tego czasu przebywał w różnych mniejszych parafiach na obszarze diecezji przemyskiej i tarnowskiej. Około 1891/1892 rezydował na plebanii w Polnej, potem w Krośnie (około 1892/1893)W Szematyzmie na rok 1894 nie figurował w diecezji przemyskiej. . W 1894 przebywał w klasztorze Franciszkanów w Sanoku. Jako ksiądz przynależał wówczas do parafii w tym mieście. Określany wtedy jako „wygnaniec z zakordonu” w dniu 1 kwietnia 1894 wygłosił kazanie o charakterze patriotycznym podczas miejscowych obchodów setnej rocznicy kościuszkowskiej.