W czerwcu 1923 patriarcha wyznaczył go na locum tenens eparchii petersburskiej i ładoskiej. Biskup Guriasz udał się do Petersburga i zapoznał się z sytuacją miejscowych struktur prawosławnych, po czym przekonawszy się, że była ona bardzo trudna i chcąc uniknąć aresztowania wyjechał do Monasteru Pskowsko-Pieczerskiego. Jeszcze w tym samym roku został zatrzymany za bezprawne przebywanie w strefie przygranicznej, jednak więzienie w Pskowie szybko opuścił. Po tym wydarzeniu wrócił do Moskwy. Osiadł w Kubince, miejscowości poza granicami administracyjnymi miasta i stamtąd kierował monasterem Opieki Matki Bożej.
W 1924 otrzymał godność arcybiskupią i został wyznaczony do objęcia katedry irkuckiej. Nigdy nie zdołał dotrzeć do nowej eparchii, został bowiem ponownie uwięziony pod zarzutem prowadzenia w kazaniach agitacji antyradzieckich oraz współpracy z opozycją daniłowską. Zwolniony po podpisaniu zobowiązania o pozostaniu w Moskwie, na wolności przebywał do listopada 1925, gdy ponownie znalazł się na Butyrkach, oskarżony o udział w monarchistycznej organizacji kontrrewolucyjnej razem z innymi duchownymi skupionymi wokół Monasteru Daniłowskiego. W 1926 został skazany na trzyletnią zsyłkę do Jakucka.