Mimo starań o zachowanie informacji o internowaniu biskupa w tajemnicy jego losy wyszły na jaw, wywołując protesty posłów mniejszości białoruskiej i ukraińskiej, a także wiernych eparchii wileńskiej. Protestowała również Litwa, zaś Liga Narodów zaapelowała do władz polskich o zezwolenie na wyjazd hierarchy. Ostatecznie Eleuteriusz opuścił klasztor kamedułów 5 grudnia 1922 r..
Działalność na Litwie mały|Sobór Zwiastowania w Kownie, wzniesiony w latach 30. XX wieku jako katedra metropolity wileńskiego i litewskiego przy udziale metropolity Eleuteriusza mały|Metropolita Eleuteriusz z członkami rady eparchialnej. Fotografia z przełomu lat 20. i 30. XX wieku Po uwolnieniu arcybiskup Eleuteriusz udał się do Kowna, gdzie ponownie zaczął pełnić obowiązki metropolity wileńskiego i litewskiego. Jego jurysdykcja była ograniczona granicą polsko-litewską. Chociaż nadal uważał się za zwierzchnika eparchii w jej granicach sprzed I wojny światowej, nie miał żadnej kontroli nad parafiami na Wileńszczyźnie (katedrę wileńską w jurysdykcji PAKP objął biskup Teodozjusz (Fieodosijew)). W 1923 rząd Litwy wyznaczył Kowno jako siedzibę głowy Kościoła prawosławnego w granicach Litwy. 29 marca 1922 r.