Pustelnia Gołosiejewska thumb|right|Odbudowana w latach dziewięćdziesiątych Pustelnia Gołosiejewska W Pustelni Gołosiejewskiej Aleksy spędził 21 lat. Sprawował nadzór nad zakrystią, odprawiał liturgie i pełnił funkcję duchownego i spowiednika przebywających w monasterze mnichów. Przyjmował również pielgrzymów. W 1896 roku towarzyszył władyce kijowskiemu Joannicjuszowi (Rudniewowi, 1891-1900) w uroczystości otwarcia relikwiarza ze szczątkami św. Teodozjusza Pieczerskiego. Miał wówczas za zadanie zmienić szaty na zachowanym ciele świętego.
W okresie swojego pobytu w Pustelni Aleksy był spowiednikiem dwóch metropolitów, Joannicjusza i Flawiana (Gorodieckiego). W kwietniu 1911 roku Szepielew został wezwany do Czernihowa dla spełnienia ostatniej posługi przy umierającym arcybiskupie Antonim. Aleksy udzielił także ostatniego namaszczenia władyce Flawianowi dwa dni przed jego śmiercią w 1915 rokuА. Рожинцев, Митрополит Киевский и Галицкий Флавиан (Николай Николаевич Городецкий). 89-летию со дня кончины посвящается. [dostęp: 2010-05-28]..
W 1905 roku Aleksy został wyróżniony orderem św. Anny III stopnia.