Po śmierci metropolity Filareta jego następca metropolita Innocenty przekonał ks. Kluczariowa do złożenia wieczystych ślubów mniszych, co umożliwiłoby mu objęcie godności biskupiej. Aleksiej Kluczariow zgodził się i 7 listopada 1877 został mnichem, przyjmując imię Ambroży. Następnego dnia otrzymał godność archimandryty, zaś 15 stycznia 1878 został wyświęcony na biskupa możajskiego, wikariusza eparchii moskiewskiej. W kwietniu tego samego roku jego tytuł uległ zmianie na biskup dmitrowski. 22 września 1882 skierowano go do eparchii charkowskiej, gdzie urząd biskupi sprawował do końca życia. Od 1886 był arcybiskupem, od 1898 posiadał prawo noszenia na kłobuku brylantowego krzyża.
Jako biskup charkowski Ambroży (Kluczariow) wprowadził we wszystkich parafiach jednolity styl śpiewu cerkiewnego, typowy dla tradycji Kościoła Rosyjskiego (różny od lokalnych tradycji ziem ukraińskich). Otworzył 62 nowe placówki duszpasterskie i reaktywował dwa monastery. W 1884 przekształcił dotychczasowy organ prasowy eparchii w pismo religijno-filozoficzne Wiera i Razum. Zajmował się również rozwijaniem szkolnictwa cerkiewnego i zwalczał działalność prawosławnych sekt. Za jego życia wydano dwa zbiory jego kazań oraz jego pracę Żywoje Słowo, w której przedstawiał swoje poglądy homiletyczne.