W 1883 metropolita Joachim zachorował na gruźlicę. Wyjechał na leczenie najpierw do Palermo, a następnie do kurortów austro-węgierskich i bułgarskich. Przebywając we Włoszech, spotkał się z papieżem Leonem XIII, co było gestem bezprecedensowym. W roku następnym, po powrocie do Turcji, został wybrany na patriarchę Konstantynopola, następcę Joachima III, który zrezygnował z urzędu. Jako patriarcha Joachim IV okazał się zdolnym administratorem. Udało mu się poprawić relacje Kościoła z państwem tureckim (ich pogorszenie, łamanie przez państwo przywilejów tradycyjnie przynależnych Cerkwi w państwie osmańskim, było powodem rezygnacji jego poprzednika). Wielokrotnie wzywał prawosławnych do życia w zgodzie z przedstawicielami innych narodowości i wyznań, zwłaszcza z Żydami. Dbał o majątek Patriarchatu i zdołał spłacić większość długów Kościoła (13 z 15 tys. lir tureckich). Odremontował również patriarszą katedrę św. Jerzego w Stambule.
Joachim IV uporządkował relacje Patriarchatu Konstantynopolitańskiego z dwoma autokefalicznymi Kościołami serbskimi – Metropolią Karłowicką w Austro-Węgrzech oraz Serbskim Kościołem Prawosławnym w Serbii;