7 grudnia 1722 król August II wystosował do Stolicy Apostolskiej suplikę w przedmiocie powierzenia prepozytowi lwowskiemu i scholastykowi chełmskiemu (w tamtejszej kapitule awansował uprzednio na tęże prałaturę) diecezji kijowskiej, która miała zawakować w następstwie awansu Jana Joachima Tarły do Poznania.
Prekonizacja Ożgi nastąpiła 27 września 1723 roku. Ingres do katedry w Żytomierzu odbył w 1724 r. Do Żytomierza definitywnie przeniósł siedzibę biskupów kijowskich, a później (1726) i kapituły katedralnej, na co potwierdzenie ze strony Stolicy Apostolskiej otrzymał 15 września 1743 roku. W Żytomierzu wzniósł najpierw drewnianą prokatedrę św. Zofii, a gdy ta spłonęła – podjął budowę murowanej (pod tym samym wezwaniem), której poświęcenia dokonał w roku 1745 (według innych konsekrował ją dopiero Kajetan Ignacy Sołtyk). Zreorganizował kolegium kanoników katedralnych, w skład którego odtąd miało wchodzić aż szesnastu duchownych (w tym dziewięciu prałatów), i wystarał się dla niego w Rzymie o specjalne przywileje. Ufundował także przy prokatedrze kolegium wikariuszy, dokonał wreszcie reorganizacji struktur administracyjnych powierzonej mu diecezji – podzielił jej terytorium w granicach Rzeczypospolitej na trzy dekanaty (Fastów, Owrucz, Żytomierz) oraz pomnożył liczbę parafii, którym też wyznaczył stałe granice.