Taką organizację administracji wprowadził Dioklecjan dzieląc imperium na 100 prowincji skupionych w 12 diecezjach (Africa, Asiana, Britania, Galia, Hispania, Italia, Moesia, Oriens, Pannonia, Pontica, Thracia, Viennensis), które z kolei zostały zgrupowane (od pierwszej połowy IV w. n.e., za Konstantyna Wielkiego), w trzy prefektury (galijską, illyrijską i wschodnią).
Początki diecezji w chrześcijaństwie W I w. chrześcijanie nie używali terminu diecezja. Kościół Powszechny podzielony był na autonomiczne kościoły partykularne, które były postrzegane przede wszystkim jako wspólnoty personalne, a nie terytorialne. Kościół partykularny skupiał chrześcijan danego miasta i jego okolic. Na jego czele stało prezbiterium, którego przewodniczący – od przełomu I i II w. – zaczął używać tytułu biskupa. W IV w. – po ogłoszeniu chrześcijaństwa religią panującą w imperium rzymskim – rozpoczęła się masowa chrystianizacja mieszkańców miast i osad rolniczych. Wielka liczba nowych wiernych wymagała reformy administracji kościelnej. Zaczęto akcentować funkcję terytorialną kościoła partykularnego, a w ramach tegoż kościoła zaczęto tworzyć sieć parafii miejskich i wiejskich. Od około IX w. a całe terytorium objęte organizacją parafialną i podległe władzy biskupa danego kościoła zaczęto nazywać diecezją we współczesnym znaczeniu.