W momencie wyboru nowego biskupa Mediolanu Ambroży przybył do miasta. Ponieważ panowała w nim napięta atmosfera ze względu na konflikt z arianami, skłoniono się do jego kandydatury, jako kompromisowej. Sakrament święceń przyjął 24 listopada 373 roku, a sakrę biskupią – 7 grudnia. Po wyborze został doradcą cesarza. Był obrońcą Walentyniana, pomimo że jego matka Justyna była arianką. Podjął też nauki teologiczne, pod kierunkiem Symplicjana. Jako duchowny skupił się na badaniu Pisma Świętego i nauczał o nim wiernych. Podejmując decyzje kierował się Biblią i do tego samego zachęcał cesarza Gracjana. Skupiał się na właściwej formacji mediolańskich duchownych, a także poświęcał dużo czasu ubogim i chorym. Wziął udział w synodzie w Akwilei, a także prowadził liczną korespondencję z innymi duchownymi. Był mentorem Augustyna z Hippony i Paulina z Noli, których nakłonił do konwersji na chrześcijaństwo. Uregulował stosunki Państwo–Kościół i doprowadził do uznania chrześcijaństwa jako religii państwowej. Wprowadził specjalny ryt, który jest stosowany współcześnie w archidiecezji mediolańskiej.