W cesarstwie prócz członków Kościołów chalcedońskich mieszkali wyznawcy monofizytyzmu, nestorianie, poganie, manichejczycy i żydzi.
W latach 527-528 Justynian wprowadził edykty wymierzone w wyznawców manicheizmu, które zakazywały praktykowania tej religii pod groźbą śmierci. Restrykcje dotknęły także Samarytan, których efektem było krwawo stłumione powstanie w Samarii w latach 529-530. W przypadku mniejszych wyznań cesarz ograniczył się do zamykania świątyń i rozwiązywania zgromadzeń. w 529, 545 i 562 roku odbyły się procesy przeciwko poganom, a wśród oskarżonych byli między innymi: były prefekt Asklepiodot, patrycjusz Fokas i kwestor pałacowy Tomasz. Zamknięto Akademię Platońską oraz świątynie Izydy na i Jupitera w Audżili. Jedyną dozwoloną religią poza chrześcijaństwem był judaizm, choć jego wyznawcom zakazano pełnienia funkcji publicznych.