Nad nawami bocznymi dobudowano empory, a budowlę przykryto sześcioma kopułami. Do budowy bazyliki wykorzystano między innymi materiał ze zburzonej niewiele wcześniej świątyni Artemidy. Bazylika, której budowę ukończono w 565 stała się wówczas głównym miejscem pielgrzymkowym świata chrześcijańskiego. Po inwazji arabskiej na imperium bizantyjskie w latach 654-5 spadło znaczenie Efezu, a życie miejskie zaczęło skupiać się wokół wzgórza z bazyliką. Świątynię stopniowo otoczono murami, a na szczycie wzgórza wzniesiono zamek – cytadelę służącą do ochrony na wypadek najazdów Arabów.
Do roku 1304 wzgórze oraz miasto pozostawały w rękach bizantyjskich. Kres temu przyniósł najazd Turków seldżuckich, którzy złupili miasto, a bazylikę przekształcili w meczet. Dostępu do grobu św. Jana umożliwiano chrześcijanom za opłatą. W 1402 doszło do inwazji mongolskiego wodza Tamerlana na Ayasoluk. Walki między tureckimi wodzami doprowadziły do zniszczenia wzgórza, w tym bazyliki zamienionej w gruzowisko.