Pontyfikat Giovanni Coniulo, człowiek w podeszłym wieku, został papieżem w wyniku papieskiej elekcji 24 stycznia 1118. Przybrał imię Gelazjusz II. Jego wybór spotkał się z oporem procesarskiej frakcji w Rzymie, której przewodził ród Frangipanich. Krótko po elekcji baron Cenzio Frangipani uwięził Gelazjusza II, który został jednak uwolniony w wyniku buntu Rzymian. Mimo to Gelazjusz II musiał opuścić Wieczne Miasto, z powodu zbrojnej wyprawy cesarza Henryka V do Rzymu. 9 i 10 marca 1118 zostały mu udzielone święcenia i został konsekrowany w Gaecie. W tym samym czasie Henryk V opanował Rzym i zażądał powrotu papieża, by rozstrzygnąć spór o inwestyturę drogą pokojową. Gelazjusz odmówił, proponując odbycie jeszcze jednego synodu w Mediolanie lub Cremonie. Wówczas Henryk mianował antypapieża w osobie Maurycego z Bragi, który przyjął imię Grzegorz VIII. W konsekwencji, papież rzucił klątwę na cesarza i na antypapieża, a gdy król wyjechał z miasta, Gelazy powrócił do Rzymu. Ponieważ miasto było jednak opanowane, jesienią tego samego roku, Gelazjusz II udał się na wygnanie do Francji. 23 października dotarł do Marsylii, a następnie do Saint-Gilles, gdzie spotkał Norberta z Xanten i pobłogosławił jego działalność.