Powrócił do Rzymu z misji legata w 1085, już po śmierci Grzegorza VII. Początkowo był przeciwnikiem wyboru Wiktora III, ostatecznie uznał go jednak za prawowitego papieża; po śmierci Wiktora (1087) wybór nowego papieża nie mógł odbyć się w Rzymie, opanowanym przez antypapieża Klemensa. 12 marca 1088 w Terracinie wybrany został Odon de Lagery; przyjął imię Urbana II.
Pontyfikat W 1089 roku Urban przeprowadził synod w Melfi, na którym podtrzymał postanowienia swojego poprzednika, dotyczące symonii, małżeństw księży i inwestyturze świeckiej. Ogłosił także utworzenie Kurii Rzymskiej, zorganizowanej na wzór dworu królewskiego, oraz podniósł znaczenie kolegium kardynalskiego. Jego działania były jednak znacznie ostrożniejsze niż Grzegorza VII, ponieważ pozycja papieża była wówczas słaba, ze względu na rządy antypapieża Klemensa. Reformatorzy gregoriańscy sprzeciwili się takim metodom, lecz umocniło to pozycję papiestwa. W tym samym roku Klemens odbył synod, na którym ekskomunikował Urbana. Rok później Urban przyjechał do Rzymu i odbył uroczysty ingres. Jednak wkrótce potem interwencja Henryka IV, skłoniła go do ponownej ucieczki z miasta i chronienia się u Normanów. Gdy w 1093 roku, przeciwko Henrykowi wystąpił jego syn Konrad Salicki, papież mógł bezpiecznie wrócić do Rzymu.