Wówczas władca niemiecki natychmiast rozpoczął walkę z papieżem na nowo. Nakłonił przychylnie mu nastawionych biskupów niemieckich i włoskich do ustanowienia nowego antypapieża Klemensa III. Tym samym nie musiał już aż tak obawiać się kolejnej klątwy Grzegorza VII i mógł przystąpić do zbrojnego podporządkowania sobie Rzymu. Nie było to łatwe zadanie, gdyż dopiero w 1084 roku wojska niemieckie zdołały wedrzeć się do Rzymu, dopilnować objęcia stanowiska przez antypapieża i koronacji Henryka IV na cesarza. Grzegorz VII wycofał się do zamku św. Anioła, gdzie z pomocą przyszli mu Normanowie pod przywództwem Roberta Guiscarda. Zmusili oni cesarza do odwrotu, jednak podczas interwencji splądrowali miasto, co nastawiło mieszkańców Rzymu przeciwko papieżowi. Nie mając oparcia w Stolicy Piotrowej, papież Grzegorz VII zmuszony był wyjechać z miasta i udać się wraz z Normanami do Salerno, gdzie też zmarł na wygnaniu w 1085 roku.