W 684 popierający Umajjadów Jemenici pokonali Kajsytów w bitwie pod Mardż Rahit i był to poważny cios dla sprawy Zubajrytów w Wielkiej Syrii. Marwanowi udało się także przekonać do przejścia na swoją stronę namiestnika Egiptu, po czym zaatakował Hidżaz, gdzie jednak jego siły zostały pokonane. W 685 Marwan zmarł i jego następcą został jego syn, Abd al-Malik (685-705). Największym wyzwaniem dla władzy Abd Allaha byli teraz szyici, którzy w Iraku wzniecili powstanie pod wodzą niejakiego Al-Muchtara, oraz walczący ze wszystkimi stronami konfliktu charydżyccy azrakici. W 687 wojska Musaba, walczące pod dowództwem słynnego wodza Al-Muhallaba Ibn Abi Sufry, ostatecznie pokonały Al-Muchtara, jednak Irak nadal pozostawał zagrożony przez azrakitów, na których czele stał Katari Ibn al-Fudża'a.
Abd al-Malik wykorzystał nadal chaotyczną sytuację w Iraku i w 691 pokonał Musaba, który został ścięty. Następnie armia Umajjadów pokonała namiestnika Chorasanu, Abd Allaha Ibn Chazima, i sprawa Zubajrytów zaczęła wyglądać na przegraną.