Po obaleniu Mu’ammara al-Kaddafiego, 24 listopada 2011 objął stanowisko wicepremiera w tymczasowym rządzie Abd ar-Rahima al-Kiba. W tym czasie pośredniczył w wielu negocjacjach politycznych na poziomie krajowym i międzynarodowym. Był negocjatorem w konfliktach międzyplemiennych na południu Libii, a w marcu 2012 brał udział w wypracowaniu porozumienia z Mauretanią w sprawie ekstradycji byłego szefa służb specjalnych Abd Allaha as-Sanusiego.
12 września 2012 został wybrany przez nowo powołany Powszechny Kongres Narodowy szefem rządu. W drugiej turze głosowania pokonał byłego premiera Mahmuda Dżibrila stosunkiem głosów 96 do 94. Jako główne priorytety swego rządu zapowiedział poprawę działania służb państwowych oraz sytuacji bezpieczeństwa poprzez wzmocnienie struktur wojska i policji, a także rozbrojenie bojowników z czasów wojny domowej. Jego wybór nastąpił w dzień po ataku na amerykański konsulat w Bengazi, w którym zginął ambasador J. Christopher Stevens.