W 1924 po raz pierwszy stanął na czele rządu. Król Fajsal wytypował go na premiera głównie z uwagi na silnie antytureckie przekonania al-Haszimiego. Był równocześnie ministrem obrony i spraw zagranicznych. Po roku urzędowania jego rząd upadł. W powtórnych wyborach parlamentarnych al-Haszimi ponownie zdobył mandat deputowanego i wszedł do nowego rządu Dżafara al-Askariego jako minister finansów (pozostawał nim do upadku gabinetu w 1928). Tekę tę otrzymał ponownie w rządach Nadżiego as-Suwajdiego (1929-1930) oraz Raszida Alego al-Kilaniego (1933).
W 1930 utworzył Partię Ludową, która miała być przeciwwagą dla Nuriego as-Sa’ida i jego probrytyjskiej polityki. Po roku al-Haszimi porozumiał się z Dżafarem Abu at-Timmanem, liderem Partii Narodowej, by wspólnie utworzyć Partia Bractwa Narodowego. Al-Haszimi był popularny przede wszystkim wśród irackich sunnitów. Partia Bractwa Narodowego przestała istnieć w 1935, gdy Jasin al-Haszimi został po raz drugi premierem Iraku. Nastąpiło to po buncie plemiennym w prowincji ad-Diwanijja. Jego tłumienia odmówił szef sztabu armii irackiej Taha al-Haszimi, brat polityka. Wobec takiej postawy do dymisji podał się premier Dżamil al-Midfa’i, a Fajsal uznał, że jedynie al-Haszimi może uspokoić sytuację.