Pomysł budowy Kolei Hidżaskiej został po raz pierwszy przedstawiony publicznie w maju 1900 roku. Sułtan Abdülhamid II był zafascynowany kolejnictwem i zdecydował się budowę kolei z kilku powodów. Po pierwsze, pragnął w ten sposób wzmocnić pozycję Imperium osmańskiego na Bliskim Wschodzie i Półwyspie Arabskim. Po drugie, pragnął wzmocnienia swojego własnego statusu jako władcy i sułtana. Po trzecie, kolej miała ułatwić wiernym pielgrzymkę al-hadżdż do Mekki. W celu budowy sułtan nawiązał współpracę z Cesarstwem Niemieckim, które było zainteresowane wzmocnieniem swoich wpływów w Imperium osmańskim. Prace budowlane rozpoczęto w dniu 1 września 1900 roku. Były one nadzorowane przez niemieckiego inżyniera Heinricha Augusta Meissnera. Do jego dyspozycji sułtan przeznaczył 9,5 tys. żołnierzy oraz wielu inżynierów. Meissner usiłował porozumieć się z Francuzami, aby dostarczali mu zaopatrzenie i materiały budowlane przez Bejrut do Damaszku. Okazało się jednak, że francuska linia kolejowa będzie napotykać zimą na duże trudności w zaśnieżonych górach. Zdecydowano się wówczas powrócić do angielskiej koncepcji łącznika z Portem Hajfą, aby tą drogą dostarczać zaopatrzenie.