O dönemde Osmanlı padişahı olmak İslam dünyasının halifesi olmak anlamına geliyordu. II. Abdülhamit ise İstanbul ve Kutsal Topraklar arasındaki mesafenin azaltılması için demir yolunun yapılmasını uygun görmüştü. Hicaz toprakları o dönemde Osmanlı devletinin himayesi altındaydı. Osmanlının son yıllarda yaşadığı toprak ve güç kaybı padişahı tedirgin ediyordu. Bölgeye yapılabilecek herhangi bir saldırı bu demir yolu sayesinde engellenebilecekti. Ayrıca asker sevkiyatı kolaylaşacak ve bölgenin genel güvenliği sağlanacaktı. Güvenlik önlemlerinin dışında başka faydaları da olacaktı bu demir yolunun. O dönemde kutsal topraklara deve ile yapılan yolculuklar 12 gün sürüyordu ve birçok hastalığı da beraberinde getiriyordu. Hicaz demir yolunun yapımı bu noktada çok önemli bir role sahip olacaktı çünkü 12 gün boyunca deveyle yapılan yolculuk, demir yolu ile 24 saate indirilecekti. Ayrıca demir yolunun yapılması Arap ülkelerine ekonomik olarak katkı sağlayacak ve büyümelerine yardımcı olacaktı.

Ahmet İzzet Efendi, Cidde evkaf müdürü görevini yaptığı 1892 yılında Bahriye Nezareti aracılığıyla sunduğu raporda, Hicaz demir yolunun yapımı ile alakalı birçok öneriyi ve önemli noktaları belirtmişti. Raporda genel anlamda Hicaz bölgesi ve Arap yarımadasının güvenliği üzerinde dumuş, Arap yarımadasının, sömürgeci devletler tarafından hedef alındığı hatırlatılmıştı. Süveyş Kanalı’nın açılması ile birlikte Avrupalıların Arap Yarımadası’na yönelip Arap Yarımadasını yok edebileceklerini belirtmişti. Ayrıca bu raporda denizden yapılacak bir saldırı karşısında yalnızca karadan savunma yapılabileceğinin üzerinde önemle durulmuştu. Hac yolunun güvenliğinin artacağını ve Osmanlı devletinin İslam dünyasındaki siyasi konumunun güçleneceğini belirtmişti. Ahmet İzzet Efendi’nin raporu 1892 yılında Padişah’a iletilmişti. II. Abdülhamit raporu Harbiye feriki olan Mehmet Şakir Paşa’ya değerlendirmesi için gönderdi, M. Şakir Paşa ise yeni bir raporla demir yolunun teknik ve siyasi faydalarını belirtti.

Padişah II. Abdülhamit Han demir yolunun yapımının İslam dünyasına büyük yarar sağlayacağını düşündüğü için projeyi onayladı. Fakat Osmanlının maddi gücü Hicaz Demir Yolu’nun maliyetini karşılayabilecek güçte değildi.

Hicaz demir yolunun yapımına 1900 yılında Şam’da başlandı. Demir yolunun yapımının başında Alman mühendis Meissner görev alıyordu. Fakat diğer demir yolunun yapımında çalışan mühendislerin arasında Türk oranı hayli fazlaydı. İşçiler, Türkler ve bölge halkından oluşmaktaydı. Projenin yapımının 4 milyon liraya tekabül edeceği düşünülmüştü. Osmanlı kısa süre sonra yapılan harcamalara yetişemeyeceğini anladı ve başka çareler bulma yoluna yöneldi. İlk olarak kredi çekilmeye çalışıldı; fakat Avrupalı devletler 4 milyon lira kadar büyük bir parayı vermeyi kabul etmediler. Ardından memur maaşları kesintiye uğradı, resmi kâğıt ve evraklar demir yoluna katkı amaçlı satıldı. Bunun yanında kartpostallar, pullar ve kurban derilerinin satışından elde edilen bütün kazanç da demir yoluna harcandı. Bunlar da yetersiz kalınca padişahın bizzat ilk bağış yaptığı “Hicaz Şimendifer Hattı İanesi” fonu oluşturuldu. Padişah ile beraber devlet adamları, bürokratlar, vilayetler, eğitim, adalet ve sağlık personellerinin yanında halk da demir yolu yapımı için bağışta bulundu. Hicaz demir yolunun yapımı bütün İslam ülkelerinde sevinçle karşılandı. Bu bölgedeki Müslüman halk bağış yaparak yapımı süren demir yoluna destek oldular. Osmanlı devleti toprakları dışında bulunan bölgelerin büyük bir kısmı, konsolosluklar aracılığıyla bağış yapmaya yönlendirildi. Tunus, Cezayir, Güney Afrika, İran, Singapur, Çin, Sudan, Kıbrıs, Fas, Mısır, Rusya, Endonezya, Amerika, İngiltere, Viyana, Fransa ve Balkan Ülkeleri gibi birçok ülke Hicaz Demir Yolu’nun yapımı için bağışta bulundular. Padişah Osmanlı tebaasında bulunan gayrimüslim vatandaşın bağışlarını kabul etmişken, Yahudilerin bağışlarını kabul etmedi. Bu duruma sebep olarak ise Padişah’ın Yahudilerin samimiyetine ve insani duygularına inanmadığı için kabul etmediği söylendi. Demir yolu yapımı 1903 yılında Amman’a, 1904 yılında Maan’a ulaştı. Osmanlı Devleti Maan’dan Akabe bölgesine ek bir hat yaparak Kızıldeniz’e çıkmak istese de İngilizler buna izin vermedi. İngilizlerin olumsuz karşılamalarının sebebi ise Osmanlıyı Kızıldeniz ve Süveyş Kanalı’ndan uzak tutmak istemeleriydi. Bunun üzerine Osmanlı bu düşüncesinden vazgeçti. Ardından gelen Hayfa Demir Yolu ise 1905 yılında tamamlandı. Aynı yıl 1905 yılında demir yolu hattı Mudevvera bölgesine ulaştı. 1 Eylül 1908 yılında “Hicaz Demir Yolu Hattı” tamamlandı. Medine’ye yapılan ilk yolculuk 27 Ağustos 1908 yılında gerçekleştirildi. 

Demir yolunun yapımı sırasında П. Abdülhamit kutsal topraklardaki halkın rahatsız edilmesini ve Hz. Muhammed (s.a.v)’in ruhaniyetinin rahatsız olmasını istememiştir. Bunun için de rayların altına keçe döşeterek çalıştırılmasını emretmiştir. Bölgede sessiz lokomotifler kullanılmıştır. Hicaz demir yolunun yapımı büyük ilgi ve takdir görmüştür. П. Abdülhamit “Yaşa ey Padişah-ı Alişan, şevket ve Şan’ın olsun efzunter” gibi birçok övgüler almıştır. Hicaz demir yolunun yapımı sırasında bu bölgelerde yaşayan eşkıya grupları demir yolunun yapımına karşı çıkıp saldırılarda bulunmuştur. Hicaz demiryolunun yapımı sırasında 2666 köprü ve menfez, 7 demir köprü, 9 tünel, 96 istasyon, 7 gölet, 37 su deposu, 2 hastane ve 3 atölye yapılmıştır. Demir yolunun toplam maliyeti 3,5 milyon lirayı bulmuştur. П. Abdülhamit’in tahtan indirilmesinin ardından yönetim ve Hicaz Demir Yolu ismi üzerinde değişiklik yapılmıştır. Gerçek adı “Hamidiye-Hicaz Demir Yolları” iken, ismini “Hicaz Demir Yolları” olarak değiştirmişlerdir. 7 Ocak 1919 yılında imzalanan Mondros Antlaşması ile Osmanlı Hicaz bölgesindeki tüm hakimiyetini kaybetmiştir. Ardından hicaz demir yolunun yönetimi Osmanlı devletinin elinden alınmıştır. Fahrettin Paşa Medine’de bulunan Mukaddes Emanetleri İstanbul’a getirmeyi başarmıştır. Hicaz Demir Yolu 1. Dünya Savaşı’na kadar yoğun bir şekilde kullanılmıştır.

Hicaz demir yolu her ne kadar kısa süre kullanılmışsa da yapıldığı esnada dünyanın yarısından fazlası yardımlarını esirgememiş ve birlik beraberlik içinde inşasına devam edilmiştir.