Odtąd Alemania wchodziła w skład państwa frankijskiego jako marchia. 25 grudnia 800 r., król Franków Karol Wielki został ukoronowany cesarzem i stworzył Imperium Karolińskie, które w 843 r. zostało podzielone na podstawie traktatu w Verdun, w wyniku czego powstało Królestwo Wschodnich Franków. Jego terytorium rozciągało się od rzeki Eider na północy do wybrzeży Morza Śródziemnego na południu. Podczas panowania władców z dynastii Ludolfingów w latach 919–1024, kilka ważniejszych księstw zostało połączonych, a król niemiecki został ukoronowany na cesarza rzymskiego w 962 r., zaś jego królestwo stało się trzonem Świętego Cesarstwa Rzymskiego. Podczas rządów dynastii salickiej (1024–1125) wchłonęło ono północną Italię i Burgundię, lecz podczas sporu o inwestyturę cesarze utracili znaczną część swojej potęgi.
thumb|upright=1.4|Mapa Świętego Cesarstwa Rzymskiego około 1000 r. z Niemcami, Włochami, Czechami i Burgundią Niemieckie księstwa: