Przodkami konia islandzkiego były prawdopodobnie zwierzęta zabierane na Islandię przez wikingów pomiędzy rokiem 860 a 935. Za wikingami podążali imigranci z nordyckiej kolonii w Irlandii, Wyspy Man i Hebrydów Zewnętrznych. Przybyli oni ze swoimi końmi, typu szetland, highland i connemara. Jest też możliwość pokrewieństwa z kucami jakuckimi. Około 900 lat temu próbowano wprowadzić geny koni wschodnich, w wyniku degeneracji populacji lokalnej. W 982 roku islandzki Althing (parlament) przyjął ustawę zakazującą wwożenia koni do Islandii. Nie było domieszek innych ras od ponad 1000 lat.
Symbolika i mitologia Ludzie nordyccy jako pierwsi zaczęli czcić konia jako symbol płodności i bóstwa, a białe konie poddawano ubojowi na święta i ceremonie ofiarne. Konie odegrały znaczącą rolę w mitologii nordyckiej, a kilka koni grało główne role w mitach skandynawskich, wśród nich koń o ośmiu nogach zwany Sleipnir, należący do Odyna, najważniejszego z nordyckich bogów, boga bitwy. Skalm, klacz, pierwszy islandzki koń znany z nazwy, pojawiła się w Księdze Rozliczeń z XII wieku. Według książki, wódz o imieniu Seal-Thorir założył osadę w miejscu, gdzie się Skalm zatrzymała i położyła. Konie również odgrywają kluczową rolę w islandzkich sagach takich jak Saga o Hrafnkelu, Saga o Njalu i Saga o Grettirze.