Jego kształt Schinkel zaczerpnął z krzyża teutońskiego, będącego symbolem Krzyżaków – zmieniono tylko proporcję, aby krzyż wpisywał się w plan kwadratu lub pola i tak czarny krzyż łaciński z białą obwódką, od tego momentu stał się bardzo ważnym elementem w historii Królestwa Prus, Cesarstwa Niemieckiego i Niemiec ogółem. Pierwsze odznaczenia odlewane były w Królewskiej Odlewni Żeliwa w Gliwicach.
Awers orderu pozbawiony był symboli, natomiast na rewersie umieszczono pęk liści dębu (starogermański symbol męstwa i odwagiP. Galik, Krzyż Żelazny, „Odkrywca” 2/2007, s. 48.) oraz litery „FW” (Friedrich Wilhelm”). Na dolnym ramieniu umieszczono datę 1813, a na górnym pruska korona królewska. W praktyce przyjęto noszenie odznaczenia na odwrotnej stronie – rewers stał się stroną główną. Odznaczenie posiadało trzy klasy: Krzyż Wielki, I klasę, II klasę.
Pomiędzy kwietniem 1813 a marcem 1814 roku przyznano 6639 Krzyży II klasy, a po bitwie pod Kulm dla sojuszników – Rosjan – ustanowiono bardzo podobne odznaczenie, znane jako Krzyż Kulmski, w Rosji błędnie zwane „Odznaką Honorową Żelaznego Krzyża”. Ogólnie do 1817 r., kiedy skończyło się rozpatrywanie wniosków przyznano 16 tys.