Herb wywodzony bywa z wizerunku tarczy z trzema pasami odbijanego jako contrasigillum pieczęci wielkiej w latach 1256 – 1286. W latach 1346 – 1349 contrasigillum przedstawiało ukoronowaną literę "N". Od 1260 stosowany jest herb miasta przedstawiający pięciokrotnie prawoskośnie dzieloną tarczę, przemiennie czerwoną i srebrną. Uważa się to za nawiązanie do przemiennie srebrnej i czerwonej bordiury w herbie Burgrabiów Norymbergi, używanej od 1240, a także nawiązanie do ogólnych barw cesarstwa i Frankonii.
Od 1350 stosowany jest herb dwudzielny, z połową cesarskiego orła, z lewej pięciokrotnie prawoskośnie dzielony. Rok później stosowano z lewej sześciokrotny podział, i z biegiem lat liczba podziałów (od 4 do 6) jak i kolejność kolorów bywały wielokrotnie zmieniane. Herb mały jest stosowany od 1513 na pieczęciach władz miasta i urzędników miejskich. Ponownie został zatwierdzony, jako herb mały, wraz z herbem wielkim w 1936, potwierdzony w 1961 i jest używany obecnie.
Z herbu małego wywodzi się flaga miejska Norymbergi, dwa poziome pasy równej szerokości, czerwony u góry, biały u dołu.