Organizacja społeczna Sarmatów była bardzo podobna do scytyjskiej. Po okresie wojen i podbojów wytworzyła się warstwa arystokracji, przedstawiciele której chowani byli w bogato wyposażonych kurhanach. Charakterystyczną cechą społecznych stosunków w sarmackich plemionach jest ważna rola kobiety w społeczności. Stosunkowa duża liczba grobów uzbrojonych kobiet, zwłaszcza na cmentarzyskach zachodnich Sarmatów, świadczy o pewnych elementach matriarchatu, które przetrwały z wcześniejszych okresów. Herodot (IV, 110–117) twierdzi, że Sauromaci – wcześni Sarmaci zachodni – pochodzili ze związku Amazonek ze Scytami.
O wierzeniach Sarmatów wiadomo niewiele. Prawdopodobnie oddawali cześć słońcu i ogniowi. Z tym ostatnim wiążą się odnajdywane w grobach sarmatek małe terakotowe ołtarzyki. Rzymski historyk Ammianus Marcellinus notuje, iż Alanowie jako boga wojny czcili nagi szamszir (szablę perską) wbity w ziemię. Sarmaci wierzyli w życie pozagrobowe jako kontynuację życia ziemskiego. Pod koniec starożytności część Alanów przyjęła zaratusztrianizm (zoroastryzm).