Na rozwój języka mordwińskiego-erzja silny wpływ wywarł język rosyjski; w mniejszym stopniu – języki tureckie i irańskie.
Język erzja, podobnie jak inne języki ugrofińskie, charakteryzuje się dużą liczbą przypadków; występuje ich 11.
Jednym z pisarzy i poetów tworzących w języku erzja był Czisław Żurawlow (Числав Журавлёв).
Alfabet Alfabet erzjański powstał na bazie alfabetu rosyjskiego i składa się z 29 liter: а, б, в, г, д, е, ё, ж, з, и, й, к, л, м, н, о, п, р, с, т, у, ц, ч, ш, ы, ь, э, ю, я. Litery ф, х, щ i ъ występują tylko w zapożyczeniach.
Próba latynizacji W dniu 25 marca 1932 r. w ramach procesu latynizacji języków narodów ZSRR, Wszechzwiązkowy Centralny Komitet Nowego Alfabetu przyjął dla języka erzja oparty na piśmie łacińskim alfabet mordwiński. Alfabet składał się z następujących liter: A a, Ә ә, B в, C c, Ç ç, D d, Э э, E e, F f, G g, Ь ь, I i, J j, K k, L l, M m, N n, O o, Ө ө, P p, R r, S s, Ş ş, T t, U u, Y y, V v, X x, Z z, Ƶ ƶ, ȷ, Rx, Lh (ostatnie dwie litery – tylko dla języka mokszańskiego). 19 maja 1932, po uzgodnieniach ze specjalistami miejscowymi, Niżno-Wołżański Komitet Nowego Alfabetu przyjął ten alfabet ze zmianami: A a, B в, C c, Ç ç, D d, Ә ә, F f, G g, Y y, I i, J j, K k, L l, M m, N n, O o, P p, R r, S s, Ş ş, T t, U u, V v, X x, Z z, Ƶ ƶ, Ь ь, Rx, LhG. Autow. Новый алфавит.