Приблизительно до сер. 1 тыс н.э. мордовский народ был единой этнической группой и говорил на одном языке. В V–VI вв. мордовский язык начал распадаться. Причины, способствовавшие разделению мордовского языка на мокшанский и эрзянский, а этноса – на эрзю и мокшу, предположительно следующие:
1) природные условия. Мордовский народ занимал довольно обширную территорию. Постепенно одна часть мордвы сконцентрировалась в бассейне р. Мокша с ее притоками (мокшане), другая часть – в бассейнах р. Сура и р. Алатырь (эрзяне);
2) мордовский этнический массив мог оказаться разделенным мигрировавшим тюркским народом.
Дальнейшему разделению мордвы способствовали войны между русскими и булгарами, в которых одна часть мордвы учавствовала на стороне русских, другая – на стороне булгар. Территориальная разобщенность привела к тому, что из единого мордовского языка образовались два диалекта, различия между которыми становились все глубже. Этот процесс в результате привел к образованию двух близкородственных языков.