Мордовский республиканский музей изобразительных искусств имени С.Д. Эрьзи образован 26 июня 1956 года. Основу собрания составили произведения народного художника республики Ф.В. Сычкова и скульптора с мировым именем С.Д. Эрьзи.

В 1995 году музею было присвоено имя С.Д. Эрьзи.

Начиная с 1978 года, когда в музее появились научные отделы, стало интенсивно комплектоваться его собрание по всем видам искусства. В настоящее время количество экспонатов достигло 14 тысяч единиц. Главной частью его являются произведения, представляющие искусство Мордовии.

Коллекция русского искусства включает в себя собрание икон ХVIII-ХХ веков, а также живопись и графику. В ней имеются картины знаменитых русских художников, таких как И.К.  Айвазовский, И.И. Шишкин, В.Е. Маковский, К.А. Коровин, А.К. Саврасов, гравюры И.Е. Репина, В.В. Матэ, А.П. Остоумовой-Лебедевой, В.А. Серова. Особое место в ней занимают произведения портретной живописи И.К. Макарова и графика В.Д. Фалилеева, детские и юношеские годы которых связаны с Саранском.

В коллекции отечественного искусства ХХ века наибольшей полнотой отличается собрание книжной и станковой графики. Раздел живописи и скульптуры представлен ведущими мастерами Москвы, Санкт-Петербурга, соседних с Мордовией республик. В музее собрана богатейшая коллекция народных промыслов России: Балхарская керамика, Жестовские подносы, Гжельский фарфор, Хохломская роспись. Павловские платки и русская лаковая миниатюра, а также археологические и нумизматические коллекции.