Музей основан в 1919 году первым профессиональным художником из народа мари Александром Владимировичем Григорьевым. Благодаря А.В. Григорьеву в музее собраны уникальные живописные полотна великих русских художников XVIII-XX веков (Айвазовский, Поленов, братья Коровины, Фешин, Клевер, Судковский, Творожников и др.).
Действует экспозиция истории, фарфора (русских, западноевропейских и восточных мастеров). С 1983 года открыт этнографический музей под открытым небом, рассказывающий о культуре и быте малочисленного народа горных мари. В 1995 году открыт музей купеческого быта. В нем собраны экспонаты конца XIX- начала XX веков, принадлежавшие купцам города. Козьмодемьянск явился прообразом города Васюки в романе "12 стульев", в связи с чем в 1995 году открылся музей юмора имени О. Бендера. В 2001 году произошло объединение всех музеев города в единый комплекс