Музей обладает настолько богатой коллекцией, что экспонирует ее сразу в двух местах. В кремле, в здании бывшего Губернаторского дворца посетителей ждет большая коллекция произведений русских художников XIV-XX веков. В начале прошлого века отдельные живописцы и Российская Академия художеств подарили нижегородскому музею много картин и графических работ.
В здании на Верхневолжской набережной можно познакомиться с произведениями художников Западной Европы, работавших в XV-XX веках. Это собрание начало формироваться в 1920-е годы, благодаря частным пожертвованиям. Кроме того, музейные фонды значительно пополнились после национализации частных галерей, которые прежде находились в дворянских усадьбах. До начала Великой Отечественной войны несколько картин Нижнему Новгороду подарили крупнейшие художественные музеи страны - музей искусств им. Пушкина в Москве и Эрмитаж. Кроме живописных работ в залах выставлены гравюры, майолика, скульптуры и произведения из бронзы.