К созданию парка подошли основательно, выбрав для разбивки местность, названную "Русской Швейцарией" – с высокими холмами, рощицами, оврагами и расположенными неподалеку дачами зажиточных горожан (в те времена эта часть города считалась околицей). До ХХ века парковая зона Русской Швейцарии была излюбленным местом городской интеллигенции, студентов, представителей купечества. В свое время по аллеям парка прогуливался Федор Шаляпин, а также Максим Горький, тогда еще Алеша Пешков, в честь которого и был назван парк. В 1936 году по указу И. В. Сталина был создан Центральный парк культуры и отдыха имени Горького. В 2014 году был окончен первый этап работ реставрации парка. С тех пор парк приобрел сегодняшние очертания, став украшением исторической центральной части города.