После посещения Патриарха Московского Алексия II с участниками Сталинградской битвы Мамаева кургана в июне 1993 года возникла идея постройки храма на памятной земле. Место, выделенное под храм, находится рядом с братской могилой нескольких тысяч солдат, в двухстах метрах от памятника «Родина-мать».
Закладка храма была начата девятого мая 2002 года после ежегодного (с 1997 года) крёстного хода с иконой Божией Матери. Средства на постройку храма шли исключительно из пожертвований населения и в 2004 г, на Покров день, был установлен главный купол. В 2005 году, девятого мая храм был освящён и открыт для посещения.
В 2006 году собор Всех Святых получил уникальный подарок в виде трёх икон ручной работы астраханских мастеров изготовленных по старинной технологии. Внутреннее убранство храма украшают золотые люстры и иконостас, написанный литовским иконописцем-художником Владимиром Савельевым.
Белокаменный храм имеет высоту 38 метров и виден практически в любом районе Волгограда. Шлемовидные купола из титанового сплава, заказанного на Урале, символизируют богатырей, охраняющих Русскую землю, как бы дополняя мемориальный комплекс «Героям Сталинградской битвы», внося частицу православной веры на Главную высоту России.
Рядом с храмом планируется строительство двух звонниц, на одной из которых будет величественный «Колокол Мира». А пока над Мамаевым курганом разносится звон семи колоколов, отлитых в Воронеже, расположенных рядом с храмом.