Храм Архангела Михаила является одним из архитектурных памятников XII века. Его возвели в 1191–1194 годах при князе Давиде Ростиславиче. Смоленские мастера построили церковь в традициях полоцких храмов, добавив некоторые свои элементы.
Михайловский храм возвели из плиточного кирпича, который в то время применяли при строительстве церквей. Здание храма представляет собой четырехгранную башню с тремя высокими пристройками. Снаружи его украшали ниши разных размеров, рельефные кресты и декоративные арки над окнами и дверьми.
Михайловский храм входил в комплекс загородного княжеского двора. По деревянным переходам князь и его приближенные могли выходить из палат на балкон внутри церкви, откуда открывался вид на внутреннее убранство. Стены, своды, оконные откосы внутри были расписаны фресками, на полу была поливная керамическая плитка.
В Ипатьевской летописи 1197 года говорится, что церковь Михаила Архангела была самым богато украшенным храмом на Руси: «несть в полунощной стране, и всем приходящим к ней дивитися зело изрядной красоте ея, иконе златом и серебром, и жемчугом, и камениям драгим украшены».
От внутреннего убранства Михаило-Архангельского храма сейчас почти ничего не осталось. Археологическая экспедиция в 60-х годах XX века нашла небольшие фрагменты росписи, часть которой выполнена в темперной технике, а другая — во фресковой. Историки обнаружили расписные орнаменты и снаружи церкви.
В 1609–1611 годах во время осады Смоленска польско-литовские захватчики использовали церковь Архангела Михаила как крепость, а после падения города в 1611 году — как католический костел. Православные богослужения в храме возобновились в 1654 году, когда Россия возвратила Смоленск в свой состав.
В начале XVIII века церковь значительно перестроили: верхние части стен и своды переложили, изменили отделку фасадов, в стенах пристроек пробили большие окна. В 1775–1785 годы храм побелили, вокруг возвели невысокую кирпичную ограду и колокольню с луковичной главкой.
В 1812 году храм разграбили солдаты Наполеона, а все деревянные элементы разобрали на дрова. Церковь Архангела Михаила восстановили после Отечественной войны благодаря личному контролю российского императора Александра I.
В 1930 году в Михайловском храме прекратились богослужения, а в здании разместили военный склад. Во время Великой Отечественной войны здание не пострадало, но нуждалось в основательной реставрации. Ее провели в 1963 году смоленские реставраторы во главе с архитектором Петром Барановским. Они восстановили кровлю храма и удалили архитектурные наслоения XIX века.
Во второй раз храм отреставрировали Сергей Подъяпольский и Татьяна Каменева в 1976–1982 годах. Они восстановили фасады, окна храма и барабана, киот портала XII века, а также восьмигранные окна и карнизы XVIII века.
В 1991 году реставраторы начали восстанавливать интерьер храма, которому они стремятся придать первоначальный облик XII века. В этом же году в храме возобновились богослужения.