Смоленский собор был построен на месте явления чудотворной иконы Смоленской Божьей матери, которое произошло в 1703 году на стене южных городских ворот. По преданию, Мефодий Иванов несший службу по охране ворот в ночь с 1 на 2 октября, увидел свет, исходивший от возникшей иконы, от которого рядом зажглась свеча.
Практически сразу здесь построили небольшую часовню, а в 1705 году небольшую деревянную церковь. Массивный Смоленский собор, дошедший до наших дней, был построен в период с 1727 по 1763 год.
Верхний храм собора был освящен в честь святых Петра и Павла. Массивная двухэтажная архитектура собора, со встроенной колокольней, характерна для храмов северной Украины. Главной святыней собора является почитаемая Смоленская икона Божьей матери «Одигитрия».
В 1936 году Смоленский собор был закрыт. Вначале в нем было решено разместить склады. Во время войны собор очень сильно пострадал от ударов артиллерии, поэтому впоследствии он был малопригоден даже для складов.
В 1958 году его решили взорвать, но храм выстоял. В 1974 году руины собора опять решили взорвать более мощным зарядом, однако, и в этом случае храм выстоял, а находившаяся рядом школа пришла в аварийное состояние, поэтому со взрывами решили больше не рисковать, а руины собора просто обнесли забором. В 1980 году началось восстановление собора, а в 1992 году его вернули церкви.