К 1880-90-м гг. относится окончательное формирование соборного комплекса на центральной площади города. Рядом с ней в 1872 г. была выстроена
летняя Спасская церковь, а в 1889 г. освящается уже каменный собор Всемилостивого Спаса – пятиглавый крестовокупольный храм, по своей архитектуре напоминающий Храм Христа Спасителя в Москве. В 1898 г. освящается каменный Спасо-Троицкий Собор, пристроенный к колокольне 1780 г. Это был массивный одноглавый храм в русско-византийском стиле. В годы Великой Отечественной войны храмы были частично разрушены, а в 1960-е годы разобраны.