Высочайшее разрешение было получено в 1872 году. В 1875 -1879 г.г. по проекту архитектора Х. Грейфана каменная церковь была построена. Она также носила название Владимирской военно-крепостной. Храм был решен в виде пятинефной базилики, удачно совмещенной с «цитатами» из русского зодчества XVII века, которым тогда серьезно увлекались. Пятидесятиметровая колокольня являлась доминантой северо-западной части города. Церковь вмещала до 300 человек.