Kars Kalesinin güney eteğinde Kale içi Mahallesinde yer alan Havariler Kilisesi Şehirdeki Ermeni kiliselerinden birisi olup Bagratlı Krallığı döneminde Kral Abbas tarafından M.S. 932-937 yılları arasında yaptırılmıştır. Kilise merkezi planlı olup dört yonca yaprağını andıran, dört nişle genişleyen dik açılı bir mekana sahiptir. Kubbeyi oluşturan kasnak kısmı uzun konik biçiminde olup kubbe altındaki nişler içte yuvarlak dışta beş köşeli olarak yapılmıştır. Kilisenin ana giriş kapısı batı yönünde olup ayrıca güney ve kuzey yönlerinde iki giriş kapısı daha bulunmaktadır. Apsis yarım daire biçiminde olup apsiside içerisine alan 12 mt çapındaki kubbe altı ana mekanı 8 adet ince uzun tonoz kemerli pencere ile aydınlatılmıştır. Havariler kilisesi yöreye özgü düzgün kesme bazalt taşından yapılmıştır.
kars kalesi'ne çıkmadan yanına kars çayını, karşısına taş köprüyü alan tarihi yapı. kiliseden camii'ye döndürülmüştür. kümbet camii olarak geçmektedir, içerisinde namaz kılınabilmektedir. yaz kış turistlerin ziyaretine açıktır. hatta önlerinde rehberlik etmek için duran 12-13 yaşlarında karslı çocuklardan buranın hikayesini de dinleyebilirsiniz.
