Erzurum'un ilk mescidi olarak kabul edilen Kale Mescidi, Saltuklu Beyliği döneminde inşa edilmiştir. Erzurum Valiliği'nin mescidle ilgili sosyal medyada yaptığı paylaşım büyük ilgi görmüştür.
Yapının, Saltuklu Emîri Muzafferüddin Gazi (1124-1132) tarafından Tepsi Minare ile birlikte yaptırıldığı düşünülmektedir. Yaklaşık 150 kişi kapasiteli Kale Mescidi; 8,95 x 9,76 m ölçüleriyle kareye yakın bir alana kurulmuştur. Mescidin harimi ortada L şeklindeki iki ayakla belirlenmiştir.
Kale Mescidi, kademeli ve yüksek kasnaklı, içten küçük kubbe ile örtülü uygulamasıyla Anadolu’da tek ve önemli bir örnek oluşturmaktadır. Mihrap dışında süslemesi bulunmayan yapı, tamamen kesme taş malzeme ile inşa edilmiştir. Mescitte ilk namazın ne zaman kılındığına dair kesin bir bilgi mevcut değildir. En son kılınan toplu namaz ise sivil toplum kuruluşlarının 'Yeniden Dirilmek için 12 Mart Sabah Namazından Erzurum’un İlk Mescidinde, Kale İçinde Buluşalım' sloganıyla yürüttüğü proje kapsamında, vatandaşların yoğun katılımıyla ve yaklaşık 3 bin kişiyle 12 Mart 2016 Cumartesi tarihinde eda edilen sabah namazı olmuştur.