Mevlâna Dergâhı’nın kuzeybatısında bir dönem Bahaiye Mektebinin hizmet verdiği Sultan Veled Medresesi binasında 1911 yılında açıldı.
Konya’da bir askerî rüştiye mektebi açılması fikri ilk kez Ferit Paşa’nın valiliği zamanında söz konusu edildi. Konya halkının şehirlerinde böyle bir okula ihtiyaç duydukları için yoğun talepte bulunmaları, şehrin vilayet ve askerî fırka merkezi olması gibi nedenlerle 1899 yılında teşebbüse geçildi. Tasarlanan okula yeni bir bina inşa edilmesi yerine hem daha az paraya mal olacağı hem de zamandan tasarruf edileceği gerekçesiyle kira ile bir yerin tutulmasına karar verildi. Bunun için eski Belediye Reisi Mehmet Efendi’nin hanesi aylık 300 kuruşa kiralandı. Fakat tüm bu çabalara karşın o yıllarda Konya’da bir askerî rüştiye mektebi açılamamıştı. 1909 yılında yapılan başka bir girişim de Harbiye Nezareti tarafından yeterli öğretmenin tahsis edilemeyeceği gerekçesiyle sonuçsuz bırakılmıştı. Bu olumsuz gelişmelere rağmen projeden vazgeçilmemiş ve nihayet 1911 yılında şehirde bir askerî rüştiye açılabilmiştir.
Açıldığı sırada üç yıl süreli neharî (gündüzlü) eğitim verilen bir kurumdu. Okulda asker ve sivil öğretmenler görev yapmaktaydı. 1913 yılında okulda görev yapan on bir öğretmenin yedisi Harbiye’den dördü medreseden mezun kişilerdi. Okulda 104 erkek öğrenci öğrenim görmekteydi. Okulun bütün giderleri hazineden karşılanmaktaydı.
I. Dünya Savaşı’nın devam ettiği 1917 yılında askerî rüştiyeleri ilgilendiren önemli bir karar alındı. Yeni karara göre şehit ve muhacirin çocukları bir şart aranmaksızın askerî rüştiyelere kabul edileceklerdi. Bunun için memleketteki bu tür okulların bazılarının yatılı hâle getirilmeleri öngörüldü. Mekâtib-i Harbiye Müdüriyet-i Umumîsi Vekili Binbaşı Reşit Efendi bu işle görevli olarak Konya’ya gönderildi. Yapılan çalışmalar sonucu Konya Askerî Rüştiye Mektebinin şehirde yeni bitirilmiş olan darülmuallimin binasına taşınarak yatılı hâle getirilmesine karar verildi. Bu binanın doğu kısmı darülmuallimine bırakıldı, istasyona bakan batı kısmı ise askerî rüştiyeye tahsis edildi. Konya Askerî Rüştiye Mektebi, Lozan Antlaşması’ndan sonra İstanbul’a nakledilerek bina tamamen darülmuallimine devredildi. Bu okul Haliç’te bulunan Mühendishane-i Berrî-i Hümayun binasında Halıcıoğlu Askerî Rüştiyesi olarak 1928 yılına kadar varlığını sürdürdü. Konya’da Cumhuriyet Döneminde Şeyh Sadreddin Kabristanı olarak bilinen yerde 1930 yılında inşaya başlanan bina bitirildikten sonra burada bir Askerî Ortaokul eğitim-öğretim vermeye başlamıştı. Bu okul Tokat’tan Konya’ya nakledilen askerî okul olup Konya Askerî Rüştiye Mektebi ile bir ilgisi bulunmamaktadır.
