Konya’da doğduğundan “Karamânî” nisbesi ile tanınmaktadır. Tam adı Mehmet bin Arif Çelebi el-Celali es-Sıddıki’dir. Babası Arif Çelebi Mevlâna Celaleddin-i Rumi soyundan olup, Konya Mevlâna Dergâhı postnişini iken 824/1421 yılında vefat etmiştir. Tahsiline Konya’da başlayan Mehmet Paşa, Musannifek ile Alâeddin Ali et-Tusi’den ders alarak medrese öğrenimini tamamladı. Ardından genç yaşta Osmanlı ülkesine gitti. Fetih’ten sonra Sadrazam Mahmut Paşa-i Veli ile tanıştı. Mahmut Paşa’nın veziriazamlığı sırasında onun himayesine girdi (1455). Onun yaptırdığı medresede tahsil gördü. Vefa Konevi’nin sohbetlerinde bulundu. Medrese tahsilini iyi derece ile tamamlayıp mezun olduktan sonra aynı medresede müderrisliğe başladı. Müderrislikten, divan kâtipliğine, sonrasında Mahmut Paşa’nın tavsiyesiyle nişancı ve bu görevde iken (1470-1471) vezirliğe yükseldi. 1478 senesinde padişah, Sadrazam Gedik Ahmet Paşa’yı vazifeden alıp, onun yerine Karamani Mehmet Paşa’yı sadrazam tayin etti.
1453’te İstanbul’un fethinden sonra hemen idam edilen sadrazam Çandarlı Halil Paşa’dan sonra Fatih Sultan Mehmet’in seçtiği sadrazamların hepsi devşirme asıllı ve saray Enderun Okulu eğitimli “kul”lar olduğu ve sultanın böylece sadrazamın Türk asıllılardan ayrı birlik kurmasını önlemek istediği tarihçilerin dikkatini çekmiştir. Osmanlı Devleti’nin yükselme döneminde kullar ile Türk asıllılar arasında mücadelede kulların üstün geldiği bir tarih teorisi olarak çok tartışma doğurmuştur. Bu tartışmalara rağmen Fatih’in Nişancı Mehmet Paşa’yı sadrazam olarak ataması bu teorinin pek de gerçeği yansıtmadığının bir delili olarak ilerisürülebilir. Fatih Sultan Mehmet, fetihten sonra Anadolu ve Balkanlarda sınırları genişleyen devleti yeniden yapılandırırken Karamani Mehmet Paşa’dan büyük destek gördü. Kanunnamelerin hazırlanmasında büyük yardımı olup kardeş katlinin onun görüşleri doğrultusunda kanun hâline getirildiği belirtilir. Karamani, Sultan Mehmet’le birlikte yeni veraset kanununun kurucusu olmuş ve tek olan kazaskerliğin, işlerin hızlandırılması amacıyla ikiye çıkarılmasını da arz etmiştir.
Karamani Mehmet Paşa, bazı vakıfları ve mülk arazileri tımara çevirmesi ve yeni vergiler koyarak, hazineyi güçlendirmeye çalışması sebebiyle halk ve askerler tarafından sevilmemiştir. Devlet idaresinde ise kulları iktidardan uzaklaştırarak, divana Faik Paşa ve Manisazade gibi ulema ve kâtip sınıfından kişileri vezir olarak sokmakla İshak Paşa ve Gedik Ahmet Paşa gibi kul aslından ricalin nefretini kazanmıştır.
Fatih’in, çıktığı son seferinde yanında olan Karamani Mehmet Paşa, Gebze yakınlarında vefat eden Fatih’in ölümünü gizleyerek karışıklığı önlemek istemiştir. Geleneksel olarak sadrazamın, yeni sultan tahta geçene kadar eski sultanın ölüm haberini gizli tutması gerekmekte idi. Karamanlı Mehmet Paşa Fatih’in varisi olan ve İstanbul’dan uzakta bulunan iki oğluna, Amasya’daki Bayezit’e ve Karaman’daki Cem Sultan’a, babalarının öldüğünü bildiren haberciler gönderdi. Cem Sultan’ın bulunduğu Karaman (Konya) İstanbul’a daha yakındı ve Konya, sadrazamın doğduğu şehir idi. Karamanlı Mehmet Paşa’nın bu tutumu Cem Sultan’ın taraftarı olduğu şüphesini doğurmaktaydı. İstanbul’da bulunan yeniçeriler Bayezit tarafını tutmaktaydılar. Yeniçerilerin İstanbul tarafına geçmesini önlemek isteyen Mehmet Paşa, İstanbul-Üsküdar arasındaki nakli durdurmak üzere Üsküdar yakasına gemi ve kayık yanaşmaması emrini verdi. Daha sonra Acemioğlanlarını Fil Çayırı’ndaki köprüyü onarmaları için şehirden uzaklaştırdı. Aldığı bütün önlemlere rağmen ve Cem’e yolladığı habercinin Bayezit’in damadı Anadolu Beylerbeyi Sinan Paşa tarafından yakalanmasıyla durumu öğrenen Bayezit’in adamları padişahın vefatını ifşa ederek ve Mehmet Paşa’nın adamlarını durdurarak böyle bir oldubittiye imkân vermemişlerdir. Yaşanan karışıklıkta yeniçeriler ayaklanarak, Karamani Mehmet Paşa’yı divanhanesinde öldürdüler. Mızrağa takılı başı İstanbul sokaklarında dolaştırıldıktan sonra cesedi, Kumkapı’da kendisinin inşa ettirdiği Nişancı Camii’nin önündeki türbeye defnedilmiştir.
Pek çok devlet adamı gibi o da mutasavvıfları, şairleri ve ilim adamlarını himaye etmiş, onlara tartışmalar yaptırmış, felsefi konulardaki tartışmalarda da bizzat bulunmuştur. Nişancı iken Uzun Hasan’a yazdığı söylenen mektuptan dolayı Fatih’in teveccühünü kazanmıştır. Ayrıca Türkçe, Arapça, Farsça şiirler yazan Mehmet Paşa’nın mahlası “Nişânî”dir. Türkçe şiirlerinde sade ve külfetsiz bir üsluba yer vermiş; rahat, kolay ve anlaşılır bir dil kullanmıştır. Devrin orta dereceli şairlerindendir.
Mehmet Paşa, âlim ve değerli bir vezir idi. Arapçayı çok iyi bilirdi. Aynı zamanda tarihçi idi. Yazdığı Osmanlı tarihi ile de dikkat çeker. Onun Arapça yazdığı bu eser ilk Osmanlı tarihlerinden biri olarak ayrı bir öneme sahiptir. Özellikle Osmanlıların ilk dönemlerine ait verdiği bilgiler oldukça değerlidir. Yazdığı Osmanlı tarihi, iki kısımdan meydana gelir. Birinci kısım “Risâle fî Tevârih-i Selâtin-i Âl-i Osmânîye” olup, Osman Gazi’den Fatih Sultan Mehmet Han’ın cülusuna (1451) kadar olan devirlere aittir. İkinci kısım ise, “Risâle fî Târîh-i Sultân Muhammed bin Murâd Han mine’l-Osmân” olup, 1451’den 1480’e kadar olan devre yer verir. Birinci kısım Fatih dönemini aydınlatması bakımından çok önemlidir. Bu eserin daha sonra tercümesi yapılmıştır. Bu tercümeyi Mükrimin Halil Yinanç “Millî Tarihimize Dair eski Bir Vesika” başlığı adı altında Türk Tarih Encümeni Mecmuası’nda yayımlamıştır. İkinci bir tercümesini ise İbrahim Hakkı Konyalı yapmıştır. Karamani Mehmet Paşa ayrıca Osmanlı tarihine ve Fatih devrine ait Arapça risaleler yazmıştır. Fatih Sultan Mehmet Han zamanında hazırlanmış olan Kanûnnâme-i Âl-i Osmânonun sadaretinde kaleme alınmıştır.
Mehmet Paşa hayır eserlerinde de bulunmuştur. Nişancı Mehmet Paşa Camii (1465) buna örnektir. Yine aynı mahallede bir çifte hamamla caminin yanında zaviye ve medresesi bulunmaktadır. Bunların dışında ayrıca bir mescidi daha olduğu söylenir.
Karamani Mehmet Paşa’nın iki eşi vardır. Birinci eşi hocası Musannifek’in kızıdır. Oğlu Zeynelabidin Ali Çelebi’nin bundan doğduğu tahmin edilmektedir. İkinci eşi Sitti Şah, Alaiye beyinin kızı idi. Mehmet Paşa’nın türbesi yanındaki mezarlıktan çıkarılan bir mezar taşındaki “Â’işe binti Rabia be ebûha Mehmed” yazısına istinaden Rabia isimli üçüncü hanımından doğmuş Ayşe adlı bir kızı olduğu varsayılmaktadır.