Adana vilayetinin Cebelibereket sancağı, Hassa kasabasında doğdu. Cebelibereket beylerinden Karabeyzade Halil Bey’in oğludur. Mehmet Arifi Bey 1290/1873-74 senesinde Edirne vilayeti Temyiz Divanı Kalemine intisap ederek memuriyet hayatına başladı. Görevi bir süre sonra mektubi kalemine değiştirildi. Edirne şehri Rus işgaline uğrayınca 1295/1878 senesi Muharrem ayında memuriyetten ayrılıp İstanbul’a gitti. Edirne’de bulunduğu sırada vilayetin resmi yayın organı olan Meriç gazetesi muharrirliğini de yapmakta idi. İstanbul’da birkaç ay kaldıktan sonra kendi isteği ile Halep ili rüştiyesi, rakka (yazı) öğretmenliğine atanarak Halep’e gitti. Burada birkaç ay görev yaptıktan sonra, Halep Mektubi Kalemine geçerek bir süre sonra kendisini tanıttı. 1297/1879-80 senesinde Halep Vilayeti İdare Meclisi başkâtibi oldu. Bu sırada Halep’te mülki komiserlik yapan eski Konya valisi Mehmet Sait Paşa’nın kâtipliğini de ek görev olarak yapmakta idi. 1304/1886-87 senesinde Hicaz vilayeti Mektupçuluğuna tayin olunarak Halep’ten ayrıldı. Bir süre sonra Cidde ilçesi kaymakamı oldu. Halep’te Fırat isimli gazetenin yazarlığını yaparken 1306/1888-89 senesinde Cidde Kaymakamlığından istifa etti. 1308/1890-91 senesinde Madenşehri Mutasarrıflığına tayin edildi. 1309/1891-92 senesinde beylerbeyilik rütbesi verildi. Bu tarihten sonra sıra ile 1310/1892-93’te Şehrizor, 1312/1894-95’te Muş, 1313/1895-96’da Bâyezit, 1314/1896-97’de Maraş, 1318/1901-02’de Süleymaniye, 1321/1903-04’de Genç, 1323/1905-06’da Mardin sancakları mutasarrıflığını yaptı. Mardin’de mutasarrıf iken bir süre Diyarbakır vali vekilliğinde bulundu. 1325/1907-08 senesinde Rumeli Beylerbeyi payesi verildi. 1326/1908-09 senesinde Trabzon Valiliğine tayin edildi. Bir yıl sonra kendi isteği ile görevi Konya Valiliğine nakledildi (1327/1909-10). 1330/1911-12 yılına kadar bu görevde kaldı. Konya Valiliği sırasında bugünkü Anıt civarında bulunan Amberreis Camii onun gayretleriyle yapılmıştır. Selçuk Es’in belirttiğine göre, Paşa, Konya Valiliğinde bulunduğu 1911 senesinin bir Mayıs günü onun ismini “Rükneddin Selçuk” olarak koymuştur.
Arapça ve Farsçayı layığı ile bilen Arifi Paşa, Tarih-i Osmanî Encümeni üyesiydi. Halep ve Hicaz vilayetleri salnamelerini valiliği esnasında bizzat kendisi hazırlamıştır. Paşa, ölümüne yakın zamanda Dulkadiroğulları Tarihi’ni yayımlamaya başlamıştı. İdareci ve tarihçi Arifi Paşa 29 Rebiyülevvel 1333 (14 Şubat 1915) İstanbul’da vefat etti.