Babası Akkoyunlu aşîretinin İmamoğulları ailesinden gelen Mehmed Ali Ağa, annesi Mekke'den göç etmiş, Ben-î Hattab aşîretinden Nazlı Hanım'dır
Altı aylıkken öksüz kalan Mehmed Âtıf, dedesi Hasan Kethüdâ'nın himayesinde yetişmiştir.
Köy hocasından başladığı tahsiline 1891'den îtibâren iki sene İskilip'te devam etti. 1893 Nisan ayında gelerek medrese eğitimine burada devam etti.
1902'de medresedeki öğrenimini bitiren Atıf Hoca, aynı yıl mesleki kariyer sınavı kazanıp[kaynak belirtilmeli], ertesi sene Fatih Camii'nde ders vermeye başladı.
Bu sıralarda Dâr-ül Fünûn'un İlâhiyat Fakültesine girdi ve 1905'te buradan mezun olarak Kabataş Lisesi Arapça öğretmenliğine başladı.
26 Aralık 1925'te arkadaşları ile beraber 13 kolluk kuvveti gözetiminde Ankara'ya gönderildi. 26 Ocak 1926 Salı günü Ankara İstiklal Mahkemesinde yargılandı. Yargılamada, üyesi olduğu bir cemiyetin Milli Mücadele karşıtı bir beyannamesi de soruldu. Atıf Hoca, bu beyanname hakkında Milli Mücadele yanlısı Vakit gazetesinde bir yalanlama yazısı yayımlamış ve bu bildiriyi desteklemediğini ilan etmişti.
Savcı, İskilipli Atif Hoca için 3 yıl hapis cezası istedi. Mahkeme, müdafaa için bir gün sonraya bırakıldı. Ertesi gün, mahkeme reisi Kel Ali (Ali Çetinkaya), müdafaa yapmaya gerek görmeyen İskilipli Atif Hoca'yı idama mahkûm etti. İskilip'li Hoca 1 hafta sonra Ankara Samanpazarı Meydanı'nda asıldı.
Ölümünden sonra Ankara'da bulunan mezarı bulunduğu park yerinden 2009 yılı başında İskilip Gülbaba mezarlığına taşınmış ve 2010 yılı başında kamuoyunun bilgisine sunulmuştur
