1875 yılında, Bayat'ın Toyhane köyünde doğdu. Altı aylıkken öksüz kalan Mehmed Âtıf, dedesi Hasan Kethüda'nın himayesinde yetişti. Köy hocasından başladığı tahsiline 1891'den itibaren iki sene İskilip'te devam etti. 1893'ün Nisan ayında İstanbul'a gelerek medrese eğitimine burada devam etti. 1902'de medresedeki öğrenimini tamamladı.
1905 yılında, İstanbul'daki Fatih Camii'nde ders vermeye başladı. Bir ara Şeyhülislam tarafından Bodrum'a sürüldü. Burada para toplarken ihbar edilmesi üzerine, eski medrese arkadaşlarından Kırımlı İbrahim Efendi'nin pasaportuyla Kırım'a kaçtı. II. Meşrutiyet'in ilanından sonra İstanbul'a döndü ve sonraları katıldığı 31 Mart İsyanı'nda tutuklandı. 1913'te, Mahmud Şevket Paşa'nın öldürülmesi olayında suçlu bulunarak 5 buçuk yıllığına Sinop'a sürüldü. Serbest kaldıktan sonra müderrisliğe devam eden Mehmed Âtıf Hoca, 15 Şubat 1919'da kurulan Cemiyet-i Müderrisin'in kurucuları arasında yer aldı.
Âtıf Hoca, şapka devriminden önce yayımlamış olduğu Frenk Mukallitliği ve Şapka risalesinde Müslümanları amel ve iman bütünlüğüne davet ediyordu. Müslümanların Müslüman olmayanların kılık kıyafet ve kültürel alışkanlıklarına benzemeye çalışmasının caiz olmadığını söylüyordu. Bir Müslüman ile Hıristiyanın yahut bir Yahudinin kılık kıyafetinden ayırt edilebileceğini ve dahi edilmesi gerektiğini savundu.
19 Şubat 1919'da kurulan Müderrisîn Cemiyeti'nin ikinci başkanı iken Cemiyet'in 24 Kasım 1919'da genel kurul toplantısındaki karar gereğince Teâlî-i İslâm Cemiyeti ismini aldı ve Mustafa Sabri Efendi'nin şeyhülislam olması üzerine başkanlığa İskilipli Mehmed Âtıf Hoca getirildi. Cemiyet, ilk olarak İzmir'in Yunanlar tarafından işgalini protesto eden ve yeni bir tehlike olarak ortaya çıkan Bolşevizm'e ve işgal kuvvetlerine karşı beyannameler yayımladı. Anadolu'nun çeşitli yerlerinde şubeleri açıldı. Teâlî-i İslâm Cemiyeti'nin Konya şubesi 1920 tarihli TBMM seçimlerine katılmak istemişlerdir. Mustafa Kemal'de bunda bir mahzur görmemiştir.
İstanbul hükumetinin baskıları sonucu meşihat makamınca hazırlanıp Teâlî-i İslâm Cemiyeti adına Millî Mücadele aleyhinde dağıtılan bir beyannâme cemiyeti töhmet altında bıraktı. Böyle bir beyannamenin hazırlandığını öğrenen Tâhirü'l-Mevlevî, İskilipli Mehmed Âtıf Hoca ve diğer bazı üyeler buna tepki gösterdiler. Yapılan müzakerede Mustafa Sabri Efendi’nin damadı Bergamalı Zeki Efendi cemiyetin beyannâmeyi kabul etmesini, aksi durumda vatana hıyanet sayılacağını söyledi. Ancak beyannamenin aleyhinde olanların daha güçlü olduğunu görünce kabul edilse de edilmese de hükumetin bu beyannâmeyi Anadolu’ya göndereceğini söyledi. Bu yoğun baskı altında yapılan oylamada kabul ve red oylarının eşit gelmesi üzerine o sırada başkan olan İskilipli Mehmed Âtıf Hoca’nın olumsuz oy vermesiyle beyannâme usulen reddedildi. Buna rağmen mühürsüz ve imzasız olarak Yunan uçaklarından Anadolu üzerine atıldı.
26 Aralık 1925'te, risaleyi yayınlayan ve dağıtanlarla birlikte, 13 kolluk kuvveti gözetiminde Ankara'ya gönderildi. 26 Ocak 1926 Salı günü Ankara İstiklal Mahkemesinde yargılandı. Savcı, İskilipli Âtıf Hoca için 3 yıl hapis cezası istedi. Mahkeme, müdafaa için bir gün sonraya bırakıldı. Ancak Âtıf Hoca savunma haklarından tümüyle vazgeçtiğini belirtti. Ertesi gün, mahkeme reisi Ali Çetinkaya, savunma yapmaya gerek görmeyen Âtıf Hoca'yı idama mahkûm etti. Âtıf Hoca 1 hafta sonra Ankara Samanpazarı Meydanı'nda idam edildi.