Osmanlı Devleti’nin son, Türkiye Cumhuriyeti’nin ilk hukukçularından Ebül’ula Mardin, 9 Ağustos 1881’de babasının görev yaptığı İşkodra’da dünyaya geldi. Babası, Mardin kadısı Ömer Şevki Efendi’nin oğlu Yusuf Sıtkı Efendi, annesi ise Behice Hanım’dır.
Kendi hanelerinde özel tedrisat gördükten sonra İstanbul’daki Hukuk Mektebi’ne devam etti ve mektepten 1903’te mezun oldu. II. Meşrutiyet’in ilanı üzerinde 1908’de Eşref Edip ile birlikte Sırat-ı Müstakim adlı haftalık dergiyi çıkarmaya başladı. Mehmet Akif’in fikir babası olduğu bu dergide İslam Birliği düşüncesini savundu. 1912’de Sırat-ı Müstakim’den ayrıldı, Kelime-i Tayyibe adlı dini dergiyi çıkarmaya başladı.
Üniversite eğitimini tamamladıktan sonra öğretim görevlisi olarak aynı üniversitede görev yapmaya başlayan Ebül’ula, 1914-1919 yıllarında Niğde, 1920’de Mardin mebusu olarak Osmanlı Mebusan Meclisi’nde bulundu. 1923’te kadıların yetiştirilmesi için açılan 'Medresetül Kuzzat'ta ders verdi. 1925 yılına gelindiğinde ise İstanbul barosuna kaydoldu.
1951’de Medeni Hukuk alanında ordinaryüs profesör ünvanıyla İstanbul Üniversitesi’nden emekli oldu. Hukuk alanında 17 eser neşretti.
13 Ocak 1957 tarihinde vefat etmiştir. Karacaahmet Mezarlığı’ndaki aile mezarlığında metfundur.