Ali Emîrî Efendi, Diyarbakır’da doğdu. Şair Sâim Seyyid Mehmed Emîrî Çelebi’nin torunlarından Seyyid Mehmed Şerif Efendi’nin oğludur. İlk tahsilini Diyarbakır’da Sülûkiyye Medresesi’nde yaptı. Amcası Fethullah Feyzi Efendi’den Farsça dersleri aldı. Daha sonra, dayılarının Mardin sancağı tahrirat ve rüsûmat müdürü bulundukları sırada oraya giderek başta Ahmed Hilmi Efendi olmak üzere bazı müderrislerden üç yıl kadar çeşitli dersler aldı; kısa zamanda Arapça ve Farsça’sını ilerletti. Bu arada eski tarzda şiirler yazmaya başladı. 1875’te telgrafçılık kurslarına katılarak telgrafçı oldu.

1876’da V. Murad’ın cülûsu üzerine bir cülûsiye kaleme aldı. 1878’de Hey’et-i Islâhiyye ile Diyarbakır’a gelen Âbidin Paşa’nın yanına müsevvid olarak girdi; onunla birlikte Harput, Sivas ve Selânik’e gitti. Daha sonra Sîs (Kozan) sancağı âşâr müdürlüğü ile Adana Âşâr Nezâreti başkâtipliği yaptı. Sırasıyla Leskovik, Kırşehir ve Trablusşam sancağı muhasebeciliklerinde, Ma‘mûretülazîz (Elazığ) ve Erzurum defterdarlıklarında, Yanya ve İşkodra maliye müfettişliklerinde, Halep defterdarlığı ile Yemen maliye müfettişliğinde bulundu. Bu sırada “rütbe-i ûlâ sınıf-ı sânîsi” nişanı ile taltif edildi; 1908’de II. Meşrutiyet’in ilânından sonra kendi isteği ile emekli oldu. Emekliye ayrıldıktan sonra Millî Tetebbûlar Encümeni, Tasnîf-i Vesâik-i Târîhiyye Encümeni başkanlığı ile Târîh-i Osmânî Encümeni üyeliği yaptı. Başbakanlık Osmanlı Arşivi Dairesi Tasnif Komisyonu’nun başında bulunduğu sırada da kendi adına izâfe edilen “Ali Emîrî Tasnifi”ni meydana getirdi. Aynı zamanda Vakıflar Nezâreti’ne uzun “vicdannâme”ler yazdı; eski eserlerin bakımsızlık ve ihmalini dile getirerek amme vicdanını temsil etti.
Hayatı boyunca gittiği her yerde kitap toplayan Ali Emîrî Efendi, ilmî ve edebî faaliyetlerini emekliliğinden sonra daha da hızlandırmıştır.



Bir ara, eski bir Oğuz şehri olan Cend’e kadar giderek birçok değerli eser ve vesika toplamış, Kırşehir muhasebecisi iken de masrafları kendisinden, işçiliği dervişlerince karşılanmak üzere Hacı Bektâş-ı Velî Dergâhı’nı tamir ettirmiştir. Orta seviyede bir şair, usta bir münekkit olan Ali Emîrî Efendi’nin asıl büyük yanı, hayatı boyunca toplamış olduğu paha biçilmez değerde kitaplardan oluşan kütüphanesini, Fatih’te Feyzullah Efendi Medresesi’nde kendi kurduğu Millet Kütüphanesi’ne bağışlamasıdır. Bu kütüphaneye çoğu nâdir ve tek nüsha olan 16.000 cilt eser vakfetmiş, ölümüne kadar da bu müessesenin müdürlüğünü yapmıştır.
Ali Emîrî’nin önemli hizmetlerinden biri de Kâşgarlı Mahmud’un o zamana kadar ele geçmeyen meşhur Dîvânü lugāti’t-Türk adlı eserini bulması ve ilim âleminin hizmetine sunmasıdır. Bütün bu faaliyetleri arasında biyografi ve tezkire türünde birçok eser kaleme almış, bazı eski eserleri de “Nevâdir-i Eslâf” adı altında hâşiyelerle yeniden yayımlamıştır.

Ali Emîrî Efendi, 23 Ocak 1924’te vefat etti, mezarı Fâtih Camii hazîresindedir.