Ali Akyıldız, 1 Haziran 1964 yılında Divriği'de dünyaya geldi. Babasının ismi Mustafa, annesinin ismi Sümbül'dür. Atatürk Üniversitesi Ziraat Fakültesi Ziraat Mühendisliği Bölümünden mezun oldu.

Ali Akyıldız, Tarım Kredi Kooperatifleri Sivas Bölge Birliğinde çalıştı. Cem Vakfı Sivas Şubesi Başkanlığı, Sivas Kent Konseyi Yürütme Kurulu Üyeliği, profesyonel ve amatör futbol hakemliği görevlerinde yer aldı. Atatürkçü Düşünce Derneği, Ziraat Mühendisleri Odası Sivas Şubesi ve Türkiye Faal Futbol Hakemleri ve Gözlemcileri Derneği, Sivas Şehir Kültürünü Yayma ve Yaşatma Derneği Üyesidir.

Ali Akyıldız, evli ve 1 çocuk babasıdır.