Abdullah Yusuf Azzam, 1941 yılında o zaman Birleşik Krallık'ın yönetiminde olan Filistin'in Cenin şehrinin 50 km yakınında bulunan Silat al- Harithiya köyünde dünyaya geldi.

1950'li yılların ortalarında liseyi bitirerek Abdullah Azzam Müslüman kardeşler yapılanmasına üye olmuştur.

Akademisyen olan Azzam, Cidde'deki Kral Abdulaziz Üniversitesi'nden ayrılması sonrasında Eylül 1981'de Pakistan'a geldi ve İslamabad'daki Uluslararası İslam Üniversitesi'nin akademik kadrosuna katıldı.

1984 yılında, Soviyetler Birliğinin Afganistan'a müdehalesi sırasında Sovyet güçlerine karşı mücadele eden Arap mücahitler arasında yer alan Azzam ile Usame bin Ladin Arap dünyasından Afganistan'a para, silah ve gönüllü toplama amacı güden "Hizmetler Bürosu" kurdu. 

24 Kasım 1989 günü her zaman namazını kıldığı Seb'ul-Leyl Camii'ne gitmek üzere evinden çıkmıştı. Amacı cuma hutbesini okumak ve cuma namazını kıldırmaktı. İki oğlu Muhammed ve İbrahim ile birlikte arabasına bindikten kısa bir süre sonra yaşanan patlamayla araçtaki üç kişi hayatını kaybetti. 

20 kilogram ağırlığındaki TNT’nin uzaktan kumandayla patlamasıyla araba anında parçalandı. Cenazesine coşkulu bir kalabalık katıldı. Meydana gelen büyük patlamayla, araba paramparça olmuştu. Öyle ki patlamanın olduğu nokta derin bir çukura dönüşmüş ve olay yerine yakın olan elektrik hatları kopmuştu.