3 Ağustos 1927’de Uşak’ta doğdu. Dedesi Hâfız Süleyman Efendi, aslen Denizli’nin Kadıköy (1935’te Babadağ adını almıştır) ilçesindendi, bu nedenle “Kadıköylüler” diye tanındı. İlk temel dinî bilgileri dedesi ve babasından aldı. Uşak’taki orta öğreniminin ardından 1949’da Ankara Üniversitesi Tıp Fakültesi’ne sonrada, aynı üniversitede İlâhiyat Fakültesine kaydını yaptırdı. Cumhuriyet dönemi yüksek din eğitimini ilk tamamlayan öğrencilerdendir. Fakültede en çok Muhammed Tayyib Okiç hocasından etkilendi.



Boşnak asıllı Okiç’ten tefsir ve hadis konularında yararlandı. Mezun olduktan sonra 1953’te aynı fakültede asistan oldu. Okiç’in danışmanlığında Hadislerin Toplanması ve Yazı ile Tesbiti adlı doktora tezini tamamladı (1957). Doktora tezinin ardından kaleme aldığı eserler Türkiye’deki hadis öğretimi ve akademik hadisçiliğin kaynakları arasında yer aldı.

Talât Koçyiğit, Türkiye’de hadis konularını akademik seviyede ele alan ilk kişidir. Hadis sahasında üniversitede gerçekleştirilen çalışmaların çoğu onun nezaretinde yapıldı. Koçyiğit, 1957-1958 yıllarında gittiği Bağdat’ta altı-yedi ay, 1963’te gittiği Tunus’ta yirmi ay kaldı. 1967’de doçent oldu. 1972’de üniversite tarafından bir yıllığına Fransa’ya gönderildi. 1975’te profesörlük kadrosuna tayin edildi.



1980’li yıllarda Rusya (Azerbaycan, Özbekistan vb.), Mısır ve İngiltere’ye kısa süreli seyahatler gerçekleştirdi. 12 Eylül sonrası dönemde Ankara Üniversitesi İlâhiyat Fakültesi’nde dekanlık yaptı (1982-1985). 1984’te hacca gitti. 1994’te yaş haddinden emekli oldu.



Emeklilik döneminde İsmail Cerrahoğlu ile birlikte başladıkları, ancak kendisinin tek başına devam ettiği tefsiri vefatına yakın on cilt halinde tamamlandı. Ehl-i sünnet inancına bağlanmayı, hadis aleyhindeki propagandalara kapılmamayı tavsiye etti.

18 Nisan 2011’de kalp krizi sonucu vefat etti. Cenazesi 20 Nisan günü Cebeci Asrî Mezarlığı’na defnedildi.