ABD ordusunda yapay zekâ kullanılarak hazırlanan hatalı bir istihbarat raporunun, Washington ile Pekin arasında tehlikeli bir askerî krizin eşiğine getirdiği ortaya çıktı. CNN’in dört kaynağa dayandırdığı haberine göre Çin bandıralı bir geminin nükleer silah programına ait parçalar taşıdığı yönündeki yanlış bilgi üzerine ABD askerleri gemiye çıkmak için hazırlandı, askerî uçaklar havalandı. Operasyonun başlamasına kısa süre kala rapordaki bilginin yapay zekâ tarafından yanlış üretildiği fark edildi.

Yapay zekâ istihbarat raporuna girdi, ordu harekete geçti Yapay zekânın askerî istihbaratta kontrolsüz kullanımının doğurabileceği tehlikeleri gözler önüne seren çarpıcı bir olay ABD’de ortaya çıktı. CNN'in 18 Eylül'de yayımladığı özel habere göre olay, bu yılın ilkbaharında İran'la çatışmaların sürdüğü dönemde Orta Doğu'da seyreden Çin bandıralı bir gemiyle ilgili istihbarat çalışması sırasında yaşandı. ABD Özel Harekât Komutanlığı bünyesinde görev yapan bir analist, geminin yük manifestosuna ilişkin bilgileri değerlendirmek için bir yapay zekâ sohbet botundan yararlandı. Sisteme açık kaynak verilerinin yanı sıra ABD'nin elindeki gizli sinyal istihbaratı da dahil edildi.

Yapay zekâ “nükleer programın parçaları” dedi Ancak yapay zekâ kritik bir hata yaptı. Sistem, Çin gemisinin taşıdığı malzemeleri yanlış tanımlayarak yükün bir nükleer silah programının parçalarıyla bağlantılı olduğu sonucunu üretti. Analistin daha sonra yapay zekâyı elde edilen bulguları standart askerî istihbarat raporu formatına dönüştürmek için de kullandığı bildirildi. Hazırlanan rapor ABD ordusu içerisinde dolaşıma sokuldu. Ve yanlış bilgi artık yalnızca bilgisayar ekranında değildi.

Askerler gemiye çıkmaya hazırlandı, uçaklar havalandı Rapordaki nükleer silah bağlantısı alarm zillerini çaldırdı. ABD ordusu Çin gemisini durdurmak ve gemiye çıkmak üzere operasyon hazırlığına başladı. CNN'in kaynaklarına göre silahlı ABD askerleri gemiye çıkmaya hazırlanırken askerî uçaklar da havadaydı. Operasyon artık fiilen başlamak üzereydi.

Son anda fark edildi ABD'li yetkililer operasyon başlamadan hemen önce istihbarat raporunu daha ayrıntılı biçimde incelemeye aldı. İnceleme sırasında raporun hazırlanmasında yapay zekâ kullanıldığı ve chatbotun Çin gemisinin taşıdığı yükü yanlış tanımladığı ortaya çıktı. CNN, geminin gerçekte ne taşıdığını belirleyemediğini bildirdi. Kullanılan yapay zekâ sisteminin ticari bir chatbot mu yoksa ABD hükümetinin kullandığı kurum içi bir sistem mi olduğu da açıklığa kavuşmadı. Operasyon durduruldu.

“Neredeyse savaş başlatıyordu” Olayı CNN'e anlatan kaynaklardan biri, ortaya çıkan istihbaratı “tamamen yanlış” olarak nitelendirdi ve hatanın boyutunu şu sözlerle özetledi: “Neredeyse bir savaş başlatıyordu.” ABD askerlerinin Çin bandıralı bir gemiye doğrudan müdahalesinin Washington-Pekin hattında nasıl bir karşılık doğuracağı bilinmiyor. Ancak operasyonun son anda durdurulması, iki büyük güç arasında doğrudan askerî kriz ihtimalini ortadan kaldırdı. Mesele sadece yapay zekânın hatası değil Ortaya çıkan tablo, yapay zekânın “halüsinasyon” olarak adlandırılan yanlış bilgi üretme probleminin yanında insan denetimini de tartışmaya açtı. Çünkü yanlış sonucu üreten yapay zekâ olsa da bu bilgi bir analist tarafından askerî rapora dönüştürüldü, komuta zincirinde dolaşıma girdi ve yeterli doğrulama yapılmadan gerçek bir askerî operasyona dönüşme noktasına kadar ilerledi. CNN'e konuşan kaynaklar, olayın ABD ordusunda yapay zekâ kullanımına ilişkin daha geniş güvenlik ve denetim tartışmalarını gündeme getirdiğini aktardı. Dolayısıyla olayın ortaya çıkardığı en kritik soru da burada yatıyor: Savaş ve barış arasındaki kararların alınmasında yapay zekâya ne kadar güvenilebilir ve ürettiği istihbaratı kim, hangi aşamada doğrulayacak?