Dünyayı baş döndürücü bir hızla değiştiren yapay zekâ konusunda bu kez uyarı, teknolojinin temellerini atan isimlerden geldi.

“Yapay zekânın babası” olarak anılan ve 2024 Nobel Fizik Ödülü’nü alan Geoffrey Hinton, ABD Kongresi üyeleriyle gerçekleştirilen kapalı toplantının ardından çarpıcı açıklamalarda bulundu.

Hinton’a, yapay zekâyı kontrol altında tutacak güvenlik önlemlerinin oluşturulması için ne kadar zaman kaldığı soruldu.

Ünlü bilim insanının cevabı kısa oldu:

“Belki bir yıl, fakat bir yıldan çok daha fazla değil.”

Yapay zekâ artık yapay zekâ geliştiriyor

Hinton'ın endişesinin merkezinde teknolojinin ulaştığı yeni aşama bulunuyor.

Yapay zekâ sistemleri yalnızca insanların verdiği görevleri yerine getiren araçlar olmaktan çıkarak kod yazabilen, araştırma yapabilen ve daha gelişmiş sistemlerin geliştirilmesine yardımcı olabilen araçlara dönüşüyor.

Hinton'a göre yapay zekânın kendi gelişimini hızlandıran süreçlerde daha fazla rol üstlenmesi, gelecekte insan denetimini çok daha zor hale getirebilir. Bu nedenle güvenlik mekanizmalarının teknoloji kontrolden çıkmadan oluşturulması gerektiğini düşünüyor.

50 yıldan “birkaç yıl” ihtimaline

Hinton'ın dikkat çektiği bir diğer nokta ise tahminlerin ne kadar hızlı değiştiği.

İnsan zekâsını aşabilecek sistemlerin ortaya çıkmasının geçmişte onlarca yıl alabileceği düşünülürken son yıllardaki gelişmeler bu beklentilerin önemli ölçüde öne çekilmesine neden oldu.

Hinton, insanlardan daha akıllı sistemlerin ortaya çıkması halinde asıl problemin onların ne kadar yetenekli olacağından çok insanların bu sistemler üzerindeki kontrolünü nasıl koruyacağı olduğunu düşünüyor.

Kongre kapalı kapılar ardında toplandı

Hinton'ın açıklamaları sıradan bir konferansta yapılmadı.

ABD Senatörü Bernie Sanders'ın çağrısıyla 16 Eylül'de Kongre'de gerçekleştirilen özel toplantıya Hinton'ın yanı sıra MIT fizikçisi ve Future of Life Institute kurucularından Max Tegmark ile yapay zekâ güvenliği araştırmacısı Ajeya Cotra katıldı.

Toplantı basına kapalı gerçekleştirildi ve teknoloji şirketlerinin yöneticileri davetli listesinde yer almadı. Sanders toplantının amacını, yapay zekânın insanlık açısından oluşturabileceği olağanüstü risklerin doğrudan uzmanlarla ele alınması olarak açıkladı.

Washington’da “fren” tartışması büyüyor

Hinton yalnız değil.

Son dönemde yapay zekâ sektörünün içerisinden de teknolojinin gelişim hızının güvenlik çalışmalarının önüne geçebileceğine ilişkin uyarılar yükseliyor. Bazı teknoloji yöneticileri ve araştırmacılar gelişmiş modellerin daha sıkı testlerden geçirilmesini, bağımsız denetim mekanizmalarının kurulmasını ve ülkeler arasında ortak güvenlik standartlarının oluşturulmasını istiyor.

Ancak sektör bu konuda ikiye bölünmüş durumda. Bazı isimler koordineli bir yavaşlamayı desteklerken bazı teknoloji şirketlerinin yöneticileri yeni düzenlemelerin inovasyonu engelleyebileceğini düşünüyor.

Asıl soru: Fişi çekmek yeterli olacak mı?

Tartışmanın en çarpıcı taraflarından biri de “acil durdurma” mekanizması.

İlk bakışta çözüm basit görünüyor: Tehlikeli hale gelen sistem kapatılır.

Ancak Hinton ve bazı yapay zekâ güvenliği araştırmacıları, insandan çok daha gelişmiş bir sistem ortaya çıktığında bunun kendisini kapatmak isteyen insanları yanıltabilecek veya kapatılmasını engellemenin yollarını arayabilecek kapasiteye ulaşmasından endişe ediyor.

Bu nedenle uzmanların bir bölümü yalnızca bir “kapatma düğmesine” güvenmenin yeterli olmayacağını, güvenliğin sistemler çok daha güçlü hale gelmeden tasarlanması gerektiğini belirtiyor.

Hinton “Bir yıl sonra felaket olacak” demiyor

Hinton'ın sözlerinde önemli bir ayrıntı bulunuyor.

Nobel ödüllü bilim insanı “Bir yıl sonra yapay zekâ kesinlikle kontrolden çıkacak” demiyor. Uyarısı, etkili güvenlik ve denetim mekanizmalarını oluşturmak için elde bulunan zaman penceresinin tahmin edilenden çok daha kısa olabileceği yönünde.

Dolayısıyla ortada kesinleşmiş bir “kıyamet tarihi” değil, yapay zekânın gelişim hızına ilişkin son derece ciddi bir risk değerlendirmesi bulunuyor.

Fakat uyarıyı yapan kişinin, bugün dünyayı değiştiren yapay zekâ teknolojisinin temellerinin atılmasında büyük rol oynayan Geoffrey Hinton olması tartışmayı çok daha dikkat çekici hale getiriyor.

İnsanlığın önündeki soru artık yalnızca “Yapay zekâ ne kadar gelişecek?” değil.

Asıl soru şu:

İnsan, kendisinden daha akıllı hale gelebilecek bir teknolojinin kontrolünü elinde tutabilecek mi?