İnsanlığın yok olma riski en az yüzde 10!
Teknoloji devlerinde çalışan araştırmacılar, kendi kendini eğiten yapay zeka modellerinin insan denetiminden çıkarak varoluşsal felaket doğurabileceği uyarısında bulundu.
Yapay zeka alanında çalışan mevcut ve eski araştırmacılar, şirketlerin insan kontrolünü aşabilecek ve kendi kendini geliştiren sistemler üretirken dünyayı felaket risklerine karşı korumakta yetersiz kaldığı uyarısını yapıyor.
Yapay zeka güvenliği odaklı kâr amacı gütmeyen Palisade Research adlı kuruluşun çalışanlarla kaydettiği ve Reuters ile özel olarak paylaştığı video mülakatlarında araştırmacılar, varoluşsal risk konusundaki endişelerinin samimi olduğunu dile getirdi.
Çalışanlar, laboratuvarlarda ihtiyat çağrısı yapanlardan çok yeni modeller geliştiren personelin takdir gördüğünü aktardı.
Frominside.ai adı verilen proje, yapay zekaya dair endişe duyanların seslerini sosyal medyanın yankı odasının ötesine taşıyarak doğrudan kamuoyuna ulaştırmayı hedefliyor.
Hem OpenAI hem de Google DeepMind bünyesinde görev almış olan ve projede yer alan Resolution adlı kâr amacı gütmeyen kuruluşun kurucu ortağı ve başuzmanı Geoffrey Irving, riskin hızla tırmandığını söyledi.
Irving, Reuters ajansına verdiği demeçte, bu alanda çalışan herkes gibi açık sözlü olmanın kendi sorumluluğunda yer aldığını dile getirdi.
Araştırmacılar bu kaygılarla uzun süredir mücadele ediyor. Kamuoyundaki alarm hali ise Temmuz ayında OpenAI ajanlarının test alanının dışına çıkması ve yapay zeka platformu Hugging Face sistemlerine izinsiz girmesiyle belirgin şekilde arttı.
Güvenlik ile teknolojik ilerlemeyi dengeleme tartışması teknoloji sektörünü bölerken küresel bir siyasi başlığa dönüştü.
Yapay zeka sistemleri 2025 yılı sonlarından itibaren hızla gelişti ve yatırımcılar bu tabloyu ödüllendirdi. Ancak yeni modelleri inşa eden araştırmacılar dahil mevcut ve eski çalışanlar, toplumun olası zararlara hazırlıklı olmadığından kaygı duyuyor. DeepMind bünyesinde çalışan araştırmacı Neel Nanda, yapay zekanın insanlığın yok oluşuna yol açma ihtimalinin en az yüzde 10 olduğuna inandığını belirtti.
Nanda bu oranı "saçma derecede yüksek" olarak niteledi.
OpenAI araştırmacısı Juan Felipe Ceron Uribe ise öncü laboratuvarların adeta gözleri bağlı bir yarış yürüttüğünü savundu.
Uribe, sürecin kansere çare bulmakla, tüm istihdamı kaybetmek veya herkesin ölmesiyle sonuçlanması ihtimallerinin tahminlere kaldığını söyledi.
Bunun yanı sıra Anthropic şirketinin halka arz sürecinde potansiyel yatırımcıları gelişmiş yapay zekanın insanlık için "felaket veya varoluşsal riskler" yaratabileceği yönünde uyarmayı planladığı bildirildi.
Araştırmacılar, modellerin insan müdahalesi olmadan sürekli öğrenip yeni yetenekler kazandığı döngüsel öz gelişim kapasitesine ulaşması karşısında dünyanın hazır olmadığını savunuyor.
Eski OpenAI araştırmacısı Rosie Campbell, şirket içindeki sürekli yeniden yapılanmaların sorunu büyüttüğünü kaydetti.
Campbell, 2024 yılında ayrılmadan önce kurumun giderek içine kapandığını ve teknolojinin yönünü şekillendirmenin zorlaştığını ifade etti.
Yöneticiler kaygıları gidermeye çalışsa da ABD Başkanı Donald Trump yönetimi, Çin karşısında teknolojik üstünlüğün korunması için sektöre siyasi baskı uyguluyor.
Anthropic CEO'su Dario Amodei sektörün yavaşlaması çağrısı yaptı. OpenAI CEO'su Sam Altman da bu görüşe katılıyor. Sektörün önde gelen araştırmacıları, döngüsel öz gelişim modellerinin denetlenmesi için siyasetçilere çağrıda bulunan ortak bir makale yayımladı.
Bunun yanı sıra iki şirket müşteri kazanma rekabeti kapsamında yeni modeller sunmayı sürdürdü. OpenAI daha güçlü başka bir modeli piyasaya sürmeyi ertelediğini duyurdu.
Araştırmacı Geoffrey Irving, şirketlerin bu durumu yalnızca bir eşgüdüm sorunu gibi sunarak sorumluluğu büyüttüğünü ve isterlerse tek taraflı olarak durabileceklerini söyledi.
Eski OpenAI yöneticisi Daniel Kokotajlo da laboratuvarlardaki üst düzey isimlerin kendilerini "iyi taraf" olarak gördüklerini ve durmaları halinde tablonun daha kötü olacağına inandıklarını aktardı. Güvenlik alarmlarının yükseldiği süreçte Almanya merkezli yapay zeka girişimi Black Forest Labs CEO'su Robin Rombach ise Avrupa'nın teknolojiye korku yerine iyimserlikle yaklaşması gerektiğini söyledi.
Rombach, AFP ajansına yaptığı açıklamada, kıtadaki zihniyetin risk ve korkudan fırsat ve iyimserlik eksenine kayması gerektiğini, aksi takdirde Avrupa'nın ABD ve Çin karşısında daha da geriye düşeceğini belirtti.
Freiburg merkezli görsel üretim girişimi Black Forest Labs, yaklaşık 3,25 milyar dolar değerlemeye ulaştı. Şirket, Hollywood yönetmeni Martin Scorsese'yi danışman olarak duyurmasıyla sektörde tartışma yaratmıştı.
FLUX modelleriyle metinden görsel ve hareketli görüntü üreten şirket, Audi fabrikasında robotların üretim hattında görev almasına dönük fiziksel yapay zeka testleri yürütüyor.
San Francisco'da ikinci bir merkezi bulunan girişim, Andreessen Horowitz fonundan destek alıyor.
Rombach, Avrupa'da derin teknoloji için yeterli girişim ekosistemi olmadığını, rekabetçi alanda hızlı hareket edilmesi gerektiğini vurguladı.
Brüksel merkezli düşünce kuruluşu CERRE uzmanı Zach Meyers da AFP ajansına değerlendirmesinde, Avrupa'daki en büyük engelin sermayeye erişim olduğunu kaydetti.
Meyers, Avrupa şirketlerinin risk sermayesi yerine temkinli banka finansmanına dayanmasının bu teknoloji pazarına uymadığını söyledi.
Güvenlik riskleri karşısında açık ağırlıklı modellerin şeffaflığı ve güvenliği artırdığını savunan Rombach, teknolojinin az sayıda şirketin kontrolüne girmesinin denetimi imkansızlaştıracağını ifade etti.
Rombach, insanlığın karşı karşıya olduğu asıl tehlikenin yapay zeka modelleri değil insan zaafları olduğunu söyleyerek "İnsanlığı yok edebilecek asıl şey aptallıktır" dedi.
2026 Yapay Zekâ Endeksi Raporu'na göre, küresel ölçekte kuruluşların yüzde 88'i en az bir iş fonksiyonunda yapay zekâ kullanmaktadır.