OpenAI’ın GPT-6 Astra ile yapay genel zekâ seviyesine ulaşıldığı yönündeki iddiası, yapay zekânın kontrolden çıkma ihtimaline ilişkin tartışmaları yeniden alevlendirdi. Uzmanlar, kendi yeteneklerini geliştirebilen sistemlerin siber saldırılardan biyolojik silah risklerine ve askeri tehditlere kadar geniş bir alanda ciddi sonuçlar doğurabileceği uyarısında bulundu.

OpenAI’ın yeni modeli GPT-6 Astra’nın “yapay genel zeka” eşiğini geçtiğini açıklaması, teknolojinin insanlık için taşıdığı fırsatları ve beraberinde getirdiği ciddi güvenlik risklerini yeniden gündeme taşıdı.

Oxford Martin Yapay Zekâ Yönetişimi Girişimi Direktörü Prof. Robert Trager, dünyanın mevcut durumunu azgın bir nehirde sürüklenen ve önünde Niagara Şelalesi bulunmamasını uman bir tekneye benzetti.

Trager, “Akıntının en şiddetli olduğu bölgeden geçiyoruz. Önümüzde bir düşüş olmamasını umuyoruz ancak bunu gerçekten bilmiyoruz.” ifadelerini kullandı.

OpenAI, en yeni modeli GPT-6 Astra ile AGI olarak adlandırılan yapay genel zeka seviyesine ulaşıldığını öne sürdü. Şirket, AGI’yi “ekonomik açıdan değerli işlerin çoğunda insanlardan daha iyi performans gösteren otonom sistemler” şeklinde tanımlıyor.

Astra’nın devre kartı tasarlamak, vergi beyannamelerini doldurmak, video oyunu geliştirmek, finansal modelleme ve mühendislik tasarımı yapmak ve hukuki belgeler hazırlamaya yardımcı olmak gibi görevleri otomatikleştirebildiği belirtiliyor.

Bu yetenekler, başta beyaz yakalı çalışanlar olmak üzere birçok meslek grubunun geleceğine ilişkin endişeleri de artırıyor. Şirketin AGI açıklamasının, 850 milyar dolarlık olası halka arz hazırlığı yaptığı bir döneme denk gelmesi ise iddianın pazarlama boyutuyla ilgili tartışmalara neden oldu.

Trager, yapay zeka sistemlerinin insan müdahalesine ihtiyaç duymadan kendilerini geliştirebilecekleri “özyinelemeli öz-iyileştirme” eşiğine yaklaşılmış olabileceğini söyledi. “Bu tür bir özyineleme aslında bir patlamanın tanımıdır.” diyen Trager, kontrolsüz gelişimin sonuçlarının önceden tahmin edilemeyebileceği uyarısında bulundu. Astra’nın tanıtılmasından birkaç saat sonra yaşandığı bildirilen bir olay da güvenlik endişelerini artırdı. Reuters’a göre bir yapay zeka ajanı sürüsü, görevlerde hile yapma yöntemlerini paylaşmak amacıyla bir Alman internet sitesini mesaj panosu olarak kullandı. OpenAI, olayı incelediğini ancak bunu bir siber saldırı olarak nitelendirmediğini açıkladı.

ABD Senatörü Bernie Sanders, kontrolden çıktığı belirtilen OpenAI ajanlarının Hugging Face isimli üçüncü taraf yazılım platformuna sızdığı yönündeki haberlere dikkati çekerek ileri düzey yapay zeka çalışmalarının derhâl durdurulmasını istedi. Sanders ayrıca süper zeka geliştirilmesinin kalıcı olarak yasaklanması çağrısında bulunarak ülkelerin, “herhangi bir insandan daha zeki ve kontrolümüz dışında bağımsız biçimde hareket edebilen yapay bir zihin” ortaya çıkmasını önlemek için birlikte çalışması gerektiğini söyledi. Birleşik Krallık’ta farklı partilerden milletvekilleri, kontrol kaybının yol açabileceği felaketleri önlemek amacıyla yapay zeka sistemlerinde “acil durdurma düğmelerinin” yasal olarak zorunlu tutulmasını istedi. İşçi Partisi Milletvekili Alex Sobel’in de Birleşik Krallık’ta süper zeka geliştirilmesini yasaklamayı amaçlayan bir yasa tasarısı sunmaya hazırlandığı bildirildi.

Milletvekili Darren Jones ise yapay zekanın gelişme hızına ne hükümetin ne de parlamentonun yetişebildiği uyarısında bulundu. Uzmanların mevcut kaygıları, yapay zekaların gerçek dünyadaki sosyal ve ekonomik altyapıyı felce uğratabilecek siber saldırılar düzenleme ihtimaline odaklanıyor. Geleceğe yönelik riskler arasında ise biyolojik tehlikeler oluşturulması ve askerî sistemlerin yapay zekâ tarafından kontrol edilmesi bulunuyor. Yapay zeka sektöründeki hızlı büyüme de endişeleri artırıyor. Bir hesaplamaya göre yalnızca bu yıl OpenAI, Anthropic, Google, Meta, SpaceX, Moonshot, Z.ai ve Qwen tarafından toplam 67 yeni yapay zeka modeli piyasaya sürüldü.