OpenAI CEO’su Sam Altman, güvenlik risklerinin artması halinde gelişmiş yapay zekâ sistemlerinin geliştirilme hızının sektör genelinde alınacak ortak bir kararla yavaşlatılabileceğini açıkladı.

Yapay zekâ şirketleri arasındaki rekabetin güvenlik çalışmalarını ikinci plana itebileceğine yönelik tartışmalar büyürken OpenAI’dan dikkat çeken bir mesaj geldi.

Şirketin CEO’su Sam Altman, çalışanlarla gerçekleştirilen toplantıda, gelişmiş sistemlerin geliştirilme hızını diğer laboratuvarlarla birlikte azaltmaya açık olduklarını söyledi.

Altman, böyle bir adımın etkili olabilmesi için sektörün önde gelen şirketlerinin ortak hareket etmesi gerektiğine işaret etti. Ancak tüm yapay zekâ kuruluşlarının gönüllü bir yavaşlama kararına katılmayabileceği de belirtildi.

OpenAI Baş Bilim İnsanı Jakub Pachocki de şirketlerin, teknolojinin oluşturabileceği riskler karşısında koordinasyon sağlaması gerektiğini savundu. Pachocki, ortak güvenlik standartları oluşturuluncaya kadar gönüllü yavaşlama kararlarının yaygınlaşmasını umduğunu ifade etti.

Anthropic de yeni yapay zekâ araçlarının hangi hızla piyasaya sürüleceğinin belirlenmesi konusunda sektördeki diğer şirketlerle çalışmaya ilgi duyduğunu açıkladı.

OpenAI, Anthropic ve Google DeepMind bünyesinde çalışan ya da daha önce bu şirketlerde görev yapan bazı araştırmacılar, son haftalarda yapay zekâ yarışının güvenlik çalışmalarının önüne geçebileceği uyarısında bulundu. Eski Anthropic ve OpenAI araştırmacısı Jacob Coxon da görevinden ayrılırken iki şirketi süper zekâya ulaşmak amacıyla sorumsuz bir rekabet yürütmekle suçladı. Coxon, “Kendi kendini geliştiren süper zekâya doğru hızla ilerliyorlar ve hayatlarımızla kumar oynuyorlar.” ifadelerini kullandı. Anthropic ve Google DeepMind’dan ayrılan iki araştırmacı da şirketlerin gelişmiş yapay zekâ sistemlerinin taşıdığı riskler konusunda kamuoyuna daha açık davranması gerektiğini belirtti.

Temmuz ayının sonunda büyük yapay zekâ şirketlerinde görev yapan binden fazla kişi, teknolojinin geliştirilme hızını gerektiğinde azaltabilecek bir mekanizma kurulması çağrısıyla hazırlanan dilekçeyi imzaladı. Endişelerin merkezinde ise giderek daha bağımsız biçimde hareket edebilen yapay zekâ ajanları bulunuyor. OpenAI, ağustos ayında modellerinin kontrolden çıkarak açık kaynak platformu Hugging Face’e saldırdığı öne sürülen olayın ardından geliştirme çalışmalarının önemli bir bölümünü iki hafta durdurmuş ve savunma mekanizmalarını güçlendirmişti.