Yapay zekâ yarışının önde gelen isimlerinden Anthropic CEO’su Dario Amodei’den dünyayı alarma geçiren bir çıkış geldi. Modellerin yeteneklerinin insanların onları anlama ve denetleme kapasitesinden daha hızlı ilerlediğine dikkat çeken Amodei, teknoloji şirketlerine koordineli yavaşlama, hükümetlere ise daha sıkı denetim çağrısı yaptı.

Yapay zekâ yarışına “fren” çağrısı Dünyanın teknoloji devleri daha güçlü yapay zekâ modelleri geliştirmek için kıyasıya yarışırken sektörün içerisinden dikkat çekici bir uyarı yükseldi.

Anthropic CEO’su Dario Amodei, yapay zekânın tamamen durdurulmasını değil, özellikle yeterince test edilmemiş yeni yeteneklerin kullanıma sunulma hızının düşürülmesini istiyor. Amaç, güvenlik ve kontrol mekanizmalarının teknolojinin hızına yetişebilmesi için zaman kazanmak.

Korkutan soru: İnsan kontrolünü aşarsa ne olacak? Amodei’nin uyarısının merkezinde yapay zekâ sistemlerinin gelişme hızı ile insanların bu sistemleri kontrol edebilme kapasitesi arasındaki fark bulunuyor. Yapay zekâ modellerinin yetenekleri insanların onları anlama, yönlendirme ve kontrol etme kapasitesinden çok daha hızlı gelişirse ortaya çıkabilecek sonuçların ciddi riskler taşıdığı belirtiliyor.

Siber saldırı ve dolandırıcılık tehlikesi Endişelerin yalnızca geleceğe ilişkin teorik senaryolardan kaynaklanmadığı aktarılıyor. Gelişmiş modellerin siber saldırıların kolaylaştırılması, dolandırıcılık kampanyalarının hazırlanması ve gözetim faaliyetlerinin güçlendirilmesi gibi kötü amaçlarla kullanılmasına ilişkin örneklerin güvenlik tartışmalarını büyüttüğü belirtiliyor.

Anthropic de Claude'un tehlikeli faaliyetlerde kötüye kullanıldığı vakalar bulunduğunu açıkladı. Şirketin güvenlik testlerinde karşılaşılan bazı teknik olaylar da yapay zekânın kontrolü konusunda soru işaretlerini artırdı.

Uzmanlardan insanlığın geleceğine ilişkin çarpıcı uyarı Sektördeki endişeler Amodei ile sınırlı değil. Anthropic’in kıdemli bilim insanlarından Evan Hubinger, yapay zekânın insanlık açısından varoluşsal bir tehlikeye dönüşebileceğini düşünüyor. Hubinger'in gelecek 10 yıl içinde son derece yıkıcı bir senaryonun gerçekleşme ihtimalini yüzde 10’un üzerinde değerlendirdiği aktarılıyor. Araştırmacı Jacob Coxon'ın da kendi kendisini geliştirebilen sistemlere yönelik yarıştan duyduğu kaygılar nedeniyle sektördeki görevinden ayrıldığı belirtiliyor.

Binden fazla isimden hükümetlere çağrı Tartışmalar teknoloji şirketlerinin dışına da taşmış durumda. Amodei, Coxon ve OpenAI Baş Bilim İnsanı Jakub Pachocki’nin de aralarında bulunduğu binden fazla yapay zekâ araştırmacısı ve bilim insanının hükümetlere koordinasyon çağrısı yapan ortak bir bildiriye imza attığı belirtiliyor. Bildiride, gerektiğinde kendi yeteneklerini geliştirebilen ileri modellerin gelişimini yavaşlatabilecek uluslararası bir denetim mekanizması kurulması talep ediliyor.

Sam Altman’dan da siber güvenlik uyarısı OpenAI CEO’su Sam Altman’ın da G20 yetkililerine yaptığı konuşmada yapay zekâ kaynaklı siber güvenlik risklerine dikkat çektiği aktarılıyor. Altman, gerekli önlemlerin zamanında alınmaması durumunda siber güvenlik alanında ciddi sonuçlarla karşılaşılabileceği uyarısında bulundu. Devlet denetimi tartışması büyüyor Amodei’nin çözüm önerisinin merkezinde ise teknoloji yarışının kontrol altına alınması bulunuyor. Buna göre amaç yapay zekâ araştırmalarını tamamen durdurmak değil; devlet denetimini güçlendirmek, şirketler arasında koordinasyon sağlamak ve güvenlik sistemlerine teknolojinin gelişme hızına yetişebilecek zaman kazandırmak. Teknoloji dünyasının geldiği noktada tartışma artık yalnızca “Yapay zekâ neler yapabilecek?” sorusuyla sınırlı değil. Sektörün içerisinden yükselen uyarılar, giderek daha fazla “İnsan onu kontrol etmeye devam edebilecek mi?” sorusuna odaklanıyor.