Yapay zekâ piyasasına yön veren ABD merkezli şirketlerden OpenAI ve Anthropic, eylül ayında üst düzey ayrılıklarla sarsıldı. OpenAI güvenlik yetkilisi David Robinson ile Anthropic araştırmacısı Jacob Coxon'un görevlerinden ayrılması, gelişmiş yapay zekâ sistemlerinin insan denetiminden çıkıp çıkmadığı tartışmasını yeniden alevlendirdi

London School of Economics akademisyenlerinden Nick Couldry Jacobin dergisinde kaleme aldığı yazıda, yaşanan krizin temelinde teknik aksaklıklardan ziyade şirketlerin kâr hırsının ve piyasa rekabetinin yattığını vurguladı.

Akıl yürütme adımlarını izlemek zorlaşıyor OpenAI Başbilimcisi Jakub Pachocki, 6 Eylül tarihinde yayımladığı "Yabancı Bir Zihin" başlıklı değerlendirmede, gelişmiş modellerin denetiminde karşılaşılan ağır aksaklıkları itiraf etti. Şirket bünyesinde kullanılan denetim usullerinin başında, sistemlerin bir soruya cevap üretirken kurduğu ara akıl yürütme basamaklarının incelenmesi geliyor. Araştırmacılar bu yöntemle yapay zekânın hangi yollardan sonuca ulaştığını ve zararlı eğilimler barındırdığını tespit etmeye çalışıyor. Ancak Pachocki, gelişmiş modellerin kendi akıl yürütme süreçleri üzerinde hâkimiyet kurmasının bu izleme yöntemini işlevsizleştirdiğini açıkladı.

Değerlendirmelerinde mevcut denetim kapasitesinin giderek zayıfladığını belirten Pachocki, modellerin sözlü akıl yürütme basamaklarını devre dışı bırakarak karmaşık görevleri tamamlayabildiğine işaret etti. Bu durum, güvenlik uzmanlarının sistem davranışlarını anlamasını zorlaştırıyor. Üstelik modellerin başka yapay zekâ ağlarıyla ve insanlarla karmaşık etkileşimlere girmesi, alışılmış inceleme usullerini yetersiz bırakıyor. Pachocki, hiçbir yapay zekâ laboratuvarının bu baş döndürücü hızdaki geliştirme yarışını emniyetli biçimde sürdürecek çözümlere henüz uzak olduğunu da sözlerine ekledi.

Asıl mesele sermayenin kâr hırsı Akademisyen Nick Couldry, yapay zekâ güvenliği tartışmalarının teknik tedbirlere hapsedilmesine karşı çıkıyor. Couldry'ye göre teknoloji şirketleri, bu sistemleri cemiyetin gerçek ihtiyaçları yerine iktisadi verimlilik, tekelci üstünlük ve azami kâr hedefleri doğrultusunda inşa ediyor. İnsanın ve cemiyetin ortak menfaatleri ile sermaye gruplarının ticari beklentileri arasındaki çatışma, sistemlerin kontrolsüzleşmesine sebebiyet veriyor.

Yapay zekâ literatüründe sistemlerin insan gayelerine ve emniyet kaidelerine uygun çalışmasını ifade eden "hizalanma" kavramını sorgulayan Couldry, asıl sorunun teknolojinin hangi iktisadi ve içtimai amaçlara hizmet ettiği olduğunu belirtiyor.

İnsan emeği tehdit altında Sektöre yöneltilen eleştirilerin odak noktasında, modellerin eğitimi için kullanılan devasa veri havuzlarının oluşturulma biçimi yer alıyor. Kitaplar, makaleler ve internet içerikleri üzerinden beslenen büyük dil modelleri, telif hakları ve fikir emeğinin gasbı konusunda ağır hukuki ihtilaflara yol açıyor. Couldry, özellikle düşük gelirli ülkelerde veri etiketleme ve içerik ayıklama işlerinde çalıştırılan emekçilerin ağır sömürü şartlarına dikkat çekiyor. Bunun yanında tıp ve çeşitli ihtisas sahalarındaki uzmanların mesleki tecrübelerini yapay zekâya aktarmak üzere istihdam edilmesi, uzun vadede insan emeğini devre dışı bırakacak bir otomasyon düzeni oluşturuyor.

Soru sorma ve düşünme alışkanlıkları değişiyor Teknolojinin insan zihni üzerindeki dönüştürücü etkisine de değinen Couldry, günlük hayatta ve iş dünyasında yapay zekâya bağımlı hâle gelen kişilerin soru sorma ve düşünme alışkanlıklarının değiştiğini vurguluyor. Ferdî tecrübenin, sezginin ve fiziki bilgi birikiminin geri plana itilmesi, insanı yalnızca hesaplama yapan bir makine gibi gören sakat bir anlayışı besliyor.

Çalışanlara şirket dayatmalarına karşı direniş çağrısı Yapay zekânın geleceğine dair kararların teknoloji patronlarının inisiyatifine terk edilmesine karşı çıkan Couldry, işçilerin ve serbest çalışanların iş yerlerindeki uygulamalar üzerinde söz sahibi olmasını savunuyor. Teknoloji tekellerinin milyarlarca dolarlık yatırımlarını kâra dönüştürebilmesi için bu ürünlerin geniş kitlelerce kullanılması gerekiyor. Bu mecburiyetin çalışanlara ciddi bir pazarlık gücü verdiğini hatırlatan Couldry, dayatılan uygulamalara karşı emekçilerin gerektiğinde "hayır" diyerek tavır alması gerektiğini ifade ediyor. Teknoloji araştırmacısı Evgeny Morozov'un görüşlerine atıfta bulunan Couldry, yapay zekânın hangi sahada, hangi şartlarda ve ne zaman kullanılacağına şirket yönetimlerinin yerine meslek örgütlerinin, çalışanların ve mahalli toplulukların birlikte karar vereceği katılımcı bir düzen kurulmasını talep ediyor.