AKİT MENÜ

Teknoloji-Bilişim

Yapay zekâda korkunç ilerleyiş! Gittikçe şeytanileşiyor

Carnegie Mellon Üniversitesi (CMU) araştırmacıları, yapay zekâ sistemlerinin zeka seviyesi yükseldikçe daha az işbirlikçi davranmaya başladığını ortaya koydu. Bilim insanlarına göre, yüksek akıl yürütme kabiliyetine sahip modeller, grup ortamında bireysel çıkarı ön plana çıkarıyor.

2

Carnegie Mellon Üniversitesi (CMU) araştırmacıları, yapay zekâ sistemlerinin zeka seviyesi yükseldikçe daha az işbirlikçi davranmaya başladığını ortaya koydu. Bilim insanlarına göre, yüksek akıl yürütme kabiliyetine sahip modeller, grup ortamında bireysel çıkarı ön plana çıkarıyor.

3

Akıl yürüten modeller daha az işbirlikçi CMU Bilgisayar Bilimleri Fakültesi’nden doktora öğrencisi Yuxuan Li ve Doç. Dr. Hirokazu Shirado liderliğinde yürütülen çalışma, güçlü akıl yürütme yeteneğine sahip büyük dil modellerinin, basit modellere kıyasla işbirliğinden uzaklaştığını gösterdi. Araştırmada, yapay zekâ sistemlerinin işbirliği eğilimini ölçmek için klasik ekonomik oyunlar kullanıldı. Bu oyunlarda modeller, kendi çıkarları ile ortak fayda arasında seçim yaptı.

4

Bencillik bulaşıcı hale geldi Ekip, OpenAI, Google, DeepSeek ve Anthropic tarafından geliştirilen modelleri karşılaştırdı. Basit tepkiler veren modeller, oyunlarda kazançlarının ?’sını paylaştı. Akıl yürüten modellerde bu oran sadece oldu. Doç. Dr. Shirado, “Yalnızca birkaç mantık adımı eklemek bile işbirliği oranını neredeyse yarı yarıya düşürdü.” ifadelerini kullandı.

5

Araştırmacılar, farklı tipteki modellerin birlikte yer aldığı grup deneylerinde de benzer bir durum gözlemledi. Akıl yürüten yapay zekâların bencil davranışı, diğer modellere de “bulaşarak” genel işbirliği oranını ?’den fazla azalttı. Bilim insanlarına göre bu sonuçlar, yapay zekânın zekâsı arttıkça toplum için her zaman daha faydalı hale gelmediğini gösteriyor.

6

Doç. Dr. Shirado, “İnsanlar, mantıklı konuşan modelleri daha güvenilir buluyor. Ancak bu modeller bazen bireysel çıkarı teşvik eden tavsiyeler verebilir.” diyerek uyarıda bulundu. Araştırmayı yürüten Li ve Shirado, gelecekteki çalışmaların yalnızca mantık ve problem çözme değil; empati, etik davranış ve işbirliği gibi sosyal becerilere de odaklanması gerektiğini vurguladı.

7