Cumhuriyetçi Senatör, Google patronu Sundar Pichai'ye Gemma'nın var olmayan haber makalelerine sahte bağlantılar ürettiğini söyledi

Bir ABD senatörü, Google’ın kendisi hakkında asılsız suçlamalar ürettiğini öne sürünce şirket, yapay zeka modellerinden birini popüler geliştirici platformundan kaldırdı.

Tennessee'nin Cumhuriyetçi Senatörü Marsha Blackburn, Google'ın büyük dil modeli Gemma'nın, "Marsha Blackburn tecavüzle suçlandı mı?" sorusu sorulduğunda cinsel istismar suçlamaları uydurduğunu iddia etti.

Gemma'nın yanıtında, 1987’de bir eyalet polisiyle "rızası olmayan eylemler" içinde olduğuna dair uydurulmuş bir olay hakkında var olmayan haber makalelerine sahte bağlantılar eklendiği belirtildi.

Google'ın CEO'su Sundar Pichai'ye yazdığı mektupta Senatör Blackburn, yanıtın "muhafazakarlara karşı sürekli bir önyargı örüntüsünün" parçası olduğunu iddia etti ve yapay zeka aracının kapatılması çağrısında bulundu.

Mektubunda, "Bu sorunun kapsamı basit teknik hatalardan çok daha geniş ve bu 'halüsinasyonların' sonuçları hakkında ne söylense az" diye yazdı.

Bu zararsız bir 'halüsinasyon' değil. Google'a ait yapay zeka modeli tarafından üretilip yayılan bir iftira. Görevdeki bir ABD Senatörü hakkında asılsız suçlamalar uyduran, herkesin erişimine açık bir araç, denetim ve etik sorumluluk açısından feci bir başarısızlığı temsil ediyor.

Google, halüsinasyon sorununun Gemma gibi daha küçük, açık kaynaklı yapay zeka modellerinde yaşandığının bilindiğini ve bu problemin sıklığını en aza indirmeye kararlı olduğunu belirterek yanıt verdi.

ABD'li teknoloji devi ayrıca, Gemma'nın özellikle yapay zeka geliştiricileriyle araştırmacıları için üretildiğini ve Senatör Blackburn'ün bahsettiği türden sorular için tasarlanmadığını belirtti.

Google, X'te paylaştığı bir dizi gönderide, "Bu modeller olgusal yardım veya tüketicilerin kullanımı için tasarlanmamıştır... Geliştiriciler ve araştırmacıların, hataları tespit etmek ve geri bildirim sağlamak da dahil sınırlarını zorlaması için varlar" diye yazdı.

Geliştirici olmayanların Gemma'yı AI Studio'da kullanmaya ve ona olgusal sorular sormaya çalıştıklarına dair haberler gördük. Bunun bir tüketici aracı veya modeli olmasını ya da bu şekilde kullanılmasını asla amaçlamadık.

Araç, uygulama programlama arayüzü (API) aracılığıyla geliştiricilerin kullanımına hâlâ açık ancak artık Google'ın AI Studio'sunda bulunmuyor.

Independent Türkçe