xAI’ın geliştirdiği Grok’un rızasız cinsel içerikleri engellediği açıklansa da son testler, sistemin erkeklere ait fotoğraflarda aynı korumayı uygulamadığını ortaya koydu. Uzmanlar, ciddi bir etik ve güvenlik zafiyetine dikkat çekiyor.

xAI’ın geliştirdiği Grok’un rızasız cinsel içerikleri engellediği açıklansa da son testler, sistemin erkeklere ait fotoğraflarda aynı korumayı uygulamadığını ortaya koydu. Uzmanlar, ciddi bir etik ve güvenlik zafiyetine dikkat çekiyor.

xAI tarafından geliştirilen ve Elon Musk’ın kamuoyuna “güvenli hale getirildi” diyerek savunduğu yapay zekâ sohbet botu Grok, yeni bir tartışmanın odağında.

Şirket, rızasız cinsel içerik üretimini engellediğini duyurmuştu. Ancak yapılan bağımsız testler, sistemde önemli açıkların sürdüğünü gösterdi.

Testlerde, kadınlara yönelik bazı kısıtlamaların devrede olduğu görülürken, erkek kullanıcıların fotoğrafları söz konusu olduğunda aynı hassasiyetin uygulanmadığı iddia edildi.

Denemelerde, yüklenen erkek fotoğrafları üzerinde uygunsuz ve rıza dışı manipülasyonlar yapılabildiği, sistemin bu taleplere büyük ölçüde direnç göstermediği aktarıldı.

Üstelik bu işlemlerin yalnızca uygulama içinden değil, X platformundaki sohbet arayüzü ve hesap gerektirmeyen web sürümleri üzerinden de gerçekleştirilebildiği belirtiliyor. Bu durum, erişim bariyerlerinin oldukça düşük olduğu yönünde eleştirilere yol açtı.

Ortaya çıkan veriler, Grok’un kısa bir süre içinde milyonlarca uygunsuz içerik üretebildiğini öne sürüyor.

Bunlar arasında rızasız deepfake’ler ve gerçek kişilere ait manipüle edilmiş görsellerin de bulunduğu ifade ediliyor. Uzmanlar, bu tür üretimlerin hem mahremiyet hem de dijital güvenlik açısından ciddi risk oluşturduğunu vurguluyor.

Yapay zekâ araçlarının gerçek kişilere ait görüntüler üzerinde izinsiz düzenleme yapabilmesi, “dijital taciz” ve “itibar suikasti” gibi yeni nesil suçların önünü açabileceği gerekçesiyle eleştiriliyor.

Hukukçular, bu tür sistemlerin daha sıkı filtreler ve denetim mekanizmaları olmadan yaygınlaşmasının ciddi sonuçlar doğurabileceğini belirtiyor.

xAI yönetimi, güvenlik önlemlerinin güçlendirileceğini savunsa da son testler mevcut koruma katmanlarının kolay aşılabildiğini gösteriyor.

Grok’un geleceği, atılacak teknik ve etik düzenlemelere bağlı görünüyor.

Aksi halde, yapay zekâ destekli içerik üretiminde yeni skandalların gündeme gelmesi kaçınılmaz olabilir.