ABD merkezli insan hakları kuruluşu Tech Transparency Project’in raporuna göre Meta, son 10 ayda Hindistan’ın da aralarında bulunduğu birçok ülkede yapay zeka tarafından oluşturulan çocuk cinsel istismarı görselleri içeren yüzlerce ücretli reklama yer verdi.

Söz konusu rapor, Hindistan hükümetinin Meta'ya Instagram üzerindeki tüm çocuk istismarı materyali (CSAM) içeren reklam ve içerikleri kaldırma talimatı vermesinden iki ay sonra açıklandı. Hindistan'ın bu kararı, Instagram'ın ülkede CSAM tanıtımı yapan ücretli reklamlar yayımladığını kanıtlayan araştırmanın ardından alındı. Washington merkezli TTP, Facebook ve Instagram'da çocuk istismarı içeren 332 reklam tespit ettiğini, bu reklamların 274'ünün yalnızca bu yılın ağustos ayında yayımlandığını bildirdi.

Meta yetkilileri, konuya ilişkin yaptıkları açıklamada, gerçek veya yapay zeka üretimi fark etmeksizin hiçbir çocuk istismarına ya da kıyafet dijitalleştirme (nudify) uygulamasına tolerans göstermediklerini ifade etti. Şirket, bu tür suçluların tespitten kaçınmak için sürekli taktik değiştirdiğini ve bu nedenle denetim sistemlerini güçlendirmeye devam ettiklerini savundu.

GERÇEK FOTOĞRAFLARA YAPAY ZEKA MÜDAHALESİ TTP'nin raporunda, reklamlar için bir Avrupa kraliyet ailesi üyesi de dahil olmak üzere gerçek çocukların fotoğraflarının kullanıldığı ve bu görsellerin yapay zeka araçlarıyla manipüle edildiği belgelendi. TTP'nin tespit ettiği bulguları bildirmesine rağmen, onlarca reklamın Meta platformlarında görünmeye devam ettiği kaydedildi. Tespit edilen reklamların yaklaşık dörtte birinin (84 reklam) Hindistan'da yayımlandığı, bunlardan 78'inin ise Hindistan hükümetinin Meta yetkilileriyle görüşerek verdiği kaldırma talimatından sonra yayına girdiği aktarıldı.

BBC araştırmasının ardından Ulusal Çocuk Haklarını Koruma Komisyonu (NCPCR) ve Ulusal İnsan Hakları Komisyonu (NHRC) dahil olmak üzere Hindistan'daki çok sayıda resmi kurum konuyu incelemeye aldı. Hindistan'da çocuk cinsel istismarı materyallerinin dağıtımı ağır bir suç sayılırken, Meta'nın kendi reklam politikaları da çocukları cinsel yönden istismar eden ya da tehlikeye atan içerikleri kesin olarak yasaklıyor.

META'NIN ŞİKAYET MEKANİZMASI YETERSİZ Just Rights for Children örgütünün kurucusu Bhuwan Ribhu, bulgulara dayanarak Hindistan Anayasa Mahkemesine başvurduklarını duyurdu. Ribhu, sosyal medya şirketlerinin çocuk koruma yasalarının gerektirdiği şekilde şüpheli içerikleri kolluk kuvvetlerine bildirmediğini ve Hindistan yasalarını açıkça ihlal ettiğini belirtti. TTP, ABD, İngiltere, Avrupa Birliği, Avustralya ve Hindistan'da tespit ettiği 332 reklamın tamamını Kayıp ve İstismara Uğramış Çocuklar İçin Ulusal Merkeze (NCMEC) bildirdiğini açıkladı. Rapora göre reklamlar genellikle bir çocuğun fotoğrafıyla başlıyor, video ilerledikçe resim yapay zeka ile grafik cinsel eylemler içerecek şekilde dönüştürülüyordu. TTP, bu tür bir reklamın ağustos ayında 50'den fazla farklı hesap tarafından iki hafta boyunca yayımlandığını kaydetti.

TTP araştırmacıları, Hindistan'da yayımlanan 84 reklamdan 55'ini Meta'nın kendi bildirim sistemi üzerinden şikayet etmeye çalıştı. Şikayet edilen 43 reklam için Meta'dan "İnceledik ve bu reklamın Reklam Standartlarımıza aykırı olmadığını tespit ettik." yanıtı alındı. 11 reklam için içeriğin zaten kaldırıldığı belirtilirken, 1 reklam için geri dönüş yapılmadı.

ARKASINDA ÇİNLİ AJANSLAR VAR Meta yaptığı açıklamada, güvenlik sistemlerinin ihlal içeren reklamları engellediğini, şikayet edilen reklamların çoğunun 200'den az görüntüleme aldığını ve toplam reklam harcamasının 5 bin doların altında kaldığını bildirdi. Ancak TTP raporu, söz konusu reklamların büyük çoğunluğunun kullanıcıları Çinli geliştiricilere ait yapay zeka uygulamalarına yönlendirdiğini ortaya koydu. TTP, bu reklamların bir kısmının Meta'nın Çin'deki resmi reklam ajansı ortakları ("reseller") tarafından sisteme yüklendiğini tespit etti. Bu ortakların, Çin'den gelen milyarlarca dolarlık reklam bütçesini Facebook ve Instagram'a aktardığı biliniyor.

Ayrıca bildirilen ihlallere rağmen, eylül başında da Hindistan'da çocuk istismarı içeren yeni reklamların yayımlanmaya devam ettiği ifade edildi.