Yapay zeka sohbetlerinin ne kadar özel olduğu, ABD’nin Florida eyaletinde yaşanan bir olayla yeniden gündeme geldi. Bonita Springs’te yaşayan Carli Michelle Heller adında bir kadın, Anthropic’in geliştirdiği yapay zeka Claude’a yazdığı mesajların şirket tarafından yetkililere bildirilmesinin ardından gözaltına alındı.

Yetkililer, Heller’ın günlüğüne 26 Eylül’de Lee County Şeriflik Ofisi’ne silahlı saldırı düzenleyeceğini yazdığını, ertesi gün ise bir silah satın aldığını ileri sürüyor.

Raporda anlatılan sürece göre Anthropic’in güvenlik sistemi, tehdit içerdiği değerlendirilen ifadeleri işaretleyerek insan incelemesine yönlendirdi. İncelemeyi yapan ekip daha sonra kolluk kuvvetlerine bildirimde bulundu. Yetkililer, kimliğini belirledikleri Heller’ı evine düzenledikleri baskınla gözaltına aldı.

MAHKEME KASIM AYINDA

Heller’a yazılı şiddet tehdidinde bulunma suçlaması yöneltildiği ve mahkeme tarihinin kasım ayına belirlendiği öğrenildi. Ülke basınına göre kesinleşmiş bir mahkûmiyet kararı yer almıyor. Lee County Şerifi Carmine Marceno’nun açıklamasına göre ise Heller, görüşmelerinde Claude’u bir günlük gibi kullandığını söyledi.

Anthropic’in yayımladığı gizlilik politikası, belirli durumlarda kişisel verilerin kamu kurumları ve kolluk kuvvetleriyle paylaşılabileceğini açıkça belirtiyor. Şirket, ciddi zararların önlenmesi, yasa dışı faaliyetlerin araştırılması, hukuki yükümlülüklerin yerine getirilmesi veya kişilerin güvenliğinin korunması için gerekli olduğuna kanaat getirdiğinde bilgi paylaşabileceğini ifade ediyor.

Bir konuşmanın kişisel günlük amacıyla yapılması da platformun güvenlik değerlendirmelerini ve belirli koşullarda yetkililere bilgi aktarabilmesini ortadan kaldırmıyor.