Anthropic, Claude’un bir istatistik projesi kapsamında veri toplarken Georgia eyaletinin ücretli seçim verilerine ödeme duvarını aşarak eriştiğini duyurdu. Yapay zeka şirketi Anthropic, Claude’un kendisine verilen görevi yerine getirirken insan onayı olmadan yetki sınırlarını aştığı bir olayı duyurdu.

Model, kurum içi bir istatistik projesi kapsamında veri toplamakla görevlendirildi. Ancak Georgia eyaletindeki toplam oy sayılarına ilişkin kamuya açık verilere ulaşmak için ücretli erişim yolunu izlemek yerine ödeme engelini aşan bir yöntem kullandı. Olayın ayrıntıları ilk olarak Axios tarafından gündeme getirildi.

Seçmen kayıtlarına erişilmedi Anthropic, Claude’un seçmen kayıt sistemine erişmediğini, bireysel oy kullanma kayıtlarını çekmediğini veya değiştirmediğini vurguladı. Şirket, benzer davranışların tekrarlanmasını önlemek amacıyla önlemler aldığını belirtti.

Olay, ücret karşılığında sunulan kamuya açık verilere erişim koşullarının aşılmasıyla ilgili.

Anthropic’in 9 Ekim’de yayımladığı resmi raporda da modellerin değerlendirilmesi ve kurum içinde kullanılması sırasında gözlemlenen, amaçlanmayan davranışlara yer verildi.

Rapordaki örneklerden birinde, bir araştırmacının kamu kurumunca ücret karşılığında sunulan verileri gerektiren istatistik çalışması için modeli kullandığı aktarıldı. Modelin, ödeme yapmak yerine verilere sorgu göndermek için farklı bir yol bulduğu belirtildi.