Yapay zekâ araçlarının hukuk alanında kullanımına ilişkin dikkat çekici bir olay ABD’de yaşandı.

New Mexico’da bir cinayet davasının temyiz sürecini yürüten avukat Stephen Aarons, mahkemeye sunacağı dilekçenin hazırlanmasında ChatGPT’den yardım aldı.

Ancak Aarons’ın, yapay zekâ tarafından oluşturulan bilgileri kaynaklarından doğrulamadan resmi mahkeme evrakına taşıdığı belirlendi.

Mahkemenin incelemesinde dilekçede gerçekte bulunmayan tanık ifadelerinin yanı sıra gerçek tanıkların beyanları ve hukuki içtihatlarla ilgili çarpıtılmış bilgilerin de bulunduğu tespit edildi.

ChatGPT kullandığını kabul etti

Aarons, temyiz dilekçesini hazırlarken ChatGPT kullandığını mahkemede kabul etti.

Mahkeme kararında avukatın, yapay zekâ desteğiyle hazırlanan dilekçedeki olgusal iddiaları ve hukuki dayanakları imzalayıp teslim etmeden önce doğrulamadığını kabul ettiği belirtildi.

Böylece yapay zekânın ürettiği yanlış bilgiler, avukatın kontrolünden geçmeden resmi bir yargı belgesine girmiş oldu.

5 bin dolar ödeyecek

Mahkemeye saygısızlıktan suçlu bulunan Aarons'ın New Mexico Barosu Müşteri Koruma Fonu'na 5 bin dolar ödemesine karar verildi.

Davadaki sanığa başka bir avukat atanırken Aarons'ın da hakkındaki soruşturma sonuçlanıncaya kadar New Mexico Eyalet Yüksek Mahkemesi'nde savunma yapması yasaklandı.

“Pişmanım”

Reuters'a konuşan Aarons, dava sürecini özetlemek amacıyla yapay zekâ kullandığını ancak sistemin gerçek olmayan bilgiler üretebileceğinin farkında olmadığını ifade etti.

Yaşananlardan pişman olduğunu belirten Aarons, olayın yapay zekâ teknolojisine güvenen diğer uzmanlar açısından da ders niteliği taşıdığını söyledi.

Yapay zekâ yazdıysa kontrol şart

Olay, üretken yapay zekâ sistemlerinin özellikle hukuk, sağlık ve finans gibi hata payının ciddi sonuçlara yol açabileceği alanlarda insan denetimi olmadan kullanılmasının oluşturabileceği riski bir kez daha gündeme getirdi.

ChatGPT gibi yapay zekâ sistemleri kimi zaman gerçekte bulunmayan bir bilgiyi, olayı veya kaynağı doğruymuş gibi sunabiliyor. Yapay zekâ literatüründe bu tür hatalar genellikle “halüsinasyon” olarak adlandırılıyor.

Dolayısıyla Aarons'ın başını derde sokan asıl mesele yalnızca ChatGPT kullanması değil, ChatGPT'nin ürettiği bilgileri doğrulamadan kendi imzasıyla mahkemeye sunması oldu.