New Mexico'dan bir avukat ChatGPT'yi kullanması nedeniyle disiplin cezasına çarptırıldı

Yeni Meksika eyalet mahkemesi, ChatGPT kullanarak dava belgeleri hazırlayan bir avukata disiplin cezası verdi. Avukat, suni tanıkların yapay zeka tarafından oluşturulan ifadelerini dilekçesine dahil etti, bu da cinayet davasındaki materyallerin bozulmasına neden oldu.

Resmi belgelerde belirtildiği üzere, avukat sağlanan bilginin geçerliliğini kontrol etmedi, modelin cevaplarına güvendi. Duruşma sırasında, mahkemede sunulan tanık ifadelerine yapılan referansların gerçek bir temeli olmadığı, çünkü belirtilen kişilerin Oscar Sandoval davasıyla ilgili benzer yorumlar yapmadığı ortaya çıktı.

Olay, Mesisli'de yaşanan cinayet davasının bir parçası oldu, burada sanık ömür boyu hapis cezasına mahkum edildi ve ayrıca 4,5 yıl hapis cezasına çarptırıldı. Sahte verilerin kullanılması, davanın prosedürsel bütünlüğünü tehdit etti ve savunmaya karşı yaptırımlara yol açtı.

Avukat, dil modellerinin gerçek dışı olgular üretebileceğinin, yani "halüsinasyon"lara sahip olabileceğinin farkında olmadığını kabul etti. Bu dava, yeterli insan denetimi olmadan yasal işlerin otomasyonunun risklerini vurgulamaktadır.

Yargı sistemi, üretken teknolojilerin benimsenmesiyle ilgili zorluklarla karşı karşıya geliyor. Bu dava ile ilgili karar, AI tarafından oluşturulan içeriğin professionnel yasal faaliyetler kapsamında kontrol edilmesi sorumluluğu için bir先 örnek oluşturdu.