Brezilya mahkemesi, dava dilekçesindeki prompt injection nedeniyle avukatlara para cezası verdi

Brezilya mahkemesi, yargı pratiğinde ilk kez belge doğrulama algoritmalarını manipüle etmeye çalıştıkları gerekçesiyle avukatlara para cezası uyguladı. İki avukat, resmi dava dilekçesinin metnine yapay zeka talimatları gizledikleri için dava tutarının %10'u oranında cezaya çarptırıldı.

Olay, otomatik belge analiz sistemlerini atlatmayı amaçlayan gizli komutların dava materyallerinde kullanılmasıyla ilgili. Bu emsal karar, mahkemelerin veri filtreleme ve doğrulama algoritmalarını prompt injection teknolojileriyle aşma girişimlerine karşı tutumunun sertleştiğini gösteriyor.

Emsal kararın detayları ve mahkeme kararının analizi Jetstream Security web sitesinde yayınlanmış olup, olaya ilişkin tartışmalara Hacker News platformundan ulaşılabilir.

Para cezası uygulama pratiği, resmi kurumlarda dil modelleriyle yapılan manipülasyonlar için hukuki bir sorumluluk emsali oluşturuyor.