Un tribunale brasiliano ha multato degli avvocati per prompt injection in un atto giudiziario

Per la prima volta nella pratica giudiziaria, un tribunale brasiliano ha imposto una sanzione ad alcuni avvocati per aver tentato di manipolare gli algoritmi di verifica dei documenti. Due legali hanno ricevuto una multa pari al 10% dell'importo della causa per aver nascosto istruzioni per l'intelligenza artificiale nel testo di un atto giudiziario ufficiale.

L'incidente è legato all'uso di comandi nascosti nei materiali processuali, volti a eludere i sistemi automatizzati di analisi dei documenti. Tale precedente dimostra l'inasprimento della posizione dei tribunali nei confronti dei tentativi di aggirare gli algoritmi di filtraggio e verifica dei dati tramite tecniche di prompt injection.

I dettagli del precedente e l'analisi della decisione giudiziaria sono pubblicati sul sito di Jetstream Security, mentre la discussione sull'incidente è disponibile sulla piattaforma Hacker News.

La pratica di imporre sanzioni crea un precedente giuridico di responsabilità per la manipolazione dei modelli linguistici negli uffici ufficiali.