Un avvocato del Nuovo Messico ha ricevuto una sanzione disciplinare per aver utilizzato ChatGPT

Un tribunale dello stato del Nuovo Messico ha emesso una decisione sulla punizione disciplinare di un avvocato che ha utilizzato ChatGPT per preparare documenti giudiziari. L'avvocato ha incluso nella sua richiesta le testimonianze di testimoni immaginari generate dalla rete neurale, il che ha portato a una distorsione dei materiali del caso di omicidio.

Secondo documenti ufficiali, l'avvocato non ha verificato l'attendibilità delle informazioni fornite, fidandosi delle risposte del modello. Durante il procedimento è emerso che i riferimenti alle testimonianze presentate in tribunale non avevano alcun fondamento reale, poiché le persone indicate non avevano mai fatto commenti simili nel caso di Oscar Sandoval.

L'incidente è diventato parte di un processo più ampio per omicidio a Mesilla, dove l'imputato è stato condannato a ergastolo più 4,5 anni. L'utilizzo di dati non attendibili ha messo in pericolo la purezza processuale del caso e ha portato a sanzioni contro la difesa.

L'avvocato ha ammesso di non essere stato a conoscenza della capacità dei modelli linguistici di "allucinare" - generare fatti che sembrano convincenti ma non corrispondono alla realtà. Il caso sottolinea i rischi dell'automatizzazione del lavoro legale senza un adeguato controllo umano.

Il sistema giudiziario continua a confrontarsi con le sfide legate all'introduzione di tecnologie generative. La decisione nel caso crea un precedente per la responsabilità di verificare il contenuto creato con l'AI nel quadro dell'attività legale professionale.