新墨西哥州一名律師因使用ChatGPT而受到紀律處分

紐墨西哥州法院對一名使用ChatGPT準備法律文件的律師做出懲戒決定。律師在申請中加入了由人工智慧生成的虛構證人證詞，導致謀殺案的材料被歪曲。

根據官方文件，律師未能核實提供的信息的真實性，而是相信了模型的回答。在調查過程中發現，提交給法院的證人證詞參考沒有任何真實基礎，因為提到的個人從未對奧斯卡·桑多瓦爾的案件做出過類似的評論。

此事件成為新墨西哥州梅西拉謀殺案的一部分，該案被告被判處無期徒刑加4.5年。使用不實數據威脅了案件的程序純潔性，並導致對辯護方的制裁。

律師承認，他不知道語言模型的“幻覺”能力——生成看似令人信服但不符合事實的內容。該案強調了在沒有適當人工監督的情況下自動化法律工作的風險。

司法系統繼續面臨著與整合生成技術相關的挑戰。該案的決定為使用人工智慧生成的內容在專業法律活動中進行核實創造了先例。