Anthropic 和 Accenture 投資 20 億美元評估模型安全性

Anthropic 與 Faculty 公司的 Accenture 子公司簽署了戰略合作夥伴關係，以實施獨立的模型安全評估系統。兩家公司計劃將評估專家直接整合到開發和測試過程中。

在為期五年的協議中，雙方各自承諾投資至少 $1 億 美元。該計劃的總預算為 $2 億 美元，將用於建立基礎設施，以檢查模型是否符合安全、道德和抗未經授權影響的標準。

該倡議的主要任務是實施「嵌入式評估」（embedded evaluation）方法，即安全專家與開發工程師並行工作。這將使得在模型訓練的早期階段就能夠發現漏洞和風險，而不是在最終產品發布後。

該計劃涵蓋了對模型的偏見、幻覺和潛在的網絡安全威脅進行測試。Accenture 將使用專有的方法論來驗證 Anthropic 的系統是否符合宣稱的安全參數，在實際的企業使用場景中。

此次合作標誌著從外部審計轉向對 AI 開發生命週期中質量控制的深度整合。這種方法旨在提高對大型語言模型在關鍵業務流程和政府機構中實施時的信任度。