Anthropic 選擇 Accenture 評估其模型的安全性

Anthropic 與顧問公司 Accenture 簽署協議，後者成為首個外部安全性和可靠性評估合作夥伴，負責評估開發中的模型。合作內容包括專家對系統進行獨立審核，以確保在公開發布前達到安全標準。

該計畫涉及將專家融入測試流程，檢查模型對網絡威脅的抵禦能力、偏見以及遵守倫理標準。這是首次有 Anthropic 這級別的開發商將「嵌入式評估」功能委託給第三方公司，這家公司也與企業客戶合作。

審核過程中將使用封閉數據集和針對LLM架構設計的特定攻擊場景，以識別潛在漏洞。審核結果將在決定是否向最終用戶和商業用戶發布更新時被考慮。

此合作目的是降低在金融、醫療等關鍵行業部署AI解決方案的風險。之前，類似的安全檢查主要由內部安全團隊進行，但由於模型複雜性的增加，需要外部專家進行獨立驗證。

這一步驟反映了行業的趨勢，即公司通過外部合作提高開發的透明度。使用第三方審計員使 Anthropic 能夠向大型企業客戶證明其系統的可靠性，後者在將技術整合到工作流程前需要嚴格的安全保證。