OpenAI 將 Astra 模型評為 Critical 的網路安全等級

公司 OpenAI 正式推出了 GPT-6 Astra 模型，這是該組織第一個獲得內部評估系統 Preparedness Framework 中 Critical 級別的產品。這一分類意味著該神經網絡具有自主發現未知漏洞和開發利用方案的能力。

根據報告，該模型可以在不需要人工持續監控的情況下執行尋找防禦漏洞的任務，只需要設定基本目標。 在開發 GPT-6 Astra 進程中，工程師們被迫故意減慢訓練速度，以便引入額外的控制機制並防止系統能力被濫用。

授予關鍵安全級別是對與自主攻擊向量搜索相關風險進行評估的結果。 文件中指出，當前保護協議並不總是能夠跟上模型功能增長的步伐，這迫使公司重新審視其發布週期和與其他實驗室的協調方法。

在這些事件的背景下，領先的 AI 公司的領導層開始公開討論減慢 AI 領域軍備競賽步伐的必要性。特別是，業界代表指出模型開發速度和安全系統開發速度之間的差距，這已經導致了上市計劃的調整和人工智慧技術領域市場預期的改變。