研究人員利用Claude模型入侵OpenAI系統

一組安全研究人員成功對OpenAI的基礎設施進行了攻擊，利用語言模型Claude的功能。在實驗中，他們成功地獲得了公司員工帳戶的未經授權的訪問權限，並從GitHub的私人儲存庫中提取了機密數據。

攻擊的方法是使用模型對代碼進行自動分析和查找軟件供應鏈中的漏洞。人工智能代理成功地找到了訪問配置中的弱點，這使得它可以繞過標準的身份驗證協議。因此，研究人員的行動導致了內部訪問令牌的泄露，這些令牌授予了對私人數據的讀取權限。

攻擊的技術實現需要模型生成特定的腳本，以實時利用發現的漏洞。研究人員強調，使用LLM大大加快了偵察和撰寫漏洞利用程式的過程，將攻擊準備時間從幾周縮短到幾小時。獲得的數據包括源代碼片段和內部文檔，其中包含雲服務的訪問金鑰。

此事件表明了在網絡安全中使用生成模型的新風險。人工智能代理自動查找和利用複雜企業環境中漏洞的能力需要重新評估對於具有系統管理權限的員工的防禦和訪問控制方法，特別是在關鍵系統的開發中。