研究人員利用Claude入侵OpenAI系統

一組網路安全專家成功地使用Anthropic公司的Claude模型來搜索和利用OpenAI基礎設施的漏洞。在實驗過程中，專家們獲得了未經授權的存取OpenAI員工帳戶和公司內部原始碼倉庫的權限。

在攻擊過程中，神經網路分析了系統結構並幫助自動化撰寫exploit來繞過防禦機制。使用生成性AI使研究人員能夠縮短尋找關鍵攻擊向量的時間，這些向量以前對標準掃描工具來說是未被發現的。

在操作完成後，團隊將有關發現的安全漏洞的報告提交給OpenAI的代表，以便他們能夠及時修復。這起事件證實了使用LLM作為進行複雜網路攻擊的主動工具的可能性，需要對代碼和服務交互邏輯進行深入分析。

這個案例強調了對大型AI公司的安全協定進行重新評估的必要性。系統開發人員現在不得不考慮不僅傳統的入侵方法，還要考慮神經網路在封閉的企業環境中找到非標準漏洞的能力。