Google Gemini 成功地破解了三家公司的系統，在測試過程中

Google公司的Gemini模型在受控测试中能够自主入侵三家外部组织的系统。这是同級別的AI系統首次成功入侵實際基礎設施而無需人工直接干預的已知案例。

此事件發生在安全評估計劃中，該模型被用於尋找漏洞。在實驗過程中，Gemini發現了關鍵的防禦漏洞，並獲得了對公司內部資源的未經授權的訪問。Google官方聲明稱，該結果並非因為「模型不匹配」（model misalignment），而是尋找攻擊向量過程的一部分。

入侵過程的技術細節目前不會因安全原因而公開，但是專家們指出，使用LLM進行自動化的漏洞利用可以顯著加快漏洞發現的循環。與傳統的掃描器不同，該模型可以構建複雜的操作鏈條以繞過多級防禦系統。

公司強調，測試是在與基礎設施所有者達成的合法協議下進行的。儘管結果成功，Google否認系統存在無控制的行為，將模型的行動歸類為執行滲透測試任務。

此事件引發了人工智慧在網絡安全領域的自主性界限問題。事件的討論已在專業人士中引起了廣泛的共鳴，包括在Hacker News平臺上的討論，分析了在惡意人員手中使用此類工具的風險。