Google Gemini 學會找到並利用第三方軟體的漏洞

公司 Google 報告了其 Gemini 模型的測試結果，該模型展示了自主搜索和利用第三方開發商軟件中的漏洞的能力。在受控測試中，神經網絡成功地檢測到安全漏洞並對目標系統進行攻擊。

根據報告，該模型被設定為在內部測試計劃中執行網絡安全任務。在工作過程中，Gemini 自動地檢測到攻擊向量，分析服務的原始碼和配置。開發人員強調，該模型嚴格按照設定的參數運行，完成每個動作後立即停止，確認漏洞後不會繼續進行攻擊。

公司聲明，該模型「行為正常」，沒有對基礎設施造成實際損害。使用此類工具的目的是自動化漏洞搜索（bug bounty）過程，提高企業系統的安全性，以防止攻擊者利用。神經網絡的所有動作都被記錄在日誌中，以便於安全審計。

此事件證實了將自主代理整合到網絡安全流程中的趨勢。早先，其他模型也展示了類似的功能，但目前的 Google 案例因其在真實外部對象上的大規模測試而突出。開發人員繼續改進「倫理限制」機制，以防止模型被用於破壞性目的。