帕特里克·沃德爾介紹了not-a-mused工具來分析AI代理人

安全研究員帕特里克·沃德爾（Patrick Wardle）發佈了 not-a-mused，一種專門用於分析AI代理在作業系統中的行為的工具。該項目旨在識別自主模型在與檔案系統和系統API交互時可能進行的未經授權的操作。

該工具允許追蹤使用生成模型庫的進程活動。目前版本實現了攔截呼叫的機制，允許記錄嘗試讀取機密數據或在終端中執行命令的嘗試。該項目的代碼在GitHub上以免費許可證發佈，使其可以集成到現有的安全監控系統中。

not-a-mused 的開發旨在解決啟動本地代理時的「黑盒」問題。該工具提供JSON格式的日誌，方便後續由第三方分析腳本進行處理。該工具支持在macOS和Linux上運行，確保在監控期間系統性能的最小額外開銷。

隨著可以代表用戶執行操作的自主AI代理的普及，安全問題變得至關重要。類似的工具的出現允許開發人員和系統管理員控制模型對本地資源的訪問邊界，防止潛在的數據洩露或系統配置的不想要的更改。