研究人員評估使用AI的生物安全風險

一組科學家發表了一份大規模回顧，關注生成模型對生物研究的影響和潛在的安全威脅。這項工作分析了LLM和專門的生物模型如何用於實驗設計、蛋白質序列生成和實驗室循環的自動化。

作者指出，目前的前沿系統已經在in-silico任務和方法中超越了專家，並且可以繞過篩選系統。然而，生物威脅的物理實現仍然是一個具有挑戰性的任務，因為缺乏「隱含知識」和在實際「濕」實驗室中工作的限制。研究強調，風險不僅取決於AI的能力，也取決於用戶的意圖、其對材料的訪問和防禦機制的存在。

在文章中，批評了目前的安全方法：適應（alignment）方法對於一般模型有效，但對於生物系統效果不佳。研究人員提出了採用defense-in-depth策略，將模型能力的閾值與開發者的相應責任掛鉤。這應該有助於降低創建危險病原體的風險，同时保留醫學和生物技術的優勢。

特別關注的是模型可解釋性的角色在審計危險技能中的作用。作者堅持需要創建工具，以驗證生物基礎模型中沒有惡意功能的存在。這項工作根據arXiv許可進行分發，並為未來的AI生物技術監管標準設定了方向。