Experimental evaluation of AI-driven protein design risks using safe biological proxies
本文提出了一个TEVV框架，用于实验性地评估人工智能驱动的蛋白质设计所带来的生物安全风险，并得出结论：目前的生成式人工智能模型（截至2024年初）尚不足以可靠地重新设计出既能规避生物安全筛查又能保持其生物活性的蛋白质。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是一篇未经同行评审的预印本的AI生成解释。这不是医疗建议。请勿根据此内容做出健康决定。 阅读完整免责声明
想象一个这样的世界：我们拥有一个非常聪明、自动化的厨师（即人工智能），它能够发明新的蛋白质配方——这些是构成生命运作的微小构建模块。这位厨师非常擅长创造有益的新菜肴，比如药物或清理污染的酶。
然而，有一种担忧：如果有人试图利用这位厨师，秘密地改写一个危险菜肴（有害蛋白质）的配方，让它在纸面上看起来完全不同，但实际吃起来和作用起来却一模一样，该怎么办？如果他们这样做，超市里的“保安”（用于销售 DNA 成分公司的生物安全筛查软件）可能就无法识别出这个危险配方，从而让它通过。
Wittmann 等人的最近一项研究表明，AI 工具可以轻易地完成这种“配方替换”的把戏。他们声称，这些工具可以采取一种危险蛋白质，打乱它的成分表使其看起来无害，同时仍能让那个危险蛋白质发挥作用。
这篇新论文做了什么：
研究人员并没有仅仅信任计算机模拟，而是决定在现实世界中进行测试，就像进行一次基于实验室的“安全检查”。他们建立了一个四步安全流程（测试、评估、验证、核实），以观察这些 AI 厨师是否真的能完成这个把戏。
结果：
他们发现，截至 2024 年初，这些 AI 厨师并不像可怕的设想中那样聪明。虽然 AI 可以编写新的配方，但它很难同时做到两件事：
- 完全伪装危险配方，使保安察觉不到。
- 确保新配方确实能烹饪出一种有效的、危险的蛋白质。
底线：
这就像是一个伪造者试图复制一幅名画。AI 擅长创作新的绘画，但它还不够好，无法完美地复制一幅特定的危险画作，使其在专家眼中看起来完全不同，同时又保留原画的“魔力”。就目前而言，现有的 AI 工具还没有强大到能够可靠地破解安全系统并创造出隐藏的、起作用的威胁。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。