Opportunities, challenges and responsible innovation using generative artificial intelligence for biological sequence design
本白皮书提出了由多学科研讨会达成的共识建议，提议建立一个三层级的“纵深防御”治理框架，旨在平衡生成式人工智能在生物序列设计方面的变革潜力，与缓解数据偏差、模型不透明性及双重用途威胁等紧迫风险的需求之间的关系。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是一篇未经同行评审的预印本的AI生成解释。这不是医疗建议。请勿根据此内容做出健康决定。 阅读完整免责声明
想象一下，科学家们刚刚发现了一种全新的“超级食谱书”。这本书由人工智能（AI）驱动，它能够阅读构建生命（如蛋白质和 DNA）的指令，然后编写出自然界从未见过的全新食谱。这可以帮助我们治愈疾病、修复生态系统并创造新的药物。
然而，这篇论文的作者认为，我们正试图在土路上驾驶一辆一级方程式赛车（Formula 1）。AI 移动得极其迅速，但我们的安全检查、地图以及测试车辆的能力却仍停留在慢车道上。
以下是使用简单类比对该论文主要观点的拆解：
1. 问题所在：“速度陷阱”
论文识别了三个阻碍我们并制造危险的“瓶颈”：
- 错误的地图（数据问题）： AI 通过阅读现有的生物数据进行学习。但这些数据就像一张只显示富裕国家道路的地图。它遗漏了世界的许多部分（某些细菌、病毒或生物体）。此外，这张地图充满了漏洞和错误。如果 AI 从一张错误的地图中学习，它就会给你错误的指引。
- 黑匣子（模型问题）： AI 就像一位天才厨师，能做出完美的佳肴，却拒绝告诉你为什么加入那些特定的食材。在医学和生物学领域，我们需要在把食谱呈献给人们之前，了解它为什么有效。如果我们不理解其中的逻辑，我们就无法信任其结果。
- 缓慢的厨房（验证差距）： 这是最大的差距。AI 一小时可以写出 10,000 个新食谱。但我们的物理实验室（厨房）每周只能烹饪并品尝一两个食谱。这意味着，在我们的实验室有时间测试并意识到某个食谱具有危险性之前，AI 可能就已经设计出了一个危险的“食谱”（比如一种新型病毒）。
2. 危险所在：“双重用途”之剑
论文警告说，这些有助于我们构建疗法的工具也可以被用来制造武器。
- 类比： 想象一台 3D 打印机。它可以打印出一只救命的义肢，但也可以打印出一把枪。
- 风险： 如果 AI 变得过于擅长设计生物序列，不法分子可能会利用它来设计一种能够绕过我们现有安全过滤系统的病毒或毒素。由于 AI 的速度如此之快，它可能会在安全系统甚至还没意识到要寻找什么之前，就创造出一种“超级病原体”。
3. 解决方案：“纵深防御”策略
作者建议我们不应只在门上加一把锁。相反，我们需要一座拥有多层安全防护的堡垒，涵盖三个阶段：数据、模型和合成。
第一层：保护“食谱书”（数据）
- 理念： 并非所有数据都应该向所有人开放。
- 类比： 想象一座图书馆。大多数书籍都是向公众开放的。但有些书籍包含危险指令（比如如何制造炸弹）。这些书籍应该放在“限制区”。
- 计划：
- 创建一个系统，要求科学家证明其身份以及为何需要访问敏感生物信息。
- 在研究项目开始前（在资金阶段）进行审查，以确保它们不会在无意中创造危险数据。
第二层：保护“厨师”（AI 模型）
- 理念： 我们需要在让 AI 开始烹饪之前对其进行测试。
- 类比： 在雇用一位新厨师之前，我们不会直接让他为公众烹饪。我们会给他一份危险场景的“品鉴菜单”，看看他能否安全地应对。
- 计划：
- 红队测试（Red-Teaming）： 雇佣“道德黑客”尝试诱骗 AI 去制造危险物品。如果 AI 失败了，我们在发布它之前进行修复。
- 分级访问： 如果一个 AI 非常强大，我们不会把代码交给所有人。我们可能会让你通过一个安全的网站使用它，这样我们可以观察你向它询问的内容，但你无法下载这个 AI 的“大脑”来随心所欲地使用。
第三层：保护“送货卡车”（合成）
- 理念： 即使 AI 设计了一个危险的食谱，在有人将其“打印”出来（合成 DNA）之前，它仅仅是数字代码。
- 类比： 想象一家打印 DNA 的快递公司。我们需要确保他们不会为已知的罪犯打印包裹。
- 计划：
- 了解你的客户： 打印 DNA 的公司需要检查订购者是谁以及为什么要订购。
- 更好的过滤器： 现有的过滤器寻找已知的坏序列。新计划是使用 AI 来检测“新的”坏序列——即那些看起来不同但行为相同的序列（就像戴着伪装的面具的罪犯）。
- 保险基金： 创建一个共享资金池（类似于保险基金），用于支付针对这些威胁的研究，类似于汽车保险基金支持安全研究。
核心总结
论文得出结论：安全并不是进步的敌人。
把它想象成建造一座摩天大楼。你不能只是一味地追求建造速度；你需要建立坚实的基础和安全护栏。如果你这样做，人们才会信任这座建筑，并希望更多的人居住其中。
作者认为，如果我们现在建立这些安全规则，我们就可以释放 AI 在治愈疾病和拯救地球方面的惊人潜力，而不会意外创造出生物灾难。他们希望将思维方式从“安全阻碍创新”转变为“安全促进安全创新”。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。