The Case for ESM3 as a General-Purpose AI Model with Systemic Risk Under the EU AI Act
本文认为，尽管像 ESM3 这样的生物基础模型理应在《欧盟人工智能法案》下作为具有系统性风险的通用人工智能模型进行监管，以减轻双重用途的生物风险，但当前立法中的模糊性意味着它们并未得到实质性涵盖，这促使作者提出具体补救措施以填补这一监管空白。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
以下是用通俗易懂的语言和日常类比对这篇论文的解读。
宏观图景：一张有破洞的安全网
想象一下，欧盟（EU）建立了一张名为《欧盟人工智能法案》（EU AI Act）的巨大高科技安全网。这张网的目标是捕捉那些可能对社会造成严重危害的强大人工智能系统（例如那些可能有助于制造生物武器的系统），并迫使它们的开发者采取安全措施。
本文的作者们指出，这张网中存在一个破洞。他们认为，一种名为ESM3的非常强大的新人工智能工具正从裂缝中溜走。尽管 ESM3 理论上可能让恶意行为者更容易设计出危险的生物制剂，但目前的规则似乎并未将其纳入监管。
认识 ESM3：蛋白质的“主厨”
要理解这个问题，首先你需要了解这个工具。
- ESM3 是什么？ 把蛋白质想象成让生命运转的“食材”或“机器”。ESM3 是一个人工智能，它就像一位主厨，能够查看食谱（蛋白质的序列）、菜肴的形状（其结构）以及菜肴的功能（其作用）。
- 它能做什么？ 如果你给 ESM3 一份部分食谱，或者描述你想烹饪的菜肴，它能够“填补空白”，发明出一种全新的、可工作的蛋白质。它的速度极快，在人类实验室测试一种变体所需的时间里，它能在计算机中测试数千种变体。
- 风险： 正如主厨可能会意外创造出有毒的菜肴一样，恶意行为者可以利用 ESM3 设计出新的危险病毒或细菌。论文认为，ESM3 使得制造此类武器的步骤变得更加容易和迅速。
监管的“盲区”
《欧盟人工智能法案》有一条具体规定：如果一个人工智能是具备“系统性风险”的“通用人工智能”（GPAI），其开发者必须遵守严格的安全规则。
然而，作者们发现，由于两个令人困惑的因素，ESM3 目前对这些规则来说是“隐形”的：
1. “语言”陷阱（法案的措辞）
该法律将“通用人工智能”定义为非常聪明且能执行多种不同任务的人工智能。支持性指南（即该法律的“操作手册”）列举了这些任务的示例：撰写文本、根据文本生成图像或进行语音交流。
- 问题所在： 指南似乎暗示，要成为“通用”人工智能，该 AI 必须使用人类语言（如英语或法语）。
- 漏洞： ESM3 不使用人类语言。它使用“蛋白质语言”（氨基酸序列）。因为它不与你聊天或撰写文章，现行规则认为：“哦，这不是通用人工智能。它只是一个专用工具。”因此，它无需遵守严格的安全规则。
2. “算力”门槛（规模限制）
该法律还规定，如果一个人工智能是使用海量计算机算力训练的（具体而言，超过 次运算），它将被自动视为危险。
- 问题所在： ESM3 规模巨大，但其训练所使用的算力略低于那个神奇的数字（）。因此，它也没有被自动的“危险”触发器捕捉到。
“生物风险链”类比
论文使用了一个名为生物风险链的概念。想象一个恶意行为者试图制造生物武器，就像一个小偷试图闯入一家高安保银行。他们必须完成一长串步骤：
- 决定抢劫银行。
- 规划路线。
- 撬开锁。
- 打开保险箱。
- 逃脱。
论文认为，ESM3 就像一种超级工具，使得这些步骤中的几个（例如撬锁或打开保险箱）变得容易得多。即使它没有完成所有步骤，仅仅让其中几个步骤变得更容易，也会增加小偷成功的可能性。由于 ESM3 是开源的（可免费下载），即使是资源有限的小型团体也可以使用它。
为什么这很重要
作者们担心，由于 ESM3 不符合“通用人工智能”的严格定义（因为它不使用人类语言交流），它处于无监管状态。这意味着制造该公司的公司无需证明他们拥有安全措施来阻止坏人利用它制造武器。
拟议的补救措施
论文提出了四种修补安全网破洞的方法：
- 重新定义“通用”： 欧盟可以正式声明，“通用”包括在任何复杂领域（如生物学）精通的人工智能，而不仅仅是人类语言。
- 更新指南： 编写法律“操作手册”的人员可以修改规则，将生物模型纳入其中。
- 修改法律： 他们可以重写法律，取消人工智能必须具有“通用性”才能因系统性风险而受到监管的要求。
- 出口管制： 将人工智能软件本身视为一种危险的物理武器，禁止其自由出口或共享。
核心结论
论文总结道，ESM3 目前正处于雷达之下。它拥有造成重大危害的能力（通过降低制造生物武器的门槛），但目前的欧盟规则过于关注“人类语言”人工智能，以至于无法捕捉到它。作者们敦促欧盟修正这些定义，以确保强大的生物工具与其他危险人工智能系统一样，受到同等的安全标准约束。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。