Balancing Autonomy and Oversight in Language-Agent-Guided Physical Experimentation
本文介绍了 ADAM，这是一个多智能体大语言模型框架，它通过使用语义可逆性边界来安全地引导闭环材料实验，从而在高度自主性与针对性的人类监督之间取得平衡。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
长期以来，科学研究一直依赖于研究人员敏锐的目光和稳定的双手来探索微观材料世界。为了理解新型电池如何储存能量，或者计算机芯片如何处理信息，科学家必须首先构建并检查微小的样本，这通常需要使用像电子显微镜这样庞大且复杂的机器。这些仪器功能强大，但难以驾驭；操作它们并确保安全高效需要多年的训练。几十年来，自动化的目标一直是让机器在无需人类持续监督的情况下运行实验，以期加速发现过程。然而，大多数尝试都陷入了两个陷阱之一：要么机器过于僵化，只能遵循严格的、预先写好的指令，无法处理意外结果；要么机器过于冒险，使用的人工智能可能会做出错误的判断，从而损坏昂贵的设备或造成不安全的情况。挑战在于，如何赋予机器足够的思考和适应能力，同时将其约束在安全和人类判断的框架之内。
来自落基山国家实验室的一个研究小组开发了一个名为 ADAM 的新系统来解决这一问题。ADAM 不是一个单一的机器人，而是一个智能软件框架，扮演着科学伙伴的角色。它利用先进的语言模型——即经过训练、能够理解并生成人类语言的系统——来规划并在真实的物理仪器上运行实验。其核心创新在于如何在独立性与安全性之间取得平衡。ADAM 并没有为“何时需要人类介入”硬编码每一条可能的规则，而是学会了识别哪些动作是容易撤销的，哪些是不可逆的。在执行常规步骤时，它具有高度的自主性；但在执行不可逆动作（例如切割样本或更改关键设置）之前，它会自动暂停并请求人类批准。这种方法使系统能够像人类科学家一样利用自然语言进行逻辑推理，同时确保不会出现危险的错误。
研究人员在两种截然不同的场景中测试了 ADAM，以观察它能否同时处理常规任务和开放式探索。在第一个测试中，该系统被要求寻找一种特定电子器件中的缺陷，并为进一步分析准备该器件的切片。这是一个常见但困难的任务，通常需要专家观察图像、发现细微的失效迹象，然后小心地用离子束磨去材料。ADAM 收到了一个用普通英语表达的简单指令，要求其寻找失效位置并准备横截面。系统成功扫描了样本，分析了图像并识别出三种不同类型的缺陷，随后决定了哪一个需要进行切割。它暂停并向人类操作员展示了发现结果及计划，在获得批准后执行了切割过程。该系统还展示了独特的适应能力：当人类操作员随后要求它编写一段计算机脚本以自动标记图像中的缺陷时，ADAM 即时生成了代码，理解到这是一个关于软件工具的请求，而非移动显微镜的指令。
在第二个测试中，研究人员进一步推动了系统，要求它对一个陌生的样本进行开放式调查。在这里，没有预设的计划或已知目标。一名初级研究人员仅向系统下达了设计并运行表征实验的指令。ADAM 并未盲目地开始移动机器，而是首先查阅了实验室内部的数字库（包括内部程序和科学笔记），以构建一个逻辑严密的逐步计划。它向人类操作员解释了自己的推理过程，详细说明了为什么选择某些成像技术以及希望通过这些技术了解什么。获得批准后，系统运行了实验，并实时分析所拍摄的图像。当它注意到一些意料之外的情况时，它调整了计划，决定倾斜样本以获得更好的晶体结构视图。随后，它转向分析颗粒的化学成分。在整个过程中，该系统表现得像一位经验丰富的专家，基于科学原理而非仅仅遵循剧本做出决策，同时在重大决策上始终让位于人类。
结果表明，这种新方法在不牺牲安全性的前提下，显著减少了对人类持续监督的需求。在直接对比中，即使是完成一次常规的聚焦调整，该系统所需的交互次数也比经验丰富的专家还要少，且产生的图像同样清晰。通过将其决策建立在经过验证的实验室文档数据库之上，该系统避免了人工智能常见的“幻觉”或编造事实的问题。它不是在猜测，而是引用具体的程序和数据来证明其行为的合理性。这种透明度意味着新的研究人员可以遵循系统的逻辑，从其选择中学习，并准确了解其信息的来源。实验证明，可以创造出一种不仅是执行命令的工具，而且是能够理解高层目标、推理实现步骤并安全执行目标的协作型机器。
这项工作表明，未来的科学发现方式正在发生转变。瓶颈不再仅仅是昂贵仪器的获取，也不再是学习如何使用它们所需的时间。有了像 ADAM 这样的系统，研究的重心可以回归到问题本身。研究人员可以用意图明确的自然语言陈述一个目标，而系统可以处理实现该目标过程中复杂、繁琐且危险的工作。研究人员证明，通过推断何时寻求帮助，而不是被动等待被告知何时停止，机器可以以一种此前被认为过于冒险的独立程度进行运作。这并不是要取代科学家，而是将他们从显微镜前解放出来，让他们能投入更多时间在科学的创造性方面，而由机器处理执行工作。该系统旨在具备灵活性，这意味着它最终可以被改编用于多种不同类型的仪器，而不局限于本研究中使用的设备。尽管目前仍存在一些局限性，例如计算机思考所需的时间以及设置数字工具时的精细需求，但实验证明，安全的、自主的科学推理已近在咫尺。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。