Introducing Grounding into the Agentic Design Loop: An Exploratory Review of an Unclaimed Problem
这项探索性综述通过筛选数千篇论文，识别并整合了尚未被定义的“设计落地”（Design Grounding）问题——即在制造前缺乏验证大语言模型生成的设计是否符合现实世界约束的关键机制——从而揭示出仅有极少数研究探讨了这一结构性挑战，而该挑战目前仍分散在相邻领域之中。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象这样一个世界：计算机不再仅仅是遵循指令，而是开始为新事物绘制蓝图。它们正在超越简单的任务，如处理电子邮件或玩游戏，转而设计复杂的系统：计算机芯片的架构、科学实验的工作流以及软件的结构。这种转变被称为“智能体设计”（agentic design）。在这个新角色中，计算机扮演着建筑师的角色，它不仅决定要建造什么，还决定首先要建造什么。然而，在这个过程中存在着一个危险的鸿沟。当人类建筑师设计房屋时，他们会实地考察，测量地面，并检查当地的天气。他们在第一块砖铺设之前，确保其方案符合现实世界。而当计算机设计一个系统时，它往往是在真空中工作的。它创造出的计划在屏幕上看起来完美无缺，逻辑自洽，但它从未接触过该系统必须生存的现实。如果计算机的计划有误，这种错误可能直到系统建成后才会被发现，届时修复它可能会极其昂贵，甚至是不可能的。
同济大学的一个研究小组致力于调查这一特定的盲点。他们想知道这些计算机智能体是否在根据现实世界检查它们的设计，还是仅仅在空中楼阁中筑梦。他们为这个缺失的环节创造了一个术语：“设计落地”（design grounding）。这是将计算机的内部计划与它必须满足的物理或操作现实相连接的过程。研究人员提出了一个简单而深刻的问题：当一个智能体设计某样东西时，它是否有办法知道那个东西在建成之前是否真的能在现实世界中发挥作用？为了找到答案，他们并没有只看一个领域；他们扫描了计算机科学、工程学和机器人领域数千篇研究论文，以观察这种连接实际上发生的频率。
研究人员构建了一个大规模搜索，寻找那些智能体设计了一个系统并随后针对现实世界对其进行测试的论文。他们查看了 2020 年至 2026 年中期发表的近三千篇研究论文。他们将这些论文分为四组：智能体仅进行设计而未进行测试的、智能体仅进行测试而未进行设计的、两者皆未发生的，以及那极少数智能体既设计又针对现实世界测试其作品的组别。结果非常显著。那个成功闭环的组别——即智能体设计了某物并随后通过现实进行检查——是所有组别中最小的，仅占他们审查论文数量的约十五分之一。更具说服力的是，当他们仔细观察那二十篇成功闭环的论文时，发现其中十九篇仍在针对模拟环境测试其设计。它们是在针对一个计算机构建的世界模型进行检查，而不是针对真实世界。在整个组别中，只有一篇论文真正使用了现实世界的测量值来验证设计。
这项研究表明，困难不仅仅在于缺乏努力，而是一个结构性问题。智能体正在设计的对象尚不存在。你无法在桥梁建成之前测量它，也无法在新的计算机芯片制造之前测试它。因为真实的物体缺失了，智能体被迫依赖预测、模拟或模型。这些工具很有用，但它们并不等同于现实。研究人员发现，当智能体尝试测试其设计时，它们通常使用由它们自己或其创造者专门为测试而构建的工具。这创造了一个陷ala（陷阱）：设计被检查的对象是一个为了易于通过而构建的世界，而非一个独立且不可预测的世界。这就像一名学生在参加自己编写的模拟考试；他们可能获得满分，但这并不意味着他们已经为真正的考试做好了准备。
这种差距带来的后果是严重的。在工程领域，设计阶段早期的决策决定了一个项目的最终成本的大部分。如果缺陷在系统建成后才被发现，修复它需要撤销已经完成的工作，这可能比在设计阶段修复的成本高出十倍。在某些情况下，例如建造物理芯片或医疗设备，错误的方案是无法修复的，只能将其丢弃，从而浪费时间与资源。研究人员发现，“智能体设计”领域正在迅速增长，论文数量每年翻倍，但将这些设计落地到现实的能力却未能同步跟进。现有的工具（如机器人技术或软件测试）并未被整合进一个单一的过程中，使智能体能够在一个持续的循环中进行设计、测试和修改。
论文总结道，解决方案不仅在于更好的软件，而在于一种组装现有工具的新方式。我们需要建立一个系统，让智能体能够观察世界，根据独立的事实验证其想法，根据真实的反馈修正其计划，并测量结果，这一切都在一个单一的循环内完成。目前，这些组成部分存在于不同的领域：机器人技术拥有从模拟到现实的路径，硬件工程师拥有检查设计是否符合物理定律的工具，但还没有人将它们整合在一起，用于新一代的设计智能体。研究人员认为，除非建立这种连接，否则智能体设计未来的承诺将受限于一种风险：即建造出那些在纸面上看起来很完美、但在现实世界中却会失败的东西。前进的道路需要搭建一座桥梁，连接智能体的数字思维与它试图塑造的物理约束。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。