🤖 AI

PACE-Bench: Benchmarking Physics Adaptation via Code Evolution in Dynamic Environments

该论文介绍了 PACE-Bench，这是一个基于模拟器驱动的基准测试，旨在评估自我进化智能体在物理环境发生变化时调整基于代码行为的能力，研究揭示了当前方法在机制重构方面存在困难，并且基于模拟器的反思优于未经验证的自我修正。

原作者： Yuhao Zhan, Bingxiang He, Zecong Tang, Chaojun Xiao

发布于 2026-08-17

📖 1 分钟阅读☕ 轻松阅读

原作者： Yuhao Zhan, Bingxiang He, Zecong Tang, Chaojun Xiao

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在教一个机器人如何建造一座桥。你向它展示了如何建造一座在干燥、坚实地面上运行完美的桥梁。机器人学会了规则，编写了代码，并建造了一个稳固的结构。现在，想象一下你偷偷地把地面换成了一层冰面。昨天还完美运行的桥梁在今天瞬间崩塌。这正是许多智能计算机程序的日常现实：它们在固定的世界中遵循指令表现出色，但当游戏规则突然改变时，它们往往会陷入僵局。

科学家们正试图构建“自我进化智能体”（self-evolving agents）——即能够从错误中学习并进行自我修复，而无需人类按下“重置”按钮的 AI 系统。把这些智能体想象成电子游戏中的角色，它们不仅仅是背下了地图，而是会在掉进坑里后，实际修改自己的角色属性表。核心问题在于：如果世界的物理特性发生了变化（比如重力变强或摩擦力消失），这些智能体能否弄清楚为什么它们旧的方案失效了，并发明出一个全新的方案？这不仅仅是知道答案，而是要懂得在燃料改变时如何重新构建引擎。

这正是这项名为 PACE-Bench 的新论文所旨在测试的内容。研究人员创建了一个巨大的数字游乐场——一个“基准测试”（benchmark），以观察这些自我修复机器人处理物理规则突变的能力。他们不仅是给 AI 出了一道谜题，而是给它一个它已经解决过的谜题，然后秘密地改变了宇宙的规则，并问道：“你能修复你的方案吗？”

游戏规则：PACE-Bench

研究人员构建了 144 个不同的挑战，分布在六个不同的“物理世界”中，范围从简单的静态结构（如桥梁）到复杂的动态摆动（如摇晃的单摆或在泥泞中行驶的车辆）。

以下是游戏的运作方式：

源环境（The Source）： 给出一个 AI 智能体一个任务和一个“源环境”（例如，在 10 米的间隙上建造一座桥）。它编写一段计算机程序来建造一座可以工作的桥。
转折（The Twist）： 环境发生了突变。间隙可能突然变成了 20 米，风可能开始横向吹袭，或者材料可能变得易碎。旧的桥梁代码现在失效了。
挑战（The Challenge）： 智能体有 20 次尝试的机会去观察失败的原因，推测发生了什么变化，并重写其代码以在新条件下建造一座新桥。至关重要的一点是，智能体并不会被明确告知究竟发生了什么变化。它必须通过获得的反馈（例如：“你的桥断裂是因为接头在过大的压力下折断了”）来推断新的物理特性。

结果：谁通过了测试？

研究人员使用各种 AI 模型测试了 10 种不同的自我进化方法（即 AI 如何尝试自我修复的不同策略）。结果令人大开眼界：

基准测试难度极大： 即便是最聪明的 AI 模型也表现挣扎。表现最好的组合（一种称为 Reflexion 的方法配合大型模型）仅在约 35.9% 的挑战中取得了成功。即使是顶尖的模型 GPT-5.5 也仅解决了较简单的“静态结构”（Statics）子集的 66.7%。这意味着该基准测试远未被“攻克”；在 AI 适应新物理现实的能力方面，仍存在巨大差距。
“反思”胜过“盲目修改”： 最成功的方法是 Reflexion。这种方法迫使 AI 停下来思考：“我失败是因为 X，所以我应该尝试 Y。”这就像一名学生在重新尝试之前，先通过复盘试卷来查看自己为什么答错了。相比之下，那些只是不断重写代码而不检查新想法是否合理的方法（称为 Self-Refine）往往会让情况变得更糟，从而导致错误累积。
记忆可能成为陷阱： 一些方法试图通过记住过去的成功经验来帮助解决新问题。然而，论文发现，这往往会将 AI “锚定”在旧的、错误的思路上。AI 不再去探索新的解决方案，而是反复尝试微调那座已经注定失败的旧桥，作者将这种行为称为设计固着（Design Fixation）。
搜索却无法收敛： 其他方法尝试同时探索许多不同的想法（就像树木长出许多分枝）。虽然这有助于找到一些解决方案，但它们往往无法在 20 次尝试限制内找到最优解，从而陷入无止尽实验的循环中。

重大发现：“知其然”与“知其所以然”

或许最令人惊讶的发现来自一项特定的实验。研究人员尝试通过告诉 AI 究竟发生了什么变化来提供帮助（例如，“摩擦力现在是 0.5”）。你可能会认为这会让任务变得简单。

然而事实并非如此。即使 AI 知道了新物理特性的确切数值，它仍然无法解决问题。这表明真正的瓶颈不在于参数推断（搞清楚数值是多少），而在于机制重构（搞清楚如何根据这些数值重建结构）。仅仅知道风速是 50 英里/小时并不能解决问题，如果你不知道如何重塑桥梁以抵御阵风。

为什么这很重要

论文总结道，虽然 AI 在解决静态问题方面正变得越来越好，但在面对世界变化时的适应能力仍然非常笨拙。目前的“自我进化”工具往往过于僵化，要么过度固守初衷，要么过于混乱，无法找到稳定的解决方案。

作者指出，要让 AI 真正成为终身学习者，它需要变得更擅长重构机制，而不仅仅是微调参数。PACE-Bench 提供了一种可复现的方式来测试这一点，作为对下一代 AI 的“压力测试”，这些 AI 有望在复杂多变的现实世界中运行。就目前而言，论文表明，我们距离拥有那种能看到冰面上的坍塌桥梁并立即知道如何建造更好桥梁的 AI 还有很长的路要走。

技术摘要：PACE-Bench

问题陈述

现有的自我进化智能体基准测试主要评估在固定执行条件下的性能，或衡量已学习技能向新、未见任务的迁移能力。然而，它们未能测试智能体在目标和接口保持不变、但底层物理环境发生变化时，适配先前成功的可执行设计的能力。在实际部署中，操作条件（如摩擦力、材料强度、动力学特性）经常发生偏移，导致先前的解决方案失效。目前的智能体难以识别过时的假设、保留有用的组件，并在没有关于“变化了什么”的明确指令下，重新设计机制以适应这些新的物理约束。

方法论

作者引入了 PACE-Bench（通过代码进化的物理适配），这是一个旨在评估动态物理环境下自我进化适配能力的模拟器驱动型基准测试。

基准构建

范围： 该基准包含跨越 六个物理领域 的 144 个源到目标适配对：静力学、运动学、动力学、颗粒/流体交互、控制论/控制以及奇异物理学。
任务结构： 每个基础任务定义了一个固定的上下文（目标、约束和原始 API）以及五个环境（ $E_0$ $E_{0}$ 到 $E_4$ $E_{4}$ ）。
- $E_0$ 是 源环境，其中参考解是成功的。
- $E_1$ 到 $E_4$ 是 突变的目标环境，其中物理参数（例如重力、摩擦力、关节限制、风力）被系统性地改变。
- 源解在所有目标环境中保证会失败，而每个目标环境都存在一个经过验证的参考设计。
评估协议： 智能体被给予一个源解 ( $x_0$ $x_{0}$ ) 和一个目标环境 ( $E_k$ $E_{k}$ )。它们拥有 20 次尝试 的预算，用于迭代修订代码驱动的设计。
- 智能体接收 诊断性沙盒反馈（例如峰值关节力、失败时间戳、约束余量），但 不会被告知 特定的物理参数发生了哪些变化（变化隐藏设置，Change-Hidden setting）。
- 智能体必须推断隐藏的变化并重新设计机制，以通过目标环境。
数据集流水线： 该数据集通过一个三阶段过程构建，包括针对跨模块一致性的自动化审计、难度升级（确保 Qwen3-4B 在两次独立运行中均失败）以及由物理/工程领域专家进行的人工验证。

实验设置

作者评估了 十种自我进化方法，涵盖四种范式，并使用了各种模型规模（Qwen3-4B/8B/14B/32B, DeepSeek-V4-Pro, GPT-5.5 等）：

基于上下文（Context-based）： Reflexion, Self-Refine。
记忆增强（Memory-augmented）： ACE, ExpeL, ReasoningBank。
推理时搜索（Inference-time Search）： Tree-of-Thoughts (ToT), CodeEvolve。
基于参数（Parameter-based）： SEAL, RAGEN, TTT-Discover。

指标： Pass@2（至少一次在两次运行中成功的比例）和 Score@2（两次运行中最佳得分的平均值）。
分析： 研究包括代码相似性分析（用于检测固着 vs. 探索）、错误分类（对失败进行分类，如灾难性崩溃或停滞）以及关于信息披露（变化暴露，Change-Exposed）和视觉反馈（VLM 视频）的消融研究。

关键结果

基准饱和度： 该基准远未达到饱和。最强的配置 Reflexion + Qwen3-14B 在全量基准对上的成功率仅为 35.9%。即使是 GPT-5.5 在全额预算下也仅能解决 Statics 子集中的 66.7%。
范式表现：
- Reflexion（基于上下文）的表现始终优于 Vanilla 和其他方法，证明了基于模拟器的反思比未经验证的自我修正更可靠。
- Tree-of-Thoughts (ToT) 显示出极高的效率（Score/Hr），但在 20 次尝试的预算内难以收敛，往往处于探索阶段而无法找到解。
- 记忆增强方法（如 ACE）经常将智能体锚定在早期设计上，导致“设计固着”（Design Fixation），即检索到的经验限制了更强大的模型去进行必要的重新设计。
- Self-Refine 表现不佳，因为其未经验证的内循环修订会累积错误。
失败模式： 智能体主要失败于 设计固着（锁定在狭窄的设计族中）或 停滞/探索（进行无方向的改变而没有进展）。模型规模的扩大提升了推理能力，但并未解决复杂物理重新设计所需的组合搜索问题。
信息不对称： 揭示确切变化的物理参数（变化暴露，Change-Exposed）并不会显著提高顶尖模型的性能上限。这表明主要的瓶颈在于 机制重新设计（“如何做”，know how）而非 参数推断（“是什么”，know what）。
视觉反馈： 添加来自 VLM 的视频反馈有助于记忆类方法（通过对抗陈旧记忆），但可能会阻碍上下文类方法（通过分散专注的推理）。

重要性与主张

本文将 PACE-Bench 定位为诊断和改进在变化环境中自我进化智能体的可复现测试平台。其主要贡献包括：

一种新的评估范式： 它将重点从向新任务的泛化转向了在物理偏移下对现有可执行设计的适配，这是现实世界部署中的关键能力。
诊断性洞察： 该基准揭示了当前的自我进化智能体在探索与利用之间的张力方面存在困难。它强调了仅仅“知道什么改变了”是不够的，还需要具备“如何重新设计机制”的能力。
方法论指导： 结果表明，基于模拟器的反思是一种鲁棒的策略，而记忆机制可能会无意中限制更强大的模型。同时也表明，仅仅通过增加模型规模并不能解决物理机制重新设计的根本困难。

作者总结道，PACE-Bench 为开发能够在动态物理世界中进行终身适配的智能体提供了必要的基石，并指出当前的尖端模型在该领域仍面临重大挑战。