🤖 AI

PANDO: Efficient Multimodal AI Agents via Online Skill Distillation

PANDO 引入了一种高效的在线技能蒸馏框架，该框架通过维护结构化的技能库并采用进度反思和缓存感知提示等技术，使多模态网络代理能够提升性能并降低令牌消耗，在 VisualWebArena 上实现了 58.3% 的成功率，且与现有方法相比显著降低了推理成本。

原作者： Yubo Li, Yidi Miao, Haotian Shen, Yuxin Liu

发布于 2026-05-26

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Yubo Li, Yidi Miao, Haotian Shen, Yuxin Liu

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是关于PANDO论文的通俗解释，使用了类比进行说明。

核心难题：“按点击付费”的陷阱

想象你雇佣了一位非常聪明但昂贵的助手来帮你在线购物。每当你让他们查看网页、思考该做什么或点击按钮时，你都需要支付一笔微小的费用（称为“令牌”）。

目前，大多数 AI 智能体试图通过花费更多金钱来提升工作表现。如果失败，他们就再试一次；如果卡住了，就寻求第二意见；他们将同一任务运行十次，然后挑选最好的结果。这虽然有效，但就像为了去杂货店付了一次出租车费，为了回去检查是否忘了钱包又付了第二次出租车费，再为了确认价格付了第三次出租车费。这确实能完成任务，但极其昂贵且缓慢。

这篇论文的作者问道：我们能否打造一种智能体，随着工作量的增加，它变得更便宜且更快，而不是每次都要花费更多金钱？

解决方案：PANDO（“巨型杨树林”智能体）

研究人员构建了一个名为PANDO的智能体。它的名字来源于犹他州的“Pando”杨树林。

隐喻： PANDO 看起来像 47,000 棵独立的树，但实际上它们都通过地下的单一根系相互连接。当一棵树生长时，它会与其他树木共享养分；当一棵树死亡时，根系会记住它并维持整片森林的生机。
AI 版本： PANDO 是一个拥有共享“记忆根系”（技能库）的 AI 智能体。它不是将每个新任务视为全新的问题，而是记住从先前任务中学到的内容，并利用这些经验来解决新问题。

PANDO 的工作原理（四步循环）

PANDO 不仅仅是猜测和检查。它遵循一个循环：规划 → 行动 → 反思 → 学习。

规划： “大脑”（一个聪明但昂贵的 AI）将一个大任务（例如“找到 500 美元以下的最便宜吉他”）分解为小步骤。
行动： “双手”（一个更便宜、更快的 AI）实际点击按钮。
反思： “经理”检查这些步骤是否有效。价格筛选器是否真的改变了列表？如果没有，原因是什么？
学习（魔法部分）： 这是 PANDO 变得更聪明的地方。
- 技能库： 如果智能体成功找到了便宜的吉他，它会记录下这个“配方”：“要找到便宜商品，点击‘按价格排序’，然后选择‘从低到高’。”它将此保存为一条规则或一个惯例。
- 复用技能： 下次智能体需要寻找“最昂贵”的商品时，它无需苦思冥想。它只需查看技能库，看到规则，然后将开关切换到“从高到低”。
- 降级（清理）： 如果某条规则停止生效（例如网站更改了布局），智能体会将其标记为“损坏”并停止使用。这防止了智能体陷入循环，试图使用旧且无效的指令。

为何它是游戏规则改变者

该论文在910 个不同的网页任务（购物、分类广告、Reddit）上测试了 PANDO。结果如下：

成功率： PANDO 的成功率为58.3%。这优于当前的顶级智能体（约为 54%）。
成本： 这是最大的胜利。PANDO 使用的令牌（金钱）比次优智能体少了 58%。
“免费午餐”效应：
- 早期： PANDO 稍慢，因为它正在学习规则。
- 后期： 随着它建立技能库，它变得更快、更便宜。在测试结束时，它完成任务所需的步骤和资金比开始时更少。
- 类比： 想象一个学生参加数学考试。
  - 旧式智能体： 每次看到新题目，他们都从头推导公式。这需要很长时间。
  - PANDO： 第一次看到题目时，他们解出题目并将公式写在作弊条上。接下来的 99 次，他们只需查看作弊条。他们完成考试的速度更快，消耗的脑力更少。

PANDO 避免的“隐藏成本”

论文指出，其他智能体通过两种方式隐藏成本：

预评估发现： 有些智能体在测试开始前花费数周时间“训练”或“发现”工具。PANDO 在测试过程中学习，因此没有隐藏的前期成本。
扩展 rollout（ rollout 缩放）： 有些智能体只是尝试任务 10 次并挑选获胜者。PANDO 只尝试一次，但利用其记忆让这唯一的一次尝试产生价值。

核心结论

PANDO 证明，你不需要向 AI 投入更多金钱就能让它变得更好。通过赋予它结构化记忆（技能库）和清理不良记忆（降级）的能力，智能体随着工作量的增加而变得更加高效。

这就像是一个每天忘记一切、需要不断重新培训的工人，与一个持有“操作指南”笔记本、每天变得更快的工人之间的区别。

关键要点： PANDO 不仅变得更聪明；随着经验的积累，其运行成本变得更便宜。

技术摘要：PANDO——通过在线技能蒸馏实现高效多模态 AI 智能体

问题陈述

近期多模态 Web 智能体的进展主要依赖于一种“代币经济”模式，即通过增加推理成本来换取性能提升。这包括扩展展开搜索（例如 Best-of-N）、增加验证器次数、进行离线工具发现或堆叠专用模型等策略。虽然这些方法在基准测试分数上有效，但它们使代币支出与成功率之间形成了线性或超线性关系，导致高延迟、高能耗以及与预评估发现相关的隐性成本。

作者指出了当前智能体在 VisualWebArena (VWA) 基准测试轨迹中的三种具体机制性低效：

重复动作循环：智能体经常陷入重复动作的循环中（占图像标注失败的 34–42%）。
隐性发现成本：像 WALT 这样的系统会产生显著的离线探索成本，而这些成本通常被排除在报告的任务指标之外。
提示架构低效：文本/标题方法的提示缓存利用率低（<11%），未能随着智能体经验的积累而利用稳定的前缀。

核心问题在于：智能体能否随着经验的积累而变得更加高效，而不是在每个任务上都支付固定的“推理税”？

方法论：PANDO 框架

PANDO（得名于 Pando 杨树林，一个支撑许多树干的单一根系）是一种单轮次、在线技能蒸馏框架。它运行在规划 → 行动 → 反思 → 学习的循环之上，旨在评估期间构建结构化的技能库，而无需预评估发现预算。

核心组件

结构化技能库 ( $S_t$ )：
- 该库是规则（确定性的、由模式触发的护栏）和例程（参数化的、可执行的程序即动作技能）的不相交并集。
- 检索：与基于嵌入的检索不同，PANDO 使用字面关键词包含进行确定性、可审计且缓存友好的检索。
- 生命周期管理：该库不是静态的；它在线增长。成功的子轨迹被归纳为例程，而失败的轨迹则被追踪。
学习与蒸馏：
- 归纳：在成功轨迹之后，如果候选技能具有可重用的子目标模板和已验证的选择器模式，学习模块会提取这些技能。
- 极性对合并：为防止库膨胀，仅方向不同（例如“最便宜”与“最昂贵”）的例程会被合并为单个参数化例程 $f_{\pm}(x, d)$ 。
- 基于置信度的降级：技能维护运行中的置信度估计值 ( $c_s = \alpha_s / (\alpha_s + \beta_s)$ )。如果某项技能反复失败，它将被移至降级黑名单，防止智能体重新发现并再次因脆弱的例程而失败。
执行经济：
- 分层路由：使用强大的模型（规划器）稀疏地进行分解和反思。使用更便宜的模型（执行器）处理高频 grounding。
- 视觉压缩：通过压缩视觉输入，减少占主导地位的执行器项的代币负载。
- 缓存感知提示：提示布局经过结构化设计，将稳定的指令和技能摘要置于易变的观察结果之前，随着库的增长最大化 KV 缓存利用率。
成本分解：
该论文将智能体成本形式化为四个加性项：
$C(\pi; B) = \frac{C_{pre}}{|B|} + N_{rollout} C_{exec} + C_{verify} + C_{induce}$
PANDO 旨在实现 $C_{pre}=0$ （无离线发现）、 $N_{rollout}=1$ （单轮次）以及严格在任务流中支付的较小 $C_{induce}$ ，同时通过技能复用最小化 $C_{exec}$ 。

主要贡献

代币经济框架：作者形式化了一个成本恒等式，将预评估发现、展开扩展、验证和在线归纳分离开来，论证当前的基准测试往往掩盖了这些不同的成本货币。
结构化技能学习框架：PANDO 将模式索引规则、参数化例程、在线蒸馏、极性对合并、基于置信度的降级和缓存感知提示集成到单个智能体中。
内在效率指标：除了成功率 (SR) 外，该论文还引入了动作重复率 (ARR)、步骤开销比 (SOR) 和提示缓存利用率，以诊断轨迹层面的低效问题。
最先进结果：PANDO 在 VWA 上实现了新的帕累托前沿，以显著少于所有评估基线的代币量实现了更高的成功率。

实验结果

在 VisualWebArena 基准测试的所有 910 个任务上进行了评估：

成功率 (SR)：PANDO 达到 58.3%，超过了 SGV (54.0%) 和 WALT 复现版 (45.2%)。
代币效率：PANDO 平均每个任务使用 115K 代币。这比 SGV (275K) 少 58%，比 WALT (294K) 少 61%。
内在指标：
- ARR：9.1%（自动化方法中最低），表明有效避免了循环。
- SOR：1.8×（最低），表明失败的任务不会招致过多的步骤惩罚。
- 缓存利用率：72.4%（最高），证明了稳定提示前缀的有效性。
消融研究 (VWA-300)：
- 技能组件：规则、例程和在线蒸馏提供了大部分 SR 提升（从 38.6% 提升至 57.3%）。
- 效率组件：分层路由、视觉压缩和缓存感知提示对 SR 的贡献极小，但负责了大部分代币减少（从 147K 降至 117K）并提高了缓存利用率。
学习动态：该系统表现出“冷启动”阶段，步骤数较高（约 30 步/任务），随着库的成熟稳定在约 8.5 步/任务。在流处理过程中，技能库从 12 个种子例程增长到 47 个归纳例程（降级后 32 个活跃）。

意义与主张

该论文声称，PANDO 证明了 Web 智能体的进步不必仅通过增加展开次数、隐性发现预算或每步专用模型堆叠来购买。

可重用性即资本：核心见解是，过去的代币支出应转化为可重用的资本。通过将经验蒸馏为结构化、可审计的库，智能体随时间推移降低了其边际推理负载。
透明度：与黑盒向量存储或离线发现阶段不同，PANDO 的技能库是可检查的、确定性的，并且在提示缓存下是稳定的。
基准报告：作者认为，计算机使用基准测试必须报告 SR 以及原始代币、缓存代币份额、隐性发现支出和延迟，以提供智能体效率的完整图景。

该论文得出结论：PANDO 实现了新的帕累托最优解点：以更低的边际成本实现更高的准确率，这表明“效率并非通过做得更少来获得，而是通过确保所做之事有处可归”。