技术摘要：SKILL.nb

问题陈述

AI 智能体正越来越多地生成持久的外部人工制品（如代码、工作流和程序性记忆），以复用过去的经验。然而，这种复用引入了一个关键的生命周期可靠性问题：在一种语境下成功的制品往往会在环境漂移（例如 Web 自动化中的 UI 变化）、任务描述不明确或任务分布偏移的情况下失败。现有系统通常将智能体经验视为静态提示词上下文，或提供用于版本控制与验证的孤立原语，但缺乏一个统一的生命周期策略来管理何时促进、形式化、修复或退役可复用的工作流。

在 Web 环境中，这一挑战尤为突出。与拥有显式契约的版本锁定型桌面应用或 API 不同，Web 界面可以在不保留自动化锚点（选择器、布局）的情况下发生漂移。这迫使人们在两者之间进行权衡：将步骤硬化为代码可以提高控制力，但增加了在漂移下的脆弱性；而保持步骤由自然语言（NL）引导则保留了灵活性，但削弱了制品级的控制力。核心问题在于，如何根据累积的执行证据而非单次成功的表现，来确定何时将一个步骤从 NL 引导转变为可执行代码，以及何时撤销或退役一个工作流。

方法论：SKILL.nb

作者引入了 SKILL.nb，这是一个通过基于证据校准的生命周期策略来管理可复用智能体工作流的框架。该系统运行在一个在线-离线循环上，将工作流存储为可审计、版本化的 Jupyter Notebooks，其中交织了自然语言引导、多语言可执行单元格、验证门控、回退路径以及多模态证据（输出、截图、错误追踪）。

核心机制

1. 选择性形式化 (Selective Formalization)：
   系统根据执行证据决定每个工作流步骤的表示形式。一个步骤可以是：

   • NL 引导 ($z_i=0$)：通过自然语言程序或原始意图执行。
   • 可执行 ($z_i=1$)：硬化为带有前后验证门控的代码。
   • 降级 (Demoted)：如果代码实现变得不稳定，则将其退回到 NL 引导。
   • 退役 (Retired)：如果一个工作流产生了过高的修复成本，则将其从活跃检索中移除。

2. 门控条件执行 (Gate-Conditioned Execution)：
   不同于“全或无”的脚本，SKILL.nb 条件化地执行步骤。在运行时，系统会检查验证门控（对可观测环境状态的谓词，例如 DOM 结构、URL、表单值）。

   • 如果门控通过验证，则运行可执行代码。
   • 如果门控失败（表明发生漂移），系统尝试进行局部修复。
   • 如果修复失败或门控仍未通过，则回退到 NL 程序或步骤意图。
   • 这确保了执行能够应对界面变化，而无需立即重新训练基础模型。

3. 生命周期策略与自适应阈值：
   该框架使用基于阈值的策略 $\pi_\theta$ 来管理生命周期动作（创建、形式化、降级、退役）。这些阈值并非固定不变，而是通过离线重放进行自适应校准：

   • 证据聚合：系统聚合追踪信息，以统计追踪支持度（用于创建/形式化）以及接受的修复次数/基于 Token 加权的修复负担（用于降级/退役）。
   • 组特化 (Group Specialization)：利用历史日志，按组（例如网站家族、任务类型）估计阈值。
   • 重放校准安全性：选择阈值旨在最小化维护成本，同时确保违规率（允许不安全动作的概率）保持在预算范围内，该预算是使用历史重放数据上的单侧 Wilson 置信上限进行估计的。
   • 收缩 (Shrinkage)：对于样本稀疏的组，估计值会向池化的全局阈值收缩，以防止对小样本量产生过拟合。

4. 制品表示 (Artifact Representation)：
   工作流以版本化笔记本 (.ipynb) 形式存储。选择此格式而非标准 Markdown (SKILL.md) 是因为其原生支持：

   • 具有明确边界的可执行代码单元格。
   • 嵌入式执行证据（输出、截图、日志）。
   • 同一制品内的验证门控和回退逻辑。
   • 关于运行了什么代码、哪些门控通过以及产生了什么证据的可审计历史。

核心贡献

1. 提出了持久自动化 (Durable Automation) 的公式化定义：论文将持久的 Web 智能体自动化定义为一个选择性形式化与生命周期治理问题，即当假设失效时，必须主动管理（促进、修复、退役）人工制品。
2. SKILL.nb 框架：一个基于笔记本原生的系统，将选择性形式化与门控条件执行相结合，使得工作流能够在单个版本化对象中混合 NL 引导、可执行代码和多模态证据。
3. 实证验证：全面的评估表明，与持久记忆基线相比，SKILL.nb 不仅提高了单次任务成功率，更关键的是提升了重复使用可靠性、修复恢复能力以及对环境漂移的鲁棒性。

实验结果

作者在 WebArena-Verified、Mind2Web 以及受控的 GitLab 版本漂移协议上对 SKILL.nb 进行了评估。

• 单次执行性能 (WebArena-Verified)：

  • 实现了 53.7% 的单轮成功率，超过最强的基线 (ReasoningBank) 3.9 个百分点 ($p=0.029$)。
  • 在复杂的多站点任务中表现出显著增益（17.5% 对比基线的 11.3%）。

• 生命周期可靠性 (重复执行)：

  • 复用一致性：在三次重复执行中，保留了 91.7% 的初始成功任务，比次优方法高出 15.5 个百分点。
  • 修复 vs. 退化：在有限修复条件下，它恢复了 72.9% 的后续失败，同时将修复后的退化率限制在 4.2%。相比之下，持久化基线遭受了 15.0–17.0% 的退化。
  • 稳定性：不同于随轮数增加而性能下降的基线，SKILL.nb 在五个扰动轮次中从 53.7% 提升到了 55.7% 的成功率。

• 泛化能力 (Mind2Web)：

  • 在跨网站和跨领域拆分测试中领先所有对比方法，分别达到了 38.1% 和 39.7% 的步骤成功率。

• 真实世界漂移 (GitLab 迁移)：

  • 在测试重用在 GitLab 15.7 上学习到的冻结状态以适配 GitLab 16.11 和 18.9 的场景时：
    • SKILL.nb：保持了性能（在 v18.9 上为 61.7%，对比 fresh 状态的 61.1%），显示负迁移仅为 -1.7 至 +0.6 个百分点。
    • 基线方法：遭受了严重的性能下降（例如 AWMonline 下降了 14.4 个百分点；ReasoningBank 下降了 11.1 个百分点），原因是受到陈旧、特定界面的假设所导致的“负迁移”。

意义与主张

论文声称，生命周期治理和门控条件执行是超越简单单次任务成功率之外的必要可靠性维度。通过将智能体人工制品视为受生命周期管理的物体而非仅仅是记忆，SKILL.nb 证明了：

1. 基于证据的治理允许智能体适应环境漂移，而不会发生灾难性遗忘或隐性退化。
2. 选择性形式化提供了一个灵活的中间地带，介于脆弱的代码与非结构化 NL 之间，允许系统在代码失效时实现“优雅回退”。
3. 可审计的笔记本提供了必要的结构来追踪执行边界和证据，从而实现了在非结构化提示词上下文复用中无法实现的安全性回滚与维护。

作者强调，他们的方法依赖于基于执行的证据而非隐藏的评估器标签来进行运行时决策，并且其安全性保证是相对于重放的（由历史日志限定），而非针对未来不可见的偏移的绝对保证。这项工作为构建能够操作动态、真实世界环境的、更具鲁棒性和自我修正能力的智能体指明了路径。