技术摘要：一致性作为可测试属性

问题陈述

尽管大语言模型（LLM）代理在从软件工程到复杂推理的各个领域都展现了卓越的能力，但其在高风险环境中的部署却因缺乏行为一致性而受阻。与确定性软件不同，基于 LLM 的代理在面对语义等效的输入时，由于采样的随机性和对表面提示变体的敏感性，会表现出显著的输出方差。当前的评估方法主要关注任务完成率（例如 pass@1）和特定基准测试上的准确率。然而，这些指标未能捕捉到代理在面对输入表述、上下文或执行环境的变化时，是否能产生连贯且可靠的输出。

该论文强调了当前代理可靠性存在的几个关键局限：

• 对扰动的脆弱性： 微小的拼写错误或改写会导致思维链推理准确率的显著下降。
• 工具敏感性： 当工具描述被修改或添加了无关工具时，拥有多工具访问权限的代理会表现出 erratic（不稳定）的行为，在对抗条件下准确率降至接近零。
• 矛盾响应： 代理经常在对话轮次中产生矛盾的响应，特别是在上下文长度受限或查询未明确指定的情况下。
• 基准测试污染： 静态基准测试（如 SWE-bench）上的表现往往无法转化为持续更新的变体（如 SWE-bench-Live）上的表现，这表明缺乏真正的鲁棒性。

现有工作缺乏一个标准化、严谨的框架来在代理执行轨迹的层面上分解和测量一致性，通常仅关注最终输出。

方法论

作者提出了一种基于统计假设检验的 AI 代理可靠性严谨测量科学。该框架将可靠性分解为两个维度：可观测的（输出级）和内部的（轨迹级）。

1. 基于 U-统计量的输出一致性

为了在输出层面测量一致性，作者使用U-统计量将问题形式化。

• 设置： 给定基础提示 $x_0$ 和一组语义等效的扰动变体 $x_1, \dots, x_n$，代理产生输出 $y_0, \dots, y_n$。
• 指标： 对称核函数 $k(y_i, y_j)$ 测量成对输出之间的相似度（例如 BLEU、ROUGE、蕴含关系或基于 LLM 的评判）。
• 估计量： 一致性通过 U-统计量 $U_n$ 进行估计，它是总体参数 $\theta = E[k(Y, Y')]$ 的无偏估计量。
• 假设检验： 该框架检验零假设 $H_0: \theta = 1$（完美一致性）对立假设 $H_1: \theta < 1$（不一致性）。定理 1 和 2 表明，在特定假设下（分布不变性和同质任务分布），检验统计量渐近服从正态分布，从而在大小（假阳性控制）和功效（检测灵敏度）方面提供保证。

2. 基于核方法的轨迹一致性

认识到代理执行的是序贯决策过程，该框架扩展到了执行轨迹 $\tau = (a_1, \dots, a_T)$。

• 随机过程： 轨迹被视为具有可变长度和时间依赖性的随机过程。
• 指标： 作者在再生核希尔伯特空间（RKHS）中使用**最大均值差异（MMD）**来测量基础轨迹分布与扰动轨迹分布之间的距离。
• 核函数： 为了处理可变长度的动作序列，论文采用了：
  • Jensen-Shannon 距离（JSD）： 测量组成漂移（所用工具的比例）。
  • Levenshtein 距离（LD）： 测量排序漂移（序列稳定性）。
  • 全局对齐核（GAK）： 一种正定核，解决了编辑距离中非负定性缺失的问题，为 MMD 提供了统计上有效的类比。
• 加权指标： 为了捕捉误差的不对称性（即后期偏差比早期探索更具后果性），作者引入了加权 Levenshtein 距离，按位置缩放编辑成本。

3. 处理多模态性

该框架解决了单一任务存在多种有效解决方案策略的问题。它提出了一种两步方法：(i) 通过在 GAK 矩阵上进行谱聚类来识别解决方案模式，以及 (ii) 测量每个模式内部的一致性，以区分合法的策略多样性与真正的不稳定性。

主要贡献

1. 基础框架： 该论文建立了一个原则性的统计框架来量化代理一致性，区分核心能力与执行鲁棒性。
2. 理论严谨性： 它为所提出的检验统计量的渐近正态性提供了形式化证明（定理 1–3），确保保守的假阳性率和高检测真实不一致性的功效。
3. 诊断粒度： 通过将不一致性分解为组成漂移（采取了哪些动作）和排序漂移（如何排列这些动作），该框架揭示了仅靠输出指标无法看到的架构弱点。
4. 时间诊断： 引入加权轨迹指标使得能够识别代理何时发生偏离（前置错误与后置错误），为架构修复提供具体指导。

实验结果

该框架在三个代理基准测试上进行了验证：SWE-bench Verified（软件工程）、Spider2-DBT（数据转换）和BFCL（函数调用）。实验涉及应用提示级（改写、回译、噪声）和任务级（环境变化、模式偏移、诱饵工具）扰动。

• 高准确率掩盖了一致性失败： 代理在提示级扰动下保持了相对较高的输出一致性（0.75–0.90），但在任务级扰动下表现出显著退化。
• 轨迹指标揭示隐藏失败：
  • SWE-bench： 在“线性 MCP"扰动（改变信息检索机制）下，OpenHands+Kimi-K2 的准确率崩溃至约 25%，但输出一致性仍保持在 60%。轨迹分析显示，虽然工具选择保持一致（高 JSD），但动作的排序显著退化（低 Levenshtein），表明执行排序失败。
  • BFCL： 在 XML 格式扰动下，OpenHands+Kimi-K2 的准确率降至接近零。轨迹指标显示组成和排序完全崩溃，揭示了对 JSON 解析的硬编码依赖以及无法生成有效 XML 的能力。
  • Spider2-DBT： Codex 在模式扰动下表现出高组成一致性但中等排序一致性，表明代理持续为扰动输入产生错误的答案。
• 扰动强度： 消融研究表明，增加扰动强度（例如多次改写）会导致准确率逐渐下降，而特定的结构变化（例如死代码注入）则显示出饱和效应，表明代理可以忽略明显未使用的代码。

意义与主张

该论文声称提供了“隔离代理偏离发生的位置和原因”的数学工具。其意义在于将评估范式从“代理是否解决了任务？”转变为“代理在变化下是否可靠地解决了任务？”

• 诊断灵敏度： 作者证明，轨迹级一致性指标比传统的 pass@1 率提供了更高的诊断灵敏度，揭示了准确率指标所掩盖的架构脆弱性。
• 部署就绪性： 通过识别特定的失败模式（例如排序错误与工具选择错误），该框架使得识别和修复架构问题成为可能，这是在高风险、现实世界环境中部署代理的先决条件。
• 局限性： 作者承认，他们的方法依赖于扰动中语义等效的假设，这在实证上很难验证。此外，当前的轨迹分析将动作序列视为一致性的单位，忽略了中间推理状态或信念更新，这需要访问标准代理框架当前未暴露的内部模型状态。

总之，这项工作提供了一个严谨的、可测试的代理可靠性定义，超越了简单的成功率，深入理解了代理在压力下的行为，从而为构建更鲁棒的 AI 系统奠定了基础。