💬 NLP

Tool-Call Dependency Structure is Linearly Decodable in LLM Agent Residual Streams

本文证明，大语言模型智能体中工具调用轨迹的有向依赖图可从模型的残差流中线性解码，从而揭示该网络主动表征抽象执行拓扑，而非仅仅追踪位置顺序或标识符值。

原作者： Tianda Sun, Dimitar Kazakov

发布于 2026-05-26

📖 1 分钟阅读☕ 轻松阅读

原作者： Tianda Sun, Dimitar Kazakov

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是用简单语言和创造性类比对这篇论文的解读。

核心理念：解读计划的“幽灵”

想象一个大语言模型（LLM）是一位非常聪明但略显健忘的助手。当你要求这位助手完成一项复杂任务——例如“查找用户、检查其订单，然后交换产品”——它不会一步到位。它必须分几步走，沿途调用不同的工具。

这篇论文提出了一个简单的问题：模型在思考过程中是否“知道”这些步骤是如何相互连接的？

具体来说，如果步骤 A 提供的信息是步骤 B 所需的，模型的内部大脑（其“残差流”）是否真的保存着显示这种连接的地图？还是说，模型仅仅是根据它最后说了什么来猜测下一步？

研究人员发现，是的，模型确实保存着这张地图。 他们构建了一个微小而简单的“解码器”，可以读取模型的内部思维，并以高准确率揭示隐藏的依赖关系图（即谁需要从谁那里获取什么的地图）。

类比：建筑工地的蓝图

将模型想象成一个建筑工地。

工具： 模型使用诸如“获取用户”或“获取订单”之类的工具。
轨迹： 模型采取的行动序列。
依赖关系图： 这就是蓝图。它指出：“在你拿到水泥送货收据（步骤 A）之前，你不能浇筑混凝土（步骤 B）。”

通常，我们只能看到建成的房子（最终答案）。我们看不到工人们脑海中的蓝图。这篇论文就像戴上了一副特殊的 X 光眼镜，让我们能看到工人们在干活时，脑海中漂浮着的蓝图。

他们是如何做到的（“解码器”）

研究人员使用了一个名为 Qwen3-32B 的模型。他们观察该模型解决问题，并记录其内部的“残差流”（代表其当前思维状态的连续数据流）。

他们训练了一个非常小且简单的工具（称为“探针”），来观察这个数据流，并对过程中的任意两个步骤回答一个二元问题：

“步骤 A 的输出是否输入到了步骤 B 的输入中？”

结果：

行之有效： 该探针预测这些连接的准确率约为 87%。
并非巧合： 他们针对随机猜测和简单模式（例如“步骤 2 总是跟在步骤 1 之后”）进行了测试。探针的表现远优于这些情况，证明它实际上是在读取连接的逻辑，而不仅仅是事件的顺序。
具有抽象性： 当他们更改数据中的具体数字（例如，将用户 ID 从"123"改为"456"）但保持结构不变时，探针仍然有效。这意味着模型理解的是关系（A 依赖于 B），而不仅仅是具体的词语。

机器中的“幽灵”（传播）

最酷的发现之一是关于这些信息如何传播的。

想象你向第一位工人（步骤 A）耳语了一个秘密。论文表明，这个秘密并不会在工人完成任务后就消失。它会穿过整个建筑工地，在“空气”（残差流）中萦绕，一直传递到最后一位工人（步骤 Z）。

他们通过“修补”（交换）第一位工人的内部状态为另一种场景来证明了这一点。尽管模型没有改变其最终行为（它仍然建造了同一座房子），但后期工人内部的“蓝图”却发生了变化，以匹配新的场景。这表明模型正在主动地将结构计划向前推进，而不仅仅是对即时提示做出反应。

这张地图何时消失？

研究人员在不同类型的任务上测试了这一点，以查看这张地图是否始终存在。他们发现了一个规律：

复杂链条（多跳）： 如果任务需要长链条的依赖关系（A $\to$ B $\to$ C $\to$ D），那么这张地图非常清晰且易于读取。
简单列表： 如果任务只是一系列独立的步骤（A，然后 B，然后 C，没有任何连接），那么这张地图就会消失。
“顺序”线索： 如果步骤简单到仅凭顺序就能告诉你一切（例如，“先做 A，然后做 B"），模型就不需要构建复杂的内部地图。因为仅凭位置就足够了，所以“额外”的信号消失了。

这意味着什么（以及不意味着什么）

这意味着：
我们找到了一种新的方法来审视 AI 智能体内部。我们可以看到，它们不仅仅是在盲目地猜测下一个词；它们正在维护一个结构化的、抽象的地图，显示它们的行动如何相互依赖。这张地图是线性的（易于读取），并穿过模型的各层传播。

这并不意味着（严格基于这篇论文）：

这并不意味着我们现在可以轻易控制模型以做出更好的决策（论文明确指出，修补改变了内部地图，但没有改变最终行为）。
这并不意味着这对每一个 AI 模型或每一个小型模型都有效（他们只测试了特定的大型模型）。
这并不意味着我们可以利用这一点来修复“幻觉”或使模型更安全；那是未来的工作。

总结

这篇论文就像发现了一位魔术师助手的助手不仅仅是在背诵剧本，而是实际上持有整个魔术逻辑的思维导图。通过使用一个简单的解码器，研究人员证明了这张地图确实存在，它穿过模型的大脑传播，并且对于解决复杂的多步骤问题至关重要。

技术摘要：工具调用依赖结构在 LLM 代理残差流中可线性解码

问题陈述

尽管机械可解释性已成功刻画了大型语言模型（LLM）如何表征静态结构（例如句法树、棋盘状态、事实知识），但使用工具的代理的动态执行结构是否编码在模型的内部状态中，目前尚不清楚。具体而言，当代理将生成过程与外部函数调用交错进行时，早期的工具输出往往为后续调用提供参数，从而形成一个有向无环图（DAG）的依赖关系。目前尚不清楚这种运行时依赖图是否明确地表示在代理的残差流中，这种表示是否具有因果性，或者它是代理的普遍属性还是特定于某些基准测试。

方法论

作者在 $\tau$ -bench 零售领域，使用结构探测（structural probing）方法在Qwen3-32B模型（并在Llama-3.3-70B上复现）上研究了这一问题。

Oracle 构建：对于包含 $\ge 2$ 次工具调用的轨迹，作者构建了一个“Oracle"工具调用 DAG。如果调用 $i$ 输出的连续、区分大小写且空白字符归一化的子串（长度 $\ge 4$ ）原样出现在调用 $j$ 的序列化 JSON 参数中，则定义一条边 $i \to j$ 。这为探测器定义了二元边标签。
探测架构：训练一个低容量、L2 正则化的逻辑回归探测器，根据调用 $i$ 和 $j$ 的终止边界 token 的残差流向量的拼接，预测边 $(i, j)$ 的存在。向量在固定层集合 $\{0, 14, 28, 41, 50, 57, 64\}$ 上进行平均池化。
评估协议：
- 交叉验证：采用按轨迹的留一组外（Leave-One-Group-Out, LOGO）交叉验证，确保保留轨迹中的任何 token 都不会进入其训练折。
- 控制变量：本研究采用了一套全面的控制变量：
  - Hewitt–Liang 随机标签控制：置换边标签以排除记忆效应。
  - 位置基线：一个 5 特征基线（ $[i, j, j-i, n_{agent}, j/n_{agent}]$ ），用于区分结构编码与简单的调用顺序。
  - 表面形式上限：基于 n-gram 重叠和工具名称的解码器，以确保信号不仅仅是文本性的。
  - 随机初始化控制：使用随机初始化的模型以隔离可归因于训练的信号。
- 反事实实验：作者执行了值破坏（交换输出中的 ID）和结构扰动（将输出重写为空结果），以测试探测器是追踪抽象拓扑还是特定的标识符值。
- 激活修补：为了测试因果性，作者将源调用的残差流用来自“捐赠者”轨迹的特征进行修补，并测量探测器在稍后未修补边界处的读数变化。

主要贡献与结果

1. 依赖图的线性可解码性

工具调用依赖图可以从冻结的残差流中线性解码。

性能：多层探测器在保留的配对数据上实现了 0.869 的 AUROC。
显著性：这显著优于 Hewitt–Liang 随机标签控制（最大 AUROC 0.565， $p < 10^{-4}$ ）和位置基线（AUROC 0.792）。残差流相对于位置基线贡献了 +0.0775 的条件 AUROC 差距，证实该信号不仅仅是调用顺序的代理。
涌现：该信号在第 14 层（约 22% 深度）急剧涌现，并在第 41 层左右饱和，与中层语义涌现的模式相匹配。

2. 拓扑敏感性 vs. 值特异性

探测器追踪的是抽象依赖拓扑，而非特定的标识符值。

值破坏：交换工具输出中的 ID 值（同时保持计划不变）导致解码的 DAG 结构没有统计学意义上的显著变化（Cohen's $d = 0.06$ ）。
结构扰动：将工具响应重写为空结果（强制计划变更）会导致解码结构发生巨大变化（Cohen's $d = 0.87$ ）。
复现：这种解耦在不同领域（包括ComplexFuncBench）中均成立，并使用独立的、基于模式类型的值相等 Oracle（无子串匹配）进行了复现，证实该信号不是子串启发式的产物。

3. 表征传播

激活修补提供了证据，表明依赖表征在网络中传播，而非被动的读取。

在源调用处修补残差流会改变探测器在严格靠后且未修补的边界处（例如第 57 层）的预测。
关键在于，虽然表征发生了偏移，但代理的实际工具选择并未改变（行为偏移为 0%）。这表明该表征对于内部状态是承载性的，但在该上下文中不足以进行行为控制。

4. 跨域普遍性与调制

非位置性贡献在交互式多跳基准测试中普遍存在，但在仅靠调用顺序就足够的情况下会减弱。

正向复现：该信号在ToolHop（贡献 +0.161）和ComplexFuncBench（贡献 +0.060）中很强。
传递边：探测器解码传递性（多跳）依赖的能力甚至比直接边更强（AUROC 0.986），且传递性信号在早期层中上升得更快。
衰减：该贡献在TaskBench（单次规划，贡献 -0.02）中消失，在BFCL（仅直接工具使用）中无法测试，这支持了以下假设：该信号存在于调用顺序作为依赖关系代理较弱的地方。

意义与主张

作者声称这是针对 LLM 代理运行时工具调用依赖图的首个结构探测。

表征与控制：主张严格局限于表征。论文证明了依赖图在残差流中是线性可读且因果传播的，但明确指出激活修补目前并未产生行为控制（代理的工具选择保持不变）。
新的目标类别：结果表明，运行时执行结构（工具调用的 DAG）构成了机械可解释性目标的一个新类别，区别于 token 级决策或静态推理轨迹。
谦逊：作者对传播的范围持谦逊态度，指出跨域因果复现和行为上充分的干预仍是未来的工作。他们还承认，依赖定义依赖于值重用（子串或模式匹配），排除了仅由控制流介导而无值传递的依赖关系。

总之，该论文确立了 LLM 代理在其残差流中编码了其工具调用执行图的抽象拓扑，这种表征区别于位置先验，对值变化具有鲁棒性，并在网络层中传播。