💬 NLP

Reading Between the Dots: Decoding Hidden Computation across Filler Tokens

本文表明，前沿大语言模型在其隐藏状态中对无内容的填充标记进行着结构化、可读的多步推理，这揭示了即使在表面标记无法提供可见思维链的情况下，通过对残差流进行无监督解码，隐藏计算仍然是可监测的。

原作者： Kaley Brauer, Claudio Mayrink Verdun, Samuel Marks

发布于 2026-07-07

📖 1 分钟阅读☕ 轻松阅读

原作者： Kaley Brauer, Claudio Mayrink Verdun, Samuel Marks

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你正在观看一位魔术师表演魔术。通常，为了理解他是如何做到的，你会观察他的双手并倾听他的话语。在人工智能（AI）的世界里，这就像是在观察“思维链”（Chain of Thought, CoT）——即 AI 在给出答案之前写出的逐步解释。

长期以来，安全专家一直担心，如果 AI 停止写出它的步骤而只是直接给出最终答案，我们将无法得知它是在正确思考还是仅仅在瞎猜。这篇题为**《读懂点点之间》（Reading Between the Dots）**的论文研究了一个特定的、奇怪的情景：即在问题和答案之间，AI 被给予了一堆无意义的“填充”标记（比如一串点 ...... 或计数数字 1 2 3 4 5）。

以下是研究人员的发现，通过简单的概念进行了拆解：

1. 魔术技巧：AI 利用了“空白空间”

研究人员向两个非常聪明的 AI 模型（DeepSeek V3 和 Kimi K2）提出了困难的数学和逻辑问题。

没有点时： AI 经常出错。
有点时： AI 答对的概率大大提高。

事实证明，AI 并不是在忽略这些点。它是在利用这个“空白空间”作为一个草稿本（scratchpad）。尽管这些点在我们看来毫无意义，但 AI 实际上是在这些点所占据的数字空间内进行秘密的数学运算和推理。这就像一位厨师在向顾客说话的同时，一边切菜一边在心里默念食谱；顾客听不到声音，但烹饪过程正在发生。

2. “X光视觉”：看见隐藏的思想

一个大问题是：如果 AI 没有把步骤写出来，我们还能看到它在想什么吗？

作者说可以。他们开发了一种特殊的“X光”工具（称为 Logit Lens），它观察的是 AI 内部的电信号（其“残差流/residual stream”），而不是仅仅阅读它打出的文字。

类比： 想象 AI 的大脑是一条繁忙的高速公路。它打出的文字只是行驶在路面上的汽车。但在道路下方，有隧道和管道在输送着实际的水流和电力，驱动着汽车行驶。
他们的发现： 通过观察这些点下方的“隧道”，我们可以看到 AI 在甚至还没打出最终答案之前，就已经在检索事实（例如“莫扎特去世时 35 岁”）并进行计算（例如“35 + 93 = 128”）。这些点并非空洞无物；它们充满了 AI 内部的计算过程。

3. “大脑移植”实验

为了证明这些点确实是导致 AI 正确思考的原因（而不仅仅是巧合），他们进行了一个“大脑移植”实验。

他们从一次成功的 AI 运行中提取了内部“思想”（隐藏数据），并将它们转换到另一次即将失败的 AI 运行中。
结果： 那个失败的 AI 突然开始给出正确的答案，仿佛它从另一个 AI 那里“感染”到了正确的想法。这证明了点中的信息是真实的、有用的，并且对于得出答案至关重要。

4. “解码器环”：解读秘密代码

研究人员构建了一个简单的、无监督的流水线（一套不需要被教导的指令）来解码这些隐藏的思想。

他们提取了点中的隐藏信号，清理掉噪声，并将排名前列的候选内容输入到第二个非常聪明的 AI（“裁判”）中。
成功率： 这个解码器能以 80% 到 95% 的准确率正确猜测 AI 在想什么。
它的发现： 即使 AI 从未写下它们，解码器也能找回具体的数字、城市名称或元素。如果 AI 答错了，解码器甚至能说明为什么错（例如：“它找到了正确的数值，但忘记了将它们相加”）。

核心启示

论文认为，仅仅因为 AI 没有大声说出它的推理过程（或者没有写出可见的思维链），并不意味着它的推理过程对我们来说永远是隐形的。

问题： 如果我们只看 AI 写下的文字，我们可能会错过它真正的思考过程，尤其是当它使用“填充”标记时。
解决方案： 我们拥有观察其内部信号的工具。即使 AI 试图在“空白”空间里隐藏它的工作，我们仍然可以通过观察“残差流”（内部电信号活动）来了解它到底在做什么。

简而言之： AI 就像一个正在参加考试的学生，他在纸上写下答案，但所有的计算过程都在脑海中完成。这篇论文表明，即使我们无法在纸上看到计算过程，我们仍然可以使用特殊的工具来读取这个学生的思想，并看清他是如何解决问题的。这表明，“隐藏”的计算并不一定意味着“不可审计”。

技术摘要：读懂点点之间 (Reading Between the Dots)

问题陈述

思维链（CoT）的可监测性依赖于一个假设，即模型的表面输出 Token 能忠实地反映其底层的推理过程。然而，近期的文献表明这一假设是脆弱的；模型可能会进行“隐藏计算”（hidden computation），即推理过程以一种在生成的文本中不可见的方式进行。一种特定的思维链监测失效模式是填充符计算（filler-token computation），即大型语言模型（LLMs）在问题与答案槽位之间插入无内容的 Token（例如：点号序列、计数数字或字母序列）来进行多步推理。在这些场景中，表面 Token 不携带任何关于推理的语义信息，使得传统的行为审计失效。本文探讨的核心问题是：这种隐藏计算是真的不可观测，还是仍然可以从模型的内部状态中解码出来？

研究方法

作者使用两个前沿规模的开源权重模型进行研究：DeepSeek V3（671B 参数，约 37B 激活）和 Kimi K2（1T 参数，约 32B 激活）。他们在需要中间值的四个任务族上评估了性能和内部机制：

单事实加法：检索一个事实并加上一个随机数。
双事实加法：检索两个事实并将它们相加。
两跳字母位置：检索一个首都/元素，并找到特定的字母。
方程组：求解上下文中定义的线性关系。

实验设置是在提示词（prompt）与答案槽位之间附加无内容的填充 Token（点号、计数序列、字母序列）。研究分为三个阶段：

行为分析：测量存在与不存在填充 Token 时的准确率提升。
机制分析：使用注意力图（attention maps）、Logit-lens 读取以及 KV-cache 移植（KV-cache transplants），以确定信息如何在填充区域内流动和编码。
无监督解码：开发一套仅从隐藏状态中恢复中间值（无需地面真值标签或训练）的流水线。

核心贡献与结果

1. 填充 Token 实现了隐藏计算

论文指出，填充 Token 不仅仅是惰性的填充物，它们促进了“处理中继”（processing relay）。

行为提升：两种模型在存在填充 Token 时均表现出显著的准确率增益。例如，DeepSeek V3 在单事实加法上的准确率从 54% 上升到 72%，在方程组任务上从 31% 上升到 61%。打乱后的填充序列表现较差，这表明收益来自于非破坏性的 Token 序列，而非特定的内容。
注意力路由：注意力分析显示，在存在填充符的情况下，模型重新路由了其计算。从答案位置到问题的直接注意力路径被替换为一个中继过程：问题 → 填充符 → 答案。填充区域充当了一个缓冲区，在此处读取问题，并在将信息传递给答案位置之前处理中间值。

2. 中间值编码的机制证据

作者提供了三条证据，证明填充位置因果性地携带了任务相关的有效信息：

Logit-Lens 读取：通过将残差流（residual stream）状态投影到解嵌入矩阵（unembedding matrix），可以发现中间值（例如检索到的事实 $A_1, A_2$ 及其总和）在填充位置的残差流中被显式编码。在双事实加法中， $A_1$ 出现在填充序列的早期， $A_2$ 出现在后期，而总和在答案前的最后几层中逐渐清晰。
KV-Cache 移植（因果验证）：通过将“捐赠者”示例的填充区域 Key-Value (KV) cache 移植到“目标”示例中，作者展示了因果依赖性。交换填充缓存会导致目标模型输出捐赠者的答案，排名提升达数十至数百位。这证实了填充区域内的内容不仅与输出相关，而且是输出所必需的因果因素。
位置特异性：在双事实加法中，编码的位置结构具有因果性。仅移植解码出 $A_1$ 的特定位置即可恢复大部分效应，而互补位置的影响微乎其微。

3. 无监督解码流水线

论文引入了一个无需监督即可从残差状态中恢复隐藏推理步骤的流水线：

流程：
1. 提取所有层及填充位置的残差流激活值。
2. 应用 Logit-lens 将状态投影为 Token 概率。
3. 减去跨样本均值，以移除格式伪影并分离出特定于样本的信号。
4. 聚合各位置的残差得分，并选择前 50 个 Token。
5. 将这些 Token 传递给 LLM 裁判（如 Claude Haiku/Sonnet）进行推理解释。
性能：该流水线在所有四个任务和两种模型中，实现 80–95% 的准确率 来恢复中间值。
- 对于单事实加法，在不使用裁判的情况下，目标事实在约 85% 的案例中出现在前 2 个 Token 中；使用裁判后，这一比例上升至约 94%。
- 对于像双事实加法这样的复杂任务，裁判通过利用完整前 50 个列表中的上下文信号，显著提高了恢复效果（在 DeepSeek V3 上从约 35% 提升至约 82%）。
- 该流水线成功解码了检索到的事实以及上下文中计算的值（例如方程组中的变量）。

意义与主张

论文认为，隐藏计算并不等同于不可审计的计算。虽然 CoT 监控在面对填充符推理时会失效（因为输出文本中没有推理内容），但计算过程仍然可以直接从模型的残差流中读取。

可监测性是轨迹的属性：作者认为，可监测性是模型完整计算轨迹（computational trace）的属性，而不仅仅是其表面 Token 的属性。
部分可审计性：研究表明，对于具有离散、可命名中间值的任务，“廉价”的解释工具（Logit-lens + 归一化 + LLM 裁判）可以弥补透明表面 Token 留下的空白。
局限性：作者谦逊地指出，该方法适用于具有清晰中间值的任务。他们承认，对于那些优化到与词表投影正交、涉及非 Token 化概念（如策略或意图）或依赖于 Logit-lens 投影无法观察到的注意力模式的计算，该方法存在局限性。

总之，论文表明，尽管 CoT 监控是脆弱的，但填充符中的隐藏计算并不意味着模型完全变得不透明。相反，它强调了结合行为观察与残差流解释的混合审计策略的潜力。