💬 NLP

Formalizing Latent Thoughts: Four Axioms of Thought Representation in LLMs

本文引入了一个由四个功能性指标组成的公理化框架，用于在独立于下游准确率的情况下评估大语言模型中的潜在思维表示，揭示了当前模型在结构上无法满足这些公理，即它们编码的信息量极少，仅超出输入嵌入之外，且缺乏区分同一任务内特定问题的能力。

原作者： Fahd Seddik, Fatemeh Fard

发布于 2026-06-29

📖 1 分钟阅读☕ 轻松阅读

原作者： Fahd Seddik, Fatemeh Fard

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，将大型语言模型（LLM）视为一位才华横溢但极其注重隐私的厨师。当你要求它解决一个数学问题或回答一个棘手的问题时，它并不会立即吐出答案。相反，它会经历一个“思考”的过程。

在过去，我们可以看到这个思考过程，因为厨师会一步步地把思考过程写下来（就像“思维链”一样）。但最近，开发者们试图通过将这些步骤隐藏在一个由连续且不可见的数字组成的“黑盒”（称为潜层思维表示）中，来让厨师思考得更快。其核心思想是：“如果最终答案是正确的，那么隐藏的思考过程一定也是优秀的，对吧？”

问题所在：
本文的作者指出：“别高兴得太早。”仅仅因为厨师端出了一道美味佳肴（正确的答案），并不意味着其隐藏的思考过程实际上是符合逻辑的。厨师可能只是在瞎猜，或者所谓的“思考”其实是一团混乱的堆砌，仅仅是凑巧奏效了。

为了解决这个问题，作者创造了一种新的方法，可以在不查看最终答案的情况下，去检查厨师的隐藏想法。他们构建了一个“四点检查清单”（称为公理），用以观察这些隐藏的想法是否真的在发挥作用。

四点检查清单

请将“思维”想象成厨师在烹饪前写下的一张秘密便条。本文认为，一张好的秘密便条必须通过四项测试：

因果性（“因果关系”测试）：
- 比喻： 如果你用厨师的秘密便条替换掉他写的食谱，最终做出的菜肴味道应该保持不变吗？
- 主张： 秘密便条必须包含与推理步骤完全相同的信息。如果你将步骤替换为便条，模型仍应能够完美地预测答案。如果便条缺少了一个关键配料，菜肴就会失败。
极简性（“拒绝废话”测试）：
- 比喻： 想象厨师得到了一篇关于猫的 50 页故事，但问题其实是关于天气的。一份好的秘密便条应该只包含天气信息，而不是整篇关于猫的故事。
- 主张： 思维应当是一个压缩且高效的摘要。它不应该携带来自提示词（Prompt）的额外“噪音”或无关细节，而这些细节对解决问题并无帮助。
可分性（“独特身份”测试）：
- 比喻： 如果你给厨师两个非常相似的数学题（例如，“2+2 等于几？”和“2+3 等于几？”），他们的秘密便条应该看起来完全不同。如果两道题的便条看起来一模一样，说明厨师并没有在区分问题，而是在瞎猜。
- 主情： 隐藏的思维必须对每一个特定问题都是唯一的。即使问题看起来很相似，它也需要清晰地将一个问题与另一个问题区分开来。
稳定性（“一致性”测试）：
- 比喻： 如果厨师在一段话里说“答案是 4”，在另一段话里说“它是 4”，那么秘密便条应该是一致的。同样，如果厨师感到困惑，有时说“是”，有时说“不是”，那么秘密便条也应该反映出这种困惑，而不是随机选择其中一方。
- 主张： 思维不应仅仅因为措辞的微小变化而改变。此外，它也应准确反映模型的确定程度。

研究发现（审计结果）

研究人员选取了五种不同的流行 AI 模型（如 Llama 和 DeepSeek），并让它们完成了 23 个不同的推理任务（如空间谜题、逻辑游戏和数学题）。他们根据这四点检查清单，对这些模型生成的“秘密便条”进行了检查。

令人震惊的结果：
没有一个模型通过了全部四项测试。

它们能区分任务类型： 模型可以分辨出这是一个“数学”问题还是一个“历史”问题。
但在细节上失败了： 当被问及同一任务下的两个不同问题时（例如，两个不同的数学题），模型的“秘密便条”看起来几乎完全一样。它们坍缩成了一个通用的模糊块。
提示词比思维更有效： 出人意料的是，原始问题的简单文本（提示词）往往比模型生成的复杂隐藏数字（思维）更像是一个有效的“思维表示”。隐藏的思维并没有增加多少新信息；它们大多只是在重复输入的内容。

核心结论

本文得出结论，这种失败并非因为模型规模太小或训练不足。这是一个结构性问题。即使是目前最庞大、最先进的模型，也无法为每一个特定问题创造出真正的、具有辨识度的“思维”。它们擅长产生正确答案，但其内部的“思考”过程往往是一个坍缩的、通用的模糊体，无法真正区分具体的题目。

简而言之：模型得到了正确的答案，但它们的“思考”方式在某种标准测试无法察觉的地方出了问题。 作者提出的新清单，正是用来发现这些隐藏缺陷的工具。

技术摘要：形式化潜意识思维：LLM 中思维表示的四项公理

问题陈述

大语言模型（LLM）推理领域正日益从离散的思维链（CoT）Token 向连续的潜层表示（例如 Soft Thinking, Latent Thinking）转变，以提高效率和推理能力。然而，对这些“连续思维表示”的评估在根本上存在缺陷。目前的评估方法几乎完全依赖于下游任务的准确率（例如基准测试通过率）来判断表示质量。这种方法将内部表示的质量与模型解码或处理该表示的整体能力混为一谈。因此，表示层面的失败会被下游的准确率所掩盖；一个模型可能在基准测试中获得高分，但其内部“思维”却未能忠实地编码必要的推理步骤，或无法区分同一任务的不同实例。

目前缺乏：

一个关于有效的思维表示必须具备哪些功能属性的原则性定义。
一套内在的评估协议，能够独立于下游任务准确率来衡量表示质量。
对当前候选方法的现状清晰理解，因为有报告指出，潜层推理 Token 对于预测往往是不必要的，或者未能实现结构化的潜层空间搜索。

方法论

作者提出了一个公理化评估框架，该框架基于四个功能属性来表征思维表示，这些属性是独立于任何下游解码过程定义的。该框架将思维表示（ $T$ ）视为一个潜层功能状态，介导从输入空间（ $X$ ）到语义输出空间（ $S$ ）的转换。

四项公理

该框架定义了四项公理，每项公理都有一个直接在源 LLM 上计算的定量度量，无需重新训练：

因果性（Causality）： $T$ 必须在模型的计算图中功能性地替代显式推理前缀（ $y_{pre}$ ）。
- 度量指标： KL 替换误差（KL Substitution Error）。通过将 $y_{pre}$ 的 Token 嵌入替换为投影后的 $T$ ，并计算原始延续分布 $P(y_{suf} | y_{pre})$ 与干预后分布 $P(y_{suf} | T)$ 之间的 Kullback-Leibler (KL) 散度来进行测量。数值越低，表示因果性越好。
极小性（Minimality）： $T$ 必须在压缩输入的同时，保留对输出分布的最大相关性，遵循信息瓶颈（Information Bottleneck）原则。它应当过滤掉输入中存在的冗余变量（无关上下文）。
- 度量指标： 极小性差距（Minimality Gap, $\Delta_{IB}$ ）。这是 $\beta=2$ 时信息瓶颈拉格朗日函数的交叉熵代理。计算方式为 $\Delta_{IB} = CE(X | Y, T) - CE(Y | T)$ 。较高的值表示该表示对于输出是充分的，但对于输出已有的输入信息，其增加的残余信息极少。
可分性（Separability）： $T$ 必须拥有足够的拓扑结构，以区分语义上不等价的输出分布。它必须能够区分同一任务中的两个不同问题（细粒度），以及不同任务之间的差异（粗粒度）。
- 度量指标： 判别器准确率（Discriminator Accuracy）。训练一个可训练的二元判别器，使其将 $T$ 与候选输出序列对齐。准确率是在同任务对（细粒度）和跨任务对（粗粒度）上进行衡量的。
稳定性（Stability）： $T$ 应对表面层级的词汇变化（改写）具有不变性，并对采样随机性（模式崩溃）具有鲁棒性。它应当编码语义分布 $P(S|x)$ 的参数，而非单一的实现。
- 度量指标： 分布一致性得分（Distributional Consistency Score, DCS）。用于预测问题的 Beam 输出是否跨越多个语义等价类（语义熵 $H_x > 0$ ）的 AUROC。

实验设置

候选对象： 研究审计了多种候选表示，包括最后输入 Token（LIT）隐藏状态、Soft Thinking（带有或不带有 Gumbel 噪声）以及 Latent Thinking，涵盖不同的“思维预算”（1 到 128 步）。
模型： 五个涵盖不同架构和训练范式的开源 LLM：Llama-3.1-8B, Llama-3.3-70B (Dense/Instruct), DeepSeek-R1-Distill-Qwen-32B (Reasoning-distill), Skywork-OR1-32B (Native RL), 以及 GPT-OSS-20B (Sparse MoE)。
任务： 来自 Big Bench Extra Hard (BBEH) 数据集的 23 个推理任务，涵盖空间推理、事实问答、逻辑谜题等。
协议： 评估在源 LLM 上执行，使用一个冻结的 1B 主干网络进行探测，以确保指标与源模型的大小及下游性能解耦。

关键结果

应用这一内在协议揭示了一种下游基准准确率无法检测到的“表示崩溃”现象：

没有候选对象能同时满足所有公理： 没有被评估的候选表示能同时满足因果性、极小性、可分性和稳定性。
可分性失效（单问题身份识别）： 虽然表示能够可靠地区分不同的任务（跨任务准确率接近饱和），但它们无法区分同一任务内的不同实例（同任务准确率）。除了输出嵌入（Output Embeddings）之外，几乎所有候选对象在同任务判别上的表现都处于或接近随机基准线。这表明潜层表示丢失了单个问题的特定身份，将不同的推理路径坍缩为不可区分的向量。
输入嵌入的竞争力： 输入提示词嵌入本身在所有四个维度上都与候选思维表示具有竞争力，且往往优于后者。这表明当前的潜层表示所编码的信息，几乎没有超出输入嵌入本身之外的独特信息。
结构性失效： 这种失效模式在密集型、推理蒸馏型和 RL 训练型的模型家族中是一致的。增加思维步数（例如在 Soft Thinking 或 Latent Thinking 中）并不能解决崩溃问题；在某些情况下，随着步数的增加，性能反而会下降。
因果性 vs. 输入： 没有思维表示能持续提供比输入嵌入本身更多的因果信息。用 $T$ 替换推理前缀所产生的延续分布，与用输入嵌入替换推理前缀所产生的分布无法区分，这意味着 $T$ 没有增加独特的因果信号。

意义与主张

本文声称提供了一种原则性的手段，用于开发和审计作为研究对象的候选思维表示，其评估重点在于 LLM 对问题的编码情况，而非随后任何链条的下游推理质量。

诊断分辨率： 该框架允许研究人员将下游准确率的变化归因于特定的表示属性（例如，可分性的下降），而不是被掩盖了根源原因的聚合基准得分。
优化目标： 这四项度量提供了明确的、可量化的优化目标，供未来的研究使用，从而超越了诸如 Token 预算或模仿显式 CoT 等启发式代理指标。
结构性洞察： 研究结果表明，当前潜层推理方法与理想的功能性思维之间的差距是结构性的，而不仅仅是模型规模或特定训练程序（如 RL 或蒸馏）的问题。当前一代的潜层表示未能实现稳健推理所需的结构化、实例特定的搜索。

作者将该框架定位为与推理基准评估正交的工具，为理解推理模型的内部机制提供了一个必要的分析层，以便在这些模型被可靠改进之前对其进行分析。代码和评估流水线已公开，以促进审计和开发。