💬 NLP

TRACE: Trajectory Correction from Cross-layer Evidence for Hallucination Reduction

TRACE 是一种确定性的、无需训练的推理时算法，它通过根据每个输入的内部跨层候选轨迹动态选择最佳层级和校正算子（例如标量反转或早期状态恢复），在无需外部数据或微调的情况下，显著提升了 15 个模型的准确性，从而减少了大型语言模型中的幻觉现象。

原作者： Tej Sanibh Ranade

发布于 2026-05-19

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Tej Sanibh Ranade

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一个大型语言模型（LLM）是一座巨大的多层工厂，产品（即答案）在这里逐层组装。在底层，原材料进入。随着它们在各楼层（层）间向上移动，它们被处理、精炼并包装。最终，在最顶层，成品被运出。

正如论文所解释的，问题在于工厂有时会在发货码头犯下错误。顶层的工人可能会感到困惑、分心或受到压力，从而运出一个“幻觉”（即自信但错误的答案），尽管真相在下方楼层清晰可见且正确。

以往试图解决这一问题的方法，就像是用单一、僵化的工具应对所有问题：

“方向盘”方法：试图基于固定规则强行让工厂向左或向右转向。
“外部顾问”方法：引入外部专家（检索系统）来检查工作。
“对比分析”方法：仅仅查看顶层，然后说：“这看起来不对劲，让我们试试下一层。”

论文认为这些方法过于僵化。有时真相深藏在中间层；有时它就在起点；有时工厂正在三种不同的错误观念之间搏斗，而不仅仅是两种。单一工具无法解决所有这些不同的场景。

解决方案：TRACE（智能工厂检查员）

作者提出了TRACE，这是一种新方法，它像一位智能、自适应的检查员，在产品的制造过程中穿梭于工厂内部。TRACE 不使用固定规则，而是观察答案从底层移动到顶层的“旅程”。

以下是 TRACE 的工作原理，使用简单的类比：

1. “旅程地图”（跨层候选轨迹）

当工厂处理一个问题时，TRACE 不仅仅查看最终答案。它为每一个可能的答案创建一张“旅程地图”。它会问：“工厂在底层是否倾向于真相？它在中间层是否动摇了？它是否在顶层突然切换到了谎言？”

2. 两种类型的问题，两种类型的修复

TRACE 分析“旅程地图”以查看工厂遇到了何种麻烦，然后选择正确的工具：

场景 A：“单线思维”问题（标量机制）
- 情况：工厂基本上是在两个选项之间进行斗争：真相 vs. 谎言。在整个旅程的大部分时间里，整个工厂都认同真相，但顶层感到困惑并切换到了谎言。
- 修复：TRACE 就像一个音量旋钮。它简单地调大“真相”信号的音量，并调低“谎言”信号的音量。这是一种简单的、单向的修正。
- 子变体：如果工厂在顶层过于混乱，以至于“音量旋钮”不起作用，TRACE 就像一个时间机器。它会说：“顶层坏了；让我们直接运出产品在离开第一层时的样子，因为那是最诚实的版本。”
场景 B：“中间混乱”问题（多向机制）
- 情况：工厂很混乱。有三四个不同的错误观念在相互争斗，而真相隐藏在某一层特定的中间楼层，但顶层却选错了赢家。简单的“音量旋钮”无法解决此问题，因为问题太复杂。
- 修复：TRACE 就像一个聚光灯。它扫描旅程地图，找到“真相”候选项最强且最清晰的具体楼层（即“决定性层”），然后说：“忽略顶层。直接运出产品在那个特定楼层的样子。”

3. “工厂蓝图”（模型不变量）

为了知道针对“单线思维”问题该使用哪种工具，TRACE 在开始之前会阅读工厂的蓝图（模型的权重）一次。

如果蓝图显示顶层通常可靠，TRACE 会使用音量旋钮。
如果蓝图显示顶层倾向于偏离真相，TRACE 会使用时间机器回到起点。

为何这很重要（结果）

论文在15 种不同的 AI 模型（从小型到巨型）上，跨越3 种不同的事实核查测试，测试了这位“智能检查员”。

无需训练：TRACE 不需要重新教导 AI。它在答案生成过程中即时生效。
无需外部数据：它不需要搜索互联网来获取答案。它利用 AI 自身的内部记忆。
普遍成功：它提高了每一个被测试模型的准确性。没有任何案例显示它使情况变糟。
巨大提升：平均而言，它将事实准确性提高了约12 个百分点（在该领域这是一个巨大的飞跃），某些模型的改进幅度接近47 个百分点。

注意事项（局限性）

论文诚实地指出了权衡：

速度：由于 TRACE 必须查看工厂的每一层以构建“旅程地图”，其生成答案的时间比标准 AI 长约2 到 3 倍。
范围：它目前最适用于简短的选择题（如"X 是真还是假？”）。它尚未在撰写长故事或复杂的医疗建议方面进行测试。

总结

将 TRACE 想象成一位侦探，它不仅查看犯罪现场（最终答案），还调查整个事件时间线。它弄清楚错误发生在哪里以及如何修复，针对简单的失误与复杂的混淆采用不同的策略。它证明了 AI 在内心深处已经知道真相；它只是需要一种聪明的方法，在正确的时间倾听自己大脑的正确部分。

技术摘要：TRACE（基于跨层证据的轨迹校正以减少幻觉）

1. 问题陈述

尽管在模型规模和后训练对齐方面取得了进展，大型语言模型（LLMs）仍会产生自信的 factual errors（事实性错误），即幻觉。现有的校正策略通常分为三类：

外部证据： 依赖外部数据的检索增强生成（RAG）和验证系统。
激活导向： 如推理时干预（ITI）等方法，将激活沿固定的“真实性”方向进行导向。
层对比： 解码策略（如 DoLa、SLED），将中间层的信号与最终层进行对比或聚合。

本文认为，这些方法在结构上是不完整的，因为它们假设层深度与真实性之间存在统一的关系。实证观察表明，中间层既不像最终层那样普遍更真实，也不普遍更不可靠。相反，候选支持在网络深度上的演变存在显著差异：

晚期可校正（Late-Correctable）： 真实支持存在于内部，但被最终层抑制。
早期可靠（Early-Reliable）： 真实支持在早期层最强，但被后期层削弱。
多向性（Multi-Directional）： 多个竞争候选项在整个深度上保持活跃，需要非标量校正。

当前的固定形式干预之所以失败，是因为它们无法适应这些变化的“候选轨迹”。假设单一有符号标量校正的方法，对于真正具有多向性的竞争情况是不够的。

2. 方法：TRACE

TRACE 是一种确定性的、无需训练的推理时算法，它通过直接从模型的内部跨层候选轨迹中推导适当的校正算子来校正幻觉。它不需要标签、检索、预训练、微调或针对特定模型的校准。

核心组件

该方法依赖于两个结构量：

项目侧：跨层候选轨迹 $S(x)$ ：
- 通过模型自身的输出头（logit-lens 构建）读取每一层的残差流构建而成。
- 表示一组候选补全的归一化对数概率在深度上的演变。
- 由此计算有效轨迹维度（ $d_{eff}$ ）。该指标（轨迹 Gram 矩阵特征值的参与比）决定了候选竞争是有效地一维（秩为 1）还是多维的。
模型侧：仅权重不变量 $I(M)$ ：
- 这是一个无量纲比率，仅从模型的权重张量计算得出（具体为早期/中期键/值投影的行范数统计与晚期输出投影及最终归一化值的对比）。
- $I(M)$ 表征了模型的架构是倾向于放大晚期层证据，还是从可靠的早期状态发生漂移。

校正模式与算子

基于 $d_{eff}$ 和 $I(M)$ ，TRACE 动态选择以下三种校正算子之一：

多向模式（ $d_{eff} > \tau_{dim}$ ）：
- 条件： 候选竞争跨越多个独立方向（秩 > 1）。标量混合在数学上不足以校正这些情况。
- 算子： 候选空间校正。 TRACE 识别具有最锐利候选排名的层 $\ell^*$ （最大化相对于熵的前两名差距），并将该层的完整对数概率分布用作校正。
- 门控： 仅当所选层显著比最终层更锐利，且最终层具有足够的不确定性时，才应用此覆盖。
标量模式（ $d_{eff} \le \tau_{dim}$ ）：
- 条件： 竞争坍缩为单个有符号轴。校正简化为最终层分数 $b(x)$ 与轨迹衍生分数 $t(x)$ 的标量混合。
- 通过 $I(M)$ 的子分支：
  - 有符号混合（ $I(M) > \tau_I$ ）： 如果模型的晚期层可信，TRACE 通过重新读取轨迹以进行跨深度一致性检查（令牌支持的斜率、跳跃、曲率）来计算第二个视图 $t(x)$ 。然后，根据轨迹是加强还是反驳基础，使用有符号标量 $\lambda$ 混合 $b(x)$ 和 $t(x)$ 。
  - 最早状态恢复（ $I(M) \le \tau_I$ ）： 如果模型的晚期层不可信（容易发生漂移），TRACE 忽略轨迹摘要，回退到最早层的分数 $s_0(x)$ ，但前提是最终层的置信度较低（低于自然下限）。

算法流程

从单次候选条件前向传递中计算 $S(x)$ 和 $b(x)$ 。
计算 $d_{eff}(x)$ 。
如果是多向性： 选择决定性层 $\ell^*$ ，提取其分布，并应用门控。如果门控通过，返回决定性层的 argmax；否则，返回基础 argmax。
如果是标量： 计算 $I(M)$ $I (M)$ 。
- 如果 $I(M)$ 高：计算 $t(x)$ ，确定混合符号，并返回混合后的 argmax。
- 如果 $I(M)$ 低：检查最终层置信度；如果低，返回最早层的 argmax；否则，返回基础。

3. 主要贡献

轨迹级表述： 将跨层候选轨迹识别为推理时校正的主要对象，取代了固定的探测层和固定的导向方向。
校正的结构理论： 证明了校正模式是截然不同的：秩一轨迹允许标量校正，而多向轨迹则需要候选空间算子类。
通用算法（TRACE）： 将这一理论实例化为一种确定性的、无需训练的算法，该算法从轨迹结构和模型权重中诱导其校正算子。
全面评估： 证明了单一、冻结的超参数设置可在 15 个模型、8 个系列和 3 个基准测试中提高事实性，且无性能回退。

4. 实验结果

该方法在 TruthfulQA、HaluEval-QA 和 HaluEval-Sum 上进行了评估，涵盖了 15 个预训练模型（包括 LLaMA、Gemma、Qwen、GPT-OSS、Mixtral、Phi、Ministral 和 DeepSeek）。

性能： TRACE 改进了每一个评估单元（模型和基准测试的 45 种总组合）。
- 平均增益： +12.26 个 MC1 分数和 +8.65 个 MC2 风格分数。
- 最大增益： +47.20 个 MC1 和 +43.38 个 MC2 风格分数（在 Gemma-3-1B 上观察到）。
- 回退： 0/45。
鲁棒性： 该方法对所有模型使用单一冻结超参数集 $\Theta$ ，无需针对特定模型进行微调。
开销： 与基准候选条件传递相比，墙钟时间成本增加了 1.33 倍至 3.42 倍（平均 2.27 倍），主要是由于额外的逐层读取。

5. 意义与主张

本文声称，预训练 LLM 的前向计算包含足够的结构化证据，足以支撑单一、通用的幻觉减少算法，前提是干预是由轨迹本身诱导的，而不是由固定启发式方法强加的。

结构必要性： 这项工作证明，仅标量的校正策略对于多向候选空间在数学上是不完整的，从而需要 TRACE 的候选空间分支。
模型适应： 使用仅权重不变量 $I(M)$ 使算法能够适应架构差异（例如，模型是发生漂移还是放大晚期），而无需重新训练。
局限性： 作者承认，TRACE 目前仅限于英语、候选受限的事实性（MC1/MC2 协议）。它作用于已完成的前向传递，而非迭代式长文本生成，且不解决幻觉的训练时成因。此外，由于额外的读取，它引入了推理延迟。

本文得出结论，先前固定形式方法的失败并非调优问题，而是校正类别与轨迹结构之间的不匹配。TRACE 通过从数据本身推断正确的校正模式来解决这一问题。