技术摘要：正确的知识，错误的答案：针对开源权重语言模型中时间性事实冲突的测试时转向技术

1. 问题定义：参数化时间冲突 (Parametric Temporal Conflict, PTC)

训练于跨越多年语料库的大型语言模型（LLMs）在其参数化记忆中同时编码了过时的事实及其更新后的对应事实。一种独特的失效模式在于：模型内部拥有更新后的事实（可通过时间线索恢复），但在标准提示下却默认给出过时的答案。作者将此形式化为参数化时间冲突 (PTce)。

不同于简单的知识缺失（模型完全缺乏该事实）或通用的时间召回退化，PTC 的定义满足以下两个条件：

1. 过时偏好： 在标准提示下，$P_\theta(a_{old} | q) > P_\theta(a_{new} | q)$。
2. 可恢复性： 当提供时间线索（例如“截至 2024 年……”）时，$P_\theta(a_{new} | q, c_{temp}) \gg P_\theta(a_{old} | q, c_{temp})$。

现有的方法，如持续学习（权重更新）或检索增强生成（RAG），并未解决这种在不修改权重或使用外部检索的情况下，在推理阶段于共存的事实版本之间进行选择的问题。

2. 方法论：时间吸引子转向 (Temporal Attractor Steering, TAS)

本文引入了时间吸引子转向 (TAS)，这是一个三阶段、无需检索且无需训练的推理时框架，旨在通过操纵残差流激活来检测、定位并解决 PTC。

第一阶段：检测

使用轻量级线性探针对查询是否可能表现出 PTC 进行评分。该探针在经过验证的 PTC 正样本和匹配的非冲突负样本上进行训练。如果得分超过阈值 $\tau$，则进入转向阶段；否则按正常流程处理，以保持对非冲突查询的行为。

第二阶段：冲突定位

利用因果激活补丁（Causal Activation Patching）技术识别冲突关键层 ($\ell^*$)。通过将“时间提示”前向传播的隐藏状态补丁到“标准提示”的前向传播中，作者确定了当进行干预时能最大化答案翻转率 (Answer-Flip Rate, AFR) 的那一层。实验结果表明，对于所有测试的模型，该关键层都位于网络的上半部分（例如，在 28–32 层的模型中位于第 23–31 层）。

第三阶段：转向

在确定的层 $\ell^*$ 处，将隐藏状态向预先计算的转向向量 $\Delta$ 方向进行扰动：
$$h'_{\ell^*}(q) = h_{\ell^*}(q) + \alpha \cdot c \cdot \Delta$$
其中 $\alpha$ 控制干预强度，$c$ 是检测器得分。转向向量 $\Delta$ 通过计算时间线索下的隐藏状态与标准提示下的隐藏状态之差的平均值来构建（即 $h_{\ell^*}(q, c_{temp}) - h_{\ell^*}(q)$）。作者提出了三种变体来控制平均粒度：全局 (V1)、逐关系 (V2) 和逐领域 (V3)。研究发现 V2（逐关系） 最为有效，因为它防止了来自特定关系（如“国家元首”）的强信号被噪声较大的高频关系所稀释。

3. 核心贡献

1. 形式化与过滤： 本文定义了 PTC，并引入了知识恢复过滤器，以区分真正的冲突与知识缺失。这确保了评估仅聚焦于那些模型能够检索新事实但默认却无法检索到的案例。
2. 时间吸引子转向 (TAS)： 一种新型框架，通过操作残差流激活，在无需重训或外部检索的情况下，有选择地覆盖过时的参数化知识。其理论分析提供了在满足局部可分性（Local Separability）和有界转向（Bounded Steering）条件下的充分条件，使 TAS 能够成功翻转偏好不等式。
3. 经验证的多模型评估： 作者构建了一个包含 8,746 条记录的验证基准测试，涵盖五个 Wikidata 关系（如 CEO、国家元首），并对四个开源权重模型（Qwen-2.5-1.5B/7B, Mistral-7B-v0.3, Llama-3.1-8B）进行了评估。

4. 实验结果

评估在 8,746 条记录的验证基准上针对三个模型系列进行。

• PTC 普遍性： 过滤后的 PTC 率随模型容量单调增加，范围从 4.1% (Qwen-1.5B) 到 10.3% (Llama-3.1-8B)。过时偏好率 (OPR) 在不同模型家族间相对稳定（约 53–54%）。
• 定位能力： 单层激活补丁在所有模型中均实现了 0.72–0.85 的答案翻转率 (AFR)，证实了冲突解决电路定位在特定的高层。
• 端到端性能： TAS 恢复了 29–57% 的验证 PTC 案例，同时在非冲突查询上保持了 85–99% 的准确率（保留准确率）。
  • 最佳表现： Qwen-2.5-7B 实现了 56.9% 的恢复率，保留率为 94.8%。
  • 对比基线： 在三个模型上，TAS 的表现优于匹配的 ITI (Inference-Time Intervention) 基线。具体而言，由于 TAS 是基于验证的冲突实例而非通用的行为对比来构建转向向量，因此在 Qwen 模型上比 ITI 高出 +0.142 至 +0.152 的恢复率。
• 跨模型分析： PTC 实例在不同模型间并非完全对齐。有趣的是，Mistral 与 Llama（不同家族）之间的重叠度大于两个 Qwen 模型（同一家族）之间的重叠度，这表明训练数据的时效性是预测 PTC 对齐性的更强因素，而非架构谱系。

5. 重要性与主张

本文提供了一种基于机制且无需检索的解释，说明如何通过推理时手段选择性地覆盖过时的参数化知识。

• 诊断效用： 知识恢复过滤器提供了一种廉价的诊断工具，用于在尝试干预之前判断模型是否持有可恢复的新事实。
• 稳定性： 冲突关键层具有家族特异性但保持稳定，允许在确定特定模型家族后重复使用。
• 干预有效性： 结果证明，时间冲突是可测量、可定位且可解决的。论文谨慎地指出，虽然经过验证的冲突转向（TAS）通常优于行为对比转向（ITI），但最优的转向向量构建方式可能因模型架构而异（例如，ITI 在 Mistral-7B-v0.3 上表现更好）。

这项工作确立了 PTC 是一个独立于知识缺失的失效模式，并且针对性的激活转向可以有效地解决这些冲突，而无需承担重训的计算成本或外部检索的延迟。