🤖 AI

The Geometry of Forgetting: Temporal Knowledge Drift as an Independent Axis in LLM Representations

本文揭示，大语言模型中的时序知识漂移被编码为残差流中几何正交的方向，这使得现有的基于不确定性的检测方法失效，同时表明一个简单的线性探针通过直接访问模型的内部知识状态即可可靠地识别过时信息。

原作者： Rania Elbadry, Ahmed Heakl, Fan Zhang, Dani Bouch, Yuxia Wang, Preslav Nakov, Zhuohan Xie

发布于 2026-05-12

📖 1 分钟阅读☕ 轻松阅读

原作者： Rania Elbadry, Ahmed Heakl, Fan Zhang, Dani Bouch, Yuxia Wang, Preslav Nakov, Zhuohan Xie

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是论文《遗忘的几何学》的通俗解释，辅以生动的类比。

核心问题：自信过时的 AI

想象你向一位非常聪明、博览群书的图书管理员（即 AI）询问 2025 年某国的现任总统是谁。如果这位管理员是基于 2022 年出版的书籍受训的，他可能会自信地告诉你 2022 年担任该职位的人名。

令人恐惧的是？这位管理员对这一陈旧事实的表述，与对全新事实的表述一样确信、流畅且充满自信。当前用于检测“幻觉”（谎言或编造答案）的工具，主要寻找困惑的迹象，如结巴或缺乏自信。但由于这位管理员是“自信地”犯错，这些工具无法捕捉到错误。它们会想：“哦，他们听起来很确定，所以肯定是对的。”

发现：隐藏的“时间开关”

这篇论文的研究人员发现，这并非一个漏洞，而是这些 AI 大脑运作方式的结构性特征。

将 AI 的内部大脑想象成一个巨大的多维房间。

轴 A（正确性）： 房间中的一个方向告诉 AI：“这个答案是对还是错？”
轴 B（自信度）： 另一个方向告诉 AI：“我有多确定？”
轴 C（时间漂移）： 研究人员发现了第三个隐藏方向，它完全独立于前两个。这个轴追踪一个特定事项：“自受训以来，现实世界发生变化了吗？”

关键发现是，这个“时间漂移”轴在几何上与“正确性”和“自信度”轴正交（呈完美的 90 度角）。

类比： 想象试图用尺子测量房间的温度。无论你如何盯着尺子看，你永远找不到温度，因为温度存在于完全不同的维度上。同样，由于“时间漂移”存在于与“自信度”不同的维度上，任何仅检查自信度或正确性的工具，对于 AI 知识过时的这一事实都是盲目的。

实验：捕捉“时间漂移”

研究人员构建了一种新工具（一种“线性探针”），专门用于寻找那个隐藏的“时间漂移”轴。

数据集： 他们创建了一个包含 3,500 个关于随时间变化事实（如谁执教某支运动队或谁领导某政府）的庞大测试集。他们确切知道“现实世界”答案发生变化的时间点。
结果：
- 旧工具： 当他们使用现有方法（检查困惑或低自信度）时，工具的表现不亚于抛硬币（准确率约 50%）。它们无法区分自信的谎言和自信的过时事实。
- 新工具： 他们新的“时间漂移”检测器表现卓越，准确率达到 83% 至 95%。它能精准识别 AI 何时正在复述旧闻。

旧方法为何失效：“检索电路”

该论文深入探讨了 AI 为何会表现出这种行为。他们观察了 AI 的内部机制（"MLP 检索电路”）。

他们发现，当 AI 检索旧事实（陈旧回忆）和编造虚假事实（虚构）时，内部的电信号看起来几乎完全相同。

类比： 想象两位不同的司机走完全相同的路线去杂货店。一位驾驶的是实际上已到达商店的汽车（正确）。另一位驾驶的是被困在 2022 年交通拥堵中的汽车（陈旧）。对于观察 GPS 信号的观察者来说，这两辆车看起来在做完全相同的事情。AI 内部的“引擎”无法区分“我找到了一个旧事实”和“我编造了这个事实”。它只是发出相同的信号。

“交叉切断”证明

为了证明 AI 实际上是在“记住”其受训日期（而不仅仅是对问题中的词语做出反应），研究人员进行了一项巧妙的测试：

他们使用完全相同的问题（逐字节相同），将其输入两个不同的 AI。
AI A 受训于 2022 年。
AI B 受训于 2024 年。
他们询问了一个在 2023 年发生变化的事件。

结果： 2022 年 AI 的“时间漂移”检测器被触发（尖叫“这已过时！”），而 2024 年 AI 的检测器保持静默（表示“这是当前的！”）。由于问题完全相同，唯一改变的是 AI 的内部记忆。这证明了检测器读取的是 AI 内部的“知识状态”，而非问题本身。

结论

该论文得出结论：时间漂移是大语言模型内部一个独特的、隐藏的维度。

由于它隐藏在不同于自信度的轴上，我们无法仅通过观察 AI 听起来有多确定来检测过时的答案。
要解决这个问题，我们需要专门寻找这个“时间漂移”轴的新工具，而不是试图通过仅仅让 AI 变得“更不确定”来解决问题。

简而言之：AI 并没有困惑；它只是被困在了过去，并将这一事实隐藏在我们当前工具无法看到的其大脑的一部分中。

技术摘要：遗忘的几何学

问题陈述

大型语言模型（LLM）经常以与正确答案相同的流畅度和自信度生成过时的答案。当被问及自模型训练截止以来已发生变化的事实（例如现任政府领导人或体育教练）时，模型可能会检索到陈旧的事实、命名一个训练前的持有者，或编造一个新的持有者。现有的检测方法依赖于输出层面的统计指标（如 token 熵、语义熵）或针对通用正确性或不确定性训练的隐藏状态探针，无法区分这些失败模式。具体而言，它们无法区分陈旧回忆（检索到在训练时正确但现已过时的信息）与虚构（编造从未存在过的事实）。这种不透明性使得部署系统无法区分可恢复的训练时错误与幻觉。

作者认为，这并非工程失败，而是结构性问题：时间漂移（存储的事实自训练以来是否已发生变化）被编码在模型的残差流中，作为一个在几何上与正确性和不确定性都正交的表示轴。因此，任何仅基于正确性或不确定性信号运行的方法，在结构上天生就对漂移视而不见。

方法论

数据集构建

作者构建了一个包含3,511 个查询的数据集，涵盖1,342 个独特事实，涉及四种关系（政府首脑、主教练、主席、所属），其任期精度精确到天，数据源自 2026 年 4 月的冻结版 Wikidata 快照。

时间知识状态：根据模型输出相对于事实时间线及模型训练截止点（ $\tau_\theta$ $τ_{θ}$ ）的关系，每个（样本，模型）对被分类为以下五种状态之一：
1. 稳定 - 正确：答案正确，无漂移。
2. 时代错误：答案错误（过去的持有者），无漂移（事实从未改变）。
3. 陈旧 - 回忆：答案错误（过去的持有者），已漂移（训练后事实已改变）。
4. 过时 - 当前：答案错误（训练时的现任持有者，后被替换），已漂移。
5. 虚构：答案错误（编造的），已漂移。
受控评估：为防止模型仅检测查询年份（一种混淆因素），评估仅限于查询年份 $\ge \tau_\theta + 1$ 的情况。

探针与分析

该研究评估了来自四个架构家族的六种指令微调模型（Llama-2、Mistral、Llama-3.1、Qwen-2.5、Gemma-2）。

线性探针：在残差流激活值（ $h^{(\ell)}$ ）上训练 L1 正则化线性探针，以预测 is_drifted 标签。作者遍历所有层以识别性能最佳的层。
几何独立性测试：为验证漂移轴与正确性和不确定性的独立性，采用了五种互补的度量方法：
- 权重余弦：测量漂移、正确性和不确定性探针权重向量之间的角度。
- 分数相关性：探针分数之间的皮尔逊相关性。
- 双向零空间投影：将残差流投影到与干扰方向（正确性/不确定性）正交的子空间，并重新训练目标探针。
- 迭代零空间投影（INLP）：迭代移除与干扰变量相关的方向，以测试分布依赖性。
- 均值偏移解离：将训练后的探针与未训练的均值差（DoM）方向进行比较，以排除优化伪影。
机制干预：
- 激活修补：用干净的隐藏状态替换受损的隐藏状态，以定位时间处理过程。
- 直接 Logit 归因（DLA）：分解输出 logit，比较陈旧回忆与虚构的 MLP 轨迹。
- 因果导向：增强或抑制漂移方向，以观察持有者 logit 的变化。

主要结果

1. 漂移的线性可解码性

直接在漂移标签上训练的线性探针在所有六个模型中均实现了0.83–0.95 的 AUROC。相比之下，现有的基线方法（Token Entropy、Semantic Entropy、SEP、SAPLMA、CCS）的表现接近随机水平（0.49–0.57）。这证实了漂移是残差流中一个线性可解码的信号，但对于未显式针对漂移训练的方法而言，它是不可见的。

2. 几何正交性

五项测试证实，漂移轴在几何上独立于正确性 - 不确定性子空间：

权重余弦：漂移向量与正确性/不确定性向量之间的 $|\cos| \le 0.14$ 。
分数相关性：漂移分数与正确性/不确定性分数之间的 $|r| \le 0.20$ 。
零空间投影：移除正确性和不确定性方向后，AUROC 的下降可忽略不计（ $|\Delta| \le 0.008$ ），证实漂移并不存在于它们的张成空间中。
INLP：即使为每个干扰变量移除 10 个方向，漂移仍然可被检测到。
均值偏移解离：即使未训练的均值偏移方向高度相关，训练后的探针仍接近正交，表明这种独立性是结构性的，而非稀疏性的伪影。

3. 模型特异性与输入独立性

在跨截止点的实验中，使用字节完全相同的输入，漂移探针在训练截止点早于事实转变的模型上被激活，而在截止点较晚的模型上保持静默。模型对之间的概率 $P(A > B)$ 范围为0.975 至 0.998。这证明该探针检测的是模型的内部知识状态，而非输入属性（如实体熟悉度或查询年份）。

4. 机制解释

相同的检索动态：直接 Logit 归因揭示，MLP 检索电路为陈旧回忆和虚构产生了几乎相同的轨迹（ $r > 0.81$ ）。这两种失败模式在同一层达到峰值，这解释了为什么输出置信度（反映检索强度）无法将它们区分开来。
潜在但可激活：因果导向表明，漂移方向在正常推理下是潜在的（抑制它不会引起输出变化），但当被增强时，它会重构持有者 logit，选择性地激活时间检索电路。

意义与主张

该论文声称，时间漂移是大型语言模型的一种独特的表示属性，在结构上与正确性和不确定性正交。这种几何独立性解释了：

现有的幻觉检测方法为何在陈旧事实上失效。
模型为何能在漂移事实上表现出自信的错误（高置信度、低不确定性），因为它们正在执行对过时训练数据的真实检索。
检测时间漂移需要直接针对漂移标签训练的探针；重新利用正确性或不确定性探针是不够的。

作者得出结论，部署的系统应读取这一特定的漂移轴以识别陈旧知识，而不是等待表面层面的错误或依赖不确定性估计。这项工作提供了模型如何编码时间有效性的机制性解释，并证明了该信号可通过线性探针获取，为大型语言模型应用中更稳健的时间事实核查提供了一条路径。