🤖 AI

Compute Globally, Materialize Locally: The Memory Contract of Sparse Event-KV

本文引入了“语义具象化”（semantic materialization），证明了即使在原始观测被驱逐后，稀疏事件键值缓存（event-KV caches）仍能通过经过刻意措辞以编码信息而非显式陈述数值的事件，保留并作为特定且有界状态的独立视图进行服务。

原作者： Zefeng Cai, Zerui Cai

发布于 2026-07-28

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Zefeng Cai, Zerui Cai

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你是一位飞船舰长，已经航行多年。为了导航，你的飞船计算机不断记录着经过的每一颗恒星、每一次传感器读数以及每一个决策。但是，飞船的内存有限；它无法在活跃的大脑中保留整个日志。因此，计算机使用了一个聪明的技巧：它将最重要的时刻以“快照”的形式保存在一个名为 KV cache（键值缓存） 的特殊高速内存库中。你可以把这个缓存想象成不仅仅是文字的日记，而是一叠已经完成了繁琐数学运算的便签。当飞船需要了解某些信息时，它不需要重新阅读整个历史，只需要看这些便签即可。

大问题在于，未来的 AI 探险家们需要面对：当你扔掉了产生那张便签的原始日志页面时，会发生什么？ 如果计算机删除了写着“引擎过热”的那一页，但保留了写着“引擎状态：危急”的便签，它还能知道引擎过热吗？还是说这张便签会变成一堆毫无意义的涂鸦？这就是 稀疏事件-KV 服务（sparse event-KV serving） 的谜题。它关乎于：AI 是否能在忘记了想法的“原料”之后，依然记得想法的“结果”。如果答案是肯定的，我们就能构建出能够记忆数年对话而无需行星规模图书馆的超级智能体。如果答案是否定的，那么我们可能正在丢弃那些让 AI 变得聪明的精髓。

“幽灵便签”的魔力

在这篇论文中，研究人员 Zefeng Cai 和 Zerui Cai 决定用一个非常具体、近乎神奇的实验来测试这个想法。他们把 AI 的记忆处理成一场带有转折的“传声筒”游戏。他们设定了一个场景：AI 代理被告知，“开关处于 开启（ON） 状态”。随后，AI 被告知，“镜子反射着开关”。接着，研究人员从 AI 的记忆中删除了第一条信息（“开关处于开启状态”），只留下了第二条信息（“镜子反射着开关”）。最后，他们问 AI：“镜子是开启还是关闭？”

令人惊叹的部分在于：在 AI 的回答确实依赖于隐藏开关的特定案例中，它几乎每次都答对了。

准确地说，研究人员发现，当 AI 的回答确实会根据隐藏开关而改变时（即“捐赠者敏感型”项目），在 Qwen3-8B 模型上，它遵循隐藏值的成功率高达 99/99。然而，这种完美的记录仅适用于 AI 有能力改变其判断的情况；这并不意味着 AI 能答对宇宙中的每一个问题。在 256 对测试数据中，有 125 个案例中 AI 无论隐藏开关如何都会给出相同的答案（因为答案显而易见或 AI 并不在意）。但在剩下的 130 个隐藏开关会对结果产生影响的案例中，AI 完美地遵循了被删除的来源。

尽管在 AI 被允许看到的信息中从未被告知开关的值，它却知道答案是 “开启”。研究人员称之为 “语义具象化”（Semantic Materialization）。这就像是在扔掉教科书之前，AI 就已经把数学题的答案写在了便签上。这个“便签”（第二句话的缓存记忆）秘密地持有答案，即便句子本身并没有直接说明。

“捐赠者对”测试：如何证明这不是瞎猜

你可能会想：“也许 AI 只是因为‘开启’是一个常用词而随口猜了个‘开启’。”为了证明这不是运气好，研究人员使用了一个巧妙的技巧，称为 “捐赠者对”（Donor Pair）。

想象他们运行了两次完全相同的实验，但有一个微小的区别：

运行 A： 隐藏开关为 开启（ON）。
运行 B： 隐藏开关为 关闭（OFF）。

在两次运行中，AI 能看到 的信息是完全一样的。唯一的区别在于他们删除的那个秘密信息。当他们询问 AI 关于镜子的状态时，在运行 A 中它回答 “开启”，而在运行 B 中它回答 “关闭”。

在 Qwen3-8B 模型上，对于那些答案确实取决于开关的项目，这种情况发生了 99/99 次。AI 完美地遵循了隐藏且被删除的信息。这证明了 AI 不是在瞎猜；它是在读取隐藏在记忆中的“幽灵便签”，而这张便签携带了那个秘密值。

陷阱：这不是魔法，而是一种契约

虽然这听起来像是一种超能力，但论文揭示了这种“幽灵便签”能力是非常微妙且有严格规则的。它并不是一种对任何事物都有效的通用魔法。

1. 你必须以正确的方式写下便签。
研究人员尝试了 16 种不同的方式来表述关于“镜子”的句子。有些效果极佳，而另一些则完全失败。

胜出者： 像“寄存器 镜像（mirrors） 源”这样的短语效果很好（成功率约 80%）。
失败者： 像“寄存器 源自于（was written from） 源”这样的短语几乎没用（成功率仅约 50%，基本等同于瞎猜）。
教训： 这不在于句子的含义，而在于它的“听感”。两个意思相同的句子，由于使用的具体词汇不同，结果可能天差地别。这就像一个秘密握手；如果你节奏不对，门就不会打开。

2. 它只适用于简单的秘密。
“幽灵便签”擅长记住简单的 是/否 答案（如开/关）。

成功率： 对于二元选择，AI 的记忆正确率为 93%。
失败： 如果你要求 AI 记住一个四选一的选项，成功率降至 22%（几乎和瞎猜没区别）。
彻底失败： 如果你要求它记住一个三位数（如“123”），它的正确率是 0%。这种“便签”承载不了沉重的数据，它只能承载微小的、紧凑的状态。

3. 不要信任“偶然”的记忆。
研究人员测试了这种现象是否会在长对话（如朋友间的真实聊天）中自然发生。他们发现，如果你只是让 AI 进行聊天并寄希望于它能“偶然”写下一个好的幽默便签，那是 行不通的。成功率与便签不存在时是一样的。

解决方法： 你必须刻意地编写一个专门设计的“载体”句子来承载秘密。当他们这样做时，成功率从 6% 跃升到了 51%。这不是一种偶然发生的现象，而是一种你需要去构建的工具。

给 AI 构建者的重要警告

对于任何构建 AI 系统的人来说，最重要的启示是对我们如何测试记忆的一个警告。

通常情况下，如果从 AI 的记忆中删除一段信息后，AI 仍然能得到正确答案，工程师会认为：“太棒了！这段信息并不重要。我们可以删除它以节省空间。”

这篇论文说：停下来！

如果 AI 在删除来源后仍然能得到正确答案，那可能是因为 AI 早在之前就已经将答案写进了“幽灵便签”中。你并没有证明来源是无用的，你只是证明了 AI 足以聪明到能为以后保存答案。如果你同时删除了来源和便签，AI 可能会失败。

总结

这篇论文发现了一个隐藏的 AI 记忆层，在那里，计算机可以“预计算”答案，并以一种即使在原始问题消失后仍能存续的方式进行存储。这就像一位厨师在餐巾纸上写下了食谱，然后扔掉了食材清单，却依然能精准地烹饪出那道菜。

然而，这种力量是脆弱的。它只有在你使用正确的“秘密握手”（措辞）时才有效，它只能承载微小的秘密（是/否），而且它不会偶然发生。对于任何试图构建拥有长篇记忆能力的 AI 的人来说，教训很明确：不要只是删除过去；去检查 AI 是否已经把答案写在了便签上。 如果你这么做了，你可能会发现，所谓的“记忆”比我们想象的要强大得多——也复杂得多。

技术摘要：全局计算，局部物化

1. 问题陈述

长程智能体（Long-horizon agents）日益依赖稀疏 KV 缓存服务（sparse KV cache serving），即系统保留一部分缓存的事件跨度（event spans），并驱逐其余部分以管理内存。当前关于驱逐和情境记忆（episodic-memory）策略存在一个关键且未经测试的前提：即被保留的事件跨度即使在其生成的特定观测值（源事件）已被丢弃后，仍具有信息量。

标准的文本检索逻辑表明，如果源文本消失了，信息也会随之丢失。然而，基于 KV 的服务提出了一个更强的能力：在初始的全局预填充（global prefill）期间，下游 Token 会通过因果计算（causal computation）受到上游源的影响而进行上下文化。因此，下游事件的缓存行（$KV$）可能编码了该计算的“结果”，作为一个“物化”（materialized）的状态而存在，即使源文本不再被服务，该状态依然可以持久化。本文研究了这些独立服务的跨度是否携带了隐藏的、已省略源信息的内部状态，以及这种“语义物化”（semantic materialization）在何种条件下是可靠的。

2. 研究方法

作者采用了一种使用**捐赠者对（donor pairs）**的受控因果比较法，旨在将语义物化与基于文本的检索或猜测区分开来。

捐赠者对构建： 构建两个在所有被服务的 Token 和位置上字节完全一致的智能体历史记录。它们的区别仅在于一个被省略的源事件（ $e_{src}$ ），该事件设定了一个值 $v$ （例如，“寄存器 S 为 ON”）与 $v'$ （“寄存器 S 为 OFF”）。
测试： 系统服务一个下游的“根”事件（ $e_{root}$ ），其文本引用了该源（例如，“M 镜像 S”），但并未明确命名该值。源事件 $e_{src}$ 被从服务集中剔除。
查询： 模型被要求给出镜像寄存器的状态。
指标： 如果模型的回答遵循被省略的捐赠者值（ $v$ 或 $v'$ ）的比例显著高于随机概率，则证明被服务的 $e_{root}$ 的 $KV$ 行携带了源自缺失源的物化状态。
控制变量： 研究使用了独立的诱饵（decoys）以防止模型仅仅是通过排除错误选项来得出答案。研究区分了“根”（直接关注源的事件）和“引用边”（关注根的事件）。
模型： 实验在 Qwen3-8B、Ministral-3-8B 和 Gemma-4-12B 的冻结检查点上进行，并在 2024 年时代的模型（如 Gemma-2、Llama-3.1 等）上进行了探索性诊断。

3. 核心贡献与发现

A. 语义物化的发现

本文确立了选择用于服务的行并不等于只选择了其可见的 Token 内容。

因果证据： 在 Qwen3-8B 上，在源被省略的捐赠者敏感项中，答案遵循隐藏捐赠者值的比例为 99:0。被服务的文本从未说明该值，但模型仍能从下游事件的缓存行中恢复它。
状态 vs. 字符串： 物化的信息是语义状态，而非逐字文本。在匹配的交换探测（swap probes）中，逐字传输的发生率仅为 9.7%（与控制组无异），而语义极性（semantic polarity）的传输率达到了 64%。

B. “记忆契约”（The Memory Contract）

本文定义了一个关于什么可以被写入、落在何处以及什么可以存续的契约：

触发（形式表现）： 物化并非理解能力的普遍属性，而是**形式表现（surface form）**的属性。
- 在 16 种不同的语言结构（例如，“M mirrors S”对比“M is kept equal to S”）中，写入率差异巨大（从随机水平到 0.95 不等），即便理解力接近上限。
- 没有单一的结构适用于所有模型。例如，“mirrors”在 Qwen3 上是强力的写入者，但在 Gemma-4 上却会失效。
- 需要校准： 系统不能假设物化一定会发生；必须针对每个检查点校准特定的构造。
落地（根承载，边路由）：
- 根（Roots）： 直接关注源的事件携带了占主导地位的、与捐赠者对齐的信号。
- 边（Edges）： 引用根的下游事件（例如，“T mirrors M”）主要路由查询回到根，而不是自身携带状态。在 Gemma-4 上，询问长度为 3 的链条时，只有当“根”被服务时才能得到正确答案；若仅服务“边”，性能则退化为随机水平。
访问（紧凑状态包络）：
- 二元状态： 恢复二元状态（ON/OFF）非常稳健（准确率 0.934 对比 0.5 的随机概率）。
- 高基数： 随着负载复杂度的增加，恢复能力迅速下降。四路和八路负载的恢复率接近随机水平。三位数字永远无法被精确恢复（0/192）。
- 派生状态： 如果没有在写入时进行提示，派生出的结论无法被原生恢复。

C. 编程原语

主动 vs. 被动： 从长期对话中被动收获自然提及（natural mentions）无法产生比孤立编码可检测到的任何优势。
刻意携带者： 一个经过刻意设计的、不含答案的事件（例如，“现在确定判决并在此记录它”）能将 Qwen3-8B 的捐赠者对齐恢复率从 6% 提升至 51%。
显式文本： 显式的文本记录仍然是唯一可靠的备选方案，能够跨模型恢复状态。

D. 对驱逐策略的启示

本文挑战了衡量记忆系统的标准验证指标：丢弃一个源事件并观察到准确率没有损失，并不证明该源是不必要的。 系统可能保留了一个已经物化了答案的下游行。修正（corrections）应当作为新的事件（补丁）进行服务，而不是编辑缓存，以避免劫持历史查询。

4. 重要性与主张

本文声称识别了一种存在于 KV 缓存中的语义记忆基质（semantic memory substrate），它独立于可见的文本运行。

超越检索： 稀疏事件-KV 服务不仅仅是对行进行检索；它是对上游计算的预计算、物化结果进行检索。
工程手段： 该原语是可编程的。通过为每个模型校准特定的“携带者”构造，系统可以有意地将紧凑状态写入下游事件，以在源被驱逐后得以存续。
局限性： 作者对其范围持谨慎态度。该原语仅限于紧凑状态（二元/低基数）。它不支持精确的数值恢复或复杂的派生结论（除非有显式提示）。此外，该现象具有高度的模型和构造特异性，需要进行每检查点的校准，而非提供通用的语法。

总之，本文认为对于长程智能体而言，KV 缓存是一个“全局计算，局部物化”的引擎。然而，依赖这一点需要一个刻意的“记忆契约”，即系统必须通过校准的携带者事件来显式地写入状态，而不是被动地希望自然的对话提及能够奏效。