💻 computer science

Mixing Mechanisms: How Language Models Retrieve Bound Entities In-Context

本文揭示，尽管语言模型最初依赖位置机制来检索上下文中的绑定实体，但随着上下文复杂度的增加，该方法变得不可靠，从而促使模型辅以词汇和反身机制，构建出一个稳健的因果模型，以准确预测其在多样且更长输入下的行为。

原作者： Yoav Gur-Arieh, Mor Geva, Atticus Geiger

发布于 2026-05-29

📖 1 分钟阅读☕ 轻松阅读

原作者： Yoav Gur-Arieh, Mor Geva, Atticus Geiger

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是论文《混合机制：语言模型如何在上下文中检索绑定实体》的通俗解释，辅以生动的类比。

宏观图景：“迷失在中间”的问题

想象你在读一个故事，其中有一个角色介绍了一长串朋友及其喜欢的食物：

Ann 喜欢派。
Joe 喜欢果酱。
Pete 喜欢茶。
Tim 喜欢 麦芽酒。
……以此类推，共有 20 个人。

然后，故事问道："谁喜欢麦芽酒？"

如果你是人类，你可能会扫描列表。如果你是人工智能（语言模型），你必须弄清楚如何在你对该故事的记忆中找到答案。

长期以来，研究人员认为人工智能是通过简单地计算位置来解决这个问题的。它会想：“这个问题是关于第 4 个提到的人，所以我会看第 4 个名字。”这就像一位只知道按书架编号找书的图书管理员。

这篇论文说这位图书管理员错了。 人工智能不仅仅使用书架编号。事实上，当列表变长时，“书架编号”方法会陷入混乱，尤其是对于列表中间的人。为了解决这个问题，人工智能实际上同时使用了三种不同的技巧来找到正确答案。

三种技巧（机制）

作者发现，人工智能混合了三种特定的策略来记住谁喜欢什么。这就像侦探使用三种不同的工具来破案：

1. 位置机制（“书架编号”技巧）

工作原理： 人工智能查看信息在文本中出现的位置。如果"Ann"是第一个提到的人，人工智能就会记住“第一个人”。
何时有效： 这对于列表的最开头和最末尾的项目非常有效。就像完美地记住了书架上第一本和最后一本书一样。
何时失效： 随着列表变长，“中间”的书架变得模糊。人工智能会搞不清"Tim"是第 5 个还是第 6 个人。信号变得“嘈杂”且不可靠。

2. 词汇机制（“词语联想”技巧）

工作原理： 人工智能不是数数，而是查看词语本身。如果问题是“谁喜欢派？”，人工智能会在其记忆中搜索“派”这个词，并抓取与之关联的名字。
类比： 这就像一位不记得桌号，但记得“哦，点了派的那个人戴着红帽子”的服务员。
何时有帮助： 这非常敏锐且精确。当列表中间的“书架编号”变得模糊时，它能力挽狂澜。

3. 自反机制（“自指针”技巧）

工作原理： 这是最独特的一种。当人工智能读到"Tim 喜欢麦芽酒"时，它会创建一个秘密的、不可见的箭头，从单词“麦芽酒”指回"Tim"。稍后，当被问及“麦芽酒”时，它会直接跟随那个箭头。
类比： 想象“麦芽酒”上绑着一个微型 GPS 追踪器，直接指向"Tim"。人工智能不需要搜索；它只需跟随追踪器。
为何需要它： 有时问题在句子结构中出现在答案之前（例如，“谁喜欢麦芽酒？Tim 喜欢。”）。“词语联想”技巧很难向后工作，因此人工智能需要这种直接的“指针”来直接跳转到答案。

“中间”问题与解决方案

该论文发现了一个有趣的模式：

在列表的开头和结尾： 人工智能主要依赖位置技巧（计数）。在这里它既强大又自信。
在列表的中间： 位置技巧变得微弱且模糊（这被称为“迷失在中间”效应）。
解决方案： 在中间部分，人工智能切换到词汇（词语联想）和自反（指针）技巧的混合体。这些技巧更加敏锐，有助于人工智能忽略长列表中的噪音。

作者通过“修补”人工智能的大脑证明了这一点。他们从一则故事中提取人工智能的记忆，并将其与另一则故事的记忆进行交换。

如果交换了位置记忆，人工智能会根据新列表的顺序进行猜测。
如果交换了词汇记忆，人工智能会根据新列表的词语进行猜测。
如果交换了自反记忆，人工智能会跟随新的指针。

通过这样做，他们表明人工智能并非只使用一种方法；它不断地融合所有三种方法来获得正确答案。

“因果模型”（配方）

研究人员建立了一个简单的数学模型，将这三种技巧结合起来。

他们发现，如果你告诉模型使用所有三种（位置 + 词汇 + 自反），它可以以95% 的准确率预测人工智能接下来会说什么。
如果他们尝试仅使用旧的“位置”方法（即大家原本认为它工作的方式），准确率下降到约 45%——基本上是在瞎猜。

这在现实世界中有效吗？

该论文不仅在简单的列表上进行了测试，还在插入了“填充”文本（关于天气或交通的随机句子）的故事中进行了测试。

即使有这么多额外的噪音，人工智能仍然使用相同的三种技巧。
然而，随着文本变得非常长，“词语联想”（词汇）技巧变得稍微弱了一些，而“书架编号”（位置）技巧变得稍微嘈杂了一些。这解释了为什么人工智能有时在处理非常长的文档时会遇到困难——并不是人工智能忘记了；而是随着列表的增长，它的三种工具变得稍微不那么精确了。

总结

语言模型不仅仅是通过数数来阅读故事。它们使用一个混合系统：

计数（位置）用于边缘。
匹配词语（词汇）用于中间。
跟随指针（自反）用于直接连接。

通过理解这种混合，我们对人工智能如何在长对话中思考和记忆事物有了更清晰的画面。

技术摘要：上下文实体检索中的混合机制

问题陈述

语言模型（LMs）擅长上下文推理，这一能力根本上依赖于在文本中绑定相关实体（例如，在"Ann loves pie"中将"Ann"绑定到"pie"）并随后根据查询检索它们（例如，回答"Who loves pie?"）的能力。虽然先前的研究确定语言模型利用一种位置机制——即根据实体在上下文序列中的索引进行检索——但这一观点主要源于涉及短实体组列表的研究（例如， $n=2$ 或$3$）。

本工作解决的核心问题是：在更复杂、更现实的设置中，这种位置机制的可靠性如何。随着绑定实体组数量的增加，语言模型在处理长上下文推理时显得力不从心，表现出诸如“中间迷失”（lost-in-the-middle）等现象。作者调查了位置机制是否能推广到更长的序列，或者语言模型是否采用其他策略来保持检索准确性。

方法论

作者采用机制可解释性技术，特别是交换干预（interchange interventions），来探测语言模型的内部因果结构。

任务设置：研究利用涉及“实体组”（填充特定角色的实体元组，例如：名称 + 食物）的模板化上下文推理任务。模型被查询以根据特定组内的查询实体检索目标实体。
反事实设计：为了区分相互竞争的假设，作者构建了原始和反事实输入的对齐数据集。这些配对的设计使得三种假设机制——位置、词汇和自反——如果在其各自的中间变量上执行交换干预，将预测出不同的输出。
- 位置机制（ $P$ ）：检索反事实查询所在组的索引处的实体。
- 词汇机制（ $L$ ）：检索与反事实查询实体绑定的实体（例如，如果查询从"Tim"变为"Ann"，则检索"Ann"喜欢的东西）。
- 自反机制（ $R$ ）：通过源自目标实体本身的直接指针检索目标实体，该指针通过查询进行解引用。
干预协议：作者在特定层（ $\ell$ ）的最后一个 token 残差流上执行交换干预，该层被识别为检索发生前的临界点。他们将反事实运行中的残差流向量补丁到原始运行中，并观察由此产生的下一个 token 分布。
因果建模：开发了一个因果模型（ $M$ $M$ ）来模拟语言模型的行为。该模型将三种机制组合为加权混合：
- 位置项被建模为以查询索引为中心的高斯分布，其方差取决于索引。
- 词汇项和自反项被建模为独热分布（one-hot distributions）。
- 该模型被训练以使用 Jensen–Shannon 散度（JSD）作为损失指标来预测语言模型的 logit 分布。
范围：实验涵盖了三个家族（Llama、Gemma、Qwen）的九个模型，参数量从 2B 到 72B 不等，并在十个不同的绑定任务上进行了评估。

主要贡献

1. 三种不同机制的识别

本文挑战了检索仅基于位置的普遍观点。它表明语言模型采用三种机制的混合：

位置机制：对上下文开头和结尾的实体有效，但随着组数量（ $n$ ）的增加，对于中间位置变得嘈杂且弥散。
词汇机制：检索查询实体的绑定对应物（例如，"pie" $\to$ "Ann"）。该机制提供尖锐的、独热的信号。
自反机制：使用从目标实体指向其自身的直接指针，该指针通过查询被检索。当目标在从句中出现在查询之前时（例如，"Tim loves tea" $\to$ "Who loves tea?"），这一点尤为关键，因为在这种场景下，自回归模型在架构上很难进行词汇复制。

2. "U 形”可靠性模式

通过广泛的干预实验，作者发现了一个一致的模式：

第一和最后位置：检索主要由位置机制主导，该机制高度集中且可靠。
中间位置：位置信号显著退化。为了补偿，语言模型严重依赖词汇和自反机制，它们提供更尖锐的信号以消除歧义，确定正确的实体。
相互作用：这些机制表现出“竞争协同”。当索引对齐时，信号增强；当它们发散时，它们相互抑制。

3. 下一个 token 预测的因果模型

作者构建了一个结合这三种机制的因果模型。该模型在各种任务和模型规模下，与实际语言模型的下一个 token 分布达到了95% 的一致性（通过 Jensen–Shannon 相似度衡量）。相比之下，仅依赖位置机制的模型（即普遍观点）得分显著较低（约 45%），在某些配置下甚至表现不如均匀基线。

4. 对自然主义输入的泛化

该研究验证了这些发现在更自然主义的设置中依然成立，即实体组与“填充”文本（开放式句子）交错出现。虽然填充 token 的加入增加了噪声并略微削弱了词汇机制，但对三机制混合的根本依赖依然存在，这为“中间迷失”效应提供了机制解释。

结果

机制普遍性：在长上下文的中间位置，位置机制仅占模型行为的约 20%，而词汇和自反机制成为正确检索的主要驱动力。
模型鲁棒性：混合模式在不同模型家族（Llama、Gemma、Qwen）和不同规模（2B 到 72B 参数）之间保持一致。
自反验证：通过特定的反事实设计（其中反事实答案在原始上下文中不存在），作者证明了存在一种独立于答案 token 本身的自反指针机制。
消融研究：从因果模型中移除任何单一机制都会显著降低性能，证实了所有三种机制对于准确抽象语言模型行为都是必要的。

意义与主张

本文声称建立了关于语言模型如何在上下文中绑定和检索实体的更完整图景。通过超越简单的位置观点，作者为语言模型在长上下文设置中的优势（通过多信号实现的鲁棒检索）和脆弱性（中间位置的噪声导致“中间迷失”错误）提供了机制解释。

这项工作表明，“中间迷失”现象不仅仅是注意力的失败，而是位置信号的特异性退化，这种退化仅部分被词汇和自反机制所补偿。作者发布了他们的代码和数据，以促进对上下文推理因果机制的进一步研究。