Factual Retrieval in LLMs Is a Redundant, Distributed and Non-Contiguous Process
本文揭示了大语言模型中的事实检索依赖于跨越多个层的冗余、分布式且非连续的计算路径，这挑战了知识局部存储的假设，并解释了在知识编辑中观察到的不匹配现象。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，将大语言模型（LLM）视为一座巨大的、多层结构的图书馆，其中的每一本书都包含着世界知识的一小部分。长期以来，研究人员一直认为，如果你想寻找一个特定的事实——比如“安格拉·默克尔的母语是什么？”——答案会被存储在一个特定的房间里（模型的特定层），并沿着一条从底层到顶层的直线路径进行检索。
这篇论文指出，现实情况要更加混乱、灵活且具有冗余性。以下是他们研究结果的拆解，使用了简单的类比：
1. “非连续”的电梯之旅
旧观点： 为了获取一个答案，模型的内部“电梯”（数据处理过程）会停在每一层楼，在每一步都检查信息，从底层一直到顶层。
论文的发现： 电梯并不在每一层都停靠。事实上，它经常完全跳过某些楼层。
- 类比： 想象你在尝试送达一个包裹。你并不需要快递车停在街道上的每一户人家门口。有时，货车可以直接从 2 楼跳到 8 楼，忽略中间的楼层，依然能把包裹送到正确的门口。
- 研究结果： 作者发现，为了检索一个事实，模型只需要一组特定的、分散的层。它可以将信息在网络中进行“传送”，跳过许多对于该特定事实而言并不必要的中间步骤。
2. “冗余的备份路径”
旧观点： 寻找一个事实存在一条“正确”的路径。如果阻断这条路径，模型就会失败。
论文的发现： 模型拥有多条同样有效的备份路径。
- 类比： 想象一座拥有主干道的城市。如果主干道被封堵，交通并不会停滞；交通会立即重新路由到由小路、侧街甚至另一条更长、更曲折的高速公路组成的复杂网络中。两条路径都能带你到达目的地，但它们看起来完全不同。
- 研究结果： 对于他们测试的几乎每一个事实，研究人员都发现了一条“主要路径”（最短、最高效的路线）和至少一条“替代路径”（更长、更深的路线）。如果阻断了主要路径，模型仍能通过备份路径找到答案。这意味着知识并非存储在单一地点，而是分布式且冗余的。
3. “精简团队”对比“整个管弦乐团”
旧观点： 整个模型共同协作来生成每一个答案。
论文的发现： 你只需要一个特定的、规模较小的团队就能完成这项工作。
- 类比： 想象一支交响乐团正在演奏一首乐曲。你可能会认为每一个乐手都是必需的。但作者发现，对于某个特定的事实，只有几位特定的乐手（层）实际上在演奏音符。其余的乐团成员基本上处于沉默状态，或者在做其他事情。
- 研究结果： 他们确定了一个“最小属性计算路径”。这是产生正确答案所需的最小层级组合。令人惊讶的是，这个组合通常结束于模型的中间部分。一旦信息被这些特定的层处理完毕，模型的其余部分就不再需要进行任何繁重的计算工作来掌握答案。
4. “编辑错位”之谜
旧观点： 如果你想修改模型中的一个事实（例如，将“默克尔的语言是德语”改为“法语”），你应该去编辑存储该事实的具体那一层。
论文的发现： 事实“存储”的位置与你需要“编辑”的位置往往不在同一个地方。
- 类比： 想象一条工厂流水线。制造产品的部件可能位于流水线的开头，但修复错误的部件可能位于流水线的末尾。如果你试图在开头修复产品，你可能会损坏机器。
- 研究结果： 由于模型使用这些分散且冗余的路径，仅仅找到数据“看起来像”答案的那一层是不够的。为了成功编辑一个事实，你通常必须在路径中的某个特定的“转换阶段”进行干预，而不一定是知识看起来所处的位置。
“大局观”总结
作者得出结论，大语言模型存储和检索事实的方式不是像从单个抽屉里取出的文件柜。相反，它像是一个高度灵活、具有冗余性的神经网络，其中：
- 知识是分布式的： 知识散布在许多层中，而不是锁在某一个地方。
- 路径是灵活的： 模型可以采取短促、直接的路线，也可以采取漫长、曲折的备份路线来寻找同一个答案。
- 跳跃是常态： 模型经常忽略中间的层，直接跳转到需要信息的地方。
这解释了为什么 AI 模型如此鲁棒（它们拥有备份），同时也解释了为什么精准定位一个事实究竟“生活在哪里”，或者如何可靠地改变它，是一件如此困难的事情。这个过程是一个复杂的、多步骤的舞蹈，是以一种非线性、分散的方式发生的。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。