🤖 AI

In-Context Examples Suppress Scientific Knowledge Recall in LLMs

本文表明，向大型语言模型添加上下文示例会抑制其回忆和应用潜在科学知识的能力，导致它们转而依赖经验模式拟合，即使这些示例是由正确的底层公式生成的。

原作者： Chaemin Jang, Woojin Park, Hyeok Yun, Dongman Lee, Jihee Kim

发布于 2026-05-01

📖 1 分钟阅读☕ 轻松阅读

原作者： Chaemin Jang, Woojin Park, Hyeok Yun, Dongman Lee, Jihee Kim

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是用简单语言和日常类比对这篇论文的解释。

核心观点：示例会让你遗忘已知知识

想象你是一名天才学生，已经熟记了物理、化学和经济学的定律。你完全知道如何运用正确的公式来解决问题。但随后，老师给你出了一份带有转折的试卷：在解题之前，他们先展示了 10 道类似题目及其答案。

你可能会想：“太棒了！这些示例能帮我更好地记住规则。”

但这篇论文发现事实恰恰相反。 当人工智能（大语言模型）看到这些示例时，它实际上停止使用其记忆中的科学定律，转而开始根据示例中的模式进行猜测。这就像一位大厨，在看了几张菜肴的照片后，忘记了食谱，只是试图通过观察图片来猜测食材。

作者将这种现象称为**“知识置换”**。示例并没有强化知识，反而将其挤到了一边。

人工智能思考的两种方式

这篇论文描述了人工智能解决科学问题时的两种不同“模式”：

“教科书模式”（知识驱动）：
- 工作原理： 人工智能看到一个问题（例如，“这个物体冷却得有多快？”），识别出关键词，并从记忆中提取正确的公式（牛顿冷却定律）。它通过数学一步步计算出答案。
- 类比： 这就像一位机械师听到奇怪的引擎噪音，凭借多年的训练确切知道是哪个部件坏了，并使用正确的工具进行修复。
“模式模式”（示例驱动）：
- 工作原理： 人工智能忽略了公式。相反，它查看提示中提供的 10 个示例，试图寻找捷径或趋势。它通过说“在示例中，当数字上升时，答案下降了，所以我也这样做”来猜测答案。
- 类比： 这就像一位从未研究过引擎的机械师，查看了 10 张带有损坏部件的汽车照片。他们通过说“在所有这些照片中，轮胎都是瘪的，所以我就猜轮胎是瘪的”来猜测修复方法，而不理解引擎发出噪音的原因。

这一发现： 当你给人工智能提供示例（即使是正确的示例）时，它几乎总是从“教科书模式”切换到“模式模式”。它不再进行真正的科学推理，而是开始进行“模式匹配”。

令人惊讶的结论：有时有帮助，有时有危害

研究人员在五个领域（经济学、化学、物理学、生物学和地球科学）的 60 个不同科学问题上测试了这一点。他们发现，虽然人工智能总是切换到“模式模式”，但最终得分的结果因学科而异。

具体情况如下：

“有害”案例（经济学与化学）：
- 发生了什么： 人工智能完美地掌握了公式。当展示示例时，它停止使用这些公式，转而开始猜测模式。
- 结果： 得分显著下降。
- 类比： 想象一位精通乘法表的数学天才。如果你给他们看几个" $2 \times 2 = 4$ "的示例，他们可能会停止思考"2 乘以 2"，转而猜测“也许是 5？”，仅仅因为示例看起来是某种样子。他们答错了，因为他们忘记了自己原本知道的规则。
“有益”案例（地球科学）：
- 发生了什么： 人工智能知道公式，但不擅长记住具体数字（如岩石的密度）。它一直猜错数字。当展示示例时，它停止尝试回忆数字，而是直接查看示例中的模式来猜测答案。
- 结果： 得分上升。
- 类比： 想象一位知道食谱公式但总是忘记加多少盐的学生。如果你给他们看 10 张成品菜肴的照片，他们可能会停止尝试回忆盐的用量，而是直接从照片中模仿味道。他们做出了更好的菜，但他们并没有真正学会食谱；他们只是碰巧利用了模式。
“无变化”案例（物理学与生物学）：
- 发生了什么： 人工智能切换了模式，但对于这些特定问题，“模式模式”碰巧与“教科书模式”一样有效。
- 结果： 得分保持不变。
- 类比： 这就像开车。你可以使用 GPS 驾驶（教科书模式），或者跟随朋友的汽车驾驶（模式模式）。如果你的朋友开得完美，你会同时到达。但你仍然不再使用 GPS 了。

为什么会发生这种情况？

论文发现，人工智能的“教科书模式”非常脆弱。它依赖于关键词。

如果问题说“消费者剩余”，人工智能就会想到“经济学公式”。
如果你将词语改为“阿尔法波”（同一概念的一个虚构名称），人工智能就会完全忘记该公式。

然而，“模式模式”并不关心词语。它只看数字。因此，当你给人工智能提供带有数字的示例时，它会立即切换到模式模式，因为这样更容易，即使这些示例与其已知的规则完全一致。

给用户的主要警告

论文最后对任何使用人工智能进行科学研究的人提出了警告：

不要假设给人工智能示例会帮助它利用其知识。
事实上，它可能会产生相反的效果。它可能会让人工智能停止像科学家一样思考，转而像猜测者一样思考。有时，这个猜测者会走运并获得更高的分数，但通常它会因为忘记本应知道的规则而得到更低的分数。

简而言之： 示例并没有教会人工智能任何新东西；它们只是让它忘记了原本已经知道的东西。

以下是论文《上下文示例抑制大语言模型中的科学知识回忆》的详细技术总结。

1. 问题陈述

本文研究了大语言模型（LLMs）在科学推理中应用时的一种反直觉现象：上下文学习（ICL）会抑制而非增强模型预训练的科学知识。

尽管 ICL 通过提供示例被广泛用于提升性能，但作者假设，对于需要潜在结构恢复（即在应用领域定律之前从数据中推断隐藏参数）的任务，添加示例会改变模型的推理策略。模型不再从其预训练权重中检索并应用正确的科学公式（知识驱动推导），而是转向示例驱动拟合（通过模式识别近似输入 - 输出映射）。

关键在于，即使上下文示例是由模型已知的完全相同的科学公式生成的，这种抑制现象依然会发生，这意味着示例与模型的先验知识之间并不存在冲突。

2. 方法论

基准构建

作者构建了一个难度平衡的基准，包含跨五个科学领域的60 个潜在结构恢复任务：

领域：生物学、化学、经济学、物理学和地球科学（每个领域 12 个任务）。
任务结构：每个任务遵循特定的架构： $X \to \Theta \to Y$ $X \to Θ \to Y$ 。
- $X$ （可观测变量）：提供给模型的原始数据。
- $\Theta$ （潜在变量）：隐藏参数（例如反应常数、弹性模量），必须利用领域定律进行推断。
- $Y$ （目标）：使用推断出的参数计算出的最终量。
复杂度：任务在可观测变量数量、潜在变量数量以及方程格式（线性、非线性、分式等）上各不相同，以确保发现并非特定方程类型的伪影。

实验设置

模型：实验在四个模型上进行：GPT-5.2（主要）、Claude Sonnet 4.6、Llama 4 Maverick 和 DeepSeek V3.2。
条件：
- 零样本（Zero-Shot）：模型仅使用思维链（CoT）推理解决任务，不提供示例。
- 10 样本（10-Shot）：向模型提供 10 个输入 - 输出对，这些对由与测试案例相同的基础公式生成（不提供中间推导过程）。
策略分类：一个自动分类器（经人工标注者验证，一致率达 98%）将模型的 CoT 轨迹归类为三种模式：
1. 参数化（ $S_{know}$ ）：检索命名公式并通过代数推导得出答案。
2. 经验性（ $S_{emp}$ ）：在不调用领域定律的情况下，根据示例拟合模式。
3. 混合：使用公式，但根据示例校准系数。

附加分析

语义诱饵：替换特定领域的词汇（例如将“消费者剩余”替换为“伽马拉德”），以测试知识回忆是否依赖于表面线索。
内部表征：分析开源模型（Qwen、Mistral、Llama）的隐藏状态，以观察表征空间中的转变。
干预措施：测试结构化提示技术（例如强制声明公式、针对拟合的负面提示），以查看是否可以减轻这种替代效应。

3. 主要贡献

知识替代的发现：作者证明，添加一致的上下文示例会一致地将计算从知识驱动推导（ $S_{know}$ ）转向示例驱动拟合（ $S_{emp}$ ），这种效应在所有领域中都存在。
策略竞争框架：他们提出了一个框架来解释为何准确率效应存在差异。这种转变是均匀的，但后果取决于被替代策略（预训练知识）与替代策略（经验拟合）之间的质量差距。
综合基准：设计了一个新的 60 项任务基准，专门用于使科学推理与模式拟合之间的竞争变得可见，涵盖了多样化的结构复杂性。

4. 主要结果

A. 策略转变一致，准确率结果分歧

添加 10 个示例导致参数化（ $S_{know}$ ）轨迹的占比在所有领域中都减少了6–20 个百分点。然而，对最终准确率的影响差异显著：

经济学：准确率显著下降（-15.7pp）。在此领域， $S_{know}$ 是更优策略（准确率为 88.3%）。转向经验拟合（准确率为 41.7%）导致了巨大的性能损失。
地球科学：准确率看似提升（+13.3pp）。在此领域， $S_{know}$ 表现较弱（准确率为 49.2%），因为模型经常能回忆起正确的公式，但使用了错误的默认参数。转向经验拟合使模型能够从示例中进行正确的插值，从而掩盖了科学推理能力的丧失。
物理学与生物学：准确率保持相对平稳。在物理学中，转变幅度较小；在生物学中，经验策略的表现恰好与参数化策略相似。

结论：模型并非在知识出错的地方选择性放弃知识；它在所有地方都放弃知识，无论新策略是更好还是更差。

B. 机制：词汇触发的回忆

语义诱饵实验揭示， $S_{know}$ 是由表面词汇（领域关键词）触发的，而非深层数学分析。

当领域术语被替换为假名时，零样本准确率崩溃（降至 3–14%）。
然而，10 样本性能部分恢复（升至 22–40%），证明 $S_{emp}$ 是基于独立于词汇的数值模式运作的。
启示：数值示例的 mere 存在激活了经验路径，覆盖了由词汇触发的知识路径。

C. 内部表征收敛

对隐藏状态的分析表明，在 10 样本条件下，不同领域的表征空间发生了收敛。

在零样本条件下，各领域占据不同的区域（激活特定的领域电路）。
在 10 样本条件下，各领域彼此靠近，尤其是地球科学，显示出最强的转变。这表明当存在示例时，模型切换到了领域无关的模式拟合电路。

D. 干预措施的失败

标准的提示干预措施（例如明确命名公式、针对拟合的负面提示）未能普遍阻止这种替代。当预训练知识是最优策略时（如经济学），无论有多少一致的示例，都无法挽回仅因这些示例存在而损失的性能。

5. 意义与启示

对从业者的警示：本文警告称，在科学应用中，提供上下文示例可能会替代它们本意要支持的知识。仅依赖端到端准确率是危险的，因为它可能掩盖科学推理的丧失（例如在地球科学中，模型得出了正确答案，但理由错误）。
LLMs 中科学推理的本质：研究表明，LLMs 的科学推理通常是基于识别的（由关键词触发），而非基于推理的（数学推导）。这使得它非常脆弱，容易被模式匹配这一计算捷径所覆盖。
更广泛的捷径学习：这种现象被框架化为“捷径学习”的一个实例，即模型默认采用计算上最容易的可用策略（拟合示例），而不是最合乎原则的策略（从定律推导），即使该捷径并非最优。
未来方向：作者呼吁进行机制性研究（例如激活修补），以识别负责这种竞争的具体电路，并开发能够区分“知识驱动”与“示例驱动”成功的新评估指标。