💬 NLP

Evidence-Informed LLM Beliefs for Continual Scientific Discovery

本文引入了一个基于证据的、利用大语言模型进行持续科学发现的框架，该框架以非平稳的、基于信念更新的惊异度取代了静态的贝叶斯惊异度，并利用过滤和多样性最大化来消除伪奖励，从而显著提升了跨多个领域的假设探索能力。

原作者： Dhruv Agarwal, Reece Adamson, Andrew McCallum, Peter Clark, Ashish Sabharwal, Bodhisattwa Prasad Majumder

发布于 2026-06-30✓ Author reviewed ⓘ

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Dhruv Agarwal, Reece Adamson, Andrew McCallum, Peter Clark, Ashish Sabharwal, Bodhisattwa Prasad Majumder

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一位才华横溢但有点健忘的科学侦探——“自动发现”（AutoDiscovery）。这位侦探使用一个强大的 AI（大语言模型）通过猜测新理论（假设）并验证其真伪来破解谜团。

这位侦探的目标是寻找令人惊喜的发现。在这个世界里，“惊喜”是驱动搜索的燃料。如果一个理论让侦探感到震惊，它就被视为一次伟大的发现，侦探也会因此获得奖励，以激励它继续寻找更多此类发现。

问题：患有失忆症的侦探

原始版本的侦探有一个重大缺陷：它对自己过去的发现患有失忆症。

每次侦探猜测一个新理论时，它判断该理论有多“令人惊喜”，仅基于它在本次调查开始之前所知道的内容。它并不记得自己在当前案件中已经学到了什么。

类比：
想象你是一位美食评论家。

你品尝了一道新菜，心想：“哇，这种辛辣的味道真是前所未有的，太震撼了！”于是你给出了高分。
稍后，你品尝了第二道几乎与第一道完全相同的菜。
由于你对第一道菜有“失忆症”，你在品尝第二道菜时依然觉得：“哇，这种辛辣的味道也是全新的，太震撼了！”于是你又给出了高分。

实际上，第二道菜一点也不令人惊喜；它只是第一道的复制品。由于失忆，侦探不断把时间和精力（它的“搜索预算”）浪费在同一个想法的变体上，并误以为自己正在取得突破性的新发现。研究发现，大约有 30% 的“令人惊喜”的发现实际上只是侦探已经搞定的事物的重复发现。

解决方案：拥有笔记簿的侦探

作者通过给侦探一个**“笔记簿”**修复了这个问题。

现在，在侦探猜测一个新理论之前，它会翻阅自己的笔记簿，查看自己在这次特定调查中已经发现了并验证了什么。它会根据这段历史来更新它的“先验信念”（即它预期什么是真实的）。

运作方式：

旧方式： “我从未见过这个！太震撼了！”（即便这只是昨天那个震撼的翻版）。
新方式： “我昨天见过非常相似的东西。这个新想法只是那个想法的一个微小变体。它其实并没有那么令人惊喜。”

通过使用这种“基于证据的”记忆，侦探意识到许多它曾认为令人震惊的事物，实际上都是它已知事物的逻辑延伸。这过滤掉了那些“虚假的惊喜”。

搜索的两条新规则

仅仅给侦探一本笔记簿还不足以修复搜索过程。侦探仍然需要一种新的策略来寻找真正新颖的事物。作者增加了两条规则：

“过滤器”规则（信念更新过滤）：
在侦探考虑一个新理论之前，它会自问：“如果我查看我的笔记簿，这个新理论是否仅仅是基于我已知事物的逻辑推论？”如果答案是“是”，侦探就会跳过它。它只保留那些即使在记住过去之后依然具有惊喜感的理论。
“探索者”规则（多样性最大化）：
侦探被告知要主动避开它已经探索过的区域。如果它一直在研究“辛辣食物”，它就不应该仅仅研究“更辣的食物”。它应该被引导去观察“甜味食物”或“咸味食物”，以确保它能覆盖整个可能性地图。

结果

当作者测试这个配备了记忆的新型侦探在五个不同科学领域（如考古学、生物学和社会科学）的表现时，结果非常明确：

更少浪费： 侦探停止了在“虚假惊喜”（即仅仅是旧想法的复制品）上浪费时间。
更多真正的发现： 通过过滤噪音并推动向多样化思想发展，与旧方法相比，它找到了多出 30% 的真正令人惊喜且非冗余的发现。

总结

本文认为，对于想要实现真正的、持续性的科学发现的 AI 而言，它不能仅仅是一个“一次性”的猜测者。它必须是一个学习者，能够根据它已经发现的事实，不断更新它对什么是“新”的理解。如果没有这种记忆，AI 将只是在原地打转，认为自己在不断发现世界，而实际上它只是在不断重复自身。

技术摘要：用于持续科学发现的证据启发式 LLM 信念

问题陈述

使用大语言模型（LLM）进行的开放式科学发现通常是一个由奖励信号引导的、长程的假设搜索与验证循环。一个显著的例子是 AutoDiscovery，它利用“贝叶斯惊喜”（即观察到某个假设的证据后，LLM 信念发生的转变）作为衡量发现的指标以及搜索的奖励。

作者指出该方法存在一个关键的失效模式：静态惊异度（static surprisal）。AutoDiscovery 将 LLM 的先验信念视为静态且无条件的，将每个新假设与其参数化知识进行孤立评估。这与人类的科学推理存在偏差，因为人类的信念是非平稳的，会随经验而演进。因此，静态惊异度会导致：

高估进展： 它将衍生假设（即由先前的发现所隐含的假设）也计为新颖且令人惊讶的。
浪费搜索预算： 它反复将智能体引向假设空间的饱和区域，导致冗余的“重新发现”。

在神经科学和社会科学领域的人类专家研究证实了这种不匹配，结果显示，在各自领域中，被 AutoDiscovery 判定为具有惊异度的假设中，约有 29.54% 和 25% 实际上已被先前的发现所实质性地隐含。

方法论

本文提出了一个 证据启发式 LLM 信念（Evidence-Informed LLM Beliefs） 框架，以实现 非平稳惊异度（non-stationary surprisal）。该方法由两个主要部分组成：更新信念先验和修改搜索程序。

1. 通过上下文内信念更新实现非平稳惊异度

系统不再使用静态先验 $P(\theta_H)$ ，而是计算一个 非平稳先验，该先验以之前的假设及其验证结果的历史为条件： $P(\theta_H | \{(H^{(i)}, V^{(i)}_D)\}_{i=1}^{t-1})$ 。

为了实现这一点，作者评估了各种用于检索和整合过去证据的 上下文学习（ICL） 机制：

全上下文 ( $C_{full}$ )： 注入所有先前的发现。
Top-k 检索 ( $C_{top-k}$ )： 使用嵌入（embeddings）检索语义上最相似的前 $k$ 个既往假设。
结构化记忆 ( $C_{mem0}$ )： 使用基于图的记忆系统（Mem0）。

研究结果： 基于嵌入的 Top-k 检索（RAG） 在 $k=25$ 时表现最为有效。它能最好地预测最终的后验信念，与静态基准相比，平均减少了 37.43% 的静态惊异度总数。该方法在性能与计算成本（Token 使用量）之间取得了比全上下文或复杂记忆结构更好的平衡。

2. 证据启发式搜索

研究发现，仅仅将静态奖励替换为非平稳惊异度不足以改变搜索轨迹；智能体仍然会探索相似的假设。为了解决这个问题，作者在搜索算法（带有渐进拓宽的 MCTS）的假设选择步骤中引入了两个互补机制：

信念更新过滤（Belief-Update Filtering）： 在选择假设进行验证之前，系统会检查该假设是否已被先前的证据充分解释。它构建一个证据启发式的上下文并诱导出一个更新的先验。如果绝对偏移量（即静态先验与证据启发式先验之间的差异）超过阈值 ( $\kappa = 0.2$ )，则该假设会被过滤掉。这防止了智能体在不再具有惊异度的假设上浪费预算。
多样性最大化（Diversity Maximization）： 系统通过选择与先前验证过的假设 语义相似度最低 的候选者来显式地优先考虑探索。这是通过计算与前 $k$ 个最近既往假设的平均余弦距离得出的。该机制确保搜索是在探索新的语义区域，而不仅仅是避免直接的重复。
在线去重（Online De-duplication）： 另一层使用层次聚类（HAC）的方法，用于移除与已验证的假设或其他当前节点中的候选者语义冗余的候选者，从而防止近乎重复的探索。

关键结果

所提方法在 五个发现领域（NLS-SES、考古学、淡水鱼进化、生育率、抵押贷款）中进行了评估，每个运行的搜索预算为 500 次实验。

累积非平稳惊异度： 完整的“证据启发式搜索”（结合了信念更新过滤、多样性最大化和在线去重）相比于原始的静态搜索程序，平均增加了 30.62% 的累积非平稳惊异度。
基准对比：
- 该方法比标准 AutoDiscovery 搜索多产生了约 41 个惊异度（增益 30.63%）。
- 它比仅使用在线去重的标准搜索多产生了约 21 个惊异度（增益 13.37%），证明了信念过滤和多样性最大化在简单的去重之外提供了额外价值。
- 如果仅更换非平稳惊验度作为奖励而不改变选择机制，则不会产生显著改进，这凸显了显式修改搜索程序的必要性。
语义多样性： 与标准搜索相比，所提方法生成的假设具有显著更低的平均成对余弦相似度（0.448–0.452 vs 0.523–0.527），表明其具有更广的语义覆盖范围。
消融实验： 移除任何组件（多样性最大化、信念更新过滤或在线去重）都会导致性能下降，证实了每个机制都解决了不同的冗余来源。

意义与主张

本文声称，针对 LLM 的持续科学发现不仅需要更好的信念测量方法，还需要能够主动管理冗余并鼓励多样性的搜索程序。

核心贡献包括：

识别失效模式： 证明了持续发现中的静态惊异度会导致对衍生假设的伪奖励，并得到了人类专家的验证。
非平稳惊异度： 提出了一种利用既往假设证据来更新 LLM 先验的方法，并表明基于嵌入的 RAG 能最好地逼近由此产生的后验信念。
证据启发式搜索： 提出了一种结合信念更新过滤和多样性最大化的搜索策略，成功地将搜索预算从饱和区域重新分配到了真正新颖的假设上。

作者得出结论，对于长程 LLM 发现系统而言，它们必须根据智能体的累积认识状态不断修正对“惊异”的定义，而不是依赖于一个静态的世界模型。

局限性

作者承认存在以下局限性：

诱导质量： 信念估计取决于提示词选择、采样方差以及 LLM 表达不确定性的能力。
对有效重访的抑制： 非平稳目标可能会抑制那些在更强或冲突证据下确实值得重新审视的假设。
可扩展性： 目前的实验集中在受控设置和有限预算中；要扩展到开放式工作流，需要比当前上下文窗口更优的验证机制和长期记忆解决方案。