💻 computer science

BayesEvolve: Explicit Belief States for Autonomous Scientific Discovery

本文介绍了 BayesEvolve，这是一个通过利用显式的、具备不确定性感知能力的信念状态来取代基于记忆的启发式方法，从而增强自主科学发现的框架，旨在引导假设生成，并在黑盒优化任务中展示出更高的样本效率和更具针对性的探索能力。

原作者： Xuening Wu, Shan Yu, Qianya Xu, Shenqin Yin

发布于 2026-06-30

📖 1 分钟阅读☕ 轻松阅读

原作者： Xuening Wu, Shan Yu, Qianya Xu, Shenqin Yin

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正试图在一个巨大的、雾气缭绕的山谷中寻找最低点，但你只能走有限的步数。你有一个非常聪明的助手（人工智能），他可以建议你下一步该往哪里走。

目前大多数系统的工作方式就像是一个带着剪贴簿的游客。每当助手尝试一个地点时，他们都会把结果记录在剪贴簿里。当需要挑选下一个地点时，助手只是翻看剪贴簿，看看目前为止发现的“最佳”地点，然后猜测：“让我们尝试一些与这些地点类似的地方吧。”

问题在于，这种方法只告诉了你“发生了什么”，却没有告诉你在“下一步可能发生什么”。它不知道自己对猜测有多大的把握，也可能陷入在少数几个地方附近徘徊，或者在没有计划的情况下漫无目的地游荡。

BayesEvolve 是一种全新的实现方式。它不再仅仅是保存一份剪贴簿，而是给了助手一张活生生的、会呼吸的信念地图。

以下是它的工作原理，我们使用简单的类比：

1. “活着的地图”（显式信念状态）

与其只看过去的结果，BayesEvolve 强制要求 AI 维持一个“信念状态”。你可以把它想象成山谷里的天气预报。

预测： “我认为这里的地面很低。”
不确定性： “但我现在还不确定，因为我还没去过那里。”
更新： 每当迈出新的一步，AI 就会更新这张地图。它不仅仅是记住数据，它还会重新计算它对每一个未探索区域的“信心”。

2. “智能指南针”（基于信念的选择）

当 AI 需要挑选下一个地点时，它不仅仅是寻找剪贴簿中得分最高的地方。它使用一种特殊的指南针规则，平衡两件事：

利用（Exploitation）： “让我们去地图显示地面最低的地方。”
探索（Exploration）： “让我们去地图上还有雾气（不确定性）的地方，因为我们可能会在那里发现更好的东西。”

至关重要的是，这个指南针会随时间而变化。在开始阶段，指南针是狂野的，鼓励 AI 走进迷雾以了解地形。随着 AI 收集到更多数据，“雾气”就会逐渐消散，指南针也会逐渐锁定在最有希望的低点。这被称为**“退火不确定性奖励”（annealed uncertainty bonus）**——基本上，AI 在早期被允许进行冒险，但随着学习的深入，它会变得更加专注和严谨。

3. 结果：更快地找到底部

研究人员在一些棘手的、隐形的数学谜题（称为“偏移 BBOB 任务”）上测试了它。他们将 BayesEvolve 与那些“剪贴簿式”的方法进行了对比。

剪贴簿方法表现尚可，但经常陷入停滞或浪费步数。
BayesEvolve 则高效得多。它使用更少的步数就找到了最低点。

研究表明：

这个“活着的地图”实际上是非常准确的；它能够预测它尚未见过的全新位置的质量。
这种从高不确定性开始并逐渐聚焦的研究策略，比每次只挑选看起来最好的地点要有效得多。
在最后阶段，BayesEvolve 停止了漫无目的的游荡，并将精力集中在最有希望的区域，而其他方法则仍在无意义地扩散。

它目前“不是”什么

论文非常谨慎地说明了它不是什么。

它不是目前正在实验室中发现新药或编写新代码的系统。
测试是在抽象的数学谜题上进行的，而非真实的科学实验。
所使用的“信念状态”采用了一种特定的数学类型（高斯过程），这种类型在处理这些谜题时表现出色，但在处理更复杂的现实世界任务时可能需要改变。

简而言之： BayesEvolve 教会了 AI 如何不再仅仅是回忆过去，而是开始积极地“相信”并“预测”未来。通过清晰地追踪自己已知的信息以及自己不确定的部分，它比那些仅仅依赖过去成功案例的系统能更快地找到最优解。

技术摘要：BayesEvolve

问题陈述

自主科学发现系统越来越多地利用大语言模型（LLM）来生成和筛选假设。然而，当前的范式（如 Funsearch 和 AlphaEvolve 中所见）主要将 LLM 的提案建立在实验记忆之上。这种记忆通常由高分候选者的存档或近期试验的启发式摘要组成。

作者认为，这种基于存档引导的方法使得证据以一种隐式形式存在。虽然一份过去的实验列表指示了“发生了什么”，但它未能明确编码：

智能体当前对未评估假设的信念。
这些信念所关联的不确定性。
下一步哪项实验最具信息量。

这种局限性导致了两个主要代价：智能体无法对观察到的存档之外的预测质量进行推理，并且面临着要么过度集中于早期精英候选者，要么在未能将证据转化为定向搜索策略的情况下进行无重点探索的风险。

方法论：BayesEvolve

本文引入了 BayesEvolve，该框架将自主发现重新定义为信念状态演化（belief-state evolution）。BayesEvolve 不再将过去的评估视为非结构化记忆，而是维护一个显式的、具备不确定性感知能力的候选质量预测信念状态。

核心组件

显式信念状态：
在每个步骤 $t$ ，系统维护一个关于给定评估历史 $D_t$ 下假设 $h$ 的目标值 $y$ 的后验信念 $P(y | h, D_t)$ 。在实验中，这被实现为一个高斯过程（GP）后验：
$P(y | h, D_t) = \mathcal{N}(\mu_t(h), \sigma^2_t(h))$
其中 $\mu_t(h)$ 是预测的目标值， $\sigma_t(h)$ 是后验不确定性。该框架被指出对特定的代理模型或候选表示具有不可知性（agnostic）。
信念引导的选择：
为了从候选池 $C_t$ 中选择下一个候选者，BayesEvolve 使用了一个不确定性感知的评分。由于目标是最小化，选择规则结合了预测均值和不确定性：
$a_t(h) = -\mu_t(h) + \beta_t \sigma_t(h)$
至关重要的是，不确定性系数 $\beta_t$ 是**退火（annealed）**的（随时间衰减）：
$\beta_t = \beta_0 \frac{n_0}{t}$
其中 $n_0$ 是共享的初始化评估次数。这种设计鼓励在过程早期进行广泛探索，并随着证据的积累转向对信念均值的利用（exploitation）。
工作流：
系统以 $n_0$ 次随机评估进行初始化。在随后的每个步骤中，它拟合/更新信念状态，构建候选池（来自 LLM 提案和/或存档变异），计算所有候选者的采集分数（acquisition score），选择最优的一个，进行评估，并更新历史记录。

主要贡献

论文概述了四个主要贡献：

公式化：它将 LLM 引导的发现重新定义为显式的信念状态维护，而非仅仅依赖于存档记忆。
算法：它引入了一种具有退火不确定性奖励的信念引导选择规则，该规则动态地改变了从探索到利用的平衡。
评估：它在偏移后的 BBOB 式黑盒优化任务上评估了 BayesEvolve，证明了其性能优于基于存档和基于记忆的 LLM 基准。
分析：它提供了证据，表明该信念状态对留出（held-out）候选者具有预测性，并且系统表现出生产性的后期集中，而非无目的的探索。

实验结果

评估是在五个偏移后的 BBOB 式最小化函数（Sphere, Ellipsoid, Rastrigin, Rosenbrock, Ackley）上进行的，维度为 $d=5$ 。设置使用了固定的预算 $T=100$ 次评估，并将 BayesEvolve 与 Random-LLM、Archive-LLM、Memory-LLM 以及非 LLM 的 GP-BO 基准进行了对比。

性能：BayesEvolve 在整个预算期间实现了最佳的平均归一化目标值，并在 100 次评估时达到了最佳最终性能（0.195 对比 GP-BO 的 0.229 和 Archive-LLM 的 0.473）。相对于基于记忆引导的 LLM 基准，其增益最为显著。
信念质量：后验均值与实现的客观值具有很强的秩相关性（Spearman $\rho = 0.774$ ）。然而，信念状态并非完美校准，其单 $\sigma$ 区间的经验覆盖率为 0.433。
消融研究：
- 仅基于均值的选择已经显著优于存档搜索，表明预测均值是主要的性能驱动力。
- 退火不确定性：加入衰减的不确定性奖励带来了最佳的最终得分，证实了不确定性在探索逐渐减少时最为有用。
- 多样性：与始终保持高多样性的 Random-LLM 或 GP-BO 不同，BayesEvolve 在后期阶段降低了多样性，同时实现了最低的目标值。这表明其表现出的是“生产性集中”而非无意义的存档坍缩。

意义与主张

论文声称，显式信念状态演化是自主科学发现的一个有用原则。结果支持了三个具体主张：

相对于基于存档和启发式记忆的基准，显式信念状态提高了样本效率。
学习到的信念状态可以作为一种预测工具用于留出候选者，而不仅仅是作为提示词（prompt）的产物。
3.决策规则至关重要：虽然后验均值驱动了大部分收益，但退火的不确定性奖励优化了从探索到利用的过渡。

局限性与范围：
作者明确指出，目前的工作是一个受控测试床，使用的是偏移后的 BBOB 式数值优化。它尚未涵盖完整的程序生成或实验室发现领域。此外，尽管 GP 信念状态具有预测性，但其校准并不完美，且其扩展性限制意味着在未来处理更大评估预算时需要使用稀疏或神经代理模型。多样性分析表明其侧重于“生产性集中”，这暗示未来的工作应探索复杂假设空间中更丰富的语义和结构多样性。