🤖 AI

Model Discovery Agent: LLM-assisted Bayesian experiment design for data-efficient discovery of mechanistic world models

本文介绍了模型发现智能体（Model Discovery Agent, MDA），这是一个将用于假设生成的语言大模型与贝叶斯实验设计相结合的框架，旨在通过在物理、化学和生物基准测试中有限的干预数据，高效地发现潜在的机制性世界模型。

原作者： Kevin Murphy

发布于 2026-08-11

📖 1 分钟阅读☕ 轻松阅读

原作者： Kevin Murphy

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你是一名正在试图破解谜团的侦探，但你不能只是坐在那里观察嫌疑人。你必须与他们互动，提出具体的问题，并观察他们的反应以获取真相。在科学的世界里，这就是仅仅观察自然发生（被动观察）与进行实验（主动干预）之间的区别。有时，两种完全不同的规则可以完美解释你所观察到的现象。但如果你去“捅”一下这个系统——比如改变一个变量或施加一个力——这两条规则就会开始产生分歧。为了弄清楚哪条规则才是真实的，你需要一个机制模型（mechanistic model）：一种对事物运作方式的深度理解，而不仅仅是一个能拟合图表上点的华丽曲线。

问题在于，实验是昂贵的。无论是实验室里混合化学物质、测试新药对患者的效果，还是向太空发射探测器，每一次测试都会消耗时间、金钱和资源。你不能为了确保万无一失而进行数百万次实验。因此，科学家的重大挑战在于数据效率（data efficiency）：如何用尽可能少的实验来学习宇宙的真实规则？这篇论文通过构建一个“数字侦探”来解决这个问题，它将超级智能 AI 的创意头脑风暴与概率论的严密数学结合在一起。这关乎于教计算机成为比以前更好的科学家，不是通过掌握更多的知识，而是通过提出更好的问题。

模型发现智能体：拥有水晶球的侦探

作者介绍了一个名为模型发现智能体（Model Discovery Agent, MDA）的新系统。可以将 MDA 想象成两个截然不同的角色之间的搭档。第一个是大语言模型（LLM），它扮演着创意头脑风暴伙伴的角色。它阅读了数百万篇科学论文，了解世界“可能”是如何运作的。当智能体看到一些数据时，LLM 会建议一份可能的“嫌疑人名单”——即可以解释正在发生之事的各种数学公式或机制。

第二个角色是贝叶斯统计学家，它扮演着严格、逻辑严密的法官。它不只是猜测，而是计算概率。它获取 LLM 的嫌疑人名单，并使用一种称为**序贯蒙特卡洛（Sequential Monte Carlo）的方法来根据数据对其进行权衡。它会问：“基于我们目前所见，每个嫌疑人是真相的可能性有多大？”它还使用了信息价值（Value of Information, VoI）**的概念。想象一下，如果你向证人提问的机会非常有限，VoI 就是那套数学方法，它会告诉你哪一个单一的问题能给你带来最大的清晰度，从而帮助你一次性排除最多的嫌疑人。

这里有一个神奇的技巧：LLM 提出一个新的想法，统计学家对其进行测试，如果这个想法不能完美符合数据，系统并不会就此放弃。相反，它会意识到：“真相不在我们目前的嫌疑人名单中。”这被称为 M-开放设置（M-open setting）。随后，系统会要求 LLM 构思出一个全新的、此前从未想象过的机制，并将其加入名单。这就像侦探意识到凶手不在常规嫌疑人之中，于是出门去寻找一个新的目标进行审讯。

“啊哈！”时刻：从微小的线索中学习

论文在物理、化学和生物这三个来自现实科学世界的不同“犯罪现场”上测试了这个侦探。

物理学（力法则）： 智能体必须找出将两个粒子拉在一起的隐形力量。某些力在近距离观察时看起来一样，但在远距离时表现得截然不同。MDA 很快意识到，为了区分它们，它需要向“远处”发射一个探测器。通过选择这个特定的长程实验，智能体迎来了“啊哈！”时刻。数据突然让真实的定律从所有伪造的定律中脱颖而出，智能体仅用了几次尝试就学会了正确的公式。
化学（酶促速率）： 在这里，智能体必须发现化学反应根据温度、pH 值和成分用量发生的速度。其他 AI 方法试图仅仅完美地拟合数字，从而创造出复杂的、毫无意义的公式，这些公式看起来是对的，但在物理学上却讲不通。然而，MDA 找到了那个简单的、真实的化学规则。它学习真相的速度要快得多，在掌握正确规则方面所需的实验次数远少于其他方法。
生物学（神经元脉冲）： 这是最难的测试。智能体必须弄清楚大脑中单个神经元如何发射电信号。数据是嘈杂且混乱的，就像是在风暴中试图听清一声低语。MDA 使用了一个聪明的技巧：它不再试图匹配每一个微小的电压波动，而是观察大局，比如计算神经元“脉冲”了多少次。它设计了能够触发特定行为的实验，从而使其能够识别出导致信号产生的神经元内部隐藏通道。

结果：更聪明，而非更辛苦

论文表明，MDA 比其他方法具有显著更高的数据效率。简单来说，它能用更少的实验学习到同样多的真理。在物理和化学测试中，MDA 仅用大约 8 次实验就达到了高准确度，而其他 AI 智能体则需要数十次甚至数百次才能接近目标。

至关重要的是，论文指出，仅仅拥有一个能够猜测公式的强大 AI 是不够的。如果你只是让 AI 去猜测并拟合数据，它往往会找到过度复杂的解决方案——即那些看起来完美但物理上错误的复杂数学模型。MDA 通过使用“信息价值”来设计实验，专门用于打破竞争理论之间的僵局。它迫使系统揭示其真实本质。

作者还展示了即使在数据充满噪声且真实的机制是 AI 此前未曾见过的这种情况下，该方法依然有效。通过将 LLM 想象新可能性的能力与统计学家严密测试的能力相结合，MDA 能够以极小比例于通常所需的数据量来发现新的科学定律。这不仅仅是为了更快，更是为了在线索稀缺且噪声巨大的情况下依然能够找到真相。

技术摘要：模型发现智能体 (Model Discovery Agent, MDA)

问题陈述

核心挑战在于如何高效地发现能够回答干预性“如果……会怎样”问题的（例如，预测从未施用过的药物或从未实施过的政策所产生的后果）机械世界模型 (mechanistic world models)。虽然被动观测数据可以拟合灵活的曲线，但由于存在退化问题，它往往无法识别潜在的机制；不同的因果结构可能在所有观测数据上表现一致，但在干预下却会产生分歧。

科学发现需要识别这些潜在机制，但实验成本高昂。核心问题在于数据效率：即如何用尽可能少的干验来识别正确的机制。此外，科学发现通常发生在 M-open 环境中，即真实的机制可能落在当前假设类之外。标准的贝叶斯方法在此类场景中表现不佳，因为当当前最优模型失效时，它们无法扩展假设空间。

方法论：模型发现智能体 (MDA)

MDA 将大语言模型 (LLM) 与标准贝叶斯机制相结合，运行在一个闭环的发现与设计循环中。该系统在每一轮中分为三个主要阶段：

1. 假设生成与扩展（提议者）

作为提议者的 LLM： 给定领域的自然语言描述和当前的观测数据（包括残差误差），LLM 会提出候选的机械结构（模型）。
M-open 适配： 智能体采用一种预测性检查。如果当前最优假设（最大后验概率 MAP 模型）在样本外干预预测中失败（残差 $r^*$ 超过阈值 $\tau_r$ ），系统将触发 M-open 扩展。此时，会提示 LLM 提出一个新的、此前未被考虑过的机制，并赋予广泛的先验。这使得智能体能够发现新知识，而不是被局限于一个固定的库中。
假设池管理： 相反，如果后验分布集中在一个拟合良好的模型上，则会缩小池规模，以防止近乎重复的假设大量增殖。

2. 贝叶斯推理 (SMC)

序列蒙特卡洛 (SMC)： 智能体维护一个关于模型 $p(m|D)$ 及其参数 $p(\theta|m, D)$ 的后验分布。这通过自适应加温 SMC 进行计算。
证据计算： 为每个候选模型计算边缘似然 $Z_m$ 。这种对参数的积分提供了自动的 奥卡姆剃刀 (Occam's razor) 惩罚，从而倾向于选择能很好拟合数据的简单模型。
处理难解似然： 对于随机系统（例如具有通道噪声的神经元），其似然函数是难解的，MDA 利用基于模拟的推理 (SBI)。它采用自助粒子滤波器或通过汇总统计量（如脉冲计数）学习合成似然，以近似后验分布。

3. 实验设计（信息价值）

VoI 最大化： 智能体并非进行随机探索或贪婪利用，而是通过最大化信息价值 (VoI) 来选择下一个实验 $\xi$ 。
机制辨析： VoI 目标定义为模型类别与实验结果之间的互信息： $\xi^* = \arg\max_\xi I(M; Y_\xi | D)$ 。在实践中，对于高斯观测噪声，这简化为最大化预测均值的类间方差。智能体选择当前不同机制之间分歧最大的干预点，从而最大限度地提高区分不同因果模型的增益信息。

核心贡献

MDA 框架： 一种新型智能体架构，它将基于 LLM 的假设生成与贝叶斯序列推理以及基于信息价值的实验设计集成在一起。
M-open 发现： 一种处理真理位于假设类之外的 “M-open” 机制的方法。通过使用预测性检查来触发 LLM 驱动的假设扩展，该系统可以发现新机制并通过设计的实验对其进行细化。
新基准 (NEURONBENCH)： 创建了一个新的单神经元电生理学基准，具有部分可观测性、随机性（通过通道噪声）以及无法从记忆中检索的隐藏机制，填补了现有基准的空白。
最先进的性能： 证明了在物理、化学和生物领域，相比纯 LLM 基线和以往的最先进方法，MDA 具有卓越的数据效率和干预预测准确性。

实验结果

MDA 在三个基准上进行了评估：

FORCEBENCH (物理)： 发现二维粒子系统中未知的力法则（如 Yukawa, Coulomb）。MDA 实现了 ~5 倍的数据效率优势，仅需 8 次实验即可达到与未受限的 LLM 基线（需约 41 次实验）相同的准确度。它成功恢复精确符号形式的次数为 74%，而基线仅为 31%。
CHEMBENCH (化学)： 从 7 个可控输入中发现酶动力学速率定律。MDA 在约 8 次实验内就达到了性能上限（56% 的符号准确度），而之前的 SOTA (LLM-AutoSciLab) 需要 60 次实验才达到 42%。至关重要的是，MDA 避免了基线中常见的“高精确/低符号”病态现象（即拟合数值但使用不符合物理规律的表达式）。
NEURONBENCH (生物)： 发现 Hodgkin-Huxley 模型中的离子通道机制。MDA 在预测表现上显著优于上下文学习 (in-context) LLM 预测和随机设计。在随机变体 (NEURONBENCHSTOCH) 中，MDA 利用粒子滤波器和学习到的汇总统计量成功处理了难解似然，在确定性似然失效的情况下实现了鲁棒的模型选择。

意义与主张

论文声称发现与设计相互强化：实验设计步骤识别了由发现步骤提出的新机制，而识别出的机制又改进了预测，从而能够检测到触发进一步发现的细微残差。

作者断言，MDA 在高效数据学习和可靠干预预测方面树立了新的最先进水平 (SOTA)。其意义在于超越了被动的曲线拟合或纯粹的生成式 LLM 方法，转而构建一个能够主动思考不确定性、在必要时扩展自身假设空间、并专门设计实验以打破竞争性因果模型之间退化关系的系统。这项工作表明，将 LLM 的先验知识与严谨的贝叶斯推理相结合，可以产生一个鲁棒、可解释且高度样本高效的科学发现引擎。