🤖 machine learning

An Agentic AI Scientific Community for Automated Neural Operator Discovery

本文介绍了一个由相互作用的虚拟实验室集群构成的智能体化 AI 科学社区，该社区通过基于引用的经济机制，自主发现高精度、低参数的神经算子架构，并证明了由大语言模型驱动的智能对于维持架构多样性至关重要，且不存在适用于各类不同科学问题的单一通用神经算子架构。

原作者： Luis Loo, Ulisses Braga-Neto

发布于 2026-07-15

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Luis Loo, Ulisses Braga-Neto

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一座繁忙的、充满科学气息的未来主义城市，其中的每一栋建筑都是一个虚拟实验室。但这些实验室并非只是坐着科学家的安静房间；它们充满了三个协同工作的不同角色：一位梦想家（一个超级聪明的 AI 规划者）、一位建造者（一个进行实际数学运算的不知疲倦的机器人）以及一位评论家（一个目光敏锐的 AI 评审员）。

这座城市并非由市长管理。相反，它运行在一种引用经济之上。可以把它想象成一场人气竞赛：那些被“引用”（高度推荐）最多的实验室有权克隆自己，并产生遵循其理念的新实验室。而那些未能给人留下深刻印象的实验室则会被驱逐并被取代。目标是：在没有人类指导的情况下，自动发现解决复杂物理难题的完美配方。

伟大的实验：寻找完美的配方

研究人员设置了这个 AI 城市来解决五种不同类型的物理问题，从简单的曲线拟合到模拟空气流过机翼的过程（纳维-斯托克斯方程/Navier-Stokes），再到水在土壤中流动的过程（达西流/Darcy flow）。

他们针对每个问题运行了三次模拟，每次使用 16 个虚拟实验室，共进行了 20 轮进化。总计，这个 AI 进行了 9,623 次对其“梦想家”和“评论家”大脑的调用。

他们发现了什么？
这个 AI 城市在发现高精度、低参数量的神经算子架构方面取得了巨大的成功。但这里有一个转折：并不存在单一的“最佳”配方。

就像你不会用锤子去修理手表，或者用螺丝刀去钉钉子一样，AI 发现不同的问题需要不同的架构“配方”。

对于涉及平滑、波动模式的问题（如 Navier-Stokes 和 Burgers 方程），获胜的实验室倾向于堆叠 Fourier（傅里叶） 模块（可以把它们想象成捕捉平滑波动的音符）。
对于涉及剧烈跳变或复杂形状的问题（如 Darcy flow 或 piecewise regression），获胜者更偏好 Wavelet（小波） 或 DeepONet 模块（可以把它们想象成处理锯齿状边缘的工具）。

事实上，AI 发现“一刀切”的方法行不通。在 Navier-Stokes 竞赛中胜出的配方在 Darcy 问题上表现糟糕，反之亦然。论文提出了一个**“无免费午餐”定理**：不存在一个能在所有问题上都占据统治地位的通用赢家。

秘诀所在：为什么 AI 梦想家至关重要

研究人员想知道：“梦想家”（大语言模型）真的必要吗？还是说一个简单的基于规则的机器人也能胜任这项工作？

为了验证这一点，他们运行了一个“假设”场景。他们用基于规则的智能体（遵循严格指令的简单预设程序机器人）替换了 AI 梦想家和评论家。

结果如何？

拥有 AI 梦想家时： 实验室不断地进行混合与匹配。在 99.8% 的决策中，AI 梦想家选择进行杂交（将不同家族的模块混合在一起）。它们创造了独特的、多家族混合的架构，既高效又准确。
使用基于规则的机器人时： 这个社区崩溃了。机器人停止了混合。它们固守于单一家族的堆叠。例如，在 Navier-Stokes 问题上，它们只建造纯粹的 Fourier 高塔。在 Darcy 问题上，它们只建造纯粹的 Wavelet 高塔。

论文指出，AI 的能动性对于保持多样性是必要的。如果没有“梦想家”的创造性直觉，这个社区就会陷入停滞，重复旧有的模式，而不是发明新的、混合型的解决方案。

魔法背后的数字

论文对性能和成本给出了非常具体的说明：

精度： AI 发现的混合架构在 Navier-Stokes 问题上达到了 0.0005 的相对 L2 误差，这与现有的最佳方法（FNO）旗鼓相当，但使用了更少的参数。用于 Darcy flow 的混合架构达到了 0.0631 的误差，在统计学上与现有的最佳方法（DeepONet）持平。
效率： AI 混合架构更加精简。对于 Navier-Stokes 问题，AI 混合架构使用了 220 万个参数，而基于规则的版本使用了 560 万个（是其两倍还多！）来获得相似的精度。
成本： 使用 AI 梦想家确实更耗时。因为 AI 在构建之前必须先进行“思考”和“审查”，每个实验室的评估时间更长。对于一维问题，使用 AI 的每个实验室评估耗时约 19.4 秒，而基于规则的机器人仅为 4.9 秒。对于二维问题，这一数值跃升至 51.3 秒 对比 18.7 秒。然而，研究人员指出，为了寻找更好的、更多样化的设计，这是值得付出的代价。

这意味着什么（以及它并不意味着什么）

论文表明，这种“AI 科学社区”是自动发现新架构的一种强大方式。它排除了存在一个适用于所有问题的通用神经算子的可能性。它也排除了简单的、基于规则的自动化足以维持发现所需的创造性多样性的观点。

然而，论文谨慎地指出，这些结果来自于模拟。它们并未证明这种方法适用于现实世界中的每一个可能的物理问题，仅限于它们测试的这五个问题。此外，它们使用的是特定的本地 AI 模型（gemma3:12b），并未测试更大的模型，因此我们尚不知道一个“更聪明”的 AI 是否会改变结果。

简而言之，论文表明，如果你给一群 AI 实验室自由去混合、匹配和互相评论，它们能够发明出比仅仅让它们遵循严格规则手册更出色、更高效的工具来解决物理难题。但它们仍然需要人类来搭建这座城市并检查工作！

技术摘要：用于自动化神经算子发现的智能体化 AI 科学社区

问题陈述

算子学习旨在为偏微分方程（PDE）求解器构建快速代理模型。然而，现有的神经算子家族（如傅里叶神经算子、DeepONet、小波算子）编码了适用于特定机制的固定归纳偏置。此外，为新 PDE 选择架构超参数（深度、宽度、模块组合）仍然是一个手动过程。本文探讨的核心问题是：一个自动化的、智能体化的研究社区模拟，是否能在无需人类先验知识或干预的情况下，为给定问题发现最优的神经算子架构。

方法论

AI 科学社区框架

作者提出了一个由 $N=16$ 个虚拟实验室组成的去中心化集群，在 $T=20$ 次迭代中探索架构搜索空间。该系统在“基于引用的影响力经济”下运行：

集群动力学： 高被引实验室（具有高适应度的实验室）获得影响力和繁殖优先级，而未被引用的实验室则会被替换。这模拟了现实世界的科学社区，即成功的研究方向会吸引追随者。
虚拟实验室结构： 每个实验室包含三个不同的智能体：
- LLM 规划器（LLM Planner）： 根据其历史记录、全局最优解以及同行实验室的摘要，提出下一个架构基因组。
- 数值工作者（Numerical Worker）： 一个非 LLM 的、基于梯度的训练器，负责编译提议的架构，在“筛选保真度”（降低数据量/轮数以提高速度）下进行训练，并测量相对 $L_2$ 误差。
- LLM 评审员（LLM Reviewer）： 参与跨实验室的同行评审，根据候选性能和架构新颖性投出软票。
搜索空间（基因组）： 架构被定义为从词汇表 $\{ \text{BRANCH\_TRUNK, FOURIER, ATTENTION, WAVELET, RESIDUAL\_CONV} \}$ 中提取的模块序列（ $L \in [2, 8]$ ）。基因组还包括隐藏宽度、频谱模态和学习率等超参数。
适应度函数： 复合评分 $F_i$ 结合了准确度 ( $A_i$ )、对噪声的鲁棒性 ( $G_i$ )、参数效率 ( $E_i$ ) 和架构新颖性 ( $\nu_i$ )。准确度权重最高 ( $w_a=0.70$ )，但新颖性和效率的设计防止了向平凡解的坍缩。

LLM 消融实验

为了隔离 LLM 智能体的贡献，作者进行了一项受控的消融实验。在“基于规则”的条件下，LLM 规划器和评审员被确定性算法取代：

基于规则的规划器： 使用标准的粒子群优化（探索/利用）更新。
基于规则的评审员： 使用与准确度成比例的投票。
两种情况共享相同的集群规模、迭代次数、训练预算和随机种子。

智能体审计

为了确保系统没有悄悄退化为基于规则的后备方案（这是智能体系统的一个已知风险），每一次 LLM 调用（提示词、响应、解析状态）都被记录并审计。系统使用通过 Ollama 运行的本地 gemma3:12b 模型，以确保在不使用付费 API 的情况下实现可复现性。

关键结果

1. 多家族混合架构的发现

LLM 驱动的社区一致地发现了多家族混合架构。

混合率： 在 99.8% 的规划决策中，LLM 选择“混合”（将不同家族的模块进行嫁接），而非纯粹地探索或利用单一家族。
机制适用性： 发现的架构能够适应问题的物理特性。对于频谱友好型问题（平流、Burgers 方程、Navier-Stokes 方程），傅里叶模块位于堆栈前端。对于分段回归和 Darcy 流，小波或 DeepONet 式的模块更为显著。
性能：
- Navier-Stokes (2D)： 发现的混合架构实现了 $0.0005 \pm 0.0000$ 的相对 $L_2$ 误差，接近最先进的 FNO ($0.0002$)，但参数更少（1.1M vs FNO 的 1.2M）。
- Darcy Flow (2D)： 混合架构实现了 $0.0631 \pm 0.0083$ 的误差，在统计上与 DeepONet ($0.0649$) 持平，并显著优于 FNO ($0.3070$)。

2. 神经算子的“无免费午餐”定理

结果证实，没有任何单一的算子架构能统治所有问题。

Navier-Stokes 的混合架构在 Darcy 流上表现很差（误差 $\approx 0.71$ ），而 Darcy 混合架构在 Navier-Stokes 上表现也很差。
这验证了假设：不同的 PDE 机制需要不同的归纳偏置。

3. LLM 智能体的作用（消融研究发现）

虽然 LLM 社区与基于规则的社区在筛选保真度上的准确度在统计学上差异不大，但其架构结果却有显著不同：

LLM 社区： 保持了多样性，持续产生参数精简的多家族混合模型。
基于规则的社区： 倾向于“坍缩”为经典的单家族堆栈（例如，针对 Navier-Stokes 使用纯傅里叶，针对 Darcy 使用纯小波）。
效率： 在 Navier-Stokes 上，LLM 混合架构达到了与基于规则的纯傅里叶堆栈相当的准确度，但参数量减少了 2.5 倍（2.2M vs 5.6M）。
结论： LLM 智能对于保持架构多样性和发现高效的混合解决方案是必要的，而基于规则的智能体容易过早收敛到标准家族。

4. 计算成本

LLM 驱动的方法比基于规则的协调方式（例如，Navier-Stokes 任务中约为 103 分钟）在墙钟时间上增加了约 2–4 倍的开销（约 271 分钟）。这种成本归因于 LLM 规划和评审调用（每个实验室每次迭代调用两次）。然而，使用“筛选保真度”（以秒而非小时进行训练）使得该集群方法在单块 GPU 上变得可行。

意义与主张

本文声称了三个主要贡献：

一种新颖的框架： 一个智能化的 AI 科学社区，通过由 LLM 规划器和评审员组成的虚拟实验室集群，成功实现了神经算子的自动化发现。
LLM 必要性的证据： 一项消融实验表明，LLM 智能对于维持架构多样性和发现高效混合模型至关重要，防止了基于规则的系统所出现的向单家族解坍缩的现象。
对“无免费午餐”定理的经验验证： 通过大规模模拟确认了不存在通用的神经算子；“最佳”架构是依赖于问题的，且自动化的社区可以发现这些特定于问题的混合模型。

作者明确指出，该系统并不声称在原始准确度上超越人类设计的基准（因为 LLM 基准与基于规则的基准在筛选保真度下相当），而是在架构发现和参数效率方面表现卓越。该工作强调，LLM 的作用是作为决策策略，而非自主的工具执行器，且“无免费午餐”的结果是在更广泛的自动化语境下对已知文献事实的重新发现。所有代码、配置和完整的 LLM 转录文本（9,623 次调用）均已发布以供复现。