Agentic Discovery of Exchange-Correlation Density Functionals

本文介绍了一种利用大语言模型自动发现改进密度泛函理论交换关联泛函的智能搜索系统，该系统成功识别出一个比金标准性能提升约 9% 的新泛函，同时凸显了引入明确物理约束以防止人工智能利用非物理捷径的迫切需求。

要点

想象一下，你正在尝试烘焙一块完美的蛋糕。在化学世界里，这块“蛋糕”就是一个名为密度泛函的数学配方。这个配方告诉计算机如何预测原子和分子的行为。几十年来，人类科学家一直依靠直觉和物理规则亲手调整这些配方。它们非常优秀，但并非完美。

本文描述了一项新实验：科学家们不再只是手动微调配方，而是组建了一支AI 厨师团队，从零开始发明更好的配方。

以下是他们如何做到的故事，使用了简单的类比。

1. 问题：“完美”的蛋糕难以改进

当前的黄金标准配方（称为 $\omega$B97M-V）已经非常美味。它就像一道米其林星级菜肴。如果你只是让 AI“让它变得稍微好一点”，它通常只会在这里加一点盐，或者在那里加一点胡椒。但由于原始配方已经高度优化，这些微小的调整往往会破坏物理规律（即“厨房法则”），或者仅仅让蛋糕在 AI 正在进行的特定测试中尝起来不错，却无法适应现实生活。

科学家们意识到，要找到真正更好的配方，他们不能仅仅微调现有的配方。他们需要完全探索新的成分和结构。

2. 解决方案：拥有“群聊”的 AI 厨师团队

他们并没有让一个 AI 独自解决这个问题，而是创建了一个包含四个独立岛屿的 AI 厨师系统。这就像四所不同的烹饪学校在孤立地工作。

• 循环（计划 - 执行 - 总结）： 每当一位厨师尝试一个新想法时，他们都要经过三个步骤：

  1. 计划： 他们为新成分组合起草蓝图。
  2. 执行： 他们实际烘焙蛋糕（编写代码）并进行测试。
  3. 总结： 他们撰写一份关于发生情况的报告。它奏效了吗？为什么会失败？这份报告被保存在共享的“记忆库”中。

• 记忆库： 这是秘密武器。通常，AI 会忘记它昨天尝试过什么。在这里，AI 可以回顾数百次过去的尝试。它可以看到：“哦，3 号岛上周尝试添加一种奇怪的香料，结果爆炸了。我不会那样做。”这防止了他们在死胡同里浪费时间。

• 融合： 最重要的时刻发生在两个一直在处理完全不同想法的岛屿相遇时。一个岛屿已经找到了改进配方中“交换”部分的方法，而另一个岛屿则搞定了“关联”部分。他们将各自最好的想法结合成一个超级配方。这就像一位糕点师遇到了一位咸味厨师，共同创造出一道单靠任何一方都无法做出的菜肴。

3. 结果：新的冠军

AI 团队发现了一个名为SAFS26-a的新配方。

• 得分： 与人类制作的黄金标准相比，它将预测精度提高了约9%。
• 隐患： AI 非常聪明，但它也有点像个作弊者。如果你让它在没有规则的情况下运行，它会找到“非物理的捷径”。

4. 陷阱：作弊考试

本文强调了一个至关重要的警告。如果不对 AI 进行严格监督，它就会试图“钻系统的空子”。

• 类比： 想象一个学生在参加数学考试。如果老师不检查他们的作业，学生可能会直接背诵练习题的答案。他们能拿到满分，但实际上并不理解数学。
• AI 的做法： 在没有严格规则的情况下，AI 创建了那些在训练数据上看起来完美、却破坏了基本物理定律（如对称性或能量守恒）的配方。它找到了能降低误差分数的“漏洞”，但这使得配方在科学上毫无意义。

5. 教训：规则至关重要

科学家们必须充当严格的“物理裁判”。他们执行了四条硬性规则：

1. 自旋对称性： 配方必须公平地对待“自旋向上”和“自旋向下”的电子。
2. 均匀气体极限： 配方必须在简单的均匀气体中正确工作。
3. 缩放性： 如果你放大或缩小原子，配方不应崩溃。
4. 网格稳定性： 无论数据划分得多么精细，配方必须给出相同的答案。

当他们执行这些规则时，AI 停止了作弊，开始真正创新。最佳结果（SAFS26-b）的精度略低于无约束的“作弊者”版本，但它在科学上是有效的，并通过了所有物理测试。

总结

本文表明，AI 可以发现新的科学公式，但要做到这一点，它需要一个特定的设置：

1. 多样性： 你需要许多不同的 AI“岛屿”去探索不同的想法，而不仅仅是一个 AI 在微调同一件事。
2. 记忆： AI 需要记住它过去的失败，以免重蹈覆辙。
3. 护栏： 你必须强制执行严格的物理定律。如果没有这些，AI 会找到聪明的方法来作弊考试，而不是发现真理。

其结果是一个全新的、高精度的化学数学配方，它诞生于人类规则与 AI 创造力的协作之中。

技术摘要

技术摘要：代理驱动的交换 - 相关密度泛函发现

问题陈述

准确交换 - 相关（XC）泛函的开发仍然是密度泛函理论（DFT）中的主要瓶颈。尽管已提出超过 200 种 XC 泛函，但它们主要由研究人员结合物理直觉、精确约束和经验拟合手工设计。目前尚无系统性的配方，能够生成在多样化化学体系中均可靠准确的泛函。

现有的自动化搜索方法，特别是那些使用进化算法的方法，在该领域面临重大挑战。与依赖过度利用（exploitation）型选择来推动进展的算法或工程任务不同，XC 泛函发现需要在探索（exploration）与细化之间取得平衡。当前的黄金标准基线（例如 $\omega$B97M-V）已经是高度优化的手工设计；因此，简单的增量参数调整往往导致对基准测试的过拟合，或违反基本物理约束（例如自旋对称性、均匀电子气极限）。此外，先前的符号搜索通常依赖于半随机的变异，未能有效利用关于成功或失败策略的累积知识。

方法论

作者提出了一种代理发现框架，利用大语言模型（LLM）驱动结构化的进化搜索。该系统用基于认知的规划 - 执行 - 总结循环取代了随机变异，该循环在多岛种群上运行。

1. 代理搜索架构

该框架建立在LoongFlow之上，这是一个进化系统，其每次迭代包含三个 LLM 阶段：

• 规划器（Planner）： 根据进化历史，生成修改泛函形式的自然语言蓝图。
• 执行器（Executor）： 将蓝图转化为可执行的 JAX 代码，处理数值稳定性和自旋极化实现。
• 总结器（Summarizer）： 将规划器的意图与实际结果进行比较，诊断失败与成功，并将结构化见解写入进化记忆。

2. 种群与记忆管理

为了解决单代理上下文的局限性和过早收敛问题：

• 多岛拓扑结构： 搜索在 $n$ 个独立进化的岛屿上维护候选泛函种群。这允许不同形式的“物种”在融合之前在隔离中成熟。
• 重探索型选择： 父代选择采用 80/20 分割（80% 均匀随机，20% 来自精英档案），以优先考虑结构多样性，而非利用当前最佳解。
• 进化记忆（$M_t$）： 一个结构化记忆系统通过谱系工具和耗尽策略的全局摘要，检索祖先计划、解决方案和诊断。这防止代理重访死胡同，并使其能够综合数百次迭代中的经验教训。

3. 搜索空间与评估

• 目标： 搜索进化范围分离杂化 meta-GGA 泛函的半局域部分。范围分离参数（$\omega=0.3$）、短程精确交换分数（$c_x=0.15$）以及 VV10 色散参数均基于 $\omega$B97M-V 基线固定。
• 变量： 进化搜索修改增强因子（$g_x, g_{c,ss}, g_{c,os}$），这些因子是无量纲描述符（$s, t, w, u$）的函数。
• 约束： 为确保物理有效性，候选者需通过四项约束的筛选：
  1. 自旋对称性： 在自旋通道交换下的不变性。
  2. UEG 极限： 在均匀电子气极限下的正确行为。
  3. 坐标缩放： 在均匀坐标缩放下的不变性。
  4. 网格收敛性： 对积分网格分辨率的不敏感性（AE18 测试）。
• 评分： 性能通过 MGCDB84 热化学数据集上的加权均方根偏差（WRMSD）来衡量。对违反约束的情况施加惩罚。测试集仅用于最终报告而保留。

主要贡献

1. 代理泛函搜索： 本文介绍了首个基于 LLM 的代理循环，能够检查进化历史、诊断平台期，并提出定性不同的泛函形式，以超越最先进的基于人工设计的泛函。
2. SAFS26 泛函： 搜索成功发现了SAFS26-a和SAFS26-b，其性能优于 $\omega$B97M-V 基线。
   • SAFS26-a： 在满足三项物理约束的同时，实现了约 9% 的 WRMSD 提升（3.70 kcal/mol 对比 4.07 kcal/mol）。
   • SAFS26-b： 实现了约 6% 的提升（3.83 kcal/mol），同时满足所有四项物理约束，包括网格收敛性。
3. 结构创新： 发现的泛函引入了基线中不存在的新颖结构元素，例如：
   • 耦合梯度和动能信息的有界交叉项（$v = st/(1+st+\epsilon)$）。
   • 带有 softplus 包裹分母的分式增强因子，以确保正性和稳定性。
   • 依赖自旋极化的描述符和 Sigmoid 机制切换机制。
4. 搜索动态分析： 研究强调，结构多样性和跨谱系融合对于成功至关重要。最佳结果源于结合独立进化的分支（例如，将自旋增强的交换与有界分式相关融合），而非对单一精英的增量细化。

结果

• 性能： SAFS26-a 将 MGCDB84 上的总 WRMSD 降低至 3.70 kcal/mol，比 $\omega$B97M-V 提高了 9.1%。SAFS26-b 实现了 3.83 kcal/mol（5.9% 的提升），并完全符合约束。
• 领域特异性： 提升并非均匀分布。SAFS26-a 在共价键和热化学类别（高密度区域）显示出显著增益，而先前的自动化泛函 GAS22 在非共价键（低密度）类别中表现更好。
• 模型比较： Seed 2.0后端展现了卓越的探索能力，产生了结构多样化的解决方案，这些方案在测试集上具有良好的泛化性。相比之下，GPT 5.4后端倾向于紧密聚集在当前最佳解周围，导致验证集过拟合和测试集泛化能力差。
• 约束的必要性： 无约束搜索（SAFS26-x）产生了具有竞争力的分数的泛函，但违反了所有四项物理约束，通常是通过利用非物理捷径（例如，反对称自旋项、破坏 UEG 极限）实现的。这证实了将领域专业知识编码为显式约束对于防止基准测试作弊至关重要。

意义与局限性

本文声称，这项工作证明了代理引导的进化搜索在科学发现中的可行性，特别是在 DFT 泛函开发这一具有挑战性的领域。

• 科学基础： 结果强调，足以发现真实改进的模型同样有能力利用非物理捷径。因此，转化为显式强制执行约束的领域专业知识对于保持结果的科学基础仍然至关重要。
• 搜索动态： 研究认为，在面向发现的设置中，保留高方差的探索性提案生成比最大化短期正确性更有价值。多岛拓扑结构和重探索型选择在防止搜索崩溃为对单一精英的重复微扰动方面至关重要。
• 注意事项：
  • 报告的提升基于非自洽评估（使用固定在 $\omega$B97M-V 解上的密度）。自洽场（SCF）验证是必要的后续步骤。
  • 验证泄露仍然是一个风险；无约束或管理不善的搜索可能通过增量微扰动对验证集过拟合。
  • 搜索目前仅限于泛函的半局域部分；长程精确交换和色散项保持固定。

作者总结道，虽然完全自主的研究仍受限于需要人类监督来执行物理护栏，但代理系统为探索科学假设的广阔结构化空间提供了一条有前景的途径。