💻 computer science

Executable Chain-of-Thought Symbolic Regression with Large Language Models for Automated Physical Discovery

本文介绍了 \ours，这是一个带有验证功能的框架，它通过将基于大语言模型的符号回归转化为执行为类型化符号推导图（Symbolic Derivation Graph）的思维链推理过程，通过强制执行硬约束和软验证信号，从而将该过程转变为一个严谨的过程，以生成具有可执行推导轨迹的紧凑且可由机器检查的物理定律。

原作者： Lingyi Li

发布于 2026-10-08

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Lingyi Li

原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

科学往往是一个压缩的过程。科学家观察大量的事件——行星在天空中运行、化学物质在烧瓶中反应，或是水流通过管道——并试图将这些混沌的现象提炼成一个单一且紧凑的数学定律。这种定律不仅仅是预测下一个数据点的工具；它是一种关于世界运作方式的陈述，可以被检查、理解并扩展到新的情境中。几个世纪以来，寻找这些定律一直需要人类的直觉，但现代数据的巨大规模使得寻找过程变得日益困难。可能的方程空间如此之广阔，以至于即使是强大的计算机，在没有指引的情况下，也会在错误的可能性的海洋中迷失方向。挑战不仅在于找到一个符合现有数据的公式，还在于找到那个在条件改变、数据存在噪声、或者当我们观察从未见过的系统部分时，依然保持成立的特定公式。

近年来，研究人员开始转向大型语言模型——这些系统在海量的文本和代码上进行了训练——以协助这种搜索。这些模型擅长召回熟悉的模式并建议合理的方程结构。然而，这些模型所能提出的构想与它们所能证明的内容之间仍存在显著差距。一个模型可能会建议一个表面上看起来正确的公式，但其推导步骤可能是逻辑有误、物理上不可能或在数学上不稳定的。这就像一个学生在考试中写下了正确答案，却无法展示解题过程，或者更糟的是，展示的解题过程包含着只有在问题稍作改变时才会显现的隐藏错误。现有的方法通常将推理过程视为一种自由形式的对话，其中最终的方程是唯一重要的东西，导致通往该方程的路径未经验证且可能不可靠。

为了解决这个问题，本研究的作者开发了一个名为 CoT-SR 的新框架。该系统通过将推理过程本身视为一种严谨的、循序渐进的构建过程，而非一种猜想与验证的游戏，从而改变了计算机寻找科学定律的方式。系统不再让语言模型写一段文字来解释一个方程，而是强制模型提出特定的、可执行的操作，将一个简单的初始表达式转化为一个更复杂的表达式。每一步都是一个带有类型的动作，例如添加一个新项、改变一个变量或应用一个已知的物理规则。至关重要的是，每一步都会立即由另一个独立的系统进行检查，以确保其有效性。系统会验证数学在语法上是否正确，物理单位是否合理（例如，确保不会将米与秒相加），以及方程在极端条件下表现是否合理。

这项工作的核心创新在于创建了一个“符号推导图”。想象一张地图，其中的每一条路径都代表了构建方程的不同方式。在以前的方法中，计算机可能会基于模糊的直觉从一个想法跳到另一个想法。而在这种新方法中，计算机只有在下一步通过严格规则检查时，才能沿着路径移动。如果提出的步骤违反了物理定律或代数规则，该路径会被立即关闭，系统永远不会在这样的死胡同里浪费时间。这个过程将寻找定律的过程转变为一场在有效可能性景观中的旅座，其中每一步动作都是有据可查且经过验证的。系统记录了每一个成功的步骤和每一次失败的尝试，创造了一个完整的、可审计的轨迹，解释了最终方程是如何被推导出来的，以及为什么其他的路径被拒绝了。

研究人员在各种挑战上测试了这个系统，从涉及行星运动和热力学的经典物理问题，到旨在欺骗人工智能的复杂合成数据集。他们发现 CoT-SR 在寻找正确方程方面比以往的方法表现得显著更好。在目标是精确恢复已知物理定律的测试中，新系统实现了对比方法中最高的精确恢复率，正如基准测试结果所详述的那样，超越了次优的方法。更重要的是，当面对噪声数据或被要求预测原始测量范围之外的行为时，该系统表现出了极强的鲁棒性。虽然其他方法在数据受到轻微扭曲或输入变量被拉伸到新极端时经常失效，但 CoT-SR 保持了其准确性。这是因为该系统优先考虑结构稳固且物理一致的方程，而不仅仅是那些恰好完美拟合当前数值的方程。

该新框架的一个关键特征是它能够主动测试自己的假设。当系统在两个相互竞争的方程之间犹豫不决时，它不会简单地选择看起来更好的那个。相反，它会计算这两个方程在何处会出现分歧最大的情况，并请求在该特定点进行一次新测量。这类似于科学家设计一项关键实验来区分两种理论。通过将有限的资源集中在信息量最大的数据点上，系统可以更快地排除错误的选项并锁定真实的定律。在模拟中，这种主动方法使得系统消除错误答案的速度比随机收集数据要快得多。其结果不仅是一个最终方程，而是一个完整的方案包，其中包括了方程、逐步推导过程以及支持它的证据记录。

研究还强调了仅依赖语言模型记忆力的局限性。许多之前的系统在面对被轻微改变或伪装后的方程时表现挣扎，因为它们只是在回忆其训练数据中的模式，而不是真正理解底层的逻辑。相比之下，CoT-SR 依赖于推导步骤的有效性。即使模型从未见过某个特定的方程，只要逻辑步骤是正确的，它就能正确构建它。这表明，对于科学发现而言，验证过程的能力比召回答案的能力更为重要。研究人员发现，当他们移除严格的验证步骤时，系统的性能显著下降，这证实了对每一步进行严格检查正是该方法奏效的原因。

最终，这项工作代表了人工智能如何辅助科学发现的一种转变。它从一个输出预测的“黑箱”转向了一个透明的、循序渐进构建知识并以证据支撑每一个主张的系统。最终的输出不仅是一个公式，还是一个关于如何找到该公式的经过验证的故事。这种区别对于科学至关重要，因为在科学中，理解“为什么”往往与理解“是什么”同样重要。通过确保每一个中间步骤都是可执行且可检查的，研究人员创造了一个工具，可以帮助科学家在寻找新定律的复杂过程中导航，提供了一种以往无法实现的可靠性和清晰度。该系统并不声称自己是无懈可击的，它仍然需要人类的监督，但它为结合语言模型的模式识别能力与物理科学的严苛要求提供了一种强大的新途径。

技术摘要：面向自动化物理发现的可执行思维链符号回归

1. 问题定义

符号回归（Symbolic Regression, SR）旨在发现能够解释观测数据的紧凑解析定律。虽然现代系统通过遗传编程、稀疏识别和神经序列模型扩展了 SR 的规模，但仍面临重大挑战。假设空间随表达式深度呈超指数级增长，且许多在代数上不同的树在有限样本上是观测不可区分的。此外，低域内误差并不保证能得到具有物理意义的定律。

利用大语言模型（LLM）的最新方法通过利用科学和编程知识，为 SR 注入了更强的先验。然而，现有的基于 LLM 的 SR 方法通常将思维链（Chain-of-Thought, CoT）视为一种无类型的自然语言草稿纸。这造成了三个关键差距：

合理性 vs. 有效性： LLM 可能会提出一个熟悉的物理形式，但由于中间语句不是形式化变换，该形式在经过转换或抗记忆基准测试时会失效。
拟合度 vs. 可辨识性： 多个候选方案可能插值相同的样本，但在维度重缩放、对称操作或渐近极限下表现不一致。
终端 vs. 过程验证： 验证通常仅在生成后进行，未能实现在中间步骤违反约束时重塑搜索分布。

核心问题在于如何将符号回归定义为对一系列类型化推导的推理，其中中间状态是可执行、可证伪且可重用的，而不是依赖于缺乏支持的自然语言逻辑。

2. 方法论：CoT-SR

作者提出了 CoT-SR，该框架将思维链操作化为一个可执行的符号推导图（Symbolic Derivation Graph, SDG）。系统不是直接生成最终方程，而是在推导轨迹 $\tau = (h_0, a_1, h_1, \dots, a_T, h_T)$ 上进行搜索，其中 $h_t$ 是符号假设， $a_t$ 是类型化变换。

2.1 符号推导图 (SDG)

SDG 是一个有向图，其节点是经过规范化、具有优化常数和物理类型的表达式。边代表来自六个家族的可执行变换：

$a_{inst}$ ：实例化
$a_{comp}$ ：组合
$a_{nondim}$ ：无量纲化
$a_{sym}$ ：对称重写
$a_{limit}$ ：极限重写
$a_{res}$ ：残差分解

LLM 作为提议先验，基于压缩的推理状态 $s_t$ 建议边 $(a_t, \eta_t)$ 。至关重要的是，LLM 并不承诺最终定律；它提议动作，随后由符号执行器进行实例化并进行数值优化。

2.2 类型化验证义务

该框架区分了精确容许约束（硬过滤器）和经验证据得分（软排序信号）：

精确义务： 语法有效性和维度类型。如果提供了单位，类型化语法将强制执行维度一致性（例如， $\log$ 和 $\exp$ 要求输入为无量纲）。违反这些检查的边将获得零后验质量。
经验证据： 对称等变性、极限行为、数值稳定性和残差效用。这些通过评分（例如 $v_{sym}, v_{lim}, v_{stab}$ ）来对可容许的轨迹进行排序，但不构成形式化证明。

2.3 验证加权轨迹后验

搜索目标是在整个轨迹而非独立方程上定义的。后验概率为：
$p(\tau | D, \kappa) \propto \exp\left( \sum \log q_\theta(a_t, \eta_t | s_{t-1}, \kappa) - E(\tau) \right)$
其中能量函数 $E(\tau)$ 包括数据拟合、描述长度（最终定律和边的复杂度）以及违反验证证据的惩罚。这在单一搜索目标中统一了 LLM 提议先验与数据拟合及科学约束。

2.4 主动证伪

为了解决多个符号定律同样拟合数据的歧义问题，CoT-SR 采用了主动证伪循环。系统识别出探测位置 $x^*$ ，在这些位置，高后验符号等价类表现出最大的预测分歧。此能力取决于是否存在预言机（Oracle）、模拟器或实验接口。 当可用时，系统在 $x^*$ 处查询这些来源以更新后验，从而抑制或证伪不兼容的机制。这使 SR 从被动的曲线拟合转变为迭代的假设判别，适用于存在此类交互式环境的任务。

3. 核心贡献

可执行思维链： 作者将 SR 形式化为在类型化符号推导图上的推理，用具有机器可检查的前置条件和后置条件的代数动作取代了自由形式的逻辑说明。
验证加权轨迹后验： 一个统一的搜索目标，结合了数据拟合、复杂度以及显式的验证信号（维度、对称性、稳定性），而非在生成后应用权宜的过滤器。
主动反例获取： 一种机制，用于提出能最大化生存假设之间分歧的新测量位置，从而实现迭代的科学证伪，前提是在存在预言机或模拟器的设置中。
全面的基准测试协议： 跨越 Feynman、SRBench、SRSD、Nguyen 和 LLM-SRBench 进行评估，诊断设计旨在区分记忆、插值、外推和物理有效性。

4. 实验结果

评估涵盖了精确恢复、分布外（OOD）外推、噪声鲁棒性和搜索效率等多个基准。

精确恢复： CoT-SR 在基准测试中实现了 79.2% 的平均精确恢复率，显著优于基准模型 PySR (55.0%)、PhySO (62.4%) 和 LLM-SR (69.2%)。在抗记忆任务上增益最为明显（LLM-SRBench: 61.9% vs. 42.0%）。
复杂度： CoT-SR 生成的表达式更紧凑，平均算子计数为 18.6，而 LLM-SR 为 23.4，PySR 为 31.2。
OOD 泛化： 在外推任务中，CoT-SR 实现了 0.871 的 OOD $R^2$ ，优于 LLM-SR (0.781) 和 PhySO (0.721)，展示了对物理定律而非仅仅是插值的更好遵循。
噪声鲁棒性： 在 10% 高斯噪声下，CoT-SR 保持了 43% 的精确恢复率，而 LLM-SR 为 25%，PySR 为 18%。
搜索效率： 与基准相比，CoT-SR 需要更少的唯一符号假设 (315) 和更少的 LLM 调用次数 (61) 即可达到高恢复率，这归功于通过硬义务对无效分支进行早期剪枝。
主动证伪： 在带有合成预言机的基准测试中，所提出的分歧引导探测选择优于随机采样和不确定性采样，有效地将后验质量集中在正确的等价类上。该模块专门在允许预言机查询的任务上进行评估。
消融研究： 移除可执行推导轨迹会导致最大的性能下降（从 81.2% 降至 70.4%），证实了过程级验证的必要性。维度验证和主动证伪也提供了显著且独特的改进。

5. 意义与主张

论文声称 CoT-SR 代表了一种转变：不再将 LLM 视为科学真理的预言机，而是将其视为符号动作的先验。输出的科学可信度源于可执行环境和沿推导过程积累的显式类型化证据。

作者强调的关键区别包括：

过程 vs. 终端验证： 不同于“LLM + SR + 物理过滤器”（即仅在最后应用检查），CoT-SR 将验证集成到搜索轨迹中。这允许系统利用失败变换的位置和类型来重定向搜索，而不是简单地丢弃最终候选方案。
可审计输出： 最终输出不仅是一个方程，还是一个“携带验证”的产物，包含方程、可执行的推导轨迹以及机器可检查的证据记录。这使得科学家可以精确检查哪些约束（如维度、渐近行为）排除了特定的替代方案。
对主张的审慎： 作者明确指出，数值检查（对称性、稳定性）是经验证据，而非形式化证明。他们承认了局限性，例如对提供的元数据（单位、对称性）的依赖，以及目前侧重于闭式标量关系而非 PDE 或随机定律。至关重要的是，主动证伪组件仅限于能够通过预言机或模拟器提供判别性测量的场景。

这项工作表明，对于自动化科学而言，将生成式先验（LLM）与机器可检查的约束及证伪证据分离，对于产生稳健且具有物理意义的发现至关重要。