A-SR: Self-Evolving Agentic LLMs for Symbolic Regression via Hierarchical Coordination

想象一下，你是一名正在试图破解谜题的侦探，但你的线索不是指纹或不在场证明，而是电子表格上的数字。你的目标是寻找隐藏的“配方”——一个整洁、书面化的数学方程——来解释这些数字的行为方式。这就是**符号回归（Symbolic Regression）*的世界。与那些仅仅通过计算数字来给出答案的标准计算机程序不同，符号回归试图写出真正的自然法则，比如 $F=ma$ 或万有引力公式，并以人类可以理解的方式呈现。这与一个只能预测天气的“黑箱”有着本质的区别，后者只能告诉你天气如何，而气象学家则能解释为什么*风暴会到来。

长期以来，科学家们一直利用计算机来搜寻这些配方，但这个过程往往非常笨拙。这就像是通过随机更换零件并寄希望于时钟能重新走动，来修理一只坏掉的手表。如果手表无法工作，计算机只会得到一个“低分”，然后再次尝试，往往会重复同样的错误。最近，科学家开始使用大语言模型（LLMs）——也就是你可能熟悉的那些超级智能 AI 聊天机器人——来帮助编写这些方程。这些 AI 非常擅长猜测下一个词（或数学符号）应该是什么，但它们仍会陷入困境、写出逻辑不通的方程，或者在面对棘手数据时感到困惑。核心问题在于：我们如何让这些 AI 侦探不再进行随机猜测，而是像真正的专家团队一样协同工作？

于是有了 A-SR，一种全新的方法。它不再将数学公式的搜索视为一场独奏，而是一场编排有序的团队协作。这项研究背后的研究人员 Wenxiao Zhao 及其同事意识到，旧的方法过于僵化。在过去，AI 只会提出一个方程，得到一个分数，然后再次尝试。如果方程是错误的，AI 可能会尝试通过增加更多数字来修复它；或者如果它太简单了，AI 可能会尝试增加复杂度，但它并不真正理解失败的原因。

A-SR 通过赋予 AI 一个“管理者”和一个专家团队，改变了游戏规则。想象一个新闻编辑室，总编辑（协调员）不仅仅是要求一名记者去写一篇报道。相反，总编辑会观察当天的事件，并决定需要哪位专家。如果报道充满了错误，总编辑会请**审稿人（Reviewer）来核实事实。如果报道内容枯燥、需要新的角度，则会召集生成器（Generator）来构思大胆的想法。如果报道太长且令人困惑，则会请简化器（Simplifier）来删减冗余。如果报道缺少关键的拼图碎片，则会请分析师（Analyst）**去档案库中寻找缺失的环节。

A-SR 的特别之处在于，这个团队并不遵循固定的时间表。“总编辑”是自我进化的。它会实时观察搜索进程。如果团队陷入了犯错的死循环，总编辑就会切换策略，例如告诉团队停止探索新想法，转而专注于修复现有的错误。它还会保留一份关于“什么有效”和“什么无效”的“记忆”，并将这些信息路由给相应的专家。例如，如果团队不断失败是因为某种特定类型的数学错误，那么该失败会被发送给审稿人，由审稿人教导团队下次如何避免此类错误。

论文显示，这种方法效果惊人。在对各种科学难题（从化学反应到材料受压情况）的测试中，A-SR 比以往的方法更频繁地找到了正确的数学“配方”。在其中一组测试中，使用名为 Llama3.1-8B 的模型，成功率从约 25.79% 跃升至 48.30%。这几乎使 AI 能正确解决的问题数量翻了一番。更令人印象深刻的是，当他们将这些团队协作中学到的经验教训传授给一个较小的开源 AI 模型（Qwen3-4B）时，这个较小模型的成功率也显著提升，从 24.58% 跃升至 38.29%。

研究人员还将 A-SR 应用于现实世界的科学数据，例如细菌生长和机械系统振动。在这些复杂且充满噪声的现实场景中，A-SR 在 8 个案例中的 7 个里都成功找到了最佳的数学描述，击败了其他顶尖方法。其核心启示不仅在于 AI 变得更擅长数学，更在于 AI 学会了如何思考自己的错误。它不再盲目地尝试数百万种随机组合，而是学会了诊断自己的失败，在必要时切换角色，并利用记忆来避免重复同样的错误。这标志着从混乱的单打独斗式搜索，向智能、协调的智能体团队协作的转变——每个智能体都在做自己最擅长的事，并由一位知道何时该推动创新、何时该停下来修复问题的管理者进行引导。