🤖 AI

BONSAI: Evolvability-Guided Tree Search over Skills

BONSAI 是一种针对冻结智能体的创新技能优化框架，它采用演化引导的蒙特卡洛树搜索来区分过拟合峰值与可改进平台，在留出准确率方面显著优于现有基准。

原作者： Yash Priya Shastri, Anand Eswaran, Adnan Qidwai, Pankaj Thorat, Sachin Joshi

发布于 2026-08-10

📖 1 分钟阅读☕ 轻松阅读

原作者： Yash Priya Shastri, Anand Eswaran, Adnan Qidwai, Pankaj Thorat, Sachin Joshi

原始论文根据 CC0 1.0（http://creativecommons.org/publicdomain/zero/1.0/）发布到公有领域。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正试图教一个超级聪明的机器人完成一项复杂的任务，比如修复一个电子表格或解决一个棘手的数学问题。但问题在于，这个机器人是“冻结”的。它的脑部结构被锁定了；你无法重新训练它、调整它的神经元，也无法让它像人类学生那样从错误中学习。让它变得更优秀的唯一方法，就是用纯英文为它编写一套指令——一种“技能”。请将这种技能视为不仅仅是一个简单的命令，而是一本详细的操作手册，告诉机器人应该抓取哪些工具、需要避开哪些陷坑，以及在提交答案前如何进行自我检查。

核心问题在于：如何编写一份“完美”的手册？如果你只是尝试进行一些改动、测试、然后保留有效的结果，你可能会陷入困境。这就像是在登山，而地图只显示你当前的海拔高度。你可能会到达一个看起来很高但却极其狭窄、尖锐的山峰，那里非常危险，只要迈出下一步就可能坠入深渊。或者，你可能处于一个宽阔平缓的高原上，每向前走一步都会向更高处迈进，但仅凭当前的高度，你无法分辨两者的区别。这篇论文介绍了一种导航这种景观的新方法，它借鉴了生物学中的一个概念——“进化能力”（evolvability），即一条路径即使在你走错路时也能持续产生良好结果的能力。

问题所在：被“尖锐山峰”困住的陷阱

IBM Research 的研究人员注意到，我们通常改进这些 AI 手册的方式存在缺陷。标准的方法很简单：拿出一份手册，让 AI 重写它，测试新版本，如果分数提高了，就保留它；如果分数下降了，就丢弃它。

问题的症结在于这种方法是“盲目的”。它只关注当前手册的分数。它无法区分一份手册是位于一个宽阔的高原（一个安全、稳定的区域，微小的改变通常会带来更好的结果），还是位于一个狭窄且过拟合的尖峰（一个脆弱的山峰，虽然分数很高，但任何微小的变动都会导致分数崩塌）。如果你处于一个尖峰之上，下一次编辑可能会修复一个小错误，却破坏掉十个原本运作完美的环节。标准的方法会不断走向悬崖，因为它只看到了高分，却没看到危险。

解决方案：BONSAI 与“进化能力”指南针

为了解决这个问题，团队创建了一个名为 BONSAI 的新框架。与其仅仅观察一份手册目前有多好，BONSAI 会追问：“这份手册周围的邻里环境如何？”

他们使用了一个精妙的自然界隐喻：进化能力。在生物学中，衡量一个物种的标准不仅在于它今天是否能生存，还在于它未来持续产生有用后代的能力。处于“宽阔高原”上的物种可以通过突变并依然生存；而处于“尖锐山峰”上的物种，只要发生一点点变化就会灭绝。

BONSAI 将寻找完美手册的过程比作种树：

树木： 它从一个“种子”手册开始。
树枝： 每当 AI 尝试重写手册时，它就会长出一个新的分支（子节点）。
指南针： 在决定下一步探索哪个分支时，BONSAI 不仅仅选择那个拥有最高分数的分支。它会选择那个看起来更有“未来”的分支。它计算一个被称为进化能力的分数，这基本上是该手册所做的所有微小变化（突变）的平均得分。

如果一份手册位于“尖峰”上，它的邻居们得分会很差，因此其进化能力得分就会很低。BONSAI 会避开它。如果一份手册位于“高原”上，它的邻居们得分也会很好，因此其进化能力得分就会很高。BONSAI 会深入探索这些安全且富有成效的区域。

它是如何运作的：“嫁接”技巧

研究人员还添加了一个名为 GRAFT 的特殊功能。想象你有两个树枝：一个分支学习了如何处理“数学问题”，另一个分支学习了如何处理“电子表格”。它们在不同的路径上，互不往来。

通常情况下，AI 无法结合这些技能，因为它一次只能观察一份手册。但 GRAFT 允许 AI 窥视“数学”分支，看到其中奏效的技巧，并将该技巧复制到“电子表格”手册中。这就像园丁从一棵树上取下一段强壮的枝条，将其嫁接到另一棵树上，赋予其新的力量。这一过程不会破坏树的结构，从而允许 AI 从不同部分的搜索中混合并搭配最佳创意。

实验结果：攀登得更高

团队在三个不同的挑战上测试了 BONSAI：

SpreadsheetBench： 修复 Excel 文件。
SearchQA： 利用搜索结果回答测验问题。
LiveMathematicianBench： 解决数学问题。

他们使用了一个拥有 300 亿参数的冻结 AI 智能体（作为“执行者”），以及一个专门编写手册的 AI（作为“优化器”）。他们将 BONSAI 与另外两种方法（GEPA 和 SkillOpt）进行了对比，并确保所有方法使用的计算资源（即“预算”）是相同的。

结果非常明确：

在 SpreadsheetBench 上，BONSAI 比初始手册提高了 5.71 个百分点，并击败了最强的竞争对手（GETA）2.14 个百分点。
在 SearchQA 上，它比初始手册提高了 6.57 个百分点。
在 LiveMathematicianBench 上，差距巨大。BONSAI 达到了 64.91% 的准确率，而初始手册仅为 28.23%，竞争对手 GEPA 为 56.14%。

研究人员发现，当他们关闭“进化能力”指南针，仅仅让 AI 贪婪地追求最高分（像旧方法那样）时，AI 会很早就卡在那些“尖锐山峰”上并停止改进。然而，BONSAI 则能在更深的搜索中持续找到更好的解决方案，因为它知道哪些路径是安全的。

总结

本文表明，要让冻结的 AI 智能体变得更聪明，我们不应仅仅寻找眼前的最高分，而应寻找最有潜力的邻里环境。通过使用一种重视稳定性与未来潜力（进化能力）而非眼前短暂且脆弱之获的树搜索方法，BONSAI 找到了更好的指令供 AI 遵循。它不需要重新训练 AI 的大脑；它只需要写出一份更好的操作手册，并且通过识别哪些路径是安全的，它成功做到了这一点。

技术摘要：BONSAI —— 基于技能演化性的树搜索

1. 问题陈述

本文研究了优化**冻结智能体（frozen agents）之技能（skills）**的挑战。所谓“技能”，被定义为一个自然语言文档（作为一份现场手册而非简单的提示词模板），用于指导一个权重无法更新的冻结大语言模型（LLM）。由于智能体无法从经验中学习，其任何缺失的能力都必须编码在技能文本中。

标准的技能优化方法涉及一个迭代循环：根据智能体的失败情况修改技能，在留出任务上进行测试，并保留能提高评分的修改。作者指出该方法存在一个关键的盲点：单一的验证得分无法区分一个文档是处于一个宽阔的高原（对进一步修改具有鲁棒性），还是处于一个狭窄的尖峰（过拟合且脆弱）。处于狭窄尖峰上的文档虽然得分可能很高，但它是一个死胡同，因为进一步的修改往往会破坏现有的能力。现有方法缺乏一种方法来衡量技能区域的“演化性（evolvability）”——即在发生突变时产生可行变体的能力——而无需承担额外的计算成本。

2. 方法论：BONSAI

BONSAI（通过自然语言搜索与自适应迭代实现的仿木兰树优化）将技能优化重新定义为一种由演化性而非仅仅是即时适应度（fitness）引导的蒙特卡洛树搜索（MCTS）。

核心组件

模型： 使用两个冻结模型。
- 执行者（Performer）： 冻结的智能体（例如 granite-4.1-30b），根据技能执行任务。
- 优化器（Optimizer）： 第二个冻结模型（例如 DeepSeek-V3.2），根据执行者的失败情况重写技能。
树结构： 技能被组织成一棵树，根节点是一个种子文档。每一条边代表对父节点的一次突变（反射式重写）。这种结构在文档空间中引入了邻域拓扑结构。

关键指标

适应度 ( $v(n)$ )： 文档在节点 $n$ 处的验证得分。
演化性 ( $Q(n)$ )： 定义为技能突变邻域的预期适应度。它通过节点的谱系（该节点及其所有后代）的平均适应度来估计。
$Q(n) = \frac{1}{m(n)} \sum_{s \in L(n)} v(s)$
其中 $L(n)$ 是谱系， $m(n)$ 是已评分成员的数量。
脆弱性 ( $\sigma(n)$ )： 当前适应度与演化性之间的差距： $\sigma(n) = v(n) - Q(n)$ $σ (n) = v (n) - Q (n)$ 。
- $\sigma > 0$ ：表示一个脆弱的、过拟合的峰值（当前得分高于邻域平均水平）。
- $\sigma \le 0$ ：表示一个可演化的区域（邻域能够维持或提升当前得分）。

搜索算法

搜索使用基于上置信区间边界（UCB）的选择规则进行迭代：
$U(s) = v(s) + \lambda(Q(s) - v(s)) + c\sqrt{\frac{\ln N(p)}{N(s)}}$

利用（Exploitation）： 项 $\lambda(Q(s) - v(s))$ 将搜索导向具有高演化性的区域。当 $\lambda=1$ 时，搜索优先考虑 $Q(s)$ （演化性）而非原始适应度 $v(s)$ 。
探索（Exploration）： 标准 UCB 项确保弱分支会被重新访问。
接受（Acceptance）： 只有当提议的子节点在小型训练小批量（minibatch）上严格优于当前节点时（公式 4），才会被接受。
回溯（Backup）： 被接受的子节点会更新谱系统计数据（ $N$ , $m$ , $W$ ）。被拒绝的突变仅更新访问计数 $N$ ，从而防止失败的重写人为地降低一个区域的演化性估计。
扩充（Widening）： 节点根据已评分样本的数量拥有亚线性（sublinear）的子节点容量，以确保搜索保持深度而非宽度。

嫁接（Grafting，可选算子）

为了解决不同分支间的能力碎片化问题，BONSAI 引入了**嫁接（graft）**算子。如果节点 $A$ 缺乏节点 $B$ 所具备的一种能力（通过比较训练数据上的单任务得分来确定），优化器会被要求重写 $A$ 以合并 $B$ 的技术。捐赠者 $B$ 作为证据而非祖先，且不会接收访问更新。

发布（Shipping）

在耗尽预算后，BONSAI 发布具有最高验证得分的单个文档 ( $\arg\max v(n)$ )，而非具有最高演化性的文档。这确保了最终输出是找到的最佳性能文档，而演化性仅作为引导搜索预算的转向机制。

3. 主要贡献

演化性作为转向指标： 作者指出，在技能优化中，突变下的鲁棒性（演化性）是关键属性，并将其与当前的适应度区分开来。
无成本估计： 他们提出了一种测量演化性 ( $Q$ ) 的方法，该方法不增加额外的模型调用次数。它复用了搜索过程中已经支付的适应度得分来估计突变邻域的质量。
문제입니다.
基于树的搜索框架： BONSAI 将无序的候选集合转化为结构化的搜索空间，在该空间中可以测量并优化邻域属性。
非对称能力转移： 嫁接算子的引入允许在不同谱系之间转移特定的能力，而不合并文档，解决了技能趋于分化的问题。

4. 实验结果

该框架在三个基准测试上进行了评估，使用的是冻结的 30B 执行者和 DeepSeek-V3.2 优化器。

SpreadsheetBench： BONSAI 将种子文档的准确率提高了 5.71 个百分点，并以 2.14 个百分点的优势超过了预算匹配的基准方法 GEPA。启用嫁接后，准确率达到了 25.00%。
SearchQA： BONSAI 比种子文档提高了 6.57 个百分点，并以 0.71 个百分点的优势超过了 GEPA（79.00% 对比 78.29%）。
LiveMathematicianBench： BONSAI 达到了 64.91% 的准确率，大幅超过了种子文档（28.23%），并领先 GEPA 8.77 个百分点。
与 SkillOpt 的对比： 在所有基准测试中，BONSAI 平均以 3.97 个百分点的优势超过了第二个基准方法 SkillOpt。作者将其归因于 SkillOpt 的聚合阶段，该阶段在未观察底层轨迹的情况下压缩了编辑内容。
消融实验（演化性 vs. 贪婪）： 当选择信号变为纯贪婪适应度（ $\lambda=0$ ）时，各基准测试的表现均显著下降（例如，在 LiveMathematicianBench 上下降了 7.02 个百分点），证实了通过演化性进行转向是成功的关键驱动力。

5. 重要性与主张

本文声称，BONSAI 成功地将搜索预算引导至那些能够持续产生改进的技能空间区域，而不是陷入狭窄且过拟合的峰值。通过将演化性视为一个不同于适应度的属性，该方法避开了标准基于得分优化的“盲点”。

作者强调，这种改进是在不增加额外成本的情况下实现的（除了标准的“若更好则接受”循环外），因为演化性指标是从现有的搜索数据中推导出来的。该框架证明，对于冻结智能体而言，技能空间的“地形”（其演化能力）与当前的“海拔”（得分）同样重要。结果表明，将技能优化组织为由突变鲁棒性引导的树搜索，与现有的反射式提示词演化或可训练状态方法相比，能在留出任务上获得更好的泛化性能。