Compute Allocation in Evolutionary Search: From Depth-Breadth to Multi-Armed Bandits
本文分析了大语言模型引导的进化搜索的经验规律，提出了 BaSE，这是一种多臂老虎机算法，能够在并行轨迹间动态分配计算资源，在不修改底层模型或提示的情况下，相比传统的深度 - 广度策略实现了 12.3% 的平均适应度提升和更高的可靠性。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象你正在尝试解决一个非常棘手的谜题，比如将 26 个圆完美地嵌入一个正方形中，或者排列点以最大化它们之间的距离。你拥有一位超级聪明的助手（大型语言模型，或称 LLM），它可以提出新的拼图排列方式。然而，你只有有限的“能量”或“预算”来向助手寻求建议。
本文旨在探讨如何最有效地分配这种能量，以获得最佳的谜题解决方案。
问题：如何分配你的“提问”预算？
过去，研究人员尝试了两种主要方式来利用他们有限的向 AI 提问的预算：
- “深度挖掘”（深度）： 让 AI 基于一个单一的想法进行改进，请求该想法的更优版本，并沿着这一路径持续深入。这就像挖掘一个非常深的洞。
- “广撒网”（广度）： 让 AI 一次性生成 100 个不同的随机想法，挑选其中最好的一个，然后停止。这就像撒下一张大网，但只捞起一条鱼。
大多数先前的研究仅报告了他们曾经获得的最佳结果，这通常是在尝试了数百种不同组合之后。他们并未告诉我们这些结果的可靠性如何，或者如何在固定预算下持续获得这些结果。
发现：这取决于谜题本身
作者利用不同的 AI 模型和三种不同类型的谜题进行了数千次实验。他们发现了两条重要规则：
- “能力上限”： 如果 AI 对于特定谜题不够聪明，那么无论你如何分配预算，它都无法解决该问题。但如果 AI确实足够聪明，那么当你衡量实际完成的“计算工作量”时，小型 AI 与大型 AI 之间的差异往往会消失。
- “解决方案的形态”：
- 谜题 A（圆堆积）： 这个谜题就像一片宽阔平坦的高原。无论你深入挖掘还是广泛撒网，你很可能会找到一个不错的解决方案。它是宽容的。
- 谜题 B（最小 - 最大距离）： 这个谜题就像一条陡峭的山脊。你必须找到深入挖掘与广泛撒网之间确切的平衡点。如果你钻得太深或撒得太广，都会错过顶峰。
解决方案：BaSE（智能交通指挥）
作者意识到，仅仅选择“深度”或“广度”是不够的，因为 AI 具有不可预测性。有时单次运行会陷入糟糕的想法，而有时它却能发现金矿。
他们创建了一种名为BaSE（基于老虎机策略的自进化）的新方法。
类比：老虎机策略
想象你在一家拥有 10 台不同老虎机的赌场（这些是 10 个不同的 AI“运行”尝试解决谜题）。你拥有固定数量的硬币（你的预算）。
- 旧方法： 你选择一台机器，不断拉动拉杆直到硬币耗尽。如果那台机器是“输家”，你就输掉了一切。
- BaSE 方法： 你先拉动所有 10 台机器各一次。然后，你观察哪些机器 payout 最多。你停止向输钱的机器投入硬币，并将所有剩余硬币倾注到赢钱的机器上。
BaSE 就像一个智能交通指挥。它不改变 AI 的大脑或谜题规则。它只是持续监控哪些“路径”有效，并将预算转移给赢家，同时放弃输家。
结果
- 更好的稳定性： 通过使用 BaSE，解决方案的平均得分比现有最佳方法提高了12.3%。
- 可靠性： 它使结果更加可靠。你不再需要在一百次尝试中偶然获得一次“头奖”，而是能持续获得高分。
- 没有魔法技巧： 他们没有使用更聪明的 AI 模型或更好的提示词。他们只是更聪明地花费了同样的资金。
核心结论
如果你拥有有限的预算来让 AI 解决一个难题，不要仅仅固守一条路径或一次性投入所有资源。采用一种能同时监控多次尝试并迅速将资源转移到真正有效的路径上的策略。本文证明，你如何分配计算能力与你使用的 AI 模型同样重要。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。