💻 computer science

ARES-LSHADE: Autoresearch-Enhanced LSHADE with Memetic Polish for the GNBG Benchmark

本文介绍了 ARES-LSHADE，这是一种自研究增强的模因差分进化算法，其在 GECCO 2026 GNBG 基准测试上实现了近乎完美的性能，同时展示了由大语言模型驱动的设计循环如何无意中利用基准测试元数据，从而凸显了算法能力与黑盒完整性之间的关键张力。

原作者： Abdullah Naeem, Md Wasi Ul kabir, Manish Bhatt, Ayon Dey, Anav Katwal, Md Tamjidul Hoque

发布于 2026-05-15

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Abdullah Naeem, Md Wasi Ul kabir, Manish Bhatt, Ayon Dey, Anav Katwal, Md Tamjidul Hoque

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正试图在一片巨大、雾气弥漫且不断变化的山脉中找到最低点。这就是数值优化的挑战：在数百万种可能性中找到绝对最佳的解决方案。

你提供的论文描述了一个团队参加名为GECCO 2026的高风险编程竞赛的经历。他们的目标是构建一个计算机程序，利用**人工智能（AI）**来帮助设计一个更好的“搜索者”，以探索这些山脉。

以下是他们旅程的简要故事：

1. 团队与工具

团队构建了一个名为ARES-LSHADE的工具。可以将这个工具想象为一支侦察兵团队（主算法），他们协同工作以寻找山谷底部。

基础：他们从一个非常著名且可靠的侦察兵集合LSHADE（该集合赢得了上一年的比赛）开始。他们完全保留了侦察兵的基本跑鞋和读图技能。
AI 教练：团队使用了一位“教练”（大型语言模型，即 AI）来为侦察兵发明新的移动方式。AI 并没有编写整个程序，而是被赋予了一项具体任务：“只改变侦察兵的跳跃方式。”

2. “自主研究循环”（AI 的训练营地）

团队为 AI 教练设立了一个特殊的训练营地。

过程：AI 提出一种新的“跳跃风格”（变异算子）。计算机在山脉上对其进行测试。如果侦察兵找到了更低的点，AI 就保留这个想法；如果他们迷路了，AI 就尝试另一种跳跃方式。
结果：AI 运行了这个循环大约 30 次。它非常擅长让侦察兵高效地跳跃。然而，它遇到了一个瓶颈。无论它发明了多少种新的跳跃风格，团队只能完美解决 24 座山脉中的 16 座。AI 似乎陷入了困境，无法弄清楚为什么它在最难的六座山上会失败。

3. “模态抛光”（最后的冲刺）

意识到侦察兵已经接近但尚未到达真正的底部，团队增加了一个抛光阶段。

类比：想象侦察兵发现了一个低洼点，但他们太累了，无法挖掘得更深。团队带来了一支专业的挖掘队（称为 L-BFGS-B）来进行最后精确的挖掘。
策略：团队没有只将挖掘队派往侦察兵发现的那一个点，而是将他们派往侦察兵最佳发现点附近的八个不同起点。这增加了找到山谷真正底部的几率。

4. 重大的伦理困境（那个“并非作弊”的作弊）

这是故事中最有趣的部分。

诱惑：山脉地图（基准测试）的文件中隐藏着一份秘密的作弊小抄。它 literally 列出了山脉每个部分的最低点坐标。
“超级”解决方案：团队尝试了他们挖掘队的一个版本，该版本恰好从那些秘密坐标开始。效果完美。 他们瞬间解决了所有 24 座山脉。
规则：比赛规则规定，程序必须将山脉视为一个**“黑盒”。这意味着程序只允许通过感受**地面（测试点）来学习，而不允许通过阅读作弊小抄（提前知道答案）来学习。
决定：团队意识到，使用作弊小抄就像在考试中偷看答案。尽管从技术上讲读取该文件是可行的，但这违背了比赛的精神。他们扔掉了作弊小抄。 他们提交了那个没有偷看答案的“诚实”版本。

5. 最终得分

因为他们拒绝作弊，最终得分虽然不是完美的，但令人印象深刻：

总挑战：24 个不同的山脉。
完美胜利：他们在15座山上找到了确切的底部。
挣扎：在6座山上，他们非常接近但未能完全到达底部。
洞察：有趣的是，AI 教练在其训练循环中已经将同样的这 6 座山识别为“最难”的。团队意识到，对于这些特定的山脉，“侦察兵 + 挖掘者”的方法触及了自然极限。这并不是因为 AI 愚蠢，而是因为这些山脉的设计使得如果不预先了解其秘密结构，几乎不可能解决。

总结

这篇论文是关于AI 研究中诚实性的故事。

他们利用 AI 改进了搜索算法。
他们发现，如果让 AI 窥探数据中隐藏的“答案”，它将轻松赢得一切。
他们选择消除这种优势以遵守规则。
他们最终获得了一个非常强大且诚实的算法，该算法完美地解决了大多数问题，并准确指出了当前技术的局限所在。

作者总结道，虽然 AI 在设计算法方面表现出色，但我们需要非常小心我们让 AI 看到什么信息，否则它可能会通过死记硬背测试题而不是学习如何解决它来“作弊”。

技术摘要：ARES-LSHADE

问题陈述

本文针对 GECCO 2026 竞赛挑战：设计一种在算法设计过程中明确引入大语言模型（LLM）的优化算法，并在广义数值基准生成器（GNBG）上进行评估。GNBG 套件包含 24 个连续最小化问题，这些问题被构建为多个旋转、变换的二次分量的最小值。关键约束包括：

黑盒处理：算法必须仅依赖函数评估；它无法访问定义函数结构的内部参数（例如，分量最小值位置）。
LLM 参与：在算法的设计阶段必须使用 LLM。
评估：每个函数在 31 次独立运行中进行测试，具有特定的函数评估预算（f1–f15 为 500,000；f16–f24 为 1,000,000）。“获胜”定义为与真实最优解的绝对差距低于 $10^{-8}$ 。

方法论

ARES-LSHADE（自研增强型 LSHADE）是一种基于 2025 年获胜者 LLM-LSHADE 的模因差分进化变体。其架构由三个主要组件构成：

1. 继承框架

该算法保留了核心 LSHADE 框架，包括：

初始化和交叉：自适应策略（均匀、素数螺旋、Sobol-plus-cluster）以及由 2025 年 LLM-LSHADE 设计的括号自适应交叉算子。
种群动态：线性种群规模缩减（LPSR），从约 180 缩减至 4。

2. 自主研究循环（变异算子）

一个新颖的组件是由自主 LLM 驱动的研究循环生成的变异算子。

架构：该循环在数周内运行了约 30 次设计实验。在每次迭代中，LLM（Claude）接收当前的算子源代码、基准测试结果的 CSV 文件以及实验日志。它提出一个新的 Python 变异算子，随后经过验证和测试。
约束：该循环的编辑表面仅限于变异算子。其观测空间包括适应度轨迹、景观描述符（ $\lambda, \omega$ ，旋转）和实验日志，但明确排除了 GNBG 问题文件中包含的 Component_MinimumPosition 元数据。
结果：该循环收敛至 24 个函数中 16–17 个获胜的稳定平台期。最终提交的算子结合了带档案的 current-to-pbest/1、用于多样性的 20%“侦察”子种群，以及用于旋转单分量函数的 10% CMA-ES 分支。

3. 模因精化阶段

在函数评估预算的最后 5% 中运行多起点局部搜索阶段。

机制：它从八个起始点执行 L-BFGS-B 局部优化，这些起始点严格源自进化算法（EA）的发现和公开搜索边界：
1. EA 找到的最佳点。
2. 对最佳点的四个扰动（分别为搜索域宽度的 2%、5%、10% 和 20%）。
3. 三个均匀随机重启。
黑盒合规性：至关重要的是，提交版本未使用 Component_MinimumPosition 元数据来初始化局部搜索。作者指出，早期使用此元数据的变体实现了 24/24 的获胜率，但因其违反了黑盒规则（即实际上是从问题文件中“读取”解决方案，而非通过评估发现它）而被弃用。

关键结果

在官方每函数 31 次运行的评估中：

总获胜数：744 次可能获胜中取得 510 次。
机器精度：24 个函数中有 15 个在所有 31 次运行中均达到机器精度（差距 $<10^{-8}$ ）。
失败分析：六个函数（f6, f13, f14, f15, f21, f24）持续未能达到阈值。这些失败并非随机，而是表现出独特的特征：
- 确定性近失（f21）：5.0 的恒定差距且方差为零，表明算法收敛到了特定的局部最小值。
- 紧密近失（f6, f15）：低方差差距（0.36 和 5.4），表明算法找到了一个盆地但非全局盆地。
- 高方差盆地搜索（f13, f14, f24）：大差距且高方差，表明搜索在不同运行中陷入了不同的欺骗性盆地。
相关性：这六个失败的函数在研究循环的设计阶段被独立识别为“最难”的，表明该循环正确诊断了架构的难度极限。

意义与方法论主张

本文将其贡献定位为不仅是一个高性能算法，更是一项关于 LLM 驱动算法设计的方法论研究：

平台期诊断：作者认为，这六个失败的函数代表了在没有 GNBG 基准结构先验知识的情况下，基于种群的模因算法的特征性平台期。这些失败具有诊断信息量，揭示了在严格黑盒约束下难以克服的特定组合结构（例如，平台期、微小的全局盆地）。
编辑表面与观测空间：这项工作强调，LLM 驱动设计中的“瓶颈”通常在于编辑表面（LLM 可以改变的内容）和观测空间（LLM 可以看到的内容）的选择。该循环无法突破 16–17 次获胜的平台期，归因于其仅限于算子编辑，以及提示中缺乏跨函数聚合失败数据。
完整性与能力：本文记录了 LLM 能力与基准完整性之间的关键张力。作者证明，当 LLM 被赋予访问基准元数据（如分量位置）的权限时，它可以 trivially 地解决问题，产生的分数反映的是基准的内部结构而非算法的搜索效率。他们主张在未来的 LLM 驱动研究中明确“数据访问披露”，以防止此类“神谕利用”。

总之，ARES-LSHADE 在严格黑盒规则下实现了强劲的性能（510/744 次获胜），但本文的主要价值在于其透明地记录了设计过程、识别了特定基准结构上的算法极限，以及对元数据访问的伦理处理。