🤖 machine learning

QUASAR: An Evolutionary Algorithm to Accelerate High-Dimensional Numerical Optimization

本文介绍了 QUASAR，这是一种新型进化算法，它通过引入受量子粒子启发的拟自适应随机机制来增强差分进化算法，从而在解决高维、不可微优化问题方面显著优于现有方法。

原作者： Julian G. Soltes

发布于 2026-02-03

📖 1 分钟阅读☕ 轻松阅读

原作者： Julian G. Soltes

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正试图在一片巨大的、雾气缭绕的森林中寻找一个设立营火的最佳地点。这片森林如此庞大且复杂，拥有数千个维度（就像层叠在一起的山丘、山谷、河流和树木）。这就是科学家所说的“高维优化”。

如果你尝试沿直线行走或依靠地图（使用传统的数学方法），你会因为地形过于诡异而陷入困境或迷失方向。你需要一支探险队同时对整个森林进行搜索。这就是 QUASAR 发挥作用的地方。

以下是关于 QUASAR 做了什么的简单拆解，使用了日常类比：

问题：“维度之咒” (The Curse of Dimensionality)

把搜索空间想象成一个巨大的、多层的迷宫。随着迷宫变得越来越复杂（维度增加），找到出口变得指数级困难。旧的方法往往会陷入一个小死胡同（过早收敛），或者漫无目的地徘徊，永远找不到最好的位置。

解决方案：QUASAR（量子启发式探险家）

QUASAR 是一种新的“探险队”（一种进化算法），旨在比之前的团队更快、更好地找到最佳解决方案。它从量子粒子的行为中汲取灵感——特别是粒子可以同时存在于多个位置并能“穿透”墙壁到达更好位置的概念。

论文声称 QUASAR 使用了三种主要技巧来击败竞争对手（特别是另外两种著名的算法，称为 DE 和 L-SHADE）：

1. “幽灵般”的团队协作（变异/Mutation）

想象你的探险队被分为三组，并根据抛硬币的结果（概率）来决定谁负责做什么：

“幽灵最佳”组（开发/Exploitation）： 这些探险家紧贴目前发现的最佳营地。他们进行微小、谨慎的调整，看看是否能让火堆再热那么一点点。他们是“完美主义者”。
“幽灵当前”组和“幽灵随机”组（探索/Exploration）： 这些探险家是冒险家。他们会跳到远离当前最佳位置的遥远地方，去检查完全未知的森林区域。他们是“风险承担者”。
神奇之处： 算法不断地在这几组之间切换。它不仅仅固守一种策略；它在谨慎与大胆之间进行动态平衡。

2. “VIP”式混合（交叉/Crossover）

当探险家们分享他们的发现时，算法会对他们进行不同的对待。

如果一名探险家找到了一个极好的位置，他就会非常频繁地将自己的想法与新的“幽灵”想法进行混合。
如果一名探险家找到了一个糟糕的位置，他混合的机会就会减少。
类比： 这就像一场烹饪比赛。评委（算法）允许那些拥有最棒菜肴的厨师更多地将他们的秘密配方与新想法进行融合，而那些菜肴较差的厨师获得改变配方的机会则较少。这确保了“最好的想法”能够迅速传播。

3. “传送”重置（渐近重初始化/Asymptotic Reinitialization）

这是论文最大的创新。想象一下，你 33% 的探险家正困在沼泽里（表现最差的解决方案）。与其只是告诉他们“再努力一点”，QUASAR 给他们提供了一个特殊的传送装置。

运作方式： 算法观察前 25% 的探险家站在哪里。它会创建一个“地图”（协方差矩阵），代表那个优秀的区域。
传送： 它会将那些被困住的探险家瞬间移动到靠近优秀区域的随机位置，而不是让他们留在沼泽里。
转折： 在搜索的最开始阶段，由于探险家们还处于迷失状态，这种传送发生的频率非常高。随着搜索的进行，团队变得越来越聪明，传送发生的次数就会减少，从而让团队能够专注于精细化调整他们发现的最佳位置。

结果：奏效了吗？

作者使用一组由 29 个非常困难的数学谜题组成的标准测试集（CEC2017 基准测试），将 QUASAR 与另外两种著名算法（DE 和 L-SHADE）进行了对比测试。

质量更好： QUASAR 找到了显著更好的解决方案。平均而言，它找到的解决方案比标准 DE 好 3.85 倍，比 L-SHADE 好 2.07 倍。
速度更快： QUASAR 也更快。它完成任务的速度比 DE 快 1.4 倍，比 L-SHADE 快了整整 5.16 倍。
易于使用： 论文声称你不需要成为数学奇才也能使用它。它在默认设置下表现良好，因此你不需要花费数小时去反复调试各种旋钮和拨盘。

核心结论

论文得出结论，QUASAR 是一个强大、高效且易于使用的工具，用于解决那些需要在巨大且混乱的搜索空间中寻找“最佳”答案的极其复杂的数学优化问题。它通过将谨慎的完美主义、狂野的探索以及针对困住探险家的智能“传送”重置结合在一起，实现了这一目标。

注：论文完全侧重于数学优化问题（例如寻找公式中的最佳数字）。它并不声称能解决医疗问题、预测股市或治愈疾病，尽管作者提到了这些领域会用到此类数学。

技术摘要：QUASAR —— 一种用于高维优化的进化算法

问题陈述
高维数值优化仍然是计算科学领域的一个持久挑战，特别是在机器学习、工程学和金融等领域。其主要障碍是“维度诅咒”，即搜索空间的指数级增长使得传统的基于梯度和参数化的搜索方法失效。虽然元启发式算法（特别是差分进化算法 DE）已成为鲁棒的优化器，但标准的 DE 变体在处理高维空间时，往往难以在全局探索与局部开发之间维持有效的平衡。这经常导致停滞或过早收敛，从而需要频繁的重启或大量的超参数调优，限制了它们的实际应用价值。

方法论：QUASIR 算法
为了解决这些局限性，本文引入了拟适应性搜索与渐近重初始化算法（QUASAR）。在概念上，QUASAR 受恒星核心中寻找稳定性的概率搜索以及量子粒子行为的启发，通过三种高度随机的机制扩展了 DE 框架，旨在动态平衡探索与开发：

概率变异策略：
QUASAR 并非采用固定的变异策略，而是使用一种“推拉”机制，通过基于“纠缠率”（默认值为 0.33）动态选择三种不同的策略：
- Spooky-Best（局部/开发）： 类似于 DE/best/1，该策略利用当前最优解（ $X_{best}$ ）周围的即时搜索空间，其变异因子采样自正态分布 $N(0, 0.33^2)$ 。
- Spooky-Current 与 Spooky-Random（全局/探索）： 这些策略驱动非局部探索。它们使用双峰分布 $N(0.5, 0.25^2) + N(-0.5, 0.25^2)$ 作为变异因子，以鼓励更大的跳跃。值得注意的是，Spooky-Random 策略在其公式中两次使用了同一个随机向量。
基于排名的交叉：
QUASAR 使用与解的适应度排名成反比的动态二项式交叉率（ $CR_i$ ）。表现最好的解（排名为 0）被分配较高的交叉率（上限为 0.33），这使得它们能够快速重组变异向量中的组成部分。这确保了高质量的解能够继承有益的特征，同时保持多样性。
渐近协方差重初始化：
QUASAR 的一项主要创新是其重初始化机制。在进化早期阶段，表现最差的 33% 的种群会被重新初始化。该事件发生的概率随代数增加而渐近衰减，目标值为 0.33。
- 机制： 新解是从由种群前 25% 的均值（ $\mu$ ）和协方差矩阵（ $\Sigma$ ）定义的多元正态分布中采样的。
- 噪声： 在采样分布中加入一个噪声向量，以进一步促进探索。
- 约束： 如果种群规模（ $N$ ）小于维度（ $D$ ），则绕过此机制，以防止出现奇异协方差矩阵。

实验设计
QUASAR 的效能通过与标准 DE（SciPy 实现）以及最先进的 L-SHADE（MealPy 实现）在完整的 CEC2017 基准测试集（包含 29 个测试函数）上进行了严格评估。

参数： 实验使用了各算法的默认超参数，以确保公平比较。
变体： 试验涵盖了不同的维度（ $D \in [10, 30, 50, 100]$ ）且固定种群规模（ $N=1000$ ），以及不同的种群规模（ $N \in [100, 5000]$ ）且固定维度（ $D=100$ ）。
指标： 性能通过 Friedman 秩和检验、几何平均误差减少因子（ $R_{error}$ ）以及优化运行时间比（ $R_{time}$ ）进行衡量。统计显著性通过 Wilcoxon 符号秩检验进行验证。

关键结果
QUASAR 在所有指标上均表现出优于 DE 和 L-SHADE 的性能：

总体排名： 使用 Friedman 测试，QUASAR 获得了最低的总体秩和（367），显著优于 L-SHADE (452) 和 DE (735)。
解的质量： 几何平均值比较显示，QUASAR 将最终解的质量相比 DE 平均提升了 3.85 倍，相比 L-SHADE 提升了 2.07 倍（ $p \ll 0.001$ ）。在更高维度（如 100D）和更大种群规模下，观察到的增益最为显著。
计算效率： QUASAR 的平均速度分别是 DE 的 1.40 倍 和 L-SHADE 的 5.16 倍。该算法随维度线性扩展，即使在问题复杂度增加时也能保持高效。
鲁棒性： 该算法使用其默认参数即可有效运行，无需手动进行超参数调优。

意义与主张
论文指出，QUASAR 为复杂、高维及非微分优化问题建立了新的标准。其意义在于：

有效性： 它在不需要大量参数调优的情况下，实现了统计学意义上的解质量提升。
高效性： 它提供了相对于当前最先进方法的实质性加速，使其适用于计算成本高昂的现实应用场景。
易用性： 对默认参数的依赖以及流线型的实现（可通过开源 Python 包 hdim_opt 获取）使其能够无缝集成到现有工作流中。

作者总结道，QUASAR 是应对下一代高维优化挑战的强大且即插即用的工具，尽管他们也指出，未来的工作可以探索加权协方差矩阵（类似于 CMA-ES）以及在约束或多目标问题上的验证。