💻 computer science

DASH-SI: a diversity-adaptive stochastic hybrid swarm optimizer for continuous optimization and exploratory feature selection

本文介绍了 DASH-SI，一种结合了时间依赖型能量调度、停滞反馈及多种精炼算子的多样性自适应随机混合群优化算法，该算法在连续优化基准测试和特征选择任务中展现出强劲性能，同时强调了需要经过验证的参考实现来支持其更广泛的优越性主张。

原作者： Keyin Chen, Yuanlin Liu, Yu Zhang

发布于 2026-10-01

📖 1 分钟阅读☕ 轻松阅读

原作者： Keyin Chen, Yuanlin Liu, Yu Zhang

原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

在现代科学与工程学的广阔版图中，许多问题就像是在没有地图的情况下，试图在迷雾缭绕的山区中寻找最低点。你看不见整个山谷，无法用尺子测量坡度，只能通过迈出一步并测量脚下的地面来了解自己所处的高度或深度。这就是黑盒优化（black-box optimization）的世界，该领域致力于在规则隐藏或过于复杂、无法写成简单公式时，寻找尽可能好的解决方案。为了在这片地形中导航，科学家们经常使用“群智算法”（swarm intelligence），这是一种受自然界启发的策略，即一群简单的智能体（如鸟群或蚁群）共同协作。与其依靠一个聪明的探险家，不如利用许多简单的搜索过程，通过共享信息来逐渐锁定最佳答案。挑战在于平衡两个对立的需求：探索新的未知区域以避免陷入浅坑，以及利用已知的良好区域来精炼答案，直至其趋于完美。

研究团队推出了一种名为 DASH-SI 的新方法，旨在比许多现有方法更有效地处理这种微妙的平衡。这个名字代表“多样性自适应随机混合群智优化器”（diversity-adaptive stochastic hybrid swarm optimizer），本质上意味着它是一个将随机搜索与精细局部优化相结合的工具，同时根据搜索群体的表现不断调整其行为。研究人员构建这一工具是为了处理连续优化问题（即解可以是范围内的任何数字），并应对一种被称为特征选择（feature selection）的特定类型数据问题，其目标是从大量信息中挑选出最有用的部分。其核心思想是，单一策略无法解决所有问题；相反，该方法使用了一个随时间变化的调度表，并结合了来自搜索过程本身的反馈。如果群体停止发现更好的答案，系统会将此解释为需要打破现状并尝试不同方式的信号；如果群体表现良好，则专注于完善当前的最佳发现。

研究人员使用各种标准的测试问题对这一新工具进行了测试，涵盖了从二十三个经典的数学函数到全球研究界使用的更复杂的现代基准测试。他们还将它应用于涉及医学和物理测量数据的真实世界数据集，例如识别哪些特定特征对于诊断乳腺癌最为重要。在这些测试中，这种新方法始终位列顶尖水平。在经典问题集上，它取得了 3.63 的平均排名（共测试了十四种方法），领先于许多知名的竞争对手。在现代高维问题集上，它的表现甚至更好，在几种配置下夺得了榜首。其中一个最深刻的发现来自于针对一个复杂的、多峰地形的特定测试。当研究人员移除负责扫描单个维度的部分时，该问题的表现崩溃了，误差从一个极小的数值跳升至接近二十四。这表明，系统性检查不同方向的能力对于某些类型的困难问题至关重要。

然而，研究人员谨慎地表示，并不声称他们的工具是普遍的获胜者。研究明确指出，结果在很大程度上取决于该工具的具体构建方式以及所使用的特定测试问题。一些用于对比的基准问题被发现与官方版本存在细微差异，这意味着如果使用完全匹配的软件重新运行测试，排名可能会发生变化。此外，该工具并不总是优于所有其他方法；在某些特定问题上，其他工具的表现与之相当甚至略好。研究人员还发现，该工具在处理现实世界数据（如乳腺癌数据集）时的表现虽有前景但仍受限。它成功选择了极少量的特征——在三十个特征中仅选出约三个——同时在内部测试中保持了 95.05% 的高准确率。然而，由于测试使用的是用于构建模型的数据，因此这些结果被视为探索性的。它们表明该工具在受控环境下运作良好，但并未证明在面对新的、未见的患者或在临床环境中时也能完美运作，除非进行进一步的独立测试。

研究还观察了工具的不同部分是如何促成其成功的。通过关闭特定的组件，研究人员可以观察哪些部分是必不可少的。他们发现，移除坐标扫描能力在某些问题上会产生巨大影响，但在另一些问题上影响甚微。同样，移除最后一步的答案微调步骤，在某些任务上改变了结果，而在另一些任务上则不然。这说明该工具是多种策略协同工作的集合体，其成功源于这些策略结合与触发的特定方式，而非源于任何单一的“神奇”组件。研究人员强调，虽然该工具是一个极具前景的设计，但它需要经过经过验证的工具版本进行更严格的测试，以及独立的验证，才能声称其对于所有应用都具有优越性。

最终，这项工作为复杂问题的导航提供了一份详细的地图。它表明，通过结合基于时间的调度表与对搜索群体行为的实时反馈，可以创造出一个既具探索精神又具精确性的系统。该工具在广泛的数学挑战中表现强劲，并在选择医疗诊断关键数据点方面展现了潜力。但研究人员总结道，故事尚未结束。目前的证据足以表明该方法值得进一步研究，但还不足以宣布它是最终答案。未来的工作需要使用完美匹配的基准进行验证，并在从未见过的数据上测试该工具，以观察这些模式在现实世界中是否依然成立。目前，DASH-SI 是一个复杂且记录详实的尝试，旨在解决在迷雾缭绕、未知的景观中寻找最佳路径这一古老问题。

DASH-SI 技术摘要：一种多样性自适应随机混合群智能优化算法

问题陈述
本文针对有界约束黑盒优化问题，此类问题中缺乏解析导数，模型只能通过目标函数评估进行改进。虽然基于种群的方法（如 PSO、GWO、HHO）为非凸问题提供了灵活的策略，但其效能取决于在探索（exploration）、开发（exploitation）与局部精细化（local refinement）之间进行动态评估分配的能力。现有方法通常依赖固定的迭代调度，或者缺乏区分有效的局部收敛与过早停滞（premature stagnation）的明确机制。此外，集成局部搜索算子往往会增加计算成本和复杂度，却未必能保证带来收益。本研究旨在设计一种能够基于状态相关反馈（多样性和停滞性）显式协调随机探索与确定性精细化的混合优化器。

方法论：DASH-SI 算法
DASH-SI（多样性自适应随机混合群智能优化器）是一种结合了时间相关调度与反馈驱动控制的混合群智能算法。其核心组件包括：

状态相关控制： 算法利用随迭代次数凸性递减的时间相关能量调度（ $E_{1,t}$ ）。然而，该调度会被停滞反馈动态覆盖。如果相对停滞计数器超过阈值（25）且终端收缩成功率较低，则会提高能量规模以重新注入探索能量。
多样性与停滞指标：
- 多样性 ( $\delta_t$ )： 计算为种群的标准差归一化值。它用于门控特定算子（如终端收缩和局部扫描），防止这些算子在种群过于多样化或过于坍缩时被激活。
- 停滞计数器： 两个计数器用于追踪停滞情况：一个精确计数器（在任何现任最优解改进时重置）和一个相对计数器（在显著相对改进时重置）。它们用于触发逃逸机制和重启。
加权引导： DASH-SI 并非采用简单的精英选择，而是利用一组最佳个体位置构建加权吸引子 ( $\mathbf{A}_i$ )。权重由当前粒子到吸引子的距离以及相对于全局最优解的目标差距倒数决定，并经过归一化处理以防止被单个精英主导。
混合算子：
- 随机移动： 探索与开发分支利用了类似 WOA 的移动、莱维飞行（使用 Mantegna 型比例）、螺旋移动以及高斯扰动。
- 坐标抛光（Coordinate Polishing）： 该算子通过自适应高斯步长扰动现任最优解的坐标，并以 0.7 的概率使成功的位移翻倍。
- 扫描与逃逸： 基底跳跃（逃逸）由停滞触发，利用均匀采样或供体粒子。全局坐标扫描在停滞时对每维度的 9 个固定网格点进行评估。若全局扫描耗尽，则进行局部多尺度扫描。
- 终端收缩： 在运行后期（当 $r_t > 0.35$ 时）激活，此时多样性较低且停滞性较高，该算子对排名靠前的粒子应用收缩或螺旋移动。
- 最终数值精细化： 在主循环结束后，利用有限差分程序估计梯度和曲率，以执行向量步进和坐标牛顿扫掠，在没有解析导数的情况下寻求局部改进。
执行流程： 算法通过反对称采样进行初始化。粒子在每一代内顺序更新，从而允许立即使用改进后的现任最优解。辅助算子（抛光器、扫描、逃逸）根据状态信号有条件地激活，并保留了用于最终精细化的预算。

特征选择应用
研究将 DASH-SI 应用于基于包装器（wrapper-based）的特征选择任务。通过硬阈值（ $x_d \geq 0$ ）将连续搜索向量映射为二进制掩码。目标函数在分类准确率（使用带有分层交叉验证的 5-最近邻算法）与所选特征数量之间进行平衡。作者明确指出，报告的分数是受选择偏差影响的内部验证指标，并不构成独立的预测性能主张。

关键结果
评估涵盖了 23 个经典函数、四个 CEC 衍生基准测试族（CEC2017, CEC2014, CEC2020, CEC2022）以及四个特征选择数据集。

基准性能：
- 经典套件： DASH-SI 在 14 种实现中取得了最低平均排名（3.63）。基于 Nemenyi 检验，它显著优于 8 种算法（包括 PSO、GWO、SCA），尽管与 HHO、WOA 和 NRBO 的差异在统计上并不显著。
- CEC 衍生套件： 在 30、50 和 100 维下，DASH-SI 始终取得了顶尖的平均排名（分别为 2.03、1.72 和 1.55）。在 30 维时，它显著优于 9 个竞争对手，但在统计上与 NRBO 无法区分。
消融实验： 移除坐标扫描机制导致在 Schwefel 函数上的性能剧烈下降（平均目标值从 $3.82 \times 10^{-4}$ 增加到 23.69），突显了扫描机制在可分景观（separable landscapes）上的关键作用。其他消融实验（移除抛光、收缩或最终精细化）在单个函数上表现出中性或混合的影响。
特征选择： 在内部交叉验证准确率和目标值方面，DASH-SI 在九种实现中排名第三。在乳腺癌数据集上，它选择了平均 3.2 个特征，准确率为 95.05%，在准确率和特征紧凑性方面均优于 PSO。
计算成本： 在 30 维 CEC2017 套件中，由于其复杂的算子逻辑和多次评估检查，DASH-SI 的实际运行时间比其他实现的中位数高出约 16.2%。

主张与意义
论文将 DASH-SI 呈现为一种极具前景的混合设计，它有效地协调了计划内的随机搜索与反馈驱动的局部精细化。作者强调，本研究的主要贡献在于这些组件的具体协调方式（多样性门控、停滞触发的能量缩放以及混合局部搜索），而非发明这些单独的机制本身。

作者对其主张保持了谨慎且严谨的态度：

局限性： 他们明确指出，CEC2017 的结果是基于 Python 实现的，而这些实现与官方 C++ 参考版本存在差异，因此不能将这些结果视为确定的最先进技术（state-of-the-art）验证。
解释： 特征选择的结果被界定为对内部标准的“探索性优化”，承认反复优化交叉验证得分会引入选择偏差，且不能保证泛化能力。
未来要求： 论文总结道，在经过验证的参考实现、严格的评估计数（相等的实际调用次数）以及独立的预测性验证（嵌套交叉验证）完成之前，尚不能支持广泛的优越性或应用泛化性的主张。

综上所述，DASH-SI 展示了良好的平均性能，并在处理可分景观方面通过坐标扫描展现出特定优势，但作者将其定位为一个记录在案的混合设计，在做出更广泛的优越性主张之前，仍需进一步的严格验证。

类似论文