技术摘要：基于共识的粒子方法在非凸双层优化中的收敛性

问题设定

本文探讨了非凸双层优化的挑战，其形式化表述为：
$$\theta^\star \in \arg \min_{\theta \in \Theta} G(\theta), \quad \text{其中} \quad \Theta := \arg \min_{\theta \in \mathbb{R}^d} L(\theta)$$
此处，$L$（下层）和 $G$（上层）均为非凸目标函数。可行集 $\Theta$ 是下层问题的解集，通常仅隐式定义。当 $L$ 为非凸时，$\Theta$ 可能非凸、不连通或具有复杂几何结构，使得直接投影或参数化变得困难。此外，上层目标函数 $G$ 也可能非凸。

现有的基于梯度的方法通常依赖于强结构假设，例如 $L$ 的强凸性（确保解的唯一性）或 Polyak–Łojasiewicz (PL) 条件，以简化 $\Theta$ 的几何结构。这些假设排除了许多涉及过参数化或非平滑景观的现代机器学习场景。虽然无导数共识优化（CBO）为非凸景观中的全局优化提供了有前景的替代方案，但此前针对双层问题（特别是 Trillos 等人 [2024] 提出的 CB2O 方法）的应用使用了基于硬分位数的共识映射。该映射是不连续的，阻碍了标准 Lipschitz 型混沌传播论证的应用，并将理论收敛保证限制在平均场机制范围内。

方法论：软共识双层优化 (SCB2O)

作者提出了SCB2O，这是一种无导数粒子方法，用软分位数共识机制替代了 CB2O 中的硬阈值处理。

1. 软分位数选择

SCB2O 不再基于下层目标函数值的硬截断来选择离散粒子子集，而是为粒子分布 $\rho$ 定义了一个软 $\beta$-分位数 $q_{\beta, \tau}^\rho$，其作为以下方程的唯一解：
$$\int_{\mathbb{R}^d} \psi\left(\frac{q - L(\theta)}{\tau}\right) d\rho(\theta) = \beta$$
其中 $\psi: \mathbb{R} \to (0, 1)$ 是平滑、严格递增的选择函数（例如 Sigmoid 函数），$\tau > 0$ 是局部化参数。当 $\tau \to 0$ 时，这种软选择收敛于 CB2O 中使用的硬分位数。

2. 共识点构建

共识点 $m_{\alpha, \beta, \tau}^{G,L}(\rho)$ 通过对经软分位数选择加权的测度应用 Gibbs 型（Laplace）加权来计算：
$$m_{\alpha, \beta, \tau}^{G,L}(\rho) = \frac{\int_{\mathbb{R}^d} \theta e^{-\alpha G(\theta)} dJ_{\beta, \tau}^L[\rho](\theta)}{\int_{\mathbb{R}^d} e^{-\alpha G(\theta)} dJ_{\beta, \tau}^L[\rho](\theta)}$$
其中 $J_{\beta, \tau}^L[\rho](d\theta) = \eta_{\rho, \tau}(\theta) d\rho(\theta)$ 且 $\eta_{\rho, \tau}(\theta) = \psi\left(\frac{q_{\beta, \tau}^\rho - L(\theta)}{\tau}\right)$。这一两阶段过程首先通过软分位数识别靠近下层解集的粒子，然后根据上层目标函数（通过 Gibbs 加权）选择有利的候选者。

3. 动力学

该方法演化由 $N$ 个相互作用粒子 $\{\Theta_t^{i,N}\}_{i=1}^N$ 组成的系统，受随机微分方程 (SDE) 支配：
$$d\Theta_t^{i,N} = -\lambda \left( \Theta_t^{i,N} - m_{\alpha, \beta, \tau}^{G,L}(\rho_t^{N}) \right) dt + \sigma D\left( \Theta_t^{i,N} - m_{\alpha, \beta, \tau}^{G,L}(\rho_t^{N}) \right) dW_t^i$$
其中 $\rho_t^N$ 是粒子的经验测度。软共识映射的平滑性使得能够分析平均场极限和有限粒子系统。

主要贡献

1. 新颖算法 (SCB2O)： 本文提出了一种用于非凸双层优化的基于共识的粒子方法，该方法不要求下层解集 $\Theta$ 为凸集，也不要求 $L$ 或 $G$ 满足 PL 条件。它依赖软分位数机制来处理隐式可行集。
2. 有限粒子收敛分析： 主要的理论贡献是建立了有限粒子系统的高概率收敛保证。与硬阈值 CB2O 不同，软共识映射的平滑性使得能够推导出：
   • 平均场收敛： 平均场定律以显式指数速率到达目标解的任意指定 Wasserstein 邻域。
   • 有限粒子近似： 建立了局部高概率界，表明粒子估计量收敛于平均场解。这是通过结合矩依赖的共识界、截断事件混沌传播估计以及有限样本集中性来实现的。
3. 理论条件： 分析依赖于温和的假设，包括：
   • 下层目标函数的 Hölder 误差界（将目标函数值间隙与到解集的距离联系起来）。
   • 上层目标函数在下层最小值附近的逆连续性条件。
   • 目标函数的有界性（证明的充分但非必要条件）。

实验结果

作者通过在两种设置下的数值实验验证了理论发现：

1. 2D 约束问题： 该方法在圆形和星形约束上进行了测试。
   • 性能： 具有足够大 $\xi$（与 $\tau$ 和 $\alpha$ 相关的参数）的 SCB2O 实现了与硬阈值 CB2O 相当的约束满足度和共识距离。
   • 权衡： 较小的 $\xi$ 值允许上层目标函数更快初始下降，但代价是约束遵守较松；而较大的 $\xi$ 值则执行更严格的约束满足和更快的粒子坍缩。
2. MNIST 神经网络训练： 该方法被应用于训练带有偏置参数的 CNN。
   • 稳定性： 具有 $\xi \ge 100$ 的 SCB2O 在不同分位数参数（$\beta$）下与 CB2O 保持竞争力，表现出稳定的训练损失和测试准确率。
   • 敏感性： 较小的 $\xi$ 值（例如 1 或 5）通过允许表现不佳的粒子影响共识而降低性能，证实了软参数与硬极限之间的理论联系。

意义与主张

本文声称填补了基于共识的双层优化理论分析中的关键空白。虽然像 CB2O 这样的先前方法展示了强大的经验性能，但其不连续的共识映射阻碍了严格的有限粒子收敛分析。通过引入平滑共识规则，作者：

• 使得能够使用标准的基于 Lipschitz 的混沌传播和数值稳定性论证。
• 提供了非凸双层设置下有限粒子系统的第一个定量收敛保证，且无需凸性假设。
• 证明了平滑近似（SCB2O）在平滑参数消失时恢复了硬阈值方法（CB2O）的性能，同时提供了一个理论上易于处理的框架。

作者对其范围保持谦逊，指出目标函数的有界性假设是充分的但非必要的，未来的工作可以将这些结果扩展到参数化下层解集和更广泛的过参数化模型类别。