Smooth globally PLI functions are nonlinear least-squares, and so are their gradient-dominated cousins

技术摘要：平滑全局 PŁ 函数是非线性最小二乘问题，其梯度占优的近亲亦然

问题陈述
本文旨在解决 Boumal, Criscitiello, 和 Rebjock (BCR) [1] 所开发的平滑优化结构理论中的一个局限性。BCR 证明了在紧致、完备黎曼流形上的平滑函数 $f$，若满足全局 Polyak–Łojasiewicz (PŁ) 不等式 $\|\nabla f(x)\|^2 \geq 2\mu(f(x) - f^*)$，则必然具有 $f = f^* + \|\phi\|^2$ 的形式，其中 $\phi$ 是一个平滑退化映射（submersion）。这意味着该函数是一个“非线性最小二乘”问题，其极小值集合 $S$ 是一个平滑且适度嵌入（properly embedded）的子流形。

然而，全局 PŁ 不等式在若干关键的控制和学习问题中并不成立，例如连续时间线性二次调节器（LQR）策略优化和逻辑回归。在这些案例中，梯度保持有界，而损失函数却会趋于无穷大，这违反了要求梯度下界 $\alpha(r)$ 必须无界（具体而言为 $\alpha(r) \sim \sqrt{r}$ 当 $r \to \infty$ 时）的规定。本文研究了 BCR 的深刻结构结论是否依赖于 PŁ 不等式的全局强度，还是仅仅取决于其在极小值附近的局部行为以及在水平集上的均匀性。

方法论
作者引入了一个放宽后的条件，称为 $s_{gl}$-PŁI（半全局 PŁ 不等式），该条件对应于满足正定性且在原点附近满足局部二次增长条件（条件 A）的 $\alpha$-梯度占优（$GD_\alpha$）情况。具体而言，本文用以下形式替换了 $\|\nabla f\| \geq \sqrt{2\mu h}$：
$$\|\nabla f(x)\| \geq \alpha(h(x))$$
其中 $\alpha$ 是正定的，且在靠近极小值集 $S$ 时满足 $\alpha(s)^2 \geq 2\mu s$。

研究方法分为两条并行路径：

1. 直接证明： 作者重新审视了 [1] 中的证明，以确定哪些步骤确实依赖于全局 PŁ 不等式。研究表明，结构性结果（$S$ 的流形结构、纤维丛结构的出现以及标准型）仅依赖于：

   • 局部行为 (J1)： 在 $S$ 附近 Łojasiewicz 指数为 $1/2$（确保 $S$ 是一个流形，且 Hessian 在法向方向上是非退化的）。
   • 均匀性 (J2)： 梯度在每个水平集 $h(x) = c > 0$ 上远离零点（确保轨迹不会逃逸到无穷远）。
     通过构造一个“去奇异化器” $\Psi(h) = \int_0^h ds/\alpha(s)$ 来限制轨迹长度并证明收敛性，从而取代了 [1] 中使用的二次增长估计。

2. 重参数化证明： 另一条更短的路径表明，对于任何满足放宽条件的函数，都可以构造一个伴随函数 $g = \theta(f - f^*)$，使其关于一个新的度量满足全局 PŁ 不等式。通过将 [1] 的定理应用于 $g$ 并将结果转置回 $f$，可以得到相同的结构结论。

核心贡献与结果

• 结构定理的泛化： 本文证明了在 $s_{gl}$-PŁI 条件下（等价于 $f$ 为满足条件 A 的 $\alpha$-梯度占优函数），[1] 中的所有结构结论均成立。

  • 流形结构： 极小值集 $S$ 是一个平滑、适度嵌入的子流形。
  • 标准型： 若定义域 $M$ 是紧致的，则 $f$ 全局微分同胚于平方和：$f(x) = f^* + \|\phi(x)\|^2$，其中 $\phi: M \to \mathbb{R}^k$ 是一个平滑退化映射。
  • 纤维丛结构： 梯度流的终点映射是一个关于 $S$ 的平滑纤维丛，其纤维与 $\mathbb{R}^k$ 微分同构。
  • 隐性凸性： 在紧致流形上，存在一个（依赖于 $f$ 的）完备黎曼度量，使得 $f$ 关于该度量是测地凸且全局 1-PŁ 的。

• 锐度与必要性： 本文提供了基础的反例，以说明这两个假设组件是不可或缺的：

  • 若舍弃局部二次增长（条件 A），则会出现退化极小值，导致 $S$ 不是流形（例如 $f(x,y)=x^2y^2$）。
  • 若舍弃水平集上的梯度一致正性（允许 $\alpha \to 0$ 在无穷远处），则可能导致轨迹长度无穷或无法收敛至极小值，即使函数是凸的（invex）。

• 定量损失： 本文明确指出了放宽假设所带来的“损失”：即全局二次增长估计（$h(x) \geq c \cdot \text{dist}(x, S)^2$）。在 $s_{gl}$-PŁI 下，这种增长仅在 $S$ 附近得到保证。在全球范围内，增长可以是亚二次的（例如线性的或对数的），且梯度流的收敛速率不再是全局指数级的。

• 鲁棒性与结构的横截性（Transversality）： 一个重要的概念性贡献是展示了“结构”（标准型）与“鲁棒性”（输入到状态稳定性，ISS）是由比较函数 $\alpha$ 的两个相反端控制的：

  • 结构取决于 $\alpha$ 在原点附近的表现（条件 A）。
  • 鲁棒性（ISS/NSS）取决于 $\alpha$ 在无穷远处的表现（例如 $\alpha \in \mathcal{K}_\infty$）。
    本文表明，这些性质在逻辑上是独立的；一个函数可以拥有完美的非线性最小二乘结构，但却可能缺乏鲁棒性（如果 $\alpha$ 在无穷远处趋于 0）；或者具有鲁棒性，但缺乏极小值（如果 $\alpha$ 在无穷远处很大但在原点附近失效）。

具体问题的应用
本文将这些结果应用于两个全局 PŁ 失效的动机问题：

1. 连续时间 LQR： 本文确认了 LQR 损失满足 $s_{gl}$-PŁI（以及更强的 $sat$-PŁI）。因此，稳定增益集$D$与$\mathbb{R}^{mn}$微分同构，且损失函数具有全局标准型$L = L^* + |\phi(k)|^2$。这解决了无需依赖全局 PŁ 不等式即可确定稳定集形状的拓扑问题。
2. 逻辑回归： 对于非线性可分的数据，交叉熵损失满足 $s_{gl}$-PŁI。本文得出结论，其损失景观全局微分同构于标准抛物面，这强化了其损失景观不存在“隐藏”拓扑障碍的结论，尽管其梯度在无穷远处会饱和。

意义与主张
本文声称 [1] 中的全局 PŁ 不等式比其证明所需的条件“更强”。非线性最小二乘函数的结构理论对于梯度的全局大小是鲁棒的，只要梯度在水平集上不为零，且在极小值附近表现为二次增长。

作者对其泛化范围保持谦逊：

• 这种泛化在精确的几何意义上是“显而易见”的：根据定理 4.8，此类中的任何函数都关于某个（依赖于函数的）完备度量成为全局 PŁ。因此，可实现的极小值集类别（几何）保持不变；改变的只是在固定度量下可表示的函数类。
• 本文并未声称改进了收敛速率或鲁棒性保证；这些仍属于比较函数层级（如 $sat$-PŁI,$K$-PŁ）的研究领域，如 [13, 4, 5] 所建立。
• 主要贡献在于澄清了 [1] 中结构定理的逻辑依赖关系，并将其实际应用范围扩展到了此前因严格的全局 PŁ 要求而被排除在外的关键控制和学习问题中。