Local Maxima of the Entrywise $\ell_4$ Norm on the Orthogonal Group

技术摘要：正交群上 entrywise $\ell_4$ 范数的局部极大值

问题表述
本文研究了定义在实正交群 $O(r)$ 上的 entrywise 四次方目标函数的优化景观。该目标函数由下式给出：
$$f_r(Q) = \|Q\|_4^4 = \sum_{i,j=1}^r q_{ij}^4, \quad Q \in O(r).$$
与 Frobenius 范数的平方不同，后者在 $O(r)$ 上是常数，而该目标函数则奖励质量在单个条目中的集中。本研究的任务是分类该函数的所有局部极大值点，并确定其他驻点（stationary points）的性质。正交群是紧致但非凸的，其几何结构与谱目标（spectral objectives）截然不同。

方法论
证明采用了严谨的黎曼几何框架，利用切空间结构 $T_Q O(r) = \{Q\Omega : \Omega^\top = -\Omega\}$。该方法通过以下步骤进行：

1. 一阶分析： 通过沿可行曲线 $Q(t) = Qe^{t\Omega}$ 对目标函数求导来推导驻点条件。当且仅当矩阵 $A = Q^\top (Q^{\circ 3})$ 为对称矩阵时，$Q$ 是驻点（其中 $Q^{\circ 3}$ 表示逐元素立方）。
2. 二阶分析： 本文推导了驻点处精确的二阶变分（Hessian）公式。对于反对称方向 $\Omega$，二阶导数为：
   $$f_r''(0) = 4 H_Q(\Omega) = 4 \left( 3 \sum_{k,l} q_{kl}^2 (Q\Omega)_{kl}^2 - \text{tr}(A \Omega^\top \Omega) \right).$$
3. 最大条目枢轴（Maximum-Entry Pivot）： 证明的核心在于为任何非符号置换矩阵（signed permutation）构造一个显式的“逃逸”方向。这一构造依赖于 orthostochastic 矩阵 $M = Q^{\circ 2}$（其中 $M_{ij} = q_{ij}^2$）。
   • 作者选取 $M$ 中的一个最大条目 $m = M_{ij}$。
   • 若 $m < 1$，则利用行向量 $x = Q^\top e_i$ 和由 $e_j$ 导出的向量 $v$ 构造一个特定的秩为二的反对称矩阵 $\Omega$。
   • 证明使用涉及矩阵 $C = MM^\top M$ 的代数恒等式来精确计算 Hessian $H_Q(\Omega)$。
4. 分类讨论： 通过根据最大条目 $m$ 大于还是小于 $1/3$ 来分解 Hessian 的分子，从而证明二阶变分的正定性。在两种情况下，残差项均被证明是严格正的。
5. 处理退化情况： 论证是自洽的，并明确处理了边缘情况，包括零条目、重复的数量级、可约支撑（分块对角结构）以及 Hadamard 型驻点。大小为 1 的条目通过“剥离”出符号单元素块（signed singleton blocks）来处理，从而将问题简化为规模更小的正交群。

主要贡献与结果
本文确立了以下决定性结果：

• 局部极大值的分类： 对于每个维度 $r \ge 1$，符号置换矩阵是 $f_r(Q)$ 在 $O(r)$ 上的唯一局部极大值点。
• 全局最优性： 目标函数的最大值为 $r$，恰好在符号置换矩阵处达到。
• 严格鞍点性质： 每一个不是符号置换矩阵的驻点都拥有一个显式的、可行的秩为二的方向，该方向具有严格正的二阶变分。因此，这些点不是局部极大值点；它们是严格鞍点（在极大化语境下，意味着它们具有严格上升方向）。
• 显式逃逸方向： 本文提供了一种构造方法，为任何非置换型驻点生成产生正曲率方向的反对称矩阵 $\Omega$。

意义与范围
本文声称提供了一个针对该特定四次方目标的完整且直接的局部极大性景观分类，且无需依赖：

• 对所有驻向正交矩阵的预先分类。
• 对 Birkhoff 多胞形（Birkhoff polytope）的松弛。
• 泛型假设（证明显式处理了零、重复数量级和奇异性）。

该结果与“近 Hadamard”（almost-Hadamard）计划形成对比，在其他范数（如 $\ell_1$）中，Hadamard 配置通常表现为局部极值。在此，归一化的 Hadamard 矩阵被明确证明是具有正曲率方向的鞍点。该证明以其自洽性著称，避免了使用黑箱定理或数值搜索，并利用精确的黎曼 Hessian 证明了在符号置换集之外不存在“隐藏”的局部极大值。