A Dynamic Subspace Approach for Low-rank Approximation of Large-scale Nonlinear Systems

技术摘要：用于大规模非线性系统低秩逼近的动态子空间方法

问题陈述
有效的低维逼近对于数据压缩、机器学习和模型降阶至关重要。然而，标准的静态方法（如本征正交分解 POD 和线性自编码器）依赖于固定的投影空间。这些静态表示无法充分捕捉瞬态、输运主导的现象，因为在这些现象中，物理模态或相干结构会随时间漂移。为了在此类场景中保持精度，静态线性方法通常需要显著增加逼近秩（维度），这一局限性被称为“科尔莫戈罗夫障碍”。虽然非线性方法可以克服这一表达能力限制，但它们往往牺牲可解释性或计算效率，并且依赖于无法适应演化状态的固定嵌入。

方法论
作者提出了一种动态子空间方法，将逼近基的演化建模为格拉斯曼流形（$G(r, N)$，即 $\mathbb{R}^N$ 中所有 $r$ 维线性子空间的集合）上的时间连续轨迹。

1. 几何公式化：
   该方法不使用固定基 $V$，而是采用参数化为测地线（子空间之间的最短路径）的时间变化基 $V(t)$。基的定义如下：
   $$V(\tau) = V_1 \cos(\tau \Theta) + V_2 \sin(\tau \Theta)$$
   其中 $V_1$ 和 $V_2$ 是标准正交矩阵，$\tau$ 是归一化时间，$\Theta$ 是代表旋转速率的主角对角矩阵。这种公式化将子空间的几何漂移与低维坐标的内在演化解耦，使得基能够适应瞬时物理过程，而无需增加秩 $r$。

2. 通过特征空间进行可扩展优化：
   直接在大规模系统的高维状态空间（维度 $N$）中进行优化在计算上是不可行的。为解决这一问题，作者引入了特征空间降阶：

   • 使用一组固定的 $n_f$ 个特征模态（通过 POD 从快照数据的前导奇异向量导出）来构建降阶基 $\tilde{V} \in \mathbb{R}^{N \times n_f}$。
   • 动态基被约束位于这些特征的张成空间内：$V(\tau) = \tilde{V} T(\tau)$，其中 $T(\tau)$ 是一个低维旋转矩阵。
   • 这将优化变量从高维空间（$N \times 2r$）转移到特征空间（$n_f \times 2r$），使得计算成本独立于原始状态维度 $N$。

3. 黎曼优化：
   学习问题被表述为最小化训练快照上的均方投影误差。优化在乘积流形 $\mathcal{M} = \text{St}(n_f, 2r) \times \mathbb{R}^r$ 上进行，其中 $\text{St}$ 表示标准正交矩阵的施蒂费尔流形。作者利用黎曼共轭梯度求解器（通过带有 JAX 后端的 Pymanopt 包）来严格强制执行正交约束并导航流形几何。实现采用向量化操作同时计算所有时间步的投影，消除了迭代时间循环的开销。

主要贡献

• 测地线参数化： 将降维重新框架化为微分几何任务，其中基沿格拉斯曼流形上的测地线演化，从而实现对非平稳动力学的自适应跟踪。
• 成本解耦： 一个可扩展的框架，通过在预计算的降阶特征空间中执行学习，将优化成本与高维状态空间 $N$ 解耦。
• 秩效率： 该方法在同等秩下比静态线性逼近实现更高的精度，有效地打破了输运主导现象的科尔莫戈罗夫障碍，而无需增加秩。
• 向量化实现： 一种完全向量化、无循环的优化策略，利用现代自动微分和并行处理能力。

结果
该框架在两个不同的问题上进行了评估：

1. 一维输运方程： 行波基准测试。与静态 POD 相比，动态子空间方法在相对误差方面表现出显著更快的收敛速度。在降阶维度 $r=20$ 时，动态方法达到了与秩为 $2r$ 的静态 POD 基相当的精度，验证了测地线视角的有效性。
2. 湍流翼型尾流（大涡模拟 LES）： 涉及复杂非平稳湍流的大规模、高保真数据集（$N \approx 6.6 \times 10^5$）。
   • 动态子空间方法在所有测试秩下均一致优于静态 POD。
   • 在 $r=200$ 时，动态方法在测试快照上实现了 2.4% 的相对误差，而 POD 为 4.0%。
   • 动态基捕捉到了细尺度的湍流结构并保持了时间连续性，而静态 POD 模态产生了更平滑、更扩散的结果。
   • 在标准 CPU 上，$r=80$ 的优化耗时约 25 秒，展示了其可扩展性。

意义与主张
本文声称，这种动态子空间方法为复杂非平稳系统的低秩建模提供了一种稳健且可扩展的替代方案，优于传统的流形学习。通过将基参数化为测地线，该方法允许逼近空间随高维状态演化，确保与瞬时物理过程同步。

作者强调，该方法：

• 缓解了科尔莫戈罗夫障碍，避免了静态方法在输运主导流动中通常所需的秩膨胀。
• 独立于控制方程，无需对底层物理进行显式参数化，这促进了其集成到现有的生产级模拟代码中。
• 提供了一个数学上严谨的框架，将计算重点从操作高维向量转移到优化时间系数和主角度上。

这项工作将这种方法定位为exascale 计算时代高保真数字孪生的可行赋能者，与 традиционные 方法相比，它提供了近乎最优的子空间对齐，同时显著降低了计算复杂度。未来的工作将侧重于将方法扩展到分段测地线以覆盖更长的时间范围，并将自适应基与现有的数据驱动模型降阶框架相结合。