技术摘要：隐式定义潜流形上的测地线微积分

问题陈述

在机器学习中，自动编码器基于流形假设提供高维数据（如图像、形状）的低维潜在表示。然而，这些潜在空间通常缺乏显式的几何结构，使得进行严谨的几何操作（如插值、外推或测地线计算）变得困难。虽然形状分析广泛使用黎曼流形来建模形状集合（例如通过 LDDMM），但将这些工具应用于自动编码器潜在空间仍具有挑战性，原因在于：

1. 缺乏显式参数化： 潜在流形在环境潜在空间中可能具有非零余维，这使得全局参数化变得困难甚至不可能，由于存在拓扑障碍。
2. 不完美的表示： 实际的隐式表示（从数据中学习到的）通常是不准确或“不完美”的，导致标准数值方法失效或产生偏离真实数据支撑集的路径。
3. 度量依赖性： 现有方法通常将测地线计算限制在特定的自动编码器架构或特定的度量选择（如欧几里得度量）上，无法纳入应用相关的度量（例如来自数据流形的拉回度量）。

核心挑战在于如何为潜在流形配备一种可用的几何结构，以便计算符合潜在样本分布的测地线路径（插值与外推），即使在流形表示不完美的情况下也是如此。

方法论

所提出的框架通过三个主要部分来解决这些挑战：隐式流形的表示、离散变分测地线微积分，以及投影算子的学习策略。

1. 通过学习投影进行隐式表示

作者并没有学习全局参数化，而是将潜在流形 $Z \subset \mathbb{R}^l$ 描述为一个由函数 $\zeta$ 定义的零水平集隐式子流形。

• 定义： $\zeta(z) = z - \Pi(z)$，其中 $\Pi: \mathbb{R}^l \to \mathbb{R}^l$ 是一个将任何潜在空间中的点映射到流形 $Z$ 上最近点的投影映射。
• 学习策略： 由于真实的投影 $\Pi$ 是未知的，作者提出通过最小化去噪目标来学习近似投影 $\Pi_\sigma$。该目标受去噪自动编码器（Alain & Bengio, 2014）启发，将潜在样本视为点云，并学习 $\Pi_\sigma$ 以最小化噪声样本与其投影之间的期望平方距离。
  • 损失泛函为 $Q(\Pi) = \int \int |z - \Pi(y)|^2 f_\sigma(z-y) \, dz \, dy$，其中 $f_\sigma$ 是高斯核。
  • 这种方法独立于底层自动编码器架构，并支持任意余维数。

2. 离散变分测地线微积分

为了在这些潜在可能不完美的隐式流形上计算测地线，作者采用了时间离散的变分方法（基于 Rumpf & Wirth, 2015）。

• 离散路径能量： 连续路径 $z(t)$ 被近似为一个离散序列 $z = (z_0, \dots, z_K)$。路径能量被近似为局部距离近似 $W(z_{k-1}, z_k)$ 之和：
  $$E_K(z_0, \dots, z_K) = \sum_{k=1}^K W(z_{k-1}, z_k)$$
• 度量灵活性： 该框架通过选择 $W$ 来支持不同的黎曼度量：
  • 欧几里得度量： $W_E(z, \tilde{z}) = |\tilde{z} - z|^2$（继承自环境空间）。
  • 拉回度量： $W_{PB}(z, \tilde{z}) = |\psi(z) - \psi(\tilde{z})|^2$（数据空间中的距离）。
  • 一般黎曼度量： $W_M(z, \tilde{z}) = \text{dist}_M^2(\psi(z), \psi(\tilde{z}))$（使用数据流形的内在度量）。
• 优化： 通过最小化 $E_K$ 来寻找测地线，同时满足约束条件 $\zeta(z_k) = 0$ 对于所有 $k$ 成立。作者使用增广拉格朗日法来求解这个约束优化问题。该方法对“不完美”约束（即 $\zeta_\sigma$ 不完全为零的情况）具有鲁棒性，因为它通过惩罚对流形的偏差并迭代更新拉格朗日乘子来工作。

3. 离散指数映射

对于测地线外推（射击法），作者定义了一个离散指数映射 $\text{Exp}_K$。给定初始点 $z_0$ 和离散速度（由 $z_1$ 定义），该方法通过迭代最小化一个泛函 $F$，以强制执行离散测地线方程的鞍点条件和流形约束。这使得生成超出给定端点的测地线路径成为可能。

核心贡献

1. 针对不完美流形的离散时间测地线微积分： 本文引入了一个用于在不完美的隐式潜在流形上计算测地线的数值框架。该方法对隐式函数 $\zeta_\sigma$ 的不准确性具有鲁棒性。
2. 基于去噪的投影学习： 一种通过最小化去噪目标来学习未知余维数潜在流形的近似投影的新方法，该方法独立于所使用的特定自动编码器。
3. 灵活的度量集成： 该框架允许在无需显式参数化流形的情况下，直接在测地线计算中纳入应用相关的黎曼度量（如拉回度量）。
4. 经验验证： 该方法在多种自动编码器（等距、球面 VAE、低弯曲）以及合成与真实数据（离散壳体、动作捕捉、图像旋转）上进行了评估，证明了其在进行现实插值与外推方面优于线性插值。

结果

作者在四种不同场景下评估了该方法：

• 离散壳体（等距自动编码器）： 在 SCAPE 人体姿态数据集上，在学习到的潜在流形上进行测地线插值，成功避免了在潜在空间进行线性插值时会出现的自相交问题。
• 动作捕捉（球面 VAE）： 使用针对 CMU 动作数据的球面 VAE，该方法使用拉回球面度量计算测地线。生成的解码姿态非常真实，而线性插值则会产生不自然的关节收缩和肢体自相交。
• 图像数据（低弯曲/畸变）： 在旋转 3D 物体的数据集上，该方法在 16 维潜在空间中进行测地线插值和外推，生成了解码图像的平滑过渡。
• Pose-NDF（距离函数）： 该方法被扩展到使用神经距离场（Pose-NDF）作为隐式表示，成功地在合理人体姿态的流形上计算测地线，而在这种情况下线性插值会失效。

在所有案例中，计算出的测地线都遵循数据流形的几何结构，避开了线性插值所经过的“空区域”。离散指数映射成功生成了遵循流形曲率的外推路径。

意义与主张

本文声称提供了一个实用且鲁棒的工具，用于在潜在流形上执行几何操作，弥合了黎曼几何的理论丰富性与学习到的潜在表示的实际局限性之间的鸿沟。

• 鲁棒性： 该方法的主要意义在于其能够在“不完美”的隐式表示下运行，这是实际机器学习应用中的常见现实，因为精确的流形描述往往是不可得的。
• 通用性： 通过将几何微积分与特定的自动编码器架构解耦，并允许任意度量，该框架为形状空间和生成建模提供了新的降阶方法。
• 未来方向： 作者谦虚地建议，未来的工作可以将基于投影的表示与基于距离的表示联系起来，将微积分扩展到潜在分布（如 VAE 中），并利用离散平行移动进行细节迁移。他们也承认了在极高维度下的可扩展性问题，以及缺乏结合学习误差与离散化误差的完整数学误差分析。

这项工作旨在通过实现尊重底层数据几何的测地线插值与外推，为利用机器学习中的潜在表示开辟新的途径。