Local-Order Auxiliary Losses Can Improve Autoencoder Reconstruction

技术摘要：局部顺序辅助损失可提升自动编码器重构性能

问题陈述
在设计用于重构数值数组（张量）的自动编码器中，标准的训练目标是最小化均方误差（MSE）。虽然 MSE 能保证逐点精度，但压缩重构往往依赖于保留局部空间顺序（例如山脊、波谷和锋面的相对排列）。传统观点认为存在一种权衡：优化结构指标（如结构相似性或梯度保真度）通常会损害逐点 MSE。本文探讨了这种权衡是否必要。具体而言，本文研究结构辅助损失是否能在有限容量的自动编码器中提升验证集 MSE，而不仅仅是以牺牲逐点精度为代价来改善感知指标。

方法论
作者引入了有限差分符号误差（FDSE），这是一种局部顺序辅助目标，旨在惩罚目标与重构之间相邻有限差分符号的不一致。

• 定义：对于秩为 $d$ 的张量 $X$，FDSE 沿每个轴计算前向差分。它使用平滑、奇函数、单调且饱和的函数 $\phi_s$（例如缩放后的反正切函数或双曲正切函数）的平滑可微近似来替代精确的符号比较。损失定义为：
  $$\text{FDSE}_{\phi,s}(X, \hat{X}) = \sum_{i=1}^d \| \phi_s(\delta_i(X)) - \phi_s(\delta_i(\hat{X})) \|_1$$
  其中 $\delta_i$ 表示沿轴 $i$ 的前向差分。
• 训练目标：模型使用 MSE 和 FDSE 的凸组合进行训练：
  $$\mathcal{L}_{\text{train}}(\theta) = \lambda \text{MSE}(X, A_\theta(X)) + \mu \text{FDSE}_{\phi,s}(X, A_\theta(X))$$
  其中 $\lambda > 0$ 且 $\mu \ge 0$。
• 原理：FDSE 对正仿射变换（偏移和缩放）具有不变性，这意味着它无法单独控制幅度或偏移；因此，它必须与 MSE 配对使用。作者认为，在容量受限的设置中，局部顺序误差（例如翻转有限差分的符号）通常意味着特征发生了位移或扁平化，这本质上会增加逐点误差。通过修正局部顺序，模型可能会无意中降低逐点 MSE。
• 实验设置：本研究评估了四项重构任务：浅水状态、ERA5 位涡块、PDEBench 径向溃坝标量场以及 CIFAR-10 图像。使用了四种不同的自动编码器架构（CRA5、NDAE、MBT 风格的 ND 编解码器以及因子化先验图像自动编码器）。作者将仅使用 MSE 的训练与 MSE 和 FDSE 的混合以及七种其他标准辅助目标（L1、梯度幅值、SSIM、拉普拉斯残差、全变分以及谱幅值）的混合进行了比较。

主要贡献

1. 耦合提升：本文证明，在压缩潜空间重构中，结构辅助损失可以同时改善非逐点结构指标和验证集 MSE，挑战了这些目标必须相互权衡的假设。
2. FDSE 目标：引入了 FDSE 作为一种轻量级、架构无关、可微的局部顺序监督方法，它惩罚相邻有限差分中的符号不匹配，而无需精确匹配导数幅值。
3. 实证证据：在四个不同的任务和自动编码器配对中，MSE 和 FDSE 的适度混合始终比纯 MSE 训练实现了更低的验证集 MSE。
4. 诊断分析：作者采用“投影匹配”控制来排除改进仅仅是隐式步长效应（即辅助损失仅仅重新缩放 MSE 梯度）的假设。他们表明，FDSE 带来的增益包含了一个方向上独特的更新分量，即使是调整了学习率的纯 MSE 训练也无法复制。

结果

• MSE 降低：在针对四项任务的系数扫描中，适度的 MSE:FDSE 混合将验证集 MSE 降低了 2.3 倍至 7.0 倍，优于纯 MSE 训练。
  • 示例：在 CIFAR-10 上，验证集 MSE 从 $\approx 3.0 \times 10^{-3}$（纯 MSE）降至 $\approx 4.3 \times 10^{-4}$（0.8:0.2 混合）。
  • 示例：在 ERA5 位涡块上，MSE 从 $4.60 \times 10^{-4}$ 降至 $1.02 \times 10^{-4}$（4.5 倍降低），使用了 0.6:0.4 的混合比例。
• 结构指标：MSE 的改善通常伴随着对拓扑敏感的诊断指标（PERSD、MERGD、CORRD）和 SSIM 的改善。
• 与其他辅助目标的比较：虽然其他辅助目标（如 L1 或 SSIM）有时能改善特定指标，但 FDSE 经常是测试中最强的结构目标之一。值得注意的是，纯 FDSE 表现不佳，证实了 MSE 项在锚定幅度和偏移方面的必要性。
• 适用性：在具有连贯空间场的任务（ERA5、浅水、PDEBench）中，增益最为显著，因为这些任务中局部顺序携带了大量信息。该方法对于以纹理为主的信号或堆叠无关物理量的轴效果较差。

意义与主张
本文主张，适当加权的局部结构监督可以引导优化在压缩潜空间重构中走向具有更好逐点精度的解，而不是仅仅以牺牲 MSE 为代价来改善感知指标。作者强调，这并非普遍规则；该效应取决于目标场在解析尺度上具有连贯的局部变化，且训练目标是在值保真度项下的固定目标重构。

这项工作表明，在这些特定设置中，结构诊断与 MSE 之间的传统权衡往往是颠倒的。通过将混合权重视为经验证选择的超参数，而不是提出复杂的动态平衡规则，作者表明 MSE 和 FDSE 的简单适度混合可以为科学和分析张量产生更优越的重构，从而可能改善下游的可视化和分析。然而，他们警告说，在适用条件之外使用 FDSE（例如在纹理主导的数据上）可能会保留错误的局部结构并扭曲与应用相关的特征。