🤖 machine learning

MAdam: Metric-Aware Multi-Objective Adam

本文介绍了 MAdam，这是一种即插即用的封装器，它通过利用偏好条件的曲率对协调后的方向进行预处理，解决了多目标求解器与 Adam 优化器之间存在的系统性权重和几何失配问题，从而在多种机器学习任务中一致地提升了性能。

原作者： Fengbei Liu, Rachit Saluja, Sunwoo Kwak, Ruibo Wang, Ruining Deng, Heejong Kim, Johannes C. Paetzold, Mert R. Sabuncu

发布于 2026-06-03

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Fengbei Liu, Rachit Saluja, Sunwoo Kwak, Ruibo Wang, Ruining Deng, Heejong Kim, Johannes C. Paetzold, Mert R. Sabuncu

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正试图教一个机器人同时做三件事：开车、唱歌和解数学题。这是一个**多目标优化（Multi-Objective Optimization）**问题。你希望机器人能同时在三方面都变得更好，但通常情况下，提高数学能力往往会削弱唱歌的能力。

为了解决这个问题，研究人员使用一位“教练”（MOO 求解器）来确定完美的指令组合，以及一个“引擎”（优化器，通常称为 Adam）来实际驱动机器人的齿轮。

论文指出，多年来，我们一直在将最好的“教练”与错误的“引擎”搭配使用。这个引擎（Adam）有一个隐藏的习惯，会破坏教练精心计算出的指令。作者引入了一个名为 MAdam 的“适配器”来修复这个问题。

以下是该问题与解决方案的拆解，使用了简单的类比：

问题所在：“困惑的引擎”

作者发现，标准的引擎（Adam）有两个特定的习惯会让教练的指令产生困惑：

1. “健忘的记忆”（权重失配）

场景： 教练告诉引擎：“今天，把 80% 的精力放在唱歌上，20% 放在数学上。”明天，教练说：“现在，把 20% 的精力放在唱歌上，80% 放在数学上。”
故障： 引擎拥有一种会将它听过的所有指令进行平均的记忆。当教练改变计划时，引擎并不会立即执行新计划。相反，它会将新计划与它记忆中的所有旧计划混合在一起。这就像是你试图开车，但你的 GPS 还在试图把你导航到昨天的目的地。
结果： 机器人的动作变得迟缓，卡在两个不同目标的中间状态，而不是迅速切换到新的优先级。

2. “扭曲的透镜”（几何失配）

场景： 教练在地图上画了一条直线说：“向北走以提高唱歌水平。”
故障： 引擎通过一面哈哈镜来看这张地图。由于它计算速度的方式不同，“北”在引擎看来可能变成了“东北”。它认为机器人正在朝着有助于唱歌的方向移动，但实际上却在无意中损害了数学能力。
结果： 机器人移动的方向在引擎看来是正确的，但根据教练最初的计划，实际却是错误的。它在原本并不冲突的任务之间制造了虚假的冲突。

解决方案：MAdam（“智能适配器”）

作者创造了 MAdam。请不要把 MAdam 看作是一个新的教练或一个新的引擎，而是一个位于两者之间的专门适配器。

工作原理： 在教练的指令到达引擎之前，MAdam 会对其进行“预处理”。它充当了引擎的一副纠正眼镜。
神奇之处： MAdam 计算出引擎的记忆和扭曲的透镜会如何搞砸事情，并预先调整指令以抵消这些误差。
- 它告诉引擎：“忽略你的旧记忆；只看当前的优先级。”
- 它告诉引擎：“忽略你的哈哈镜；按照地图真实的样貌来看。”
结果： 当引擎最终移动机器人时，它会完全按照教练的意图进行移动，能够立即适应新的优先级，而不会被自己的历史记录或扭曲的视角所困扰。

为什么这很重要（实验结果）

论文在四个不同的“训练营”中测试了这个适配器：

多任务学习（Multi-Task Learning）： 同时教模型做很多事情（例如识别面部和估计年龄）。
帕累托前沿恢复（Pareto Front Recovery）： 寻找一种完美的平衡点，即在不损害另一项任务的情况下无法改进某项任务。
物理信息神经网络（PINNs）： 教导 AI 解决复杂的物理方程（如流体力学）。
医学影像： 提高 AI 观察皮肤病变或重建大脑扫描图像的能力。

结果： 在每一个训练营中，添加 MAdam 适配器都让现有的教练表现得更好。它不仅仅是小幅提升，而是持续地改善了结果，使机器人学习得更快、更准确。

核心结论

论文声称，长期以来，我们一直将一个强大但略显“笨拙”的引擎（Adam）与聪明的教练搭配使用，导致了不匹配。MAdam 是一个简单的、即插即用的工具，它修复了引擎的视觉和记忆，使教练的指令能够被完美执行。它适用于任何现有的教练策略，无需从头开始重建教练或引擎，就能让整个系统变得更聪明。

技术摘要：MAdam：度量感知型多目标 Adam (Metric-Aware Multi-Objective Adam)

1. 问题陈述

多目标优化 (MOO) 是许多机器学习任务（包括多任务学习 (MTL)、物理信息神经网络 (PINNs) 和医学图像处理）的基础。尽管存在多种不同类型的 MOO 求解器——分为损失平衡、梯度平衡和帕累托 (Pareto) 系列——但它们几乎无一例外地将更新步骤的执行委托给了 Adam 优化器。

作者指出，这些 MOO 求解器的意图与 Adam 的执行之间存在系统性的脱节，导致了两种特定的不匹配：

权重不匹配 (Weighting Mismatch)： 在偏好向量 $\lambda(t)$ 随时间变化的算法中（例如损失平衡或帕累托前沿扫描），Adam 的二阶矩指数移动平均 (EMA) 将随时间变化的偏好与梯度统计量纠缠在一起。Adam 并没有将当前的偏好 $\lambda(t)$ 应用于梯度统计量，而是将偏好吸收进了一个历史平均量中。这使得预期的偏好策略被边缘化，导致不同的帕累托权衡坍缩为一种近乎均匀的混合，并导致优化器在偏好切换时产生滞后。
几何不匹配 (Geometric Mismatch)： MOO 求解器在构建协调下降方向（例如通过线性标量化）时，通常假设使用原始的欧几里得几何。然而，Adam 会隐式地在其每一次更新中施加其自身的自适应对角度量（源自二阶矩分母）。这种度量扭曲了求解器所假设的欧几里得几何，可能将原本一致的目标变为表观上的冲突，反之亦然，从而改变了实际实现的每个目标的损失变化。

2. 方法论：MAdam

为了在不修改底层 MOO 求解器或 Adam 优化器的情况下解决这些问题，作者提出了 MAdam (Metric-Aware Multi-Objective Adam)，这是一个用于预处理求解器输出的“即插即用”包装器。

理论基础

作者推导出了 MOO 更新的正确曲率。他们认为，合适的度量应该是当前活跃偏好 $\lambda(t)$ 下标量化目标的偏好条件对角 Fisher 信息矩阵。

令 $g_i$ 为第 $i$ 个目标的梯度。
标量化梯度为 $g_\lambda = \sum \lambda_i g_i$ 。
正确的曲率估计值为 $C_\lambda = \mathbb{E}[g_\lambda \odot g_\lambda] = \sum_{i,j} \lambda_i \lambda_j F_{ij}$ ，其中 $F_{ij}$ 代表跨目标梯度相关性（Fisher 块）。
与 Adam 不同（Adam 计算的是 $\mathbb{E}[(\sum \lambda_i g_i) \odot (\sum \lambda_j g_j)]$ 并联合平均偏好与梯度的乘积），MAdam 将当前偏好 $\lambda(t)$ 固定在期望值之外，从而使其能够动态控制每个跨矩量的贡献。

算法实现

MAdam 作为“求解器-后接-Adam”流水线中的一个包装器运行：

求解器步骤： MOO 求解器产生一个协调方向 $d(t) = \sum \lambda_i(t) g_i(t)$ 。
度量估计： MAdam 使用 EMA 维护跨目标 Fisher 块的在线估计。为了将计算成本从 $O(C)$ 降低到每步 $O(1)$ 次反向传播，它采用了随机对采样 (stochastic pair sampling)，在每次迭代中仅更新对应于随机采样的任务对 $(i, j)$ 的 Fisher 条目。
预处理： 协调方向由估计度量的逆进行预处理： $\tilde{d}(t) = M_\lambda(t)^{-1} d(t)$ ，其中 $M_\lambda(t) = \text{Diag}(\sqrt{C_\lambda + \epsilon})$ 。
优化： 该预处理后的方向 $\tilde{d}(t)$ $\tilde{d} (t)$ 被输入到 Adam 中。
- 由于输入已被偏好条件度量“白化”，Adam 在该输入上的二阶矩 EMA 会坍缩为单位矩阵 ( $M_{Adam} \approx I$ )。
- 因此，实际的更新变为 $\theta(t+1) = \theta(t) - \eta M_\lambda(t)^{-1} d(t)$ ，完全受偏好条件度量而非 Adam 的历史偏差度量支配。
热身 (Warmup)： 在初始化期间使用上升系数 $\alpha(t)$ 来混合预处理器（在单位矩阵与完整 MAdam 度量之间进行过渡），以防止由于早期噪声较大的 Fisher 估计而导致的不稳定性。

3. 主要贡献

本文做出了三个主要贡献：

诊断求解器-Adam 不匹配： 作者正式证明了标准 MOO 流水线中的两种失效模式：一种是导致随时间变化的偏好被边缘化的权重不匹配（命题 1），另一种是扭曲了求解器所假设的欧几里得几何的几何不匹配（命题 2）。
度量感知梯度预处理： 他们推导了标量化目标的偏好条件对角 Fisher，并将其实现为一个即插即用的预处理器。该机制在不改变求解器逻辑或优化器内部状态的情况下，同时解决了上述两种不匹配。
实验验证： 该方法在多个领域得到了验证，证明了在与各种 MOO 求解器结合使用时，其性能一致优于标准 Adam。

4. 实验结果

作者在四种场景下评估了 MAdam：多任务学习 (MTL)、帕累托前沿恢复、物理信息神经网络 (PINNs) 和医学图像分析 (MIA)。

多任务学习 (MTL)： 在包括 MultiMNIST、SARCOS、UTKFace、Cityscapes 和 NYUv2 在内的基准测试中，MAdam 在与基础求解器（Linear Scalarization, DWA, UW, IMTL, CAGrad）对比时表现出持续的性能提升。例如，在 Cityscapes 上，它将 IMTL 的相对深度误差从 74.2 降低到了 61.8。
帕累托前沿恢复： 当与帕雷托类求解器（PaMaL, PaLoRA）结合使用于 MultiMNIST 和 SARCOS 时，MAdam 提高了超体积 (hypervolume) 并减少了每条射线误差，有效地以更高的多样性和准确性追踪帕累托前沿。
PINNs： 在 PINNacle 基准测试（20 个 PDE）上，MAdam 在 Vanilla、损失重加权和自适应激活基准之上均提升了性能，在几何复杂领域和损失规模变化剧烈的混沌系统中增益尤为显著。
医学图像： 在皮肤病变分割 (ISIC2018) 和大脑 MRI 超分辨率 (OASIS3) 中，MAdam 在极小程度降低像素级指标的情况下，实现了更好的感知保真度 (LPIPS, DISTS)，并产生了更平衡的 Dice/HD95 剖面。
消融研究： 去除上升机制会导致性能跌至基准线以下，证实了稳定 Fisher 估计的必要性。去除非对角 Fisher 项 ( $F_{ij}$ ) 也会降低收益，凸显了建模跨目标相关性的重要性。

5. 意义与局限性

意义：
本文声称 MAdam 为 MOO 中的求解器-优化器不匹配提供了一个通用的、即插即用的解决方案。通过将偏好向量从优化器的历史中解耦并修正几何扭曲，它使现有的 MOO 求解器能够忠实地执行其预期的更新。它弥合了 MOO 求解器的理论假设（欧几里得几何、显式偏好）与自适应优化器的实际情况之间的鸿沟。

局限性与未来工作：
作者承认存在两个局限性：

异构目标： 目前对于异构目标（例如分类与回归配对）的非对角 Fisher 块 ( $F_{ij}$ ) 的估计仍处于次优状态，通常产生较小且带有噪声的条目。未来的工作旨在开发更具原则性的异构目标曲率估计器。
标量化假设： 当前的推导假设为线性标量化 ( $\sum \lambda_i L_i$ )。作者计划扩展 MAdam 以处理非线性标量化，例如 Tchebycheff 标量化。