Résumé Technique : MAdam : Adam Multi-Objectif Sensible à la Métrique

1. Énoncé du Problème

L'optimisation multi-objectif (MOO) est fondamentale pour de nombreuses tâches d'apprentissage automatique, notamment l'apprentissage multi-tâche (MTL), les réseaux de neurones informés par la physique (PINNs) et l'imagerie médicale. Bien que divers solveurs MOO existent — classés en familles de l'équilibrage de perte, de l'équilibrage de gradient et de Pareto — ils délèguent presque tous l'exécution de l'étape de mise à jour à l'optimiseur Adam.

Les auteurs identifient un décalage systématique entre l'intention de ces solveurs MOO et l'exécution d'Adam, ce qui entraîne deux décalages spécifiques :

1. Décalage de Pondération : Dans les méthodes où le vecteur de préférence $\lambda(t)$ varie au cours du temps (par exemple, l'équilibrage de perte ou le balayage de la frontière de Pareto), la moyenne mobile exponentielle (EMA) du second moment d'Adam enchevêtre les préférences variables dans le temps avec les statistiques de gradient. Au lieu d'appliquer la préférence actuelle $\lambda(t)$ aux statistiques de gradient, Adam absorbe la préférence dans une quantité moyennée historiquement. Cela marginalise la stratégie de préférence voulue, faisant s'effondrer les différents compromis de Pareto en un mélange quasi uniforme et provoquant un retard de l'optimiseur lors des changements de préférence.
2. Décalage Géométrique : Les solveurs MOO supposent généralement une géométrie euclidienne brute lors de la construction de directions de descente réconciliées (par exemple, via la scalarisation linéaire). Cependant, Adam impose implicitement sa propre métrique diagonale adaptative (dérivée du dénominateur du second moment) sur chaque mise à jour. Cette métrique déforme la géométrie euclidienne supposée par le solveur, transformant potentiellement des objectifs alignés en conflits apparents ou vice versa, altérant ainsi les changements de perte par objectif réalisés.

2. Méthodologie : MAdam

Pour résoudre ces problèmes sans modifier le solveur MOO sous-jacent ni l'optimiseur Adam, les auteurs proposent MAdam (Metric-Aware Multi-Objective Adam), un "wrapper" (enveloppe) prêt à l'emploi qui préconditionne la sortie du solveur.

Fondement Théorique

Les auteurs dérivent la courbure correcte pour les mises à jour MOO. Ils soutiennent que la métrique appropriée est la matrice d'information de Fisher diagonale conditionnée par la préférence de l'objectif scalarisé à la préférence active $\lambda(t)$.

• Soit $g_i$ le gradient du $i$-ème objectif.
• Le gradient scalarisé est $g_\lambda = \sum \lambda_i g_i$.
• L'estimation de courbure correcte est $C_\lambda = \mathbb{E}[g_\lambda \odot g_\lambda] = \sum_{i,j} \lambda_i \lambda_j F_{ij}$, où $F_{ij}$ représente les corrélations de gradients inter-objectifs (blocs de Fisher).
• Contra heavy Adam, qui calcule $\mathbb{E}[(\sum \lambda_i g_i) \odot (\sum \lambda_j g_j)]$ et moyenne conjointement le produit des préférences et des gradients, MAdam maintient la préférence actuelle $\lambda(t)$ fixe en dehors de l'espérance, lui permettant de contrôler dynamiquement la contribution de chaque moment croisé.

Implémentation Algorithmique

MAdam opère comme un wrapper dans le pipeline "solveur puis Adam" :

1. Étape du Solveur : Le solveur MOO produit une direction réconciliée $d(t) = \sum \lambda_i(t) g_i(t)$.
2. Estimation de la Métrique : MAdam maintient des estimations en ligne des blocs de Fisher inter-objectifs $F_{ij}$ à l'aide d'EMAs. Pour réduire le coût computationnel de $O(C)$ à $O(1)$ passage arrière par étape, il emploie un échantillonnage de paires stochastiques, mettant à jour uniquement les entrées de Fisher correspondant à une paire de tâches $(i, j)$ échantillonnée aléatoirement à chaque itération.
3. Préconditionnement : La direction réconciliée est préconditionnée par l'inverse de la métrique estimée : $\tilde{d}(t) = M_\lambda(t)^{-1} d(t)$, où $M_\lambda(t) = \text{Diag}(\sqrt{C_\lambda + \epsilon})$.
4. Optimisation : Cette direction préconditionnée $\tilde{d}(t)$ est injectée dans Adam.
   • Parce que l'entrée est "blanchie" par la métrique conditionnée par la préférence, l'EMA du second moment d'Adam sur cette entrée se réduit à la matrice identité ($M_{Adam} \approx I$).
   • Par conséquent, la mise à jour réalisée devient $\theta(t+1) = \theta(t) - \eta M_\lambda(t)^{-1} d(t)$, gouvernée entièrement par la métrique conditionnée par la préférence plutôt que par la métrique biaisée par l'historique d'Adam.
5. Warmup (Montée en puissance) : Un coefficient de montée en puissance $\alpha(t)$ est utilisé pendant l'initialisation pour mélanger le préconditionneur entre l'identité (Adam standard) et la métrique complète de MAdam, évitant l'instabilité due aux estimations de Fisher bruitées au début.

3. Contributions Clés

Le papier présente trois contributions principales :

1. Diagnostic du décalage Solveur-Adam : Les auteurs prouvent formellement deux modes de défaillance dans le pipeline MOO standard : un décalage de pondération qui marginalise les préférences variables dans le temps (Proposition 1) et un décalage géométrique qui déforme la géométrie euclidienne supposée par les solveurs (Proposition 2).
2. Préconditionnement de Gradient Sensible à la Métrique : Ils dérivent le Fisher diagonal conditionné par la préférence de l'objectif scalarisé et l'implémentent comme un préconditionneur plug-and-play. Ce mécanisme résout simultanément les deux décalages sans modifier la logique du solveur ou l'état interne de l'optimiseur.
3. Validation Empirique : La méthode est validée à travers divers domaines, démontrant des améliorations constantes par rapport à l'Adam standard lorsqu'il est couplé à divers solveurs MOO.

4. Résultats Expérimentaux

Les auteurs ont évalué MAdam à travers quatre régimes : Apprentissage Multi-Tâche (MTL), récupération de la frontière de Pareto, Réseaux de Neurones Informés par la Physique (PINNs) et Analyse d'Imagerie Médicale (MIA).

• Apprentissage Multi-Tâche (MTL) : Sur des benchmarks incluant MultiMNIST, SARCOS, UTKFace, Cityscapes et NYUv2, MAdam a systématiquement amélioré les performances par rapport aux solveurs de base (Linear Scalarization, DWA, UW, IMTL, CAGrad). Par exemple, sur Cityscapes, il a réduit l'erreur de profondeur relative d'IMTL de 74.2 à 61.8.
• Récupération de la Frontière de Pareto : Lorsqu'il est couplé à des solveurs basés sur Pareto (PaMaL, PaLoRA) sur MultiMNIST et SARCOS, MAdam a amélioré l'hypervolume et réduit les erreurs par rayon, traçant la frontière de Pareto avec une plus grande diversité et précision.
• PINNs : Sur le benchmark PINNacle (20 EDP), MAdam a amélioré les performances à travers les bases Vanilla, Loss Reweighting et les bases d'activation adaptatives, avec des gains significatifs sur des domaines géométriquement complexes et des systèmes chaotiques où les échelles de perte varient largement.
• Imagerie Médicale : Dans la segmentation de lésions cutanées (ISIC2018) et la super-résolution d'IRM cérébrale (OASIS3), MAdam a obtenu une meilleure fidélité perceptuelle (LPIPS, DISTS) avec une dégradation minimale des métriques pixel par pixel, et a produit des profils Dice/HD95 plus équilibrés.
• Études d'Ablation : Le retrait du mécanisme de montée en puissance a fait chuter les performances en dessous de la ligne de base, confirmant la nécessité de l'estimation stable de Fisher. Le retrait des termes de Fisher hors-diagonaux ($F_{ij}$) a également réduit les gains, soulignant l'importance de modéliser les corrélations inter-objectifs.

5. Signification et Limites

Signification :
Le papier affirme que MAdam fournit une solution universelle et prête à l'emploi au décalage entre le solveur et l'optimiseur en MOO. En découplant le vecteur de préférence de l'historique de l'optimiseur et en corrigeant la distorsion géométrique, il permet aux solveurs MOO existants d'exécuter leurs mises à jour prévues fidèlement. Il comble le fossé entre les hypothèses théoriques des solveurs MOO (géométrie euclidienne, préférences explicites) et la réalité pratique des optimiseurs adaptatifs.

Limites et Travaux Futurs :
Les auteurs reconnaissent deux limites :

1. Objectifs Hétérogènes : L'estimation des blocs de Fisher hors-diagonaux ($F_{ij}$) pour des objectifs hétérogènes (par exemple, classification couplée à une régression) est actuellement sous-optimale, produisant souvent des entrées faibles et bruitées. Les travaux futurs visent à développer des estimateurs plus rigoureux pour ces courbures inter-objectifs.
2. Hypothèse de Scalarisation : La dérivation actuelle suppose une scalarisation linéaire ($\sum \lambda_i L_i$). Les auteurs prévoient d'étendre MAdam pour gérer les scalarisations non linéaires, telles que la scalarisation de Tchebycheff.