Resumen Técnico: MAdam: Adam Multi-Objetivo Sensible a la Métrica

1. Declaración del Problema

La optimización multi-objetivo (MOO) es fundamental para muchas tareas de aprendizaje automático, incluyendo el aprendizaje multi-tarea (MTL), las redes neuronales informadas por la física (PINNs) y la imagenología médica. Aunque existen diversos solvers de MOO —categorizados en las familias de balanceo de pérdida, balanceo de gradiente y basados en Pareto—, casi universalmente delegan la ejecución del paso de actualización al optimizador Adam.

Los autores identifican una desconexión sistemática entre la intención de estos solvers de MOO y la ejecución de Adam, lo que resulta en dos desajustes específicos:

1. Desajuste de Ponderación (Weighting Mismatch): En métodos donde el vector de preferencia $\lambda(t)$ varía en el tiempo (por ejemplo, en el balanceo de pérdida o el barrido del frente de Pareto), la media móvil exponencial (EMA) del segundo momento de Adam entrelaza las preferencias variables en el tiempo con las estadísticas del gradiente. En lugar de aplicar la preferencia actual $\lambda(t)$ a las estadísticas del gradiente, Adam absorbe la preferencia en una cantidad promediada históricamente. Esto margina la estrategia de preferencia pretendida, colapsando distintos compromisos de Pareto en una mezcla casi uniforme y causando que el optimizador se retrase respecto a los cambios de preferencia.
2. Desajuste Geométrico (Geometric Mismatch): Los solvers de MOO típicamente asumen una geometría euclídea pura al construir direcciones de descenso reconciliadas (por ejemplo, mediante la escalarización lineal). Sin embargo, Adam impone implícitamente su propia métrica diagonal adaptativa (derivada del denominador del segundo momento) en cada actualización. Esta métrica distorsiona la geometría euclídea asumida por el solver, pudiendo convertir objetivos alineados en conflictos aparentes o viceversa, alterando así los cambios de pérdida por objetivo realizados.

2. Metodología: MAdam

Para resolver estos problemas sin modificar el solver de MOO subyacente ni el optimizador Adam, los autores proponen MAdam (Metric-Aware Multi-Objective Adam), un envoltorio (wrapper) de tipo "drop-in" que precondiciona la salida del solver.

Fundamento Teórico

Los autores derivan la curvatura correcta para las actualizaciones de MOO. Argumentan que la métrica apropiada es la matriz de información de Fisher diagonal condicionada a la preferencia del objetivo escalarizado en la preferencia activa $\lambda(t)$.

• Sea $g_i$ el gradiente del $i$-ésimo objetivo.
• El gradiente escalarizado es $g_\lambda = \sum \lambda_i g_i$.
• La estimación de la curvatura correcta es $C_\lambda = \mathbb{E}[g_\lambda \odot g_\lambda] = \sum_{i,j} \lambda_i \lambda_j F_{ij}$, donde $F_{ij}$ representa las correlaciones de gradientes entre objetivos (bloques de Fisher).
• A diferencia de Adam, que calcula $\mathbb{E}[(\sum \lambda_i g_i) \odot (\sum \lambda_j g_j)]$ y promedia el producto de las preferencias y los gradientes conjuntamente, MAdam mantiene la preferencia actual $\lambda(t)$ fija fuera de la esperanza, permitiéndole controlar la contribución de cada momento cruzado dinámicamente.

Implementación Algorítmica

MAdam opera como un envoltorio en el flujo de trabajo solver-entonces-Adam:

1. Paso del Solver: El solver de MOO produce una dirección reconciliada $d(t) = \sum \lambda_i(t) g_i(t)$.
2. Estimación de la Métrica: MAdam mantiene estimaciones en línea de los bloques de Fisher cruzados $F_{ij}$ utilizando EMAs. Para reducir el costo computacional de $O(C)$ a $O(1)$ retropropagaciones por paso, emplea muestreo de pares estocásticos, actualizando solo las entradas de Fisher correspondientes a un par de tareas $(i, j)$ muestreado aleatoriamente en cada iteración.
3. Precondicionamiento: La dirección reconciliada es precondicionada por la inversa de la métrica estimada: $\tilde{d}(t) = M_\lambda(t)^{-1} d(t)$, donde $M_\lambda(t) = \text{Diag}(\sqrt{C_\lambda + \epsilon})$.
4. Optimización: Esta dirección precondicionada $\tilde{d}(t)$ se introduce en Adam.
   • Debido a que la entrada es "blanqueada" por la métrica condicionada a la preferencia, la EMA del segundo momento de Adam sobre esta entrada colapsa a la matriz identidad ($M_{Adam} \approx I$).
   • Consecuentemente, la actualización realizada se convierte en $\theta(t+1) = \theta(t) - \eta M_\lambda(t)^{-1} d(t)$, gobernada enteramente por la métrica condicionada a la preferencia en lugar de la métrica sesgada por la historia de Adam.
5. Calentamiento (Warmup): Se utiliza un coeficiente de ramp-up $\alpha(t)$ durante la inicialización para mezclar el precondicionador entre la identidad (Adam estándar) y la métrica completa de MAdam, evitando la inestabilidad causada por estimaciones de Fisher ruidosas al inicio.

3. Contribuciones Clave

El artículo realiza tres contribuciones principales:

1. Diagnóstico del Desajuste Solver-Adam: Los autores prueban formalmente dos modos de falla en el flujo de trabajo estándar de MOO: un desajuste de ponderación que margina las preferencias variables en el tiempo (Proposición 1) y un desajuste geométrico que distorsiona la geometría euclídea asumida por los solvers (Proposición 2).
2. Precondicionamiento de Gradiente Sensible a la Métrica: Derivan la información de Fisher diagonal condicionada a la preferencia del objetivo escalarizado y la implementan como un precondicionador de inserción directa (plug-and-play). Este mecanismo resuelve ambos desajustes simultáneamente sin alterar la lógica del solver ni el estado interno del optimizador.
3. Validación Empírica: El método se valida en diversos dominios, demostrando mejoras consistentes sobre el Adam estándar cuando se combina con varios solvers de MOO.

4. Resultados Experimentales

Los autores evaluaron MAdam a través de cuatro regímenes: Aprendizaje Multi-Tarea (MTL), recuperación del frente de Pareto, Redes Neuronales Informadas por la Física (PINNs) y Análisis de Imágenes Médicas (MIA).

• Aprendizaje Multi-Tarea (MTL): En benchmarks que incluyen MultiMNIST, SARCOS, UTKFace, Cityscapes y NYUv2, MAdam mejoró consistentemente el rendimiento sobre los solvers base (Escalarización Lineal, DWA, UW, IMTL, CAGrad). Por ejemplo, en Cityscapes, redujo el error de profundidad relativo de IMTL de 74.2 a 61.8.
• Recuperación del Frente de Pareto: Al combinarse con solvers basados en Pareto (PaMaL, PaLoRA) en MultiMNIST y SARCOS, MAdam mejoró el hipervolumen y redujo los errores por rayo, trazando efectivamente el frente de Pareto con mayor diversidad y precisión.
• PINNs: En el benchmark PINNacle (20 PDEs), MAdam mejoró el rendimiento en las bases Vanilla, de reponderación de pérdida y de activación adaptativa, con ganancias significativas en dominios geométricamente complejos y sistemas caóticos donde las escalas de pérdida varían ampliamente.
• Imagenología Médica: En segmentación de lesiones cutáneas (ISIC2018) y super-resolución de RM cerebral (OASIS3), MAdam logró una mejor fidelidad perceptual (LPIPS, DISTS) con una degradación mínima en las métricas de píxel, y produjo perfiles de Dice/HD95 más equilibrados.
• Estudios de Ablación: Eliminar el mecanismo de ramp-up causó que el rendimiento cayera por debajo del baseline, confirmando la necesidad de estimaciones de Fisher estables. Eliminar los términos de Fisher fuera de la diagonal ($F_{ij}$) también redujo las ganancias, resaltando la importancia de modelar las correlaciones entre objetivos cruzados.

5. Significado y Limitaciones

Significado:
El artículo afirma que MAdam proporciona una solución universal y de inserción directa para el desajuste entre el solver y el optimizador en MOO. Al desacoplar el vector de preferencia de la historia del optimizador y corregir la distorsión geométrica, permite que los solvers de MOO existentes ejecuten sus actualizaciones pretendidas fielmente. Cierra la brecha entre las asunciones teóricas de los solvers de MOO (geometría euclídea, preferencias explícitas) y la realidad práctica de los optimizadores adaptativos.

Limitaciones y Trabajo Futuro:
Los autores reconocen dos limitaciones:

1. Objetivos Heterogéneos: La estimación de los bloques de Fisher fuera de la diagonal ($F_{ij}$) para objetivos heterogéneos (por ejemplo, clasificación combinada con regresión) es actualmente subóptima, produciendo a menudo entradas pequeñas y ruidosas. El trabajo futuro apunta a desarrollar estimadores más basados en principios para estas curvaturas de objetivos cruzados.
2. Asunción de Escalarización: La derivación actual asume una escalarización lineal ($\sum \lambda_i L_i$). Los autores planean extender MAdam para manejar la escalarización no lineal, como la escalarización de Tchebycheff.