Sintesi Tecnica: MAdam: Metric-Aware Multi-Objective Adam

1. Definizione del Problem

L'ottimizzazione multi-obiettivo (MOO) è fondamentale per molti compiti di apprendimento automatico, tra cui l'apprendimento multi-task (MTL), le reti neurali informate dalla fisica (PINN) e l'imaging medico. Sebbene esistano diversi solver MOO — categorizzati nelle famiglie di bilanciamento della perdita (loss-balancing), bilanciamento del gradiente (gradient-balancing) e basati su Pareto — essi delegano quasi universalmente l'esecuzione del passo di aggiornamento all'ottimizzatore Adam.

Gli autori identificano un disconnessione sistematica tra l'intento di questi solver MOO e l'esecuzione di Adam, che risulta in due discrepanze specifiche:

1. Discrepanza di Ponderazione (Weighting Mismatch): Nei metodi in cui il vettore di preferenza $\lambda(t)$ varia nel tempo (ad esempio, nel bilanciamento della perdita o nello sweeping del fronte di Pareto), la media mobile esponenziale (EMA) del secondo momento di Adam intreccia le preferenze variabili nel tempo con le statistiche del gradiente. Invece di applicare la preferenza corrente $\lambda(t)$ alle statistiche del gradiente, Adam assorbe la preferenza in una quantità mediata storicamente. Ciò marginalizza la strategia di preferenza intesa, facendo collassare distinti trade-off di Pareto in una miscela quasi uniforme e causando un ritardo dell'ottimizzatore rispetto ai cambi di preferenza.
2. Discrepanza Geometrica (Geometric Mismatch): I solver MOO tipicamente assumono una geometria euclidea grezza quando costruiscono direzioni di discesa riconciliate (ad esempio, tramite scalarizzazione lineare). Tuttavia, Adam impone implicitamente la propria metrica diagonale adattiva (derivata dal denominatore del secondo momento) su ogni aggiornamento. Questa metrica distorce la geometria euclidea assunta dal solver, trasformando potenzialmente obiettivi allineati in apparenti conflitti o viceversa, alterando così i cambiamenti reali della perdita per ogni singolo obiettivo.

2. Metodologia: MAdam

Per risolvere questi problemi senza modificare il solver MOO sottostante o l'ottimizzatore Adam, gli autori propongono MAdam (Metric-Aware Multi-Objective Adam), un wrapper "drop-in" che precondiziona l'output del solver.

Fondazione Teorica

Gli autori derivano la curvatura corretta per gli aggiornamenti MOO. Sostengono che la metrica appropriata sia la matrice di informazione di Fisher diagonale condizionata dalla preferenza dell'obiettivo scalarizzato alla preferenza attiva $\lambda(t)$.

• Sia $g_i$ il gradiente del $i$-esimo obiettivo.
• Il gradiente scalarizzato è $g_\lambda = \sum \lambda_i g_i$.
• La stima della curvatura corretta è $C_\lambda = \mathbb{E}[g_\lambda \odot g_\lambda] = \sum_{i,j} \lambda_i \lambda_j F_{ij}$, dove $F_{ij}$ rappresenta le correlazioni tra i gradienti degli obiettivi incrociati (blocchi di Fisher).
• A differenza di Adam, che calcola $\mathbb{E}[(\sum \lambda_i g_i) \odot (\sum \lambda_j g_j)]$ e media congiuntamente il prodotto di preferenze e gradienti, MAdam mantiene la preferenza corrente $\lambda(t)$ fissa all'esterno della aspettativa, permettendole di controllare dinamicamente il contributo di ogni momento incrociato.

Implementazione Algoritmica

MAdam opera come un wrapper nella pipeline solver-allora-Adam:

1. Step del Solver: Il solver MOO produce una direzione riconciliata $d(t) = \sum \lambda_i(t) g_i(t)$.
2. Stima della Metrica: MAdam mantiene stime online dei blocchi di Fisher incrociati $F_{ij}$ utilizzando EMA. Per ridurre il costo computazionale da $O(C)$ a $O(1)$ passaggi backward per step, utilizza il campionamento di coppie stocastiche (stochastic pair sampling), aggiornando solo le voci di Fisher corrispondenti a una coppia di task $(i, j)$ campionata casualmente ad ogni iterazione.
3. Precondizionamento: La direzione riconciliata è precondizionata dall'inversa della metrica stimata: $\tilde{d}(t) = M_\lambda(t)^{-1} d(t)$, dove $M_\lambda(t) = \text{Diag}(\sqrt{C_\lambda + \epsilon})$.
4. Ottimizzazione: Questa direzione precondizionata $\tilde{d}(t)$ viene fornita ad Adam.
   • Poiché l'input è "sbiancato" (whitened) dalla metrica condizionata dalla preferenza, l'EMA del secondo momento di Adam su questo input collassa alla matrice identità ($M_{Adam} \approx I$).
   • Di conseguenza, l'aggiornamento realizzato diventa $\theta(t+1) = \theta(t) - \eta M_\lambda(t)^{-1} d(t)$, governato interamente dalla metrica condizionata dalla preferenza piuttosto che dalla metrica con bias storico di Adam.
5. Warmup: Un coefficiente di ramp-up $\alpha(t)$ viene utilizzato durante l'inizializzazione per miscelare il precondizionatore tra l'identità (Adam standard) e la metrica completa di MAdam, prevenendo l'instabilità derivante da stime di Fisher rumorose nelle fasi iniziali.

3. Contributi Chiave

Il documento presenta tre contributi primari:

1. Diagnosi della Discrepanza Solver-Adam: Gli autori dimostrano formalmente due modalità di fallimento nel tipico pipeline MOO: una discrepanza di ponderazione che marginalizza le preferenze variabili nel tempo (Proposizione 1) e una discrepanza geometrica che distorce la geometria euclidea assunta dai solver (Proposizione 2).
2. Precondizionamento del Gradiente Consapevole della Metrica: Derivano la Fisher diagonale condizionata dalla preferenza dell'obiettivo scalarizzato e la implementano come un precondizionatore plug-and-play. Questo meccanismo risolve simultaneamente entrambe le discrepanze senza alterare la logica del solver o lo stato interno dell'ottimizzatore.
3. Validazione Empirica: Il metodo viene validato in diversi domini, dimostrando miglioramenti costanti rispetto all'ottimizzatore Adam standard quando accoppiato con vari solver MOO.

4. Risultati Sperimentali

Gli autori hanno valutato MAdam in quattro regimi: Multi-Task Learning (MTL), recupero del fronte di Pareto, Physics-Informed Neural Networks (PINNs) e Analisi di Immagini Mediche (MIA).

• Multi-Task Learning (MTL): Su benchmark inclusi MultiMNIST, SARCOS, UTKFace, Cityscapes e NYUv2, MAdam ha migliorato costantemente le prestazioni rispetto ai solver base (Linear Scalarization, DWA, UW, IMTL, CAGrad). Ad esempio, su Cityscapes, ha ridotto l'errore di profondità relativo di IMTL da 74.2 a 61.8.
• Recupero del Fronte di Pareto: Quando accoppiato con solver basati su Pareto (PaMaL, PaLoRA) su MultiMNIST e SARCOS, MAdam ha migliorato l'ipervolume e ridotto gli errori per raggio, tracciando efficacementamente il fronte di Pareto con maggiore diversità e accuratezza.
• PINNs: Sul benchmark PINNacle (20 PDE), MAdam ha migliorato le prestazioni attraverso le baseline Vanilla, Loss Reweighting e adaptive activation, con guadagni significativi su domini geometricamente complessi e sistemi caotici dove le scale di perdita variano ampiamente.
• Imaging Medico: Nella segmentazione delle lesioni cutanee (ISIC2018) e nella super-risoluzione di risonanza magnetica cerebrale (OASIS3), MAdam ha ottenuto una migliore fedeltà percettiva (LPIPS, DISTS) con una degradazione minima delle metriche pixel-wise, producendo profili Dice/HD95 più bilanciati.
• Studi di Ablazione: Rimuovendo il meccanismo di ramp-up, le prestazioni sono scese al di sotto della baseline, confermando la necessità di stime di Fisher stabili. Rimuovere i termini di Fisher fuori diagonale ($F_{ij}$) ha inoltre ridotto i guadagni, evidenziando l'importanza di modellare le correlazioni tra gli obiettivi incrociati.

5. Significato e Limitazioni

Significato:
Il paper sostiene che MAdam fornisca una soluzione universale e "drop-in" alla discrepanza tra solver e ottimizzatore nella MOO. Decoupling (disaccoppiando) il vettore di preferenza dalla storia dell'ottimizzatore e correggendo la distorsione geometrica, permette agli esistenti solver MOO di eseguire i loro aggiornamenti previsti fedelmente. Colma il divario tra le assunzioni teoriche dei solver MOO (geometria euclidea, preferenze esplicite) e la realtà pratica degli ottimizzatori adattivi.

Limitazioni e Lavoro Futuro:
Gli autori riconoscono due limitazioni:

1. Obiettivi Eterogenei: La stima dei blocchi di Fisher fuori diagonale ($F_{ij}$) per obiettivi eterogenei (ad esempio, classificazione accoppiata con regressione) è attualmente sub-ottimale, producendo spesso voci piccole e rumorose. Il lavoro futuro mira a sviluppare stimatori più principati per queste curvature incrociate tra obiettivi.
2. Assunzione di Scalarizzazione: La derivazione attuale assume una scalarizzazione lineare ($\sum \lambda_i L_i$). Gli autori intendono estendere MAdam per gestire scalarizzazioni non lineari, come la scalarizzazione di Tchebycheff.