eXplaining to Learn (eX2L): Regularization Using Contrastive Visual Explanation Pairs for Distribution Shifts

Riepilogo Tecnico: eXplaining to Learn (eX2L)

Enunciato del Problema
I modelli di apprendimento automatico standard si basano sull'assunzione che i dati di addestramento e di test siano indipendenti e identicamente distribuiti (i.i.d.). Quando tale assunzione viene violata, i modelli spesso falliscono nel generalizzare, affidandosi invece a correlazioni spurie—pattern statistici nei dati di addestramento che non sono concettualmente predittivi delle etichette reali. Queste violazioni si manifestano principalmente come spostamenti di sottopopolazione (cambiamenti nelle proporzioni delle variabili demografiche o contestuali) e sfide di generalizzazione del dominio (apprendimento da domini sorgente per operare su domini target non visti).

Gli algoritmi esistenti progettati per mitigare questi spostamenti affrontano tre ostacoli principali:

1. Regolarizzazione Cieca: Molti metodi black-box non prendono di mira esplicitamente le specifiche correlazioni spurie che causano il calo delle prestazioni.
2. Prestazioni Incoerenti: Nessun singolo algoritmo supera costantemente l'Empirical Risk Minimization (ERM) su tutti i dataset, riflettendo il teorema "no-free-lunch".
3. Mancanza di Interpretabilità: Metodi sofisticati come le Reti Neurali Avversariali di Dominio (DANN) si affidano a meccanismi come l'inversione del gradiente, che sono difficili da spiegare agli stakeholder non tecnici, ostacolando la fiducia in implementazioni sensibili.

Il documento ipotizza che l'interpretabilità non debba essere un compromesso contro la robustezza predittiva. Si chiede se penalizzare la sovrapposizione spaziale delle spiegazioni basate sul gradiente provenienti da un classificatore di etichette e da un classificatore di confondenti possa servire come regolarizzatore diretto e interpretabile per la robustezza agli spostamenti di distribuzione.

Metodologia: Framework eX2L
Gli autori propongono eXplaining to Learn (eX2L), un framework interpretabile basato su spiegazioni che decorrela le caratteristiche di confusione dalle rappresentazioni latenti di un classificatore durante l'addestramento. Il meccanismo centrale prevede l'addestramento di due modelli concorrenti:

1. Un classificatore di etichette primario ($f_y$) addestrato per prevedere l'etichetta target $Y$.
2. Un classificatore di confondenti addestrato concorrentemente ($f_c$) addestrato per prevedere la variabile di confusione $C$ (ad es. sfondo, genere, colore).

Il Meccanismo di Regolarizzazione
eX2L raggiunge l'invarianza di dominio disaccoppiando esplicitamente il focus visivo del modello di etichette da quello del modello di confondenti. Utilizza Grad-CAM (Gradient-weighted Class Activation Mapping) per generare mappe di calore che rappresentano le regioni spaziali a cui ogni modello presta attenzione.

• Specificità dell'Obiettivo: A differenza dei metodi basati sul gradiente di input (ad es. SHAP, Integrated Gradients) che possono rimanere invarianti rispetto alla riparametrizzazione della rete, Grad-CAM è scelto per la sua fedeltà ai parametri appresi dal modello.
• Attenzione Disgiunta: Il framework penalizza la similarità spaziale tra la mappa di calore Grad-CAM del modello di etichette ($L_y$) e quella del modello di confondenti ($L_c$). Se i modelli si affidano agli stessi pixel, è probabile che il modello di etichette stia "imparando con scorciatoie" utilizzando indizi spurii dello sfondo.
• Funzione di Perdita: L'obiettivo totale di addestramento $\hat{R}_{eX2L}$ combina le perdite di compito per entrambi i classificatori con una perdita di similarità ($L_{sim}$):
  $$\hat{R}_{eX2L}(\theta, \phi) = \mathbb{E}_{(x,y,c) \sim D_{train}} [L(x, y; \theta) + \lambda_c L(x, c; \phi) + \lambda_{sim} L_{sim}(x, y, c; \theta, \phi)]$$
  Qui, $L_{sim}$ misura la sovrapposizione spaziale (ad es. utilizzando la Similarità del Coseno, MAE o Soft Dice) tra le mappe di calore Grad-CAM distaccate. Le mappe di calore vengono distaccate (stop-gradient) per trattarle come prior spaziali statiche, evitando il costo computazionale delle derivate del secondo ordine.

Strategia di Campionamento
Il documento sottolinea il ruolo critico del Campionamento Uniforme per Gruppo. A differenza del campionamento casuale, che segue la distribuzione di addestramento, il campionamento uniforme per gruppo garantisce che ogni batch contenga rappresentazioni bilanciate di tutti i gruppi etichetta-confondente. Ciò impedisce al modello di apprendere le proporzioni intrinseche etichetta-confondente come scorciatoia, costringendolo ad affidarsi alla penalità Grad-CAM per distinguere le caratteristiche invarianti da quelle spurie.

Contributi Chiave

1. Interpretabilità come Catalizzatore: eX2L sfida l'assunzione prevalente secondo cui modelli più spiegabili sono necessariamente meno accurati. Dimostra che l'invarianza di dominio funzionale può essere ottenuta disaccoppiando esplicitamente le etichette e gli attributi di disturbo a livello di gruppo utilizzando una regolarizzazione basata su spiegazioni.
2. Targeting Diretto delle Correlazioni Spurie: A differenza dei regolarizzatori "ciechi", eX2L penalizza direttamente la sovrapposizione spaziale delle mappe di attenzione, costringendo il modello di etichette a identificare caratteristiche uniche e invarianti invece di affidarsi a regioni di confusione.
3. Efficienza nella Complessità: Il metodo richiede solo due classificatori concorrenti e etichette di confondenti (nessuna maschera di segmentazione ground-truth), offrendo una pipeline di addestramento in una singola fase snella rispetto agli approcci centrati sui dati in due fasi come Just Train Twice (JTT).

Risultati Sperimentali
Gli autori hanno valutato eX2L su benchmark standard di spostamento di sottopopolazione (CMNIST, Waterbirds, CelebA) e sul rigoroso benchmark Spawrious per la generalizzazione del dominio (sfide One-to-One Easy e Many-to-Many Hard).

• Spostamenti di Sottopopolazione: Sul benchmark Spawrious Many-to-Many Hard, eX2L (in particolare la variante MAE) ha raggiunto un'Accuratezza Media (AA) del 82,24% ± 3,87% e un'Accuratezza del Gruppo Peggiore (WGA) del 66,31% ± 8,73%. Questo supera lo stato dell'arte attuale (GroupDRO) del 5,49% in AA e del 10,90% in WGA.
• Evidenza Visiva: Le visualizzazioni Grad-CAM confermano che eX2L limita il focus a regioni semanticamente invarianti (ad es. l'orecchio di un cane), mentre le linee di base come ERM e GroupDRO diffondono l'attenzione su sfondi di confusione (ad es. la texture della spiaggia).
• Analisi dello Spazio Latente: Le visualizzazioni UMAP mostrano che eX2L produce rappresentazioni di etichette compatte e ben separate con un alto MMD (Maximum Mean Discrepancy) per le etichette, mentre ottiene un'interspersione quasi totale delle caratteristiche di confusione (basso MMD per i confondenti), indicando un efficace disaccoppiamento.
• Compromesso di Efficienza: Sebbene eX2L comporti un tempo di addestramento circa doppio rispetto all'ERM a causa del calcolo Grad-CAM, questo costo produce guadagni significativi nelle prestazioni in contesti difficili di spostamento di distribuzione dove i metodi di base falliscono.

Significato e Affermazioni
Il documento afferma che eX2L fornisce un meccanismo trasparente per disaccoppiare le correlazioni spurie, mitigando così gli spostamenti di distribuzione. Afferma che l'interpretabilità può agire come un catalizzatore per la robustezza predittiva piuttosto che come un compromesso contro di essa. Il framework è particolarmente significativo per contesti di implementazione ad alto rischio (ad es. sanità, sistemi autonomi) dove l'auditabilità del processo di debiasing è cruciale per la responsabilità.

Gli autori notano modestamente che eX2L richiede annotazioni di confondenti a livello di immagine al momento dell'addestramento, il che ne limita l'applicabilità in contesti esplorativi dove gli attributi di disturbo sono sconosciuti. Riconoscono inoltre che la scelta della metrica di similarità (ad es. MAE rispetto al Coseno) dovrebbe essere informata dalla geometria del confondente (ad es. penalità pixel per pixel funzionano bene per i confondenti di sfondo, mentre metriche più morbide sono migliori per attributi diffusi come il colore dei capelli). Il documento conclude che eX2L getta le basi per l'equità algoritmica dimostrando che il disaccoppiamento esplicito degli attributi può portare a una generalizzazione superiore senza sacrificare l'interpretabilità.