Worst-Group Equalized Odds Regularization for Multi-Attribute Fair Medical Image Classification

Sintesi Tecnica: Regularizzazione dell'Equità delle Probabilità Condizionate (Equalized Odds) per il Gruppo Peggiorativo nella Classificazione di Immagini Mediche Multi-Attributo

1. Enunciato del Problema

Il documento affronta la questione critica delle disparità sistematiche di prestazioni nell'AI medica tra gruppi demografici (es. età, sesso, razza). Sebbene metriche aggregate come l'Area Under the Curve (AUC) appaiano spesso simili tra i gruppi, possono mascherare inequità clinicamente significative a punti operativi fissi durante l'inferenza. Nello specifico, alcuni sottogruppi possono esibire un comportamento di sovradiagnosi (Tassi di Vero Positivo [TPR] e Tassi di Falso Positivo [FPR] elevati), mentre altri mostrano un comportamento di sottodiagnosi (TPR e FPR ridotti). Queste tendenze opposte possono annullarsi a vicenda nelle AUC aggregate, oscurando disparità significative nel processo decisionale clinico.

Le strategie di mitigazione esistenti presentano diverse limitazioni:

• Disallineamento dell'Obiettivo: Metodi come GDRO, JTT o FairBatch spesso ripesano i campioni o modificano la log-loss per ridurre il rischio predittivo medio, il che può non catturare le disparità localizzate dei sottogruppi a specifici punti operativi.
• Focus su Singolo Attributo: La maggior parte dei lavori precedenti affronta l'equità per un singolo attributo demografico, lasciando irrisolte o esacerbate le disparità intersezionali.
• Sfide Intersezionali: Gli approcci che gestiscono più attributi richiedono spesso definizioni di sottogruppi grossolane per mantenere la potenza statistica o lottano con l'instabilità nel debiasing a livello di rappresentazione (es. soppressione dell'informazione reciproca) per sottogruppi piccoli.
• Limitazioni del Contesto: Molti metodi sono valutati in contesti semplificati di classificazione binaria, limitandone l'applicabilità agli scenari multi-etichetta comuni nell'imaging clinico.

2. Metodologia

Gli autori propongono un Regolarizzatore del Margine dell'Equità delle Probabilità Condizionate (Equalized Odds - EO) per il Gruppo Peggiorativo, progettato per contesti diagnostici realistici multi-etichetta. Il metodo mira alle disparità a livello di punto operativo utilizzando margini di logit privi di soglia.

Formulazione Principale:

• Impostazione del Problema: Il dataset è composto da input $x_i$, etichette $y_i$ e attributi demografici $a_i$ (es. età, sesso, razza). I sottogruppi $g$ sono definiti da coppie valore-attributo.
• Identificazione del Gruppo Peggiorativo: In ogni mini-batch, il metodo identifica dinamicamente i sottogruppi con le prestazioni peggiori senza mantenere vincoli separati per ogni attributo:
  • Per i positivi ($y=1$), identifica il sottogruppo $g_{min}^{[+]}$ con la media più bassa delle probabilità predette (indicando un rischio di sottodiagnosi).
  • Per i negativi ($y=0$), identifica il sottogruppo $g_{max}^{[-]}$ con la media più alta delle probabilità predette (indicando un rischio di sovradiagnosi).
• Definizione del Margine di Logit: L'obiettivo è imporre una separazione tra i campioni positivi nel caso peggiore del gruppo sottodiagnosticato e tutti i campioni negativi, e viceversa per il gruppo sovradiagnosticato.
  • Idealmente: $\min_{m: y_m=1, g_m=g_{min}^{[+]}} \ell_m > \max_{n: y_n=0} \ell_n$ e $\max_{m: y_m=0, g_m=g_{max}^{[-]}} \ell_m < \min_{n: y_n=1} \ell_n$.
• Rilassamento Differenziabile: Poiché gli operatori hard min/max non sono differenziabili, gli autori li sostituiscono con operatori Log-Sum-Exp (LSE). Questo ammorbidisce gli estremi, permettendo ai campioni vicini al caso peggiore di contribuire alla penalità, il che aiuta a mitigare le violazioni intersezionali.
  • $margin_{EO+} = \text{LSE}_{max}(\{\ell_i : y_i=0\}) - \text{LSE}_{min}(\{\ell_i : y_i=1, g_i=g_{min}^{[+]}\})$
  • $margin_{EO-} = \text{LSE}_{max}(\{\ell_i : y_i=0, g_i=g_{max}^{[-]}\}) - \text{LSE}_{min}(\{\ell_i : y_i=1\})$
• Funzione di Perdita: Viene applicata una perdita a cerniera (hinge loss) per penalizzare solo i margini positivi (violazioni):
  • $L_{EO+} = \max(0, margin_{EO+})$
  • $L_{EO-} = \max(0, margin_{EO-})$
  • L'obiettivo finale è $L = L_{base} + \lambda_{EO+}L_{EO+} + \lambda_{EO-}L_{EO-}$, dove $L_{base}$ è la cross-entropia binaria standard (o mediata tra le classi per il caso multi-etichetta).

Meccanismo Chiave: Il regolarizzatore agisce come un'ottimizzazione localizzata dell'AUC, rafforzando il ranking dei positivi deboli del sottogruppo con le prestazioni peggiori rispetto a tutti i negativi, e viceversa per i negativi, senza richiedere aggiustamenti di soglia a posteriori.

3. Contributi Chiave

1. Regolarizzatore Unificato Multi-Attributo: Un metodo che identifica dinamicamente il sottogruppo "peggiorativo" su tutti gli assi demografici (età, sesso, razza) simultaneamente, evitando la necessità di vincoli intersezionali espliciti o definizioni di sottogruppi grossolani.
2. Penalità Bidirezionale: A differenza della log-loss standard che migliora principalmente l'AUC tramite riordinamento, questo regolarizzatore bidirezionale penalizza esplicitamente sia la sovradiagnosi (lato FPR) che la sottodiagnosi (lato TPR) al punto operativo.
3. Ottimizzazione Differenziabile del Gruppo Peggiorativo: L'uso di margini basati su LSE abilita un addestramento stabile basato su gradienti per l'equità del gruppo peggiorativo, distribuendo il flusso dei gradienti tra i campioni invece di concentrarsi su singoli outlier.
4. Applicabilità Multi-Etichetta: L'approccio è validato in contesti diagnostici realistici multi-etichetta, colmando una lacuna nella letteratura esistente che spesso si concentra sulla classificazione binaria.

4. Risultati Sperimentali

Il metodo è stato valutato su due dataset di imaging medico:

• RNFL-OCT: Un dataset oftalmico (3.300 immagini) per la classificazione del glaucoma.
• MIMIC-CXR: Un grande dataset di radiografie toraciche (82.282 immagini) con un compito multi-etichetta per Versamento Pleurico, Cardiomegalia e Atelettasia.

Prestazioni:

• Metriche di Equità: Il metodo proposto ha costantemente ottenuto il EOdds più basso (rapporto dal gruppo peggiorativo a quello migliore per la disparità TPR/FPR) e il più alto EOM (Equità delle Opportunità tra Multiple Sottoclassi) su entrambi i dataset e su tutti gli attributi demografici (Età, Razza, Sesso).
  • Su RNFL-OCT, ha ridotto l'EOdds congiunto a 0,226 (vs 0,354 per la baseline) e aumentato l'EOM congiunto a 0,926.
  • Su MIMIC-CXR, ha ridotto l'EOdds congiunto a 0,127 (vs 0,254 per la baseline) e aumentato l'EOM congiunto a 0,916.
• Compromesso Accuratezza: Il metodo ha ottenuto questi miglioramenti di equità con impatto minimo sull'AUC complessivo.
  • RNFL-OCT: $\Delta AUC = -0,006$.
  • MIMIC-CXR: $\Delta AUC = -0,007$.
• Confronto: Rispetto a baseline come FairBatch, GDRO, JTT, Adversarial Training e FaMI, il metodo proposto ha offerto un equilibrio superiore tra equità e accuratezza. Altri metodi hanno prodotto miglioramenti di parità più deboli o hanno comportato perdite di accuratezza significativamente maggiori (es. FaMI ha mostrato $\Delta AUC \approx -0,06$).

Ablazione: Gli esperimenti hanno confermato che sia la componente di regolarizzazione positiva ($L_{EO+}$) che quella negativa ($L_{EO-}$) sono complementari; abilitare entrambe produce i guadagni di equità più forti.

5. Significato e Affermazioni

Il documento afferma che il suo approccio fornisce un meccanismo unificato per affrontare l'equità su più assi demografici senza il sovraccarico computazionale o statistico di gestire vincoli separati per ogni attributo o gruppo intersezionale. Colpendo le discrepanze locali dei punteggi responsabili dei comportamenti di sovradiagnosi e sottodiagnosi, il metodo mitiga le disparità del sottogruppo nel caso peggiore preservando al contempo le prestazioni diagnostiche.

Gli autori sottolineano che, sebbene l'AUC possa mascherare disparità clinicamente rilevanti al punto operativo, il loro regolarizzatore ottimizza efficacemente il ranking nelle specifiche regioni di punteggio che guidano le disparità di TPR e FPR. Ciò si traduce in un compromesso equità-accuratezza più favorevole rispetto ai metodi esistenti, rendendolo particolarmente adatto a scenari di imaging clinico in cui le previsioni multi-etichetta e la parità demografica rigorosa sono critiche.