FairSAM: Fair Classification on Corrupted Image Data Through Sharpness-Aware Minimization

Riepilogo Tecnico: FairSAM: Classificazione Equa su Dati Immagine Corrotti attraverso la Minimizzazione della Nitidezza (Sharpness-Aware Minimization)

Definizione del Problema

Le reti neurali profonde addestrate su dati puliti soffrono spesso di un drastico calo delle prestazioni quando vengono distribuite su dati di test corrotti (ad esempio, immagini affette da rumore impulsivo, rumore gaussiano, effetti meteorologici o sfocatura da movimento). Ricerche recenti indicano che questo degrado non è uniforme; esso colpisce in modo sproporzionato specifici sottogruppi demografici, amplificando così il bias algoritmico. Sebbene i metodi esistenti di apprendimento robusto come la Sharpness-Aware Minimization (SAM) migliorino la generalizzazione complessiva e la resilienza al rumore, essi non riescono ad affrontare la distribuzione iniqua del degrado delle prestazioni tra i gruppi demografici. Al contrario, i metodi standard orientati all'equità (fairness-aware) spesso faticano a mantenere la robustezza sotto corruzione dei dati. Ciò crea una tensione intrinseca tra il raggiungimento della robustezza e la garanzia dell'equità in ambienti corrotti.

Metodologia: FairSAM

Per affrontare questa tensione, gli autori propongono FairSAM, un framework che integra strategie orientate all'equità nel processo di ottimizzazione SAM. La metodologia si compone di tre componenti principali:

1. Nuovo Metodo di Equità: Disparità di Degrado Corrotto ($\Delta p$)

Gli autori formalizzano il problema introducendo una metrica per quantificare l'equità specificamente riguardo al degrado delle prestazioni.

• Degrado Corrotto ($\Delta p_s$): Definito come la differenza assoluta tra le metriche di prestazione dei dati di addestramento puliti ($D_T$) e dei dati di test corrotti ($D_C$) per un particolare sottogruppo demografico $s$: $\Delta p_s = |M(D_T^{s}, f) - M(D_C^{s}, f)|$.
• Disparità di Degrado Corrotto ($\Delta p$): La differenza assoluta nella degradazione tra il gruppo avvantaggiato ($s^+$) e quello svantaggiato ($s^-$): $\Delta p = |\Delta p_{s^+} - \Delta p_{s^-}|$.
  Un valore inferiore di $\Delta p$ indica che la robustezza del modello è distribuita in modo più equo tra i sottogruppi.

2. SAM con Ripesatura delle Istanze

La SAM standard minimizza la perdita massima all'interno di un vicinato di parametri ma tratta tutti i campioni allo stesso modo, permettendo spesso ai gruppi di maggioranza di dominare l'ottimizzazione. FairSAM introduce un meccanismo di ripesatura per bilanciare i contributi del gradiente:

• Vincoli di Gruppo: Il metodo vincola la somma dei pesi per i campioni all'interno di ciascun gruppo demografico a una costante $c$, garantendo che ogni gruppo contribuisca equamente all'obiettivo indipendentemente dalle sue dimensioni.
• Ripesatura basata sulla Nitidezza (Sharpness): All'interno di ogni gruppo, i campioni con una nitidezza per istanza più elevata (perdita massima maggiore sotto perturbazione) ricevono pesi maggiori. Questo dà priorità agli esempi più "difficili" all'interno di ciascun gruppo, mantenendo al contempo il bilanciamento a livello di gruppo.

3. Perturbazione Efficiente per Batch

Per evitare il costo computazionale del calcolo delle perturbazioni avversarie individuali per ogni campione (il che richiederebbe $N$ passaggi in avanti per ogni batch), FairSAM deriva un'approssimazione efficiente:

• Approssima l'obiettivo pesato per istanza utilizzando un'espansione di Taylor del secondo ordine.
• Costruisce una perdita di batch pesata $\ell_b(w) = \sum g_i \ell_i(w)$, dove i pesi $g_i$ incorporano sia i vincoli di appartenenza al gruppo che la nitidezza dell'istanza.
• Una singola perturbazione per batch $\epsilon^*$ viene calcolata sulla base del gradiente di questa perdita di batch pesata, mantenendo l'efficienza computazionale di SAM pur imponendo i vincoli di equità.

Contributi Chiave

1. Formalizzazione del Problema: Il documento identifica e formalizza la sfida del "bias di robustezza" nella classificazione di immagini sotto corruzione, evidenziando come i metodi di robustezza standard possano involontariamente peggiorare le disparità di equità.
2. Proposta di Metrica: Introduzione della Disparità di Degrado Corrotto per valutare l'equità del degrado delle prestazioni tra i sottogruppi demografici, distinta dalle nozioni di equità a singolo step.
3. Sviluppo del Framework: Proposta di FairSAM, il primo framework che integra strategie di equità in SAM. Esso utilizza la ripesatura delle istanze e la perturbazione per batch per promuovere simultaneamente robustezza ed equità.
4. Validazione Empirica: Esperimenti esaustivi che dimostrano come FairSAM raggiunga un trade-off superiore tra accuratezza ed equità rispetto ai baseline.

Risultati Sperimentali

Gli autori hanno valutato FairSAM su molteplici dataset del mondo reale (CelebA, FairFace, LFW, CheXpert) sotto vari tipi di corruzione (neve, rumore gaussiano, sfocatura) e livelli di severità.

• Trade-off tra Prestazioni ed Equità: Su dataset sbilanciati (CelebA) e bilanciati (FairFace), FairSAM ha costantemente ottenuto la minore Disparità di Degrado Corrotto ($\Delta p$) tra tutti i baseline, inclusi Vanilla SAM, GroupSAM, FairReg e GroupDRO.
• Preservazione dell'Accuratezza: A differenza di alcuni metodi di equità che sacrificano l'accuratezza complessiva, FairSAM ha mantenuto un'accuratezza corrotta competitiva o superiore. Ad esempio, su CelebA con rumore gaussiano, FairSAM ha raggiunto l'accuratezza corrotta più alta (0.9291) minimizzando al contempo $\Delta p$ (0.0073).
• Robustezza all'Asimmetria: Negli esperimenti in cui i gruppi privilegiati affrontavano un rumore meno severo rispetto ai gruppi svantaggiati (rumore asimmetrico), FairSAM ha mantenuto la minore disparità di degrado attraverso diversi backbone (ResNet-18 e DINOv3).
• Generalizzazione Out-of-Distribution (OOD): Quando i modelli addestrati su un dataset (es. CelebA) venivano testati su un altro (es. LFW), FairSAM ha dimostrato la $\Delta p$ più bassa, indicando una migliore generalizzazione equa rispetto a GroupSAM, che rischiava di spostare il gruppo avvantaggiato in una posizione svantaggiata.
• Sensibilità agli Iperparametri: Il framework si è dimostrato robusto alle scelte degli iperparametri, con $\rho=0.05$ (raggio di perturbazione) e $c=1$ (budget di peso del gruppo) che fornivano il miglior equilibrio.

Significato e Rivendicazioni

Il documento sostiene che FairSAM fornisca una soluzione strutturata per una classificazione di immagini equa e robusta in presenza di corruzione dei dati. Il suo significato primario risiede nel rispondere a un punto cieco critico nella ricerca sulla robustezza: l'assunto che i miglioramenti della robustezza aggregata favoriscano tutti i gruppi equamente.

Gli autori sostengono che:

• Robustezza ed equità sono interconnesse; i modelli robusti spesso mostrano un degrado delle prestazioni disparato tra i gruppi demografici, il che può perpetuare le disuguaglianze sociali se non affrontato.
• L'ottimizzazione orientata all'equità durante l'addestramento può raggiungere risultati equi senza sacrifici significativi nell'accuratezza complessiva.
• I benefici di questo approccio si estendono oltre i dataset sbilanciati anche a quelli bilanciati, suggerendo che le disparità di prestazione sotto corruzione siano guidate da bias algorici piuttosto che da semplici problemi di distribuzione dei dati.

Il lavoro si posiziona come un passo verso un deployment dell'IA più sicuro in applicazioni ad alto rischio (ad esempio, sanità, giustizia penale) dove i sistemi devono mantenere l'equità in condizioni reali e rumorose. Gli autori riconoscono i limiti, notando l'attuale focus sugli attributi sensibili binari nella classificazione di immagini, e suggeriscono che i lavori futuri dovrebbero esplorare gruppi intersezionali e altri domini.