Explanatory Interactive Machine Learning for Bias Mitigation in Visual Gender Classification

1. Il Problema

Il lavoro affronta il problema del bias nei dati e delle correlazioni spurie nell'apprendimento automatico (ML), in particolare nei compiti di classificazione visiva come il riconoscimento del genere.

• Contesto: I modelli ML tendono spesso a imparare correlazioni errate (es. basarsi su oggetti di sfondo, abbigliamento o contesto stereotipato) invece che sulle caratteristiche intrinseche del soggetto, portando a decisioni ingiuste e non robuste.
• Limitazione delle soluzioni attuali: Sebbene esistano metodi algoritmici per mitigare il bias (modificando il training o il modello post-hoc), questi offrono spesso solo una trasparenza "unidirezionale".
• Obiettivo: Esplorare l'efficacia dell'Explanatory Interactive Learning (XIL), un paradigma che integra il feedback umano direttamente sulle spiegazioni del modello (XAI) durante il processo di addestramento, per correggere non solo l'etichetta ma anche la ragione della previsione.

2. Metodologia

Gli autori hanno proposto e valutato un sistema di apprendimento interattivo guidato dalle spiegazioni, applicato a un dataset di classificazione del genere.

A. Configurazione Sperimentale

• Dataset: Un sottoinsieme curato manualmente di MS COCO (1.830 immagini, divise equamente tra maschi e femmine), con maschere di segmentazione "person" precise per definire le regioni rilevanti (foreground) e irrilevanti (sfondo).
• Modelli Base: Sei architetture CNN pre-addestrate su ImageNet (DenseNet121, EfficientNet-B0, GoogLeNet, MobileNet-V2, ResNet50, VGG16). I risultati principali si concentrano su EfficientNet-B0.
• Metodi di Spiegazione (XAI):
  • GradCAM: Un metodo post-hoc che genera mappe di calore basate sui gradienti.
  • BLA (Bounded Logit Attention): Un modulo self-explaining integrato nell'architettura che impara a generare spiegazioni fedeli durante il training.

B. Strategie di Integrazione del Feedback (XIL)

Sono state investigate tre strategie principali per guidare il modello verso regioni rilevanti:

1. CAIPI (Counterfactual Augmentation for Interactive Learning):
   • Genera k controesempi sintetici modificando le regioni "irrilevanti" (sfondo) dell'immagine tramite trasformazioni (inversione, posterizzazione, ecc.) mantenendo l'etichetta originale.
   • Obiettivo: Disincentivare il modello dall'associare lo sfondo alla classe target.
2. RRR (Right for the Right Reasons):
   • Introduce un termine aggiuntivo nella funzione di perdita (loss function).
   • Penalizza i gradienti elevati nelle regioni irrilevanti definite dalla maschera di ground truth, costringendo il modello a essere "giusto per le ragioni giuste".
3. Approccio Ibrido:
   • Combina le due strategie: prima si aumentano i dati con CAIPI, poi si addestra il modello utilizzando la funzione di perdita RRR.

C. Strategie di Campionamento

Per selezionare quali immagini mostrare all'utente (o simulare il feedback), sono state testate due strategie:

• Uncertainty Sampling: Campioni dove il modello è incerto.
• High-Confidence Sampling: Campioni dove il modello è già sicuro (>90%) e corretto.

D. Metriche di Valutazione

Oltre all'accuratezza, sono state utilizzate metriche basate sulle spiegazioni per misurare il focus del modello:

• DICE Score: Sovrapposizione spaziale tra la mappa di attribuzione e la maschera di ground truth.
• FFP (Foreground Focus Proportion): Quale percentuale di attenzione è posta sul soggetto.
• BFP (Background Focus Proportion): Quale percentuale di attenzione è posta sullo sfondo.
• BSR (Background Saliency Ratio): Rapporto della salienza totale attribuita allo sfondo.
• Fairness: Analisi del tasso di errore differenziale tra maschi e femmine.

3. Contributi Chiave

1. Indagine sistematica sull'XIL per il bias: Dimostrazione empirica di come l'XIL possa rilevare e mitigare il bias di genere nei classificatori visivi.
2. Proposta di una strategia ibrida: Introduzione di un approccio che combina CAIPI (aumento dati) e RRR (loss function) per ottimizzare simultaneamente accuratezza e equità.
3. Valutazione comparativa: Analisi qualitativa e quantitativa di come i modelli apprendono a focalizzarsi su regioni rilevanti, confrontando metodi post-hoc (GradCAM) e metodi self-explaining (BLA).

4. Risultati

I risultati, riportati nella Tabella I e nelle figure del paper, evidenziano quanto segue:

• Mitigazione del Bias e Focus:

  • CAIPI e l'Approccio Ibrido hanno mostrato i migliori risultati nel ridurre l'attenzione sullo sfondo (BFP e BSR diminuiti significativamente) e nel migliorare il focus sul soggetto (FFP aumentato).
  • RRR ha mostrato miglioramenti, ma meno pronunciati rispetto a CAIPI, specialmente con campioni incerti.
  • L'uso di High-Confidence Sampling ha generalmente prodotto risultati migliori rispetto all'Uncertainty Sampling (in contrasto con quanto spesso osservato nel Active Learning classico).
  • BLA ha spesso superato GradCAM in termini di accuratezza e allineamento con le preferenze umane.

• Equità (Fairness):

  • Il modello baseline presentava uno sbilanciamento (53.8% di errori su femmine vs 46.2% su maschi).
  • Le strategie XIL hanno ridotto questo divario, rendendo la distribuzione degli errori più bilanciata (es. CAIPI con k=5 e high-confidence: 48.0% vs 52.0%).

• Accuratezza vs. Spiegabilità:

  • In generale, l'introduzione di vincoli di spiegabilità ha portato a un lieve calo dell'accuratezza rispetto al baseline.
  • Eccezione significativa: CAIPI con Uncertainty Sampling e k=1 ha leggermente migliorato l'accuratezza (da 74.58% a 75.42%), dimostrando che la qualità del modello può migliorare senza sacrificare le prestazioni.

5. Significato e Conclusioni

Il paper dimostra che l'Explanatory Interactive Learning è uno strumento potente per migliorare l'equità e la trasparenza dei modelli di visione artificiale.

• Implicazioni: L'integrazione del feedback umano sulle spiegazioni permette di correggere le correlazioni spurie in modo più efficace rispetto ai metodi puramente algoritmici.
• Scoperta principale: La combinazione di tecniche di aumento dei dati (CAIPI) e vincoli di loss (RRR) offre un approccio sinergico robusto.
• Limitazioni e Futuro: Lo studio ha simulato il feedback utente (usando maschere di ground truth). Il passo successivo è validare questi metodi con utenti umani reali in uno studio dedicato e estendere l'approccio a problemi multi-classe e multi-etichetta.

In sintesi, l'XIL non solo rende i modelli più giusti e trasparenti, ma, se implementato correttamente (come con CAIPI), può anche portare a un miglioramento delle prestazioni generali di classificazione.