Procedural Fairness via Group Counterfactual Explanation

Questo lavoro introduce GCIG, un framework di regolarizzazione che promuove l'equità procedurale nei modelli di machine learning garantendo la stabilità delle spiegazioni tra diversi gruppi protetti, riducendo così le disparità nelle attribuzioni senza compromettere le prestazioni predittive.

L'essenziale

Immagina di essere in un tribunale. Due persone, Marco e Giulia, commettono lo stesso errore e ricevono la stessa condanna. Tutto sembra equo, vero? Ma aspetta.

Se guardi il processo, scopri che il giudice ha deciso su Marco basandosi sul fatto che "ha l'aria sospetta", mentre su Giulia ha deciso perché "ha un passato di piccoli furti". La sentenza (l'outcome) è la stessa, ma il ragionamento (la procedura) è completamente diverso e arbitrario.

Questo è il problema che il paper "Procedural Fairness via Group Counterfactual Explanation" cerca di risolvere. Ecco la spiegazione semplice, passo dopo passo:

1. Il Problema: Non basta che il risultato sia giusto

Fino a poco tempo fa, gli scienziati dei computer si preoccupavano solo della giustizia del risultato (Outcome Fairness). Chiedevano: "Il computer sbaglia lo stesso numero di volte per gli uomini e per le donne?". Se la risposta era sì, pensavano che tutto fosse a posto.

Ma il paper dice: "Non è abbastanza!".
Un'intelligenza artificiale potrebbe dare la stessa risposta a tutti, ma usare motivi diversi per farlo.

• Per il gruppo A, guarda il reddito.
• Per il gruppo B, guarda il codice postale.

Se il computer ragiona in modo diverso a seconda di chi sei, perde la fiducia delle persone. È come se un allenatore di calcio dicesse a un giocatore: "Hai fatto gol, bravo!" e a un altro: "Hai fatto gol, ma solo perché eri fortunato". Il risultato (il gol) è lo stesso, ma il giudizio è distorto.

2. La Soluzione: GCIG (La "Lente Magica")

Gli autori hanno creato un nuovo metodo chiamato GCIG (Group Counterfactual Integrated Gradients).

Immagina che l'IA sia un detective che deve spiegare perché ha preso una decisione.

• Il vecchio metodo: Il detective guarda il caso e dice: "Ho deciso così perché..." (e basta).
• Il nuovo metodo (GCIG): Il detective si immagina due scenari paralleli.
  • "Se questa persona fosse stata del Gruppo A, come avrei spiegato la mia decisione?"
  • "Se questa stessa persona fosse stata del Gruppo B, come avrei spiegato la mia decisione?"

Se le due spiegazioni sono molto diverse, significa che il detective (l'IA) sta usando "scorciatoie" basate sul gruppo di appartenenza invece di guardare davvero i fatti.

3. Come funziona in pratica? (L'allenamento)

Durante l'addestramento del computer, il sistema usa una sorta di sistema di penalità.
Immagina di insegnare a un bambino a disegnare.

• Se il bambino disegna un cane usando le stesse linee, indipendentemente dal fatto che il cane sia nero o bianco, riceve un premio.
• Se il bambino usa linee diverse solo perché il cane è di un colore diverso, riceve una pizzicata (una penalità).

Il GCIG fa esattamente questo: mentre il computer impara, gli dice: "Ehi, aspetta! Stai usando una logica diversa per il Gruppo 1 rispetto al Gruppo 2. Devi usare la stessa logica per entrambi, anche se il risultato finale è lo stesso".

4. I Risultati: Funziona davvero?

Gli autori hanno provato questo metodo su quattro diversi "casi reali" (dati su prestiti bancari, criminalità, ecc.).
Hanno scoperto che:

1. Le spiegazioni diventano uguali: Il computer smette di usare "scorciatoie" diverse per gruppi diversi. Ragiona in modo coerente.
2. Non perde efficacia: Il computer continua a fare previsioni accurate. Non è diventato "stupido" per essere più giusto; è diventato più trasparente.
3. La giustizia del risultato non basta: Hanno dimostrato che due computer possono avere lo stesso tasso di errori (giustizia del risultato), ma uno può essere molto più ingiusto nel modo in cui ragiona rispetto all'altro.

In sintesi

Questo paper ci insegna che per avere un'intelligenza artificiale davvero equa, non dobbiamo guardare solo cosa decide, ma anche come decide.

È come dire: non basta che il giudice dia la stessa pena a tutti; dobbiamo assicurarci che usi le stesse regole per arrivare a quella pena, indipendentemente da chi ha davanti. Il nuovo metodo (GCIG) è lo strumento che costringe il computer a imparare queste regole coerenti fin dal primo giorno di scuola.

Sommario tecnico

Ecco un riassunto tecnico dettagliato del paper "Procedural Fairness via Group Counterfactual Explanation" in italiano.

Titolo: Equità Procedurale tramite Spiegazioni Controfattuali di Gruppo (Group Counterfactual Explanation)

Autori: Gideon Popoola e John W. Sheppard (Montana State University)

---

1. Il Problema: Il Limite dell'Equità Orientata al Risultato

La ricerca attuale sull'equità nel machine learning si concentra prevalentemente su metriche orientate al risultato (outcome-oriented), come la Statistical Parity o l'Equalized Odds (EO). Queste metriche garantiscono che i tassi di errore o le previsioni siano distribuiti equamente tra i gruppi protetti.

Tuttavia, il paper evidenzia un limite fondamentale: due modelli possono soddisfare perfettamente le metriche di equità dei risultati (es. avere lo stesso tasso di falsi positivi per gruppi diversi) ma basarsi su processi decisionali radicalmente diversi.

• Il rischio: Un modello potrebbe utilizzare attributi diversi o ragionamenti distorti per prendere decisioni per diversi gruppi protetti, pur producendo lo stesso risultato statistico.
• La conseguenza: Questo erode la fiducia nel sistema e viola l'equità procedurale, che richiede che il processo decisionale stesso (il "come" si arriva a una previsione) sia coerente e invariante tra i gruppi, a parità di risultato vero.
• Il gap esistente: Le attuali tecniche di spiegazione (explanation) sono spesso usate solo per audit post-hoc (dopo l'addestramento) e non intervengono durante l'addestramento per prevenire queste disparità procedurali.

2. Metodologia: Group Counterfactual Integrated Gradients (GCIG)

Gli autori propongono un framework di regolarizzazione in-processing chiamato GCIG (Group Counterfactual Integrated Gradients), integrato in un obiettivo di addestramento globale chiamato FairX.

Concetti Chiave:

1. Baseline Condizionate al Gruppo: Invece di usare una singola baseline globale (es. un vettore zero), il metodo calcola baselines specifiche per ogni combinazione di gruppo protetto ($g$) e etichetta vera ($y$). La baseline $b_{y,g}$ rappresenta il profilo medio delle caratteristiche per gli individui del gruppo $g$ che hanno la stessa etichetta vera $y$.
2. Spiegazioni Controfattuali di Gruppo: Per un dato input $x$ con etichetta vera $y$, il modello calcola gli Integrated Gradients (IG) rispetto alla baseline di ciascun gruppo ($b_{y,0}$ e $b_{y,1}$).
   • Questo risponde alla domanda: "Come cambierebbe la spiegazione della previsione se questo individuo fosse valutato rispetto al contesto tipico di un altro gruppo, mantenendo invariato il suo risultato vero?"
3. Disparità di Spiegazione: Si misura la variazione (distanza) tra le spiegazioni normalizzate ottenute rispetto alle diverse baselines di gruppo. Se il modello è equo proceduralmente, queste spiegazioni dovrebbero essere simili indipendentemente dal gruppo di riferimento.
4. Funzione di Perdita (Loss Function):
   L'obiettivo di addestramento FairX combina tre componenti:
   $$\mathcal{L}_{total} = \mathcal{L}_{pred} + \lambda_{ig}\mathcal{L}_{GCIG} + \lambda_{fair}\mathcal{L}_{fair}$$
   • $\mathcal{L}_{pred}$: Perdita standard (es. Cross-Entropy) per la performance predittiva.
   • $\mathcal{L}_{GCIG}$: Penalizza la varianza delle attribuzioni tra i gruppi (Equità Procedurale).
   • $\mathcal{L}_{fair}$: Penalizza le violazioni dell'Equalized Odds (Equità Orientata al Risultato).
   • $\lambda_{ig}$ e $\lambda_{fair}$ sono iperparametri di regolarizzazione.

3. Contributi Principali

1. Formalizzazione dell'Equità Procedurale: Definizione dell'equità procedurale come invarianza delle spiegazioni controfattuali di gruppo, condizionata all'etichetta vera.
2. Proposta di GCIG: Un nuovo metodo di regolarizzazione che integra vincoli a livello di spiegazione direttamente nell'obiettivo di apprendimento, minimizzando la variazione delle attribuzioni delle caratteristiche tra gruppi.
3. Validazione Empirica: Dimostrazione che GCIG riduce significativamente la disparità di spiegazione mantenendo performance predittive competitive e trade-off accuratezza-equità simili ai metodi baselines.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti su quattro dataset standard (Adult, German Credit, COMPAS, Bank Marketing) confrontando FairX con sei metodi dello stato dell'arte (inclusi approcci pre-processing, post-processing e in-processing come Adversarial, Hardt, Agrawal).

• Riduzione della Disparità Procedurale: FairX riduce drasticamente il punteggio GCIG (misura della disparità di spiegazione) rispetto a tutti gli altri metodi.
  • Esempio: Su German Credit, GCIG scende da 0.190 (baseline non vincolata) a 0.066. Su COMPAS, da 0.193 a 0.034.
• Performance Predittiva: FairX mantiene o supera le metriche di utilità (F1-score) rispetto ai baselines, dimostrando che l'allineamento delle spiegazioni non compromette l'accuratezza.
• Equità Orientata al Risultato: FairX raggiunge gap di Equalized Odds (EO) competitivi, spesso i migliori o in linea con i metodi specializzati.
• Correlazione tra Equità di Risultato e Procedurale: L'analisi mostra una correlazione debole ($r \approx 0.24$) tra EO e GCIG. Modelli con lo stesso gap EO possono avere disparità di spiegazione molto diverse (fino a un fattore 5 in più). Questo conferma che l'equità dei risultati non garantisce l'equità procedurale.
• Studio di Ablazione: La combinazione di vincoli di risultato e procedurali (Full Model) produce un miglioramento sinergico (riduzione del 24% di GCIG), superiore all'uso di ciascun vincolo separatamente.

5. Significato e Implicazioni

Il lavoro di Popoola e Sheppard è significativo perché:

• Sposta il focus dall'output al processo: Dimostra che garantire un risultato equo non è sufficiente; è necessario garantire che il ragionamento del modello sia coerente tra i gruppi.
• Supera l'audit post-hoc: Sposta la garanzia di equità dalla fase di verifica (dopo l'addestramento) alla fase di apprendimento (durante l'addestramento), prevenendo attivamente le disparità procedurali.
• Approccio Pratico: Offre un framework implementabile (FairX) che bilancia utilità, equità dei risultati e equità procedurale senza richiedere costi computazionali proibitivi (complessità lineare rispetto al numero di gruppi).
• Fondamento Teorico: Stabilisce che l'equità procedurale è una dimensione indipendente e necessaria per costruire sistemi di IA affidabili e trasparenti, andando oltre la semplice parità statistica.

In sintesi, il paper propone che per un'IA veramente equa, non basta che il modello sbaglia allo stesso modo per tutti i gruppi (outcome fairness), ma deve anche "ragionare" allo stesso modo per tutti i gruppi quando le circostanze sono simili (procedural fairness).