Riepilogo Tecnico: MESD – Una Metrica Sensibile al Rischio per l'Equità delle Spiegazioni tra Sottogruppi Intersezionali

Enunciato del Problema

La valutazione attuale dell'equità nel machine learning è prevalentemente orientata agli esiti, affidandosi a metriche come la Parità Demografica e le Odds Equalizzate per garantire la coerenza statistica delle previsioni tra gruppi protetti. Tuttavia, queste metriche non riescono a rilevare l'ingiustizia procedurale: situazioni in cui un modello produce esiti statisticamente equi ma utilizza processi di ragionamento sistematicamente diversi, instabili o distorti per diversi gruppi demografici.

Questo problema è aggravato dall'intersezionalità. I modelli possono apparire equi quando valutati su singoli attributi (ad esempio, razza o genere indipendentemente), mostrando al contempo disparità significative per i sottogruppi intersezionali (ad esempio, donne nere), un fenomeno noto come gerrymandering dell'equità. Inoltre, le metriche esistenti di equità procedurale spesso si basano su confronti controfattuali o su singoli attributi protetti, non riuscendo a gestire la stabilità delle spiegazioni sotto perturbazione attraverso intersezioni complesse di sottogruppi multidimensionali.

Metodologia

Il documento propone la Disparità di Stabilità delle Spiegazioni Multi-categoriale (MESD), una metrica di equità procedurale progettata per quantificare le disparità nella qualità delle spiegazioni tra sottogruppi intersezionali. MESD è integrata in un framework di ottimizzazione multi-obiettivo chiamato UEF (Utilità, Spiegabilità ed Equità).

1. La Metrica MESD

MESD opera attraverso una procedura robusta in tre fasi:

• Costruzione di Sottogruppi Intersezionali: La metrica costruisce sottogruppi tramite il prodotto cartesiano di più attributi protetti ($G = A_1 \times A_2 \times \dots \times A_m$). Questo cattura le esperienze uniche degli individui marginalizzati in modo multiplo.
• Valutazione della Stabilità tramite Perturbazione: Per misurare la coerenza delle spiegazioni, il metodo genera versioni perturbate delle istanze di input utilizzando un framework ibrido di rumore gaussiano e mascheramento stocastico delle caratteristiche. Calcola un vettore di attribuzione d'insieme (che combina più spiegatori come SHAP e LIME) per gli input originali e perturbati. La stabilità è quantificata dall'inverso della distanza euclidea tra queste spiegazioni; una spiegazione stabile produce un punteggio vicino a 1, mentre quelle incoerenti si avvicinano a 0.
• Aggregazione Consapevole dell'Etichetta con Restrizione Empirico-Bayesiana: Per prevenire stime di disparità fuorvianti causate da dimensioni campionarie ridotte nei gruppi intersezionali, MESD aggrega i punteggi di stabilità condizionatamente all'etichetta vera ($y$). Impiega una restrizione Empirico-Bayesiana (EB) per trascinare le stime instabili dei gruppi piccoli verso la media specifica per etichetta, riducendo la varianza senza mascherare le vere disparità.
• Misura del Rischio Ponderata CVaR: Per affrontare il gerrymandering dell'equità, MESD utilizza il Valore a Rischio Condizionale (CVaR). Invece di mediare le disparità, si concentra sulla coda "peggiore" della distribuzione delle disparità. Calcola le disparità di stabilità a coppie ($D_{ij}$) e assegna pesi più elevati alle coppie che coinvolgono gruppi con bassa equità procedurale (alto rischio), garantendo che la metrica sia sensibile all'instabilità estrema dei sottogruppi.

2. Il Framework di Ottimizzazione UEF

Per generare modelli equi sia negli esiti che nella procedura, gli autori introducono UEF, un framework di ottimizzazione multi-obiettivo che utilizza NSGA-II (Algoritmo Genetico di Ordinamento Non-Dominato II). UEF ottimizza simultaneamente tre obiettivi:

1. Utilità ($F_{perf}$): Prestazioni predittive (AUC massimizzato).
2. Equità degli Esiti ($F_{out}$): Gap di Parità Demografica minimizzato tra i gruppi intersezionali.
3. Equità Procedurale ($F_{proc}$): Punteggio MESD minimizzato.

Viene applicata una scalarizzazione di Chebyshev post-ottimizzazione per selezionare un singolo modello dal fronte di Pareto che bilancia questi obiettivi in competizione.

Contributi Chiave

1. Metrica MESD: L'introduzione di una metrica di equità procedurale che combina esplicitamente l'analisi dei sottogruppi intersezionali, la stabilità delle spiegazioni (robustezza alla perturbazione) e l'aggregazione sensibile al rischio (CVaR) per rilevare il gerrymandering dell'equità.
2. Framework UEF: Un approccio di ottimizzazione multi-obiettivo che ottimizza congiuntamente utilità, equità degli esiti ed equità procedurale, dimostrando che queste dimensioni possono essere bilanciate anziché trattate come mutualmente esclusive.
3. Validazione Completa: Evidenza empirica che dimostra come l'equità orientata agli esiti non garantisca l'equità procedurale e come l'ottimizzazione per MESD riveli disparità invisibili alle metriche standard.

Risultati Sperimentali

Gli autori hanno valutato MESD e UEF su tre dataset di riferimento (Reddito Adulto, Recidiva, Credito Tedesco) confrontandoli con quattro baseline: Minimizzazione del Rischio Empirico (ERM), Ripesatura (RW), Riduzioni (RD) e Debiasing Avversario (ADL).

• Prestazioni Bilanciate: UEF ha costantemente raggiunto le prestazioni più bilanciate tra tutti e tre gli obiettivi. Sul dataset Reddito Adulto (il più complesso con tre attributi protetti), UEF ha ottenuto i punteggi AUC e F1 più alti, raggiungendo simultaneamente i punteggi più bassi per la Parità Demografica (DP) e MESD.
• Efficienza di Pareto: UEF ha prodotto 12 soluzioni su 15 non dominate su tutti i dataset e le pieghe. Notevolmente, è stato l'unico metodo a ottenere soluzioni non dominate su tutte le 5 pieghe del dataset Reddito Adulto, dove il gerrymandering dell'equità intersezionale è più prevalente.
• Rilevamento di Disparità Nascoste: I metodi baseline ottimizzati per l'equità degli esiti (come RD) spesso hanno raggiunto bassi gap DP ma alti punteggi MESD, confermando che non hanno garantito un ragionamento coerente tra i gruppi.
• Studi di Ablazione:
  • CVaR: Rimuovere la ponderazione CVaR (utilizzando invece varianza o gap massimo) ha mascherato le disparità nel caso peggiore nei piccoli sottogruppi.
  • Restrizione EB: Senza restrizione, i piccoli gruppi intersezionali hanno mostrato punteggi di stabilità artificialmente bassi a causa dell'alta varianza; la restrizione ha regolarizzato queste stime.
  • Iperparametri: MESD è risultata robusta rispetto alle baseline di perturbazione e si stabilizza con un numero sufficiente di perturbazioni ($K \ge 20$).

Significato e Affermazioni

Il documento posiziona MESD come un componente necessario per la giustizia procedurale nell'IA, fondato sulla distinzione teorica tra giustizia distributiva (esiti) e giustizia procedurale (processo). Gli autori affermano che:

• L'Equità Procedurale è Distinta: Un modello può essere statisticamente equo ma proceduralmente ingiusto se si basa su ragionamenti diversi e instabili per gruppi diversi. Questa divergenza mina la legittimità del sistema decisionale.
• L'Intersezionalità è Critica: L'analisi dell'equità su un singolo asse oscura le esperienze degli individui marginalizzati in modo multiplo. MESD è tra le prime metriche ad affrontare esplicitamente la stabilità delle spiegazioni all'intersezione di più attributi protetti.
• Compromessi di Ottimizzazione: L'ottimizzazione congiunta per utilità, esiti ed equità procedurale produce modelli superiori a quelli ottimizzati per singoli obiettivi, specialmente in paesaggi di equità complessi e ad alta dimensionalità.
• Rilevanza Normativa: Il lavoro supporta la conformità ai quadri normativi emergenti (ad esempio, AI Act dell'UE) fornendo un meccanismo per auditare il processo decisionale, non solo il risultato.

Gli autori riconoscono i limiti, notando che MESD si basa su spiegatori post-hoc (che sono approssimazioni) e attualmente è limitata a dati tabulari con attributi protetti binari. Suggeriscono che lavori futuri dovrebbero esplorare la spiegabilità in-processo e estensioni a modalità continue o non tabulari.