FairSHAP: Preprocessing for Fairness Through Attribution-Based Data Augmentation

1. Il Problema

L'equità (fairness) nei modelli di Machine Learning (ML) è fondamentale, specialmente in settori ad alto rischio come sanità, finanza e giustizia. Tuttavia, gli approcci esistenti per la mitigazione dei bias presentano due lacune principali:

• Mancanza di trasparenza: Le tecniche di pre-processing attuali spesso modificano i dati senza un meccanismo chiaro per identificare quali caratteristiche (feature) sono responsabili dell'ingiustizia. Questo rende difficile comprendere la logica dietro le modifiche e rischia di portare a "fairwashing" (spiegazioni ingannevoli che mascherano decisioni biasate).
• Focus limitato: La maggior parte dei metodi si concentra esclusivamente sulla fairness di gruppo (es. Demographic Parity), trascurando la fairness individuale e le bias intersezionali. Inoltre, ottimizzare solo per la fairness di gruppo può portare a arbitrarietà a livello individuale.

Il paper propone di colmare questo divario integrando l'interpretabilità direttamente nel processo di mitigazione del bias, utilizzando misure di importanza delle feature per guidare modifiche mirate ai dati.

2. Metodologia: FairSHAP

FairSHAP è un framework di pre-processing che migliora sia la fairness individuale che quella di gruppo attraverso un'augmentation dei dati basata sull'attribuzione di Shapley. Il metodo è agnostico rispetto al modello (model-agnostic) ma adattivo all'algoritmo.

Il processo si articola in due componenti principali (illustrate nella Figura 1 del paper):

1. Matching e Allineamento:

   • Il dataset di addestramento viene diviso in due gruppi basati sull'attributo sensibile (es. gruppo privilegiato e non privilegiato).
   • Viene applicata una procedura di matching per il vicino più prossimo (Nearest Neighbor Matching) o Trasporto Ottimale per creare coppie di istanze simili tra i due gruppi. Questo garantisce che le modifiche avvengano tra istanze strutturalmente comparabili, preservando la coerenza dei dati.

2. Identificazione e Modifica Basata su Shapley:

   • Per ogni istanza nel gruppo target, vengono calcolati i valori di Shapley (utilizzando la libreria SHAP) per determinare il contributo marginale di ogni feature alla previsione del modello.
   • Vengono identificate le feature critiche per la fairness: quelle con un valore di Shapley superiore a una soglia $T$ (default $T=0.05$). Queste feature sono considerate responsabili delle disparità di previsione.
   • Augmentation mirata: I valori di queste feature critiche vengono sostituiti con i valori corrispondenti dell'istanza "matchata" nel gruppo di riferimento. Questo processo viene eseguito bidirezionalmente (scambiando i ruoli di target e riferimento tra i due gruppi).
   • Il risultato è un nuovo dataset di addestramento modificato minimamente, dove le istanze biasate sono state "corrette" in modo mirato.

Fondamento Teorico:
Il paper dimostra teoricamente che la riduzione del Discriminative Risk (DR), una misura di fairness individuale definita come $|f(\check{x}, A=0) - f(\check{x}, A=1)|$, è garantita per ogni istanza modificata.

• Teorema 3.1: Sostituendo le feature con valori di Shapley $\ge T$ con quelli del riferimento, la riduzione del DR è almeno pari alla somma dei valori di Shapley sostituiti, meno un termine di residuo di interazione.
• Proposizione 3.2: Grazie all'uso del matching locale (vicini più prossimi), il termine di residuo di interazione è limitato da un termine del secondo ordine rispetto alla distanza di matching, rendendolo trascurabile nella pratica.
• Teorema 3.3 e 3.4: Dimostrano che la riduzione del DR individuale porta teoricamente anche a una riduzione delle metriche di fairness di gruppo, come la Demographic Parity (DP).

3. Contributi Chiave

• Nuovo Framework di Pre-processing: Introduzione di FairSHAP, che combina l'analisi dei valori di Shapley con il matching di istanze per identificare e correggere selettivamente i punti dati critici per la fairness.
• Garanzie Teoriche: Fornisce prove matematiche che la modifica delle feature critiche riduce il Discriminative Risk (DR) a livello istanza per istanza e, di conseguenza, limita l'upper bound della Demographic Parity (DP).
• Minima Alterazione dei Dati: A differenza di metodi che perturbano massicciamente il dataset, FairSHAP opera modifiche mirate, preservando l'integrità e la fedeltà dei dati (Data Fidelity).
• Interpretabilità e Trasparenza: Il metodo fornisce insight diretti su quali feature causano il bias, rendendo il processo di mitigazione trasparente e spiegabile.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti su 5 dataset tabulari reali (German Credit, COMPAS, Adult, Census Income KDD, Default Credit) coprendo domini come giustizia penale e finanza.

• Performance: FairSHAP ha ottenuto risultati State-of-the-Art o comparabili rispetto ai metodi di baseline (RSA, DIR, Correlation Remover) su tutte le metriche di fairness:
  • DR (Discriminative Risk): Riduzioni fino all'80% (es. German Credit) e ~40% (COMPAS).
  • DP (Demographic Parity) ed EO (Equality of Opportunity): Miglioramenti significativi in tutti i dataset.
  • Accuratezza: In molti casi (es. COMPAS, Census Income), l'accuratezza è migliorata o è rimasta invariata, dimostrando che la fairness non deve necessariamente compromettere le prestazioni predittive.
• Fedeltà dei Dati: FairSHAP ha mostrato una Data Fidelity superiore (distanza di Wasserstein più bassa) rispetto ai competitor, modificando una percentuale molto inferiore di dati (spesso < 2% contro >95% per altri metodi come Correlation Remover).
• Ablation Study: Gli studi di ablazione hanno confermato che sia il matching tra gruppi che l'uso dei valori di Shapley sono componenti essenziali per il successo del metodo.
• Robustezza: Il metodo ha dimostrato efficacia su diversi modelli (XGBoost, SVM, TabPFN) e con diversi estimatori di Shapley (Kernel, Sampling, Permutation).

5. Significato e Impatto

FairSHAP rappresenta un passo avanti significativo verso sistemi di AI responsabili e trasparenti.

• Ponte tra Fairness e Interpretability: Dimostra che l'interpretabilità non è solo uno strumento di analisi post-hoc, ma può guidare attivamente la mitigazione del bias in modo principato.
• Approccio Pratico: Essendo un metodo di pre-processing, si integra facilmente nelle pipeline ML esistenti senza richiedere modifiche all'architettura del modello o all'addestramento.
• Equilibrio Ottimale: Risolve il compromesso (trade-off) tra miglioramento della fairness e conservazione della qualità dei dati, offrendo una soluzione che è sia efficace che eticamente giustificabile grazie alla sua trasparenza.

In sintesi, FairSHAP offre un metodo rigoroso, teoricamente fondato e praticamente efficace per eliminare i bias dai dati di addestramento, garantendo che le decisioni automatizzate siano sia eque che comprensibili.