Tuning Derivatives for Causal Fairness in Machine Learning

Sintesi Tecnica: Sintonizzazione delle Derivate per l'Equità Causale nell'Apprendimento Automatico

Enunciato del Problema
I sistemi di Intelligenza Artificiale ereditano frequentemente i pregiudizi sociali riguardanti attributi protetti come razza, genere ed età. Le metriche di equità classiche, come la Parità Statistica (SP), che richiedono che le previsioni siano indipendenti dagli attributi protetti, sono spesso eccessivamente restrittive. Ciò è particolarmente vero quando gli attributi protetti influenzano "necessità aziendali" o "variabili risolutrici" (ad esempio, precedenti penali nella valutazione del rischio di recidiva) che sono legittimamente richieste per la previsione. Le recenti formulazioni causali affrontano questo problema distinguendo tra percorsi "non consentiti" (effetti diretti degli attributi protetti) e percorsi "consentiti" (effetti indiretti attraverso le necessità aziendali), incorporando spesso la Parità Predittiva (PP) per garantire che le influenze legittime siano preservate. Tuttavia, le definizioni basate sui percorsi esistenti, che si affidano a contrasti causali, sono progettate principalmente per attributi categorici. Quando applicate ad attributi protetti continui (ad esempio, l'età), questi metodi diventano impraticabili a causa della necessità di valutare contrasti in punti infiniti.

Metodologia
Gli autori propongono un quadro per l'equità causale all'interno di Modelli Causali Strutturali (SCM) adattato specificamente per attributi protetti continui.

1. Definizioni Basate sulle Derivate:

   • Parità Statistica nelle Derivate (SPD): Invece di utilizzare contrasti, gli autori definiscono la SP lungo un percorso $\pi$ come il prodotto delle derivate parziali dei meccanismi strutturali lungo tale percorso uguale a zero. Ciò garantisce che il predittore sia costante rispetto all'attributo protetto lungo i percorsi non consentiti.
   • Parità Predittiva nelle Derivate (PPD): La PP è definita uguagliando le derivate parziali del predittore rispetto alle variabili lungo i percorsi consentiti alle derivate parziali della variabile di risultato reale nel Processo di Generazione dei Dati (DGP). Ciò garantisce che il predittore replichi l'influenza legittima delle necessità aziendali.

2. Condizioni di Esistenza:
   Il documento stabilisce una condizione necessaria e sufficiente per l'esistenza di un predittore che soddisfi simultaneamente SPD e PPD. Per un percorso diretto non consentito ($X \to Y$) e un percorso consentito ($W \to Y$), un predittore equo esiste se e solo se la derivata parziale mista del risultato atteso è zero: $\frac{\partial^2}{\partial w \partial x} E[Y | P_A^Y = p] = 0$. Se questa condizione non è soddisfatta, un compromesso tra SPD e PPD è inevitabile.

3. Algoritmo di Sintonizzazione Equa:
   Per costruire tali predittori, gli autori propongono un algoritmo di "sintonizzazione equa" per le reti neurali:

   • Passo 1: Adattare un predittore non vincolato ($\hat{Y}_{\theta_U}$) per minimizzare la perdita di previsione (ad esempio, MSE).
   • Passo 2: Inizializzare un predittore equo con i parametri non vincolati.
   • Passo 3: Ottimizzare una funzione di perdita composita ($L_{FT}$) composta da:
     • Perdita di previsione (MSE tra il predittore sintonizzato e il predittore non vincolato).
     • Perdita SPD (norma L1 delle derivate parziali lungo i percorsi non consentiti).
     • Perdita PPD (norma L1 della differenza tra le derivate del predittore e le derivate del predittore non vincolato lungo i percorsi consentiti).
   • I iperparametri $\lambda_{SPD}$ e $\lambda_{PPD}$ consentono agli utenti di dare priorità a un criterio di equità rispetto all'altro quando la condizione di compatibilità non è soddisfatta.

Contributi Chiave

• Formalizzazione: Il documento formalizza SP e PP utilizzando derivate parziali specifiche per percorso, rendendo le definizioni di equità causale applicabili ad attributi protetti continui senza l'onere computazionale di valutare contrasti infiniti.
• Caratterizzazione Teorica: Deriva le condizioni in cui queste definizioni basate sulle derivate coincidono con le precedenti definizioni causali basate sui contrasti e stabilisce il criterio di compatibilità (Teorema 1) per l'esistenza simultanea di predittori equi.
• Soluzione Algoritmica: Introduce un algoritmo pratico di sintonizzazione che costruisce predittori equi quando il criterio di compatibilità è soddisfatto e offre un meccanismo di compromesso flessibile quando non lo è.
• Validazione Empirica: Il metodo è stato valutato su dati simulati (DGP lineari e moltiplicativi) e sul dataset reale COMPAS, confrontando le prestazioni con metodi focalizzati esclusivamente sulla SP (SPT) e con schemi di marginalizzazione.

Risultati

• Dati Simulati: In contesti lineari dove SPD e PPD sono compatibili, l'algoritmo di sintonizzazione equa (FT) minimizza con successo entrambe le perdite simultaneamente. In contesti non lineari (moltiplicativi) dove sono incompatibili, l'algoritmo dimostra il compromesso atteso: l'aumento dei vincoli su una metrica degrada l'altra. Il metodo FT supera gli approcci basati sulla sola marginalizzazione e SPT nel mantenere le prestazioni predittive rispettando i vincoli di equità, in particolare quando viene considerata la PPD.
• Dataset COMPAS: Applicato alla previsione della recidiva, l'algoritmo FT (in particolare con pesi bilanciati) ha raggiunto un compromesso superiore tra SPD e PPD rispetto ai metodi SPT e Marginalize. Sebbene tutti i modelli vincolati abbiano mostrato una ridotta prestazione predittiva rispetto alla linea di base non vincolata, FT 10 ha mantenuto una maggiore accuratezza e punteggi F1 riducendo significativamente la perdita PPD.
• Derivate vs Contrasti: Quando applicato a caratteristiche binarie nel dataset COMPAS, la minimizzazione delle perdite basate sulle derivate (SPD/PPD) ha generalmente portato a una riduzione delle perdite basate sui contrasti (CSP/CPP), sebbene siano state osservate discrepanze in alcuni scenari ad alto vincolo.

Significato e Affermazioni
Il documento afferma che il suo quadro basato sulle derivate fornisce una soluzione pratica e teoricamente fondata per l'equità causale nei domini continui, un vuoto lasciato dai metodi esistenti basati sui contrasti. Sostiene che, modellando esplicitamente il compromesso tra parità statistica e parità predittiva attraverso le derivate parziali, i praticanti possono costruire predittori che rispettano le necessità aziendali mitigando al contempo la discriminazione. Gli autori sottolineano che il loro metodo non richiede assunzioni sulle equazioni strutturali del DGP, ma solo un diagramma causale, rendendolo applicabile in scenari reali. Il lavoro conclude che, sebbene l'equità basata sulle derivate non si allinei sempre perfettamente con l'equità basata sui contrasti per gli attributi binari, offre un approccio robusto e flessibile per gli attributi continui e una via percorribile per gestire la tensione tra indipendenza statistica e utilità predittiva.