Fairness under Graph Uncertainty: Achieving Interventional Fairness with Partially Known Causal Graphs over Clusters of Variables

Each language version is independently generated for its own context, not a direct translation.

Immagina di dover prendere una decisione importante, come assumere qualcuno per un lavoro o concedere un prestito bancario. Oggi, spesso usiamo l'intelligenza artificiale per aiutarci. Ma c'è un grosso problema: questi computer potrebbero imparare a discriminare, ad esempio, basandosi sul genere o sulla razza della persona, anche se non dovrebbero farlo.

Questo articolo parla di un nuovo modo per insegnare alle macchine a essere giuste, anche quando non abbiamo tutte le informazioni necessarie sul "perché" le cose accadono.

Ecco la spiegazione semplice, con qualche analogia per rendere tutto più chiaro.

1. Il Problema: La Mappa Mancante

Immagina che il mondo sia una città complessa e tu voglia capire come funzionano le strade per evitare di finire in un vicolo cieco (la discriminazione).

Il vecchio modo: Per essere sicuri di non discriminare, i ricercatori precedenti dicevano: "Devi avere la mappa stradale perfetta di ogni singolo vicolo, ogni incrocio e ogni semaforo". In termini tecnici, avevano bisogno di conoscere l'intero "grafo causale" (chi influenza chi) di ogni singola variabile (età, istruzione, reddito, ecc.).
La realtà: Ottenere questa mappa perfetta è quasi impossibile. È come chiedere a qualcuno di disegnare ogni singolo mattone di una città senza averla mai visitata. Spesso, le mappe che costruiamo sono piene di errori, e se la mappa è sbagliata, anche la nostra "giustizia" lo sarà.

2. La Soluzione: Guardare i Quartieri invece delle Case

L'idea geniale di questo studio è: "E se invece di guardare ogni singola casa, guardassimo i quartieri?"

Invece di cercare di capire ogni singola variabile (ogni "casa"), raggruppiamo le variabili simili in cluster (come i "quartieri").

È molto più facile capire le relazioni tra i quartieri (es. "Il quartiere delle scuole influenza il quartiere dei lavori") che capire le relazioni tra ogni singola strada.
Anche se non sappiamo esattamente cosa succede dentro ogni quartiere (la struttura interna è un mistero), possiamo comunque tracciare una mappa approssimativa ma utile dei collegamenti tra i quartieri.

3. Il Metodo: Il "Ponte" della Giustizia

Il team ha creato un sistema che usa questa mappa dei "quartieri" per garantire la giustizia. Ecco come funziona, passo dopo passo:

L'Intervento Immaginario: Immagina di poter dire al computer: "Ehi, cosa succederebbe se questa persona fosse di un'altra etnia, ma tutto il resto fosse uguale?". Questo si chiama "intervento". Se il risultato cambia solo per via dell'etnia, allora c'è discriminazione.
Il Problema dell'Incognita: Poiché la nostra mappa dei quartieri non è perfetta, non sappiamo con certezza quale strada prendere per calcolare questo cambiamento. Potremmo sbagliare strada.
La Strategia del "Peggior Caso": Invece di scommettere su una sola strada, il sistema prova tutte le strade possibili che la mappa dei quartieri suggerisce. Immagina di avere un gruppo di esploratori che provano ogni possibile percorso attraverso i quartieri.
La Regola d'Oro: Il sistema dice: "Se anche nel peggior scenario possibile (la strada più difficile da percorrere) il risultato è giusto, allora siamo al sicuro". In questo modo, anche se la nostra mappa è imperfetta, garantiamo che non ci saranno ingiustizie nascoste.

4. L'Efficienza: Il "Barycenter" (Il Centro di Gravità)

Calcolare tutte queste possibilità potrebbe richiedere anni di tempo di calcolo. Per velocizzare le cose, gli autori hanno inventato un trucco matematico chiamato "Barycenter Kernel MMD".

L'Analogia: Immagina di dover confrontare le opinioni di 100 persone diverse. Invece di confrontarle a due a due (100 x 99 = 9900 confronti!), calcoli prima la "media" di tutte le opinioni (il centro di gravità) e poi confronti ogni persona con questa media.
Questo rende il calcolo velocissimo, permettendo al computer di imparare a essere giusto senza impazzire di lavoro.

5. I Risultati: Più Giusti e Più Precisi

Hanno fatto molti test, sia con dati inventati che con dati reali (come il credito bancario o l'ammissione all'università).

Risultato: Il loro metodo funziona meglio di quelli precedenti. Riesce a mantenere un equilibrio migliore: è più giusto (discrimina meno) ma rimane anche più preciso (fa previsioni migliori).
Perché? Perché non si fida ciecamente di una mappa perfetta che non esiste, ma usa la mappa dei "quartieri" per coprire tutte le basi possibili.

In Sintesi

Questo studio ci insegna che per creare un'intelligenza artificiale giusta, non serve essere dei geni che conoscono ogni dettaglio del mondo. Basta avere una buona idea delle grandi aree (i quartieri) e prepararsi a gestire ogni possibile scenario, anche quello peggiore. È un approccio più robusto, più pratico e, soprattutto, più equo per tutti.

Each language version is independently generated for its own context, not a direct translation.

1. Il Problema: Fairness Causale e Incertezza del Grafo

Le decisioni algoritmiche (es. assunzioni, prestiti) devono essere non solo accurate ma anche eque rispetto ad attributi sensibili (genere, razza). Le nozioni di fairness basate sulla causalità, in particolare la fairness interventiva (definita da Salimi et al., 2019), sono allineate con i requisiti legali. Tuttavia, la maggior parte dei metodi esistenti assume di avere accesso al grafo causale vero e proprio a livello di variabili (ground-truth DAG).

Nella pratica, questa assunzione è irrealistica:

Apprendere l'intera struttura causale da dati osservazionali è un problema notoriamente difficile, specialmente in spazi ad alta dimensionalità.
I metodi basati su grafi parzialmente diretti aciclici (CPDAG) a livello di variabili richiedono un numero enorme di test di indipendenza condizionale, portando a errori di stima che compromettono le garanzie di fairness.
Spesso si dispone solo di conoscenza parziale o di una struttura a livello di cluster (gruppi di variabili), che è più facile da stimare ma introduce incertezza sulla struttura interna di ciascun cluster.

L'obiettivo del paper è garantire la fairness interventiva in scenari realistici dove si ha accesso solo a un Cluster CPDAG (un grafo causale parzialmente diretto definito su cluster di variabili), senza conoscere la struttura causale interna di ciascun cluster.

2. Metodologia Proposta: C-IFair

Gli autori propongono un framework di apprendimento chiamato C-IFair che raggiunge la fairness interventiva sfruttando la struttura a cluster.

A. Identificazione degli Insiemi di Aggiustamento (Adjustment Sets)

Il nucleo del metodo è un algoritmo grafico per enumerare gli insiemi di aggiustamento necessari per identificare le distribuzioni interventive.

Sfida: Un Cluster CPDAG rappresenta una classe di equivalenza di grafi (Cluster MEC). Non esiste un singolo insieme di aggiustamento valido per tutti i grafi possibili; invece, esiste un insieme di candidati $\{Z_1, ..., Z_M\}$ tale che, per ogni grafo vero nella classe, almeno uno di questi insiemi è valido.
Algoritmo di Enumerazione: Il metodo sviluppa un algoritmo che:
1. Enumera i possibili genitori dei cluster sensibili ( $A$ ) considerando le direzioni delle archi (definiti o possibili).
2. Completa questi insiemi con altri cluster necessari per soddisfare la d-separazione a livello di cluster.
3. Gestisce le archi di indipendenza (independence arcs) e i segni di connessione/separazione (connection/separation marks) specifici dei grafi a cluster, che codificano le relazioni di indipendenza condizionale incerte.
4. Include una procedura di raffinamento del grafo: se un insieme di aggiustamento non è identificabile a causa di ambiguità, il metodo suddivide i cluster problematici in nodi singoli per ottenere un grafo più fine e identificare insiemi validi.

B. Penalizzazione della Peggior Caso di Ingiustizia

Poiché non si sa quale tra gli insiemi di aggiustamento $\{Z_1, ..., Z_M\}$ sia quello corretto per il grafo vero, il framework penalizza la peggior ingiustizia (worst-case unfairness) tra tutti i candidati.

La funzione di penalità $g_\theta$ massimizza la discrepanza tra le distribuzioni interventive calcolate usando ciascun insieme $Z_m$ .
La discrepanza è misurata tramite la Maximum Mean Discrepancy (MMD) a kernel.

C. Efficienza Computazionale: Barycenter Kernel MMD

Calcolare l'MMD per tutte le coppie di valori sensibili e tutti gli insiemi di aggiustamento è computazionalmente proibitivo ( $O(M N_A^2 n^2)$ ). Per risolvere questo, gli autori introducono due ottimizzazioni:

Decomposizione Barycenter: Sfruttando le proprietà metriche dello spazio di Hilbert a kernel riproducibile (RKHS), la somma delle MMD tra tutte le coppie di valori sensibili viene trasformata nella somma delle MMD tra ciascuna distribuzione e la loro distribuzione baricentrica (media mista). Questo riduce la complessità da $O(N_A^2)$ a $O(N_A)$ .
Random Fourier Features (RFF): L'approssimazione della mappatura del kernel tramite RFF riduce il costo di calcolo da $O(n^2)$ a $O(nd_{RFF})$ .
Il risultato è un penalizzatore efficiente che scala favorevolmente con il numero di valori dell'attributo sensibile e la dimensione del campione.

3. Contributi Chiave

Algoritmo Grafico per Cluster CPDAG: Sviluppo di un metodo per enumerare insiemi di aggiustamento validi in presenza di grafi a cluster con archi di indipendenza e segni di connessione, superando le limitazioni dei metodi a livello di variabile.
Framework di Apprendimento Robusto: Un approccio che garantisce la fairness interventiva massimizzando la discrepanza sui possibili insiemi di aggiustamento, gestendo l'incertezza strutturale senza richiedere il grafo vero.
Efficienza Computazionale: Introduzione di un Barycenter Kernel MMD efficiente che rende fattibile l'ottimizzazione su grandi dataset e molti valori sensibili.
Validazione Sperimentale: Dimostrazione empirica che il metodo supera gli approcci esistenti (basati su CPDAG a livello di variabile o che ignorano la causalità) nel bilanciare accuratezza e fairness.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti su dati sintetici (lineari e non lineari) e dataset reali (Adult, German Credit, OULAD).

Performance Sintetica: In scenari ad alta dimensionalità ( $d=15$ cluster, $dv=45$ variabili), C-IFair ha ottenuto un RMSE inferiore e una ingiustizia (unfairness) significativamente più bassa rispetto ai baselines come $\epsilon$ -IFair e $\ell$ -IFair (che usano CPDAG a livello di variabile). I metodi basati su CPDAG a livello di variabile falliscono spesso perché l'errore di stima del grafo si accumula, rendendo le garanzie di fairness inaffidabili.
Dati Reali: Su dataset reali, C-IFair ha raggiunto il miglior compromesso tra AUC (accuratezza) e unfairness, avvicinandosi alle prestazioni dell'oracolo (che conosce il grafo vero) ma senza richiederlo.
Robustezza: Il metodo si è dimostrato robusto anche in presenza di:
- Grafi densi (dove il numero di insiemi di aggiustamento cresce).
- Partizioni inadmissibili (violazione delle assunzioni teoriche), dove C-IFair ha comunque mantenuto buone prestazioni.
- Presenza di caratteristiche ammissibili (admissible features).

5. Significato e Impatto

Questo lavoro è significativo perché sposta il paradigma della fairness causale dall'assunzione irrealistica di un grafo causale completo e noto a un contesto più pratico basato su conoscenza parziale a livello di cluster.

Fattibilità Pratica: Rende possibile l'applicazione di fairness causale in scenari reali dove la conoscenza del dominio permette di raggruppare variabili, ma non di definire ogni singola relazione causale.
Efficienza: Dimostra che lavorare a livello di cluster non solo riduce il costo computazionale dell'inferenza causale (meno test di indipendenza), ma migliora anche la robustezza delle garanzie di fairness rispetto ai metodi che tentano di stimare grafi complessi a livello di singola variabile.
Futuro: Apre la strada all'estensione di questi metodi a strutture causali più ricche (come i Cluster MPDAG) e all'integrazione di ulteriore conoscenza del dominio.

In sintesi, il paper propone una soluzione pragmatica ed efficace per garantire equità algoritmica in presenza di incertezza strutturale, superando i limiti computazionali e statistici dei metodi causali tradizionali.