🤖 machine learning

GoT-CD: Graph-of-Thoughts Causal Discovery and the Fragility of Post-hoc Path-Specific Fairness Audits

Questo articolo introduce GoT-CD, un framework di tipo Graph-of-Thoughts che genera grafi causali strutturalmente competitivi, dimostrando al contempo come anche i metodi di scoperta ad alta fedeltà possano fallire nel recuperare percorsi specifici necessari per audit di equità post-hoc specifici per il percorso accurati, evidenziando così la critica necessità di valutare la scoperta causale attraverso la lente dei requisiti di equità a valle.

Autori originali: Nitish Nagesh, Elahe Khatibi, Thomas Dean Hughes, Mahdi Bagheri, Pratik Gajane, Amir M. Rahmani

Pubblicato 2026-08-05

📖 6 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Nitish Nagesh, Elahe Khatibi, Thomas Dean Hughes, Mahdi Bagheri, Pratik Gajane, Amir M. Rahmani

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di essere un detective che cerca di risolvere un mistero usando solo una foto sfuocata e in bianco e nero di una scena del crimine. Non riesci a vedere chiaramente i sospettati, ma devi capire chi ha fatto cosa a chi. Nel mondo della scienza dei dati, questo si chiama scoperta causale (causal discovery). Invece di condurre un esperimento controllato dove puoi osservare ogni singola mossa, gli scienziati analizzano i "dati osservazionali" — come un mucchio di cartelle cliniche o registri del traffico — e cercano di tracciare una mappa che mostri quali fattori causano altri. Per esempio, mangiare troppo zucchero causa un mal di testa, o stanno semplicemente accadendo contemporaneamente?

Una volta ottenuta questa mappa, potresti voler controllare se è equa. È qui che entra in gioco la equità specifica per percorso (path-specific fairness). Immagina un algoritmo di assunzione che rifiuta dei candidati. Vuoi sapere se li ha rifiutati a causa delle loro competenze (un motivo legittimo) o a causa del loro genere o della loro razza (un motivo ingiusto). Per rispondere, devi tracciare il "percorso" specifico sulla tua mappa che va dall'identità della persona alla decisione finale. Se la mappa è sbagliata, il tuo controllo di equità è inutile. Potresti pensare che l'algoritmo sia equo quando invece è distorto, o viceversa. Questo è l'angolo complicato della scienza che questo articolo esplora: come costruiamo la migliore mappa possibile e come facciamo a garantire che quella mappa non ci inganni quando proviamo a verificarne l'equità?

L'Articolo: GoT-CD e la trappola del "Falso Pulito"

Gli autori di questo articolo, Nitish Nagesh e il suo team, affrontano un problema che sembra semplice, ma che in realtà è un po' una trappola. Hanno notato che quando gli scienziati usano l'Intelligenza Artificiale (specificamente i Large Language Models, o LLM) per disegnare queste mappe causali, di solito controllano solo se la mappa appare "strutturalmente corretta". È come valutare il disegno di una casa fatto da uno studente contando quanti finestroni e porte ci sono nei posti giusti. Ma cosa succede se lo studente ha disegnato una casa perfetta, ma si è dimenticato di disegnare la porta d'ingresso? Se stai cercando di controllare se la casa è accessibile per un utente in sedia a rotelle, quella porta mancante è un disastro, anche se il resto del disegno è perfetto.

L'articolo introduce un nuovo metodo chiamato GoT-CD (Graph-of-Thoughts Causal Discovery). Per capire come funziona, immagina una squadra di tre detective che lavorano sullo stesso caso, ma invece di discutere avanti e indietro, ognuno scrive la propria intera teoria del crimine su un foglio di carta contemporaneamente.

Il Vecchio Metodo (Pairwise o Traversal): I precedenti metodi di IA erano come detective che guardavano solo due indizi alla volta ("A causa B?") o che costruivano la storia un passo alla volta, impegnandosi immediatamente su ogni ipotesi. Se commettevano un errore all'inizio, l'intera storia veniva rovinata e non potevano tornare indietro.
Il Metodo GoT-CD: Questo metodo genera più mappe complete contemporaneamente. Poi, un "arbitro" severo (una funzione di punteggio deterministica) le controlla. Le parti migliori delle migliori mappe vengono fuse insieme, ma con una regola super importante: non puoi inventare una nuova connessione che nessun detective ha proposto. Questo evita che l'IA inventi relazioni false solo perché sembrano plausibili. Infine, il team si assicura che la mappa non abbia cicli (non puoi avere A che causa B, che causa C, che causa A), trasformandola in una mappa stradale pulita a senso unico chiamata DAG (Grafo Diretto Aciclico).

Il team ha testato questo nuovo metodo contro algoritmi matematici classici e altri metodi di IA utilizzando cinque diversi dataset, incluso uno relativo alla malattia di Alzheimer. Hanno utilizzato una quantità fissa di dati (100 osservazioni) e un modello di IA specifico (gpt-4o-mini) per mantenere il campo di gioco livellato.

La Grande Scoperta: Il Certificato di "Falso Pulito"
La scoperta più sorprendente non è solo che GoT-CD disegna mappe migliori; è cosa succede quando usi quelle mappe per controllare l'equità. I ricercatori si sono concentrati su un dataset sull'Alzheimer dove sapevano con certezza che esisteva un percorso non equo: Sesso → Volume Cerebrale → Punteggio MOCA (un test cognitivo). Sapevano che il genere influenzava il volume cerebrale, che a sua volta influenzava il punteggio del test.

Ecco il colpo di scena:

Uno dei vecchi metodi di IA (LLM-BFS) ha disegnato una mappa che appariva piuttosto buona nel complesso. Ha ottenuto un punteggio strutturale (F1) di 0,649, che è discreto.
Tuttavia, quando hanno controllato quella mappa per il percorso non equo, questo era completamente mancante. La mappa non mostrava alcuna connessione tra il Sesso e il punteggio del test.
Poiché il percorso era mancante, l'audit di equità ha riportato un risultato di 0. Sembrava un certificato "pulito", che diceva: "Nessuna distorsione rilevata!".
Ma questa era una bugia. La vera distorsione era enorme (un valore di 0,572). L'IA non ha trovato il pregiudizio perché aveva dimenticato di disegnare la strada dove risiedeva il pregiudizio. Non era che il sistema fosse equo; era che la mappa era rotta.

Al contrario, GoT-CD ha disegnato una mappa che non solo aveva il miglior punteggio strutturale (0,757), ma ha anche individuato con successo quel percorso specifico non equo. Ha riportato la direzione corretta dell'effetto, mostrando che il pregiudizio era effettivamente presente.

Un altro metodo, chiamato GES, ha trovato il percorso ma ha aggiunto così tanti percorsi falsi extra da far sembrare la distorsione sette volte più grande di quanto fosse realmente (un valore di 4,034 invece di 0,572).

Cosa significa per voi

L'articolo suggerisce che non possiamo limitarci a fidarci di un "buon punteggio" su una mappa per dirci se un sistema è equo. Se la mappa manca della strada specifica che conduce a un esito distorto, il controllo di equità vi dirà con fiducia che tutto va bene, anche quando non è così. Questo è ciò che gli autori chiamano un "certificato di falso pulito".

Sostengono che se state usando l'IA per costruire queste mappe per decisioni mediche o assunzioni, non dovete guardare solo l'accuratezza complessiva. Dovete controllare specificamente: "La mappa ha trovato il percorso che ci interessa?"

Lo studio suggerisce che GoT-CD è un forte contendente perché utilizza un approccio a "squadra di pensatori" per costruire la mappa, garantendo di non perdere connessioni critiche o di non inventare relazioni false. Sebbene i risultati si basino su simulazioni e dataset specifici (come l'esempio dell'Alzheimer), la lezione è chiara: nella corsa a costruire un'IA equa, una bella mappa non basta; serve disegnare le strade giuste, altrimenti potreste accidentalmente certificare un sistema distorto come equo.

Riepilogo Tecnico: GoT-CD e la fragilità degli audit di equità specifici per percorso post-hoc

1. Definizione del problema

La scoperta causale viene sempre più utilizzata in ambito clinico per supportare il ragionamento meccanicistico e gli audit di equità dei modelli predittivi. Tuttavia, esiste un divario critico tra l'accuratezza della scoperta strutturale e l'affidabilità delle successive valutazioni di equità. Gli estimandi di equità controfattuale specifica per percorso sono definiti rispetto a un grafo causale fornito; essi dipendono interamente dall'esistenza e dalla struttura dei percorsi diretti da un attributo protetto ( $S$ ) a un esito ( $Y$ ).

Le attuali pratiche di valutazione della scoperta causale si basano su metriche strutturali aggregate (ad es. precisione, richiamo, F1, Distanza di Hamming Strutturale) che pesano tutti gli archi in modo uguale. Queste metriche non riescono a determinare se la specifica sottostruttura necessaria per un audit di equità (il percorso $S \to Y$ ) sopravviva al processo di scoperta. Di conseguenza, un metodo di scoperta può ottenere punteggi F1 strutturali competitivi pur fallendo nel recuperare il percorso di iniquità critico. Quando tale percorso è mancante, l'audit di equità riporta un effetto nullo con elevata confidenza ( $PSE|_{\cdot}| = 0$ ), che è indistinguibile dal risultato di un modello realmente equo. Ciò crea un certificato "falsamente pulito" dove l'omissione strutturale si maschera da equità.

2. Metodologia: GoT-CD

Gli autori introducono GoT-CD (Graph-of-Thoughts Causal Discovery), un metodo che inquadra la scoperta causale come un problema di ragionamento sull'intero grafo piuttosto che come una sequenza di query locali. A differenza degli approcci a coppie (che interrogano coppie di variabili) o di quelli a traversata (che espandono i nodi sequenzialmente), GoT-CD tratta l'unità di ragionamento come un insieme completo di candidati archi.

La pipeline GoT-CD esegue un singolo passaggio di un Grafo di Operazioni:

Generazione (Generate): Il Large Language Model (LLM) viene istruito con nomi di variabili, descrizioni e un preambolo di dominio per generare $k$ grafi candidati distinti (insiemi di archi) in parallelo.
Punteggio (Score): Una funzione di validità deterministica, non basata su LLM, assegna un punteggio ai candidati. Essa penalizza le variabili non dichiarate e gli auto-anelli, premia gli archi ben formati, applica un prior di densità "soft" e aggiunge un bonus per l'aciclicità.
Selezione del migliore (KeepBestN): I primi $N$ candidati (tipicamente $N=2$ ) vengono mantenuti.
Aggregazione (Aggregate): I candidati mantenuti vengono uniti sotto un vincolo di unione rigida. Il modello riceve l'istruzione di emettere solo gli archi che sono comparsi in almeno un candidato di input. Ciò evita che il modello sintetizzi archi "plausibili" che nessun ramo di ragionamento ha effettivamente proposto.
Miglioramento (Improve): Il grafo aggregato viene raffinato. Il modello può introdurre nuovi archi solo se questi non creano cicli con il nucleo già accettato.
Proiezione Greedy (Greedy Projection): Un passaggio finale deterministico impone l'aciclicità attraversando gli archi e mantenendoli solo se non formano un ciclo diretto con gli archi precedentemente conservati. Ciò garantisce che l'output sia sempre un Grafo Aciclico Diretto (DAG).

Il metodo utilizza un protocollo bloccato con $n=100$ osservazioni e il backbone gpt-4o-mini.

3. Contributi principali

Il documento presenta tre contributi primari:

Algoritmo GoT-CD: Un metodo di scoperta causale in cui l'unità di ragionamento è un insieme completo di candidati archi, utilizzando la generazione in parallelo, lo scoring deterministico e un vincolo di unione rigida per prevenire l'invenzione di archi pur imponendo l'aciclicità.
Benchmarking esaustivo: Un confronto di GoT-CD contro quattro baseline classiche (PC, GES, NOTEARS, DAGMA-linear) e tre baseline LLM (Pairwise, LLM-BFS, GoT-CD-BFS) attraverso cinque benchmark (Asia, Child, Alzheimer's, COVID-Respiratory, Sweden-Traffic).
Audit di equità specifico per percorso post-hoc: Un framework di valutazione applicato al benchmark Alzheimer's (dove il percorso di iniquità reale è $Sex \to Brain Volume \to MOCA Score$ ) per valutare i metodi non solo sulla F1 strutturale, ma sul recupero letterale del percorso specifico $S \to Y$ .

4. Risultati

Sotto un protocollo bloccato $n=100$ :

Performance Strutturale: GoT-CD produce DAG validi su tutti e cinque i benchmark. Ottiene la migliore F1 per i DAG tra i metodi LLM su Asia (0.750), Alzheimer's (0.757) e COVID-Respiratory (0.688), superando LLM-BFS su quattro dei cinque dataset. Compete favorevolmente con i metodi classici, sebbene i metodi di rilassamento continuo (NOTEARS, DAGMA) dominino sul dataset lineare-gaussiano Sweden-Traffic.
Validità del DAG: A differenza di PC (ciclico su tutti i dataset) e GES (ciclico su quattro), GoT-CD (e GoT-CD-BFS) restituisce costantemente DAG, evitando la necessità di procedure euristiche di rottura dei cicli prima dell'analisi di equità.
Fedeltà dell'Equità (Benchmark Alzheimer's):
- GoT-CD: Recupera il percorso di iniquità reale con il segno corretto dell'effetto ( $TE_{lin} = -0.580$ rispetto al benchmark $-0.572$) e guida per F1 strutturale.
- LLM-BFS: Nonostante una F1 strutturale competitiva (0.649), fallisce nel recuperare qualsiasi percorso $S \to Y$ . Di conseguenza, riporta $PSE|_{\cdot}| = 0$ , producendo un certificato di equità "falsamente pulito".
- GES: Recupera il percorso di iniquità ma gonfia la massa totale del percorso di oltre sette volte ( $PSE|_{\cdot}| = 4.034$ ) a causa di otto percorsi spurii aggiuntivi.
- Altri Metodi: PC, NOTEARS, DAGMA-linear e GoT-CD-BFS falliscono tutti nel recuperare il percorso $S \to Y$ , riportando effetti nulli.

5. Significato e affermazioni

Il documento sostiene che la fedeltà strutturale non implica la fedeltà dell'equità. Un metodo può essere strutturalmente accurato (alta F1) ma fallire nel recuperare gli archi specifici necessari per un audit di equità, portando a conclusioni di equità sicure ma errate.

Gli autori affermano che le pipeline che concatenano la scoperta causale all'equità specifica per percorso devono:

Riportare il recupero del percorso: Insieme alla stima di equità, le pipeline devono esplicitamente riportare se la sottostruttura critica $S \to Y$ è stata recuperata.
Rivalutare le metriche di scoperta: I metodi di scoperta destinati alle pipeline di equità dovrebbero essere valutati sugli archi da cui dipende l'analisi a valle, piuttosto che solo sull'accordo strutturale aggregato.
Sfruttare il ragionamento globale: I risultati suggeriscono che il ragionamento globale (GoT) è superiore alla traversata locale (BFS) o alle query a coppie per preservare le strutture rilevanti per l'equità, poiché evita l' "inondazione di archi" dei metodi a coppie e la "propagazione di errori irrevocabili" dei metodi di traversata.

Il documento conclude che, sebbene i prior degli LLM siano efficaci su grafi compatti e ricchi di conoscenza (come Alzheimer's), essi completano piuttosto che sostituire i metodi statistici (che eccellono sui dati lineari-gaussiani), e che il lavoro futuro dovrebbe esplorare varianti guidate dallo score e obiettivi di scoperta orientati all'equità.