💻 computer science

A Completion-Aware Framework for Impactful Counterfactual Explainability in Graph Neural Networks

Questo articolo propone un nuovo framework, agnostico rispetto al modello, per la generazione di spiegazioni controfattuali di alta qualità nelle Graph Neural Networks integrando la spiegabilità fattuale con modelli di predizione di archi mancanti, dimostrando prestazioni superiori rispetto ai baseline allo stato dell'arte attraverso diversi benchmark di classificazione di grafi.

Autori originali: Maria Myrto Villia, Filippos Gouidis, Theodore Patkos, Panos Trahanias

Pubblicato 2026-06-23

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Maria Myrto Villia, Filippos Gouidis, Theodore Patkos, Panos Trahanias

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di avere un robot super intelligente (una Graph Neural Network) che osserva una complessa rete di connessioni — come un social network, una molecola o una mappa di amicizie — e prende una decisione, come ad esempio "Questa molecola è tossica" o "Questo tweet è arrabbiato".

Il problema è che il robot è una "scatola nera" (black box). Ti dà la risposta, ma non ti dice perché. Tu vuoi sapere: "Quale piccola modifica farebbe cambiare idea al robot?". Questo è chiamato un Controfatale (Counterfactual Explanation). È come chiedere: "Se non avessi detto quella cosa, l'esito sarebbe stato diverso?".

Questo articolo introduce un nuovo strumento chiamato DR-CFGNN per rispondere a questa domanda meglio degli strumenti precedenti. Ecco come funziona, usando analogie semplici:

Il Problema con i Vecchi Strumenti

Gli strumenti precedenti cercavano di spiegare la decisione del robot in due modi:

Togliendo le cose: Come uno scultore che scalpella la pietra per vedere quale forma rimane. Potevano solo rimuovere connessioni (archi) dal grafo.
Indovinando casualmente: Provando ad aggiungere o rimuovere connessioni lanciando freccette al buio.

Gli autori affermano che questi metodi sono limitati. A volte, per cambiare idea al robot, non basta solo rimuovere una cattiva connessione; potresti doverne aggiungere una mancante. È come cercare di riparare un puzzle rotto: a volte devi togliere un pezzo sbagliato, ma altre volte devi trovare il pezzo mancante che completa l'immagine.

La Nuova Soluzione: Il Framework "Completion-Aware"

Gli autori hanno costruito un framework che tratta il grafo come un puzzle con pezzi mancanti. Lo chiamano "Completion-Aware" (consapevole del completamento) perché sa come riempire i vuoti.

Il processo avviene in quattro fasi, come un laboratorio a quattro stadi:

1. Il Filtro del Rumore (Denoising)

I dati del mondo reale sono disordinati. Immagina un social network in cui alcune amicizie sono state aggiunte per errore (spam).

Cosa fa lo strumento: Prima di analizzare il grafo, utilizza un "filtro del rumore" per pulire il disordine. Rimuove le connessioni deboli o improbabili che probabilmente non contano. Questo rende il puzzle più chiaro prima di iniziare a lavorarci.

2. La Decostruzione (Trovare il Colpevole)

Ora, lo strumento osserva il grafo pulito per trovare la parte specifica che ha convinto il robot a prendere la sua decisione originale.

L'Analogia: Immagina che il robot abbia deciso che un film è "Terrorifico" a causa di una scena specifica. Questo passaggio isola quella scena. Non guarda l'intero film; si concentra solo sulla parte spaventosa. Poi cerca di "rompere" quella scena specifica rimuovendo alcune connessioni chiave per vedere se il robot smette di avere paura.

3. La Ricostruzione (La Magia della Link Prediction)

Questa è la grande innovazione dell'articolo. Invece di limitarsi a rompere le cose, lo strumento chiede: "E se aggiungessimo qualcosa per cambiare la storia?".

L'Analogia: Pensa a un detective che conosce le "regole del quartiere". Se il robot pensa che una molecola sia tossica, questo passaggio chiede: "E se aggiungessimo un legame chimico specifico che di solito rende le cose sicure?".
Lo strumento utilizza una tecnica chiamata Link Prediction (solitamente usata per prevedere chi diventerà amico di chi in futuro) per suggerire intelligentemente nuove connessioni. Non indovina casualmente; cerca schemi che porterebbero logicamente il robot a una conclusione diversa (ad esempio, da "Tossico" a "Sicuro").

4. L'Ordinamento (Ottimizzazione Post-Hoc)

Lo strumento potrebbe generare molti modi diversi per cambiare il grafo. Alcune modifiche sono minuscole e precise; altre sono enormi e disordinate.

Cosa fa lo strumento: Classifica queste opzioni. Preferisce le modifiche "minime" — le edizioni più piccole e logiche che invertono la decisione del robot. È come un editor che preferisce cambiare una singola parola piuttosto che riscrivere l'intero paragrafo.

Perché è Migliore?

Gli autori hanno testato il loro strumento su molti tipi di grafi (da puzzle sintetici finti a dati del mondo reale come molecole e tweet) e lo hanno confrontato con i migliori strumenti esistenti.

Modifiche Intelligenti: Il loro strumento ha trovato i "pezzi mancanti" molto meglio degli altri. Non si è limitato a rimuovere le cose; sapeva esattamente cosa aggiungere per cambiare l'esito.
Modifiche Minime: Le spiegazioni erano "compatte". Invece di suggerire di cambiare 50 connessioni, spesso ha scoperto che cambiarne solo 2 o 3 era sufficiente. Questo rende la spiegazione più facile da comprendere per gli esseri umani.
Più Accuratezza: Le modifiche suggerite erano molto vicine alla "ground truth" (il motivo reale per cui il robot stava prendendo la sua decisione).
Più Veloce: Poiché utilizza un campionamento intelligente (guardando nei posti giusti) invece di controllare ogni singola possibilità, è molto più veloce degli strumenti pesanti e lenti che cercano di esplorare tutto.

In Sintesi

Questo articolo presenta un nuovo modo per spiegare le decisioni dell'IA sui grafi. Invece di limitarsi a scalfire i dati o indovinare casualmente, agisce come un esperto risolutore di puzzle: pulisce la tavola, trova il pezzo critico e poi aggiunge intelligentemente il pezzo mancante per cambiare l'immagine finale. Ciò si traduce in spiegazioni più brevi, più accurate e più facili da rendere affidabili per l'essere umano.

Riassunto Tecnico: Un Framework di Completamento Consapevole per la Spiegabilità Controfatuale Impattante nelle Reti Neurali a Grafo

Definizione del Problema

Le Reti Neurali a Grafo (GNN) sono sempre più impiegate in diversi domini, tuttavia la loro natura di "black-box" pone significativi problemi di interpretabilità. Mentre i ricercatori di spiegazioni fattuali (che identificano i sottografi cruciali per una previsione) sono ben consolidati, le Spiegazioni Controfatuali (CfX) — che suggeriscono modifiche minime a un grafo di input per alterare la previsione del modello — rimangono poco sviluppate.

I metodi CfX esistenti affrontano diverse limitazioni:

Rimozione Solo di Archi: Molti approcci precoci (ad es., CF-GNNExplainer, CFExplainer) limitano le spiegazioni alla sola rimozione di archi, limitando il loro potere espressivo e portando spesso a suggerimenti fuori distribuzione (OOD).
Efficienza e Generalizzabilità: I metodi capaci sia di aggiungere che di rimuovere archi (ad es., LEGIT, MEG, D4Explainer) soffrono spesso di un'elevata complessità computazionale, richiedono una vasta conoscenza del dominio o si affidano a specifici modelli causali non sempre disponibili.
Mancanza di Analisi Comparativa: Esiste una scarsità di valutazioni complete che confrontino i framework allo stato dell'arte che supportano sia l'aggiunta che la rimozione di archi.

La sfida centrale affrontata è la generazione di CfX locali, generiche e model-agnostic che siano efficienti, robuste e intuitivamente significative (ovvero, che suggeriscano cambiamenti strutturali plausibili piuttosto che modifiche arbitrarie).

Metodologia: Il Framework DR-CFGNN

Gli autori propongono DR-CFGNN (De/Re-construction-driven Counterfactual GNN), una pipeline che integra intuizioni dalla predizione di link per migliorare la qualità e la robustezza della generazione di CfX. Il framework opera in quattro fasi distinte:

1. Denoising (Fase I)

I grafi del mondo reale contengono spesso rumore (link irrilevanti). Il framework impiega un modello di predizione di link addestrato (senza condizionamento di classe) per stimare le probabilità degli archi. Gli archi con la probabilità più bassa vengono rimossi, a condizione che la loro rimozione non alteri la previsione originale dell'oracle. Questo passaggio raffina il grafo di input ( $G_{DeN}$ ) prima della generazione della spiegazione.

2. Deconstruction (Fase II)

Invece di cercare in tutto il grafo gli archi da eliminare, il framework estrae prima un sottografo fattuale ( $G_F$ ) utilizzando un esistente esplicatore fattuale (ad es., SubgraphX). Successivamente, rimuove selettivamente gli archi solo da questo sottografo fattuale. Questa strategia indebolisce il supporto per la previsione originale senza necessariamente ribaltarla immediatamente, concentrando la ricerca sui pattern specifici che guidano la decisione dell'oracle.

3. Reconstruction (Fase III)

Questa è la componente centrale "consapevole del completamento". Il framework addestra un modello di espansione del grafo (un'architettura encoder-decoder) per predire i link mancanti che porterebbero a una classe controfatuale target ( $y_{CF}$ ).

Architettura: Un encoder GCN (Graph Convolutional Network) genera embedding dei nodi. Un embedding specifico per la classe (derivato da un vettore one-hot della classe target) viene concatenato con gli embedding dei nodi. Un decoder MLP (Multi-Layer Perceptron) predice quindi la probabilità degli archi tra coppie di nodi.
Apprendimento Induttivo: A differenza della tradizionale predizione di link transduttiva, questo modello è addestrato induttivamente su una collezione di grafi per generalizzare a grafi di test e pattern non visti.
Vincoli di Dominio: Il processo di addestramento può incorporare la conoscenza del dominio fissando determinati archi (ad es., legami chimici) come sempre presenti o impossibili, garantendo spiegazioni plausibili.
Inferenza: Il modello stima la probabilità di archi non esistenti nel grafo decostruito. Gli archi che superano una soglia vengono aggiunti per generare controfatuali candidati.

4. Ottimizzazione Post-hoc (Fase IV)

Per gestire l'insieme potenzialmente ampio di CfX generate, una funzione di punteggio bilancia la fedeltà (calo di confidenza nella classe originale) e la dimensione della spiegazione (numero di modifiche). Una funzione di decadimento fluido penalizza i set di modifiche più grandi, dando priorità a spiegazioni compatte e ad alta confidenza senza aggiungere vincoli complessi al loop di ottimizzazione stesso.

Strategia di Campionamento

Per garantire l'efficienza, il framework impiega uno schema di campionamento probabilistico (basato su una funzione di decadimento simile a una Gaussiana) per determinare il numero di archi da rimuovere ( $r$ ) e aggiungere ( $k$ ). Ciò consente la regolazione specifica del dominio, favorendo tipicamente meno rimozioni (poiché la rimozione di un singolo arco critico può essere impattante) e un numero maggiore di aggiunte flessibili.

Contributi Chiave

Metodologia di Deconstruction/Reconstruction: Una nuova pipeline che separa i compiti di indebolimento della previsione originale e di rafforzamento della previsione target. Questo approccio migliora le prestazioni per la generazione di CfX in-distribution e aumenta significativamente la compattezza e la rilevanza dei motif delle spiegazioni.
Integrazione della Predizione di Link: Il primo studio che accoppia esplicitamente la ricerca sulla predizione di link con la spiegabilità controfatuale delle GNN, sfruttando la capacità dei predittori di link di suggerire l'inserimento di archi mirati su grafi complessi.
Efficienza e Controllabilità: Il framework permette la regolazione tramite parametri di campionamento e asserzione di conoscenza del dominio, ottenendo un'alta efficienza senza sacrificare le prestazioni.
Valutazione Comparativa Completa: Il documento presenta il primo studio comparativo multifasico di prominenti esplicatori CF a livello locale (inclusi quelli che supportano l'aggiunta di archi) su task di classificazione binaria e multi-label su dataset sintetici e reali.

Risultati Sperimentali

Il framework è stato valutato su dataset sintetici (BA-Motifs), dataset di sentiment (Graph-Twitter, Graph-SST5) e dataset molecolari (BBBP).

Validità e Compattezza: Le varianti DR-CFGNN hanno ottenuto punteggi di validità elevati (spesso comparabili ai baseline globali) generando al contempo spiegazioni significativamente più piccole. Ad esempio, sul dataset BBBP, ha ottenuto una validità di 0,81 con una media di soli 3 edit, mentre i baseline richiedevano da 3,5 a 5,6 volte più archi.
Prossimità ai Motif: Il framework ha superato significativamente i baseline nella prossimità ai motif, il che significa che le modifiche suggerite erano concentrate attorno ai ground-truth motif responsabili della previsione originale, piuttosto che su modifiche distanti e arbitrarie.
Minimalezza: DR-CFGNN ha raggiunto punteggi di minimalezza eccezionalmente alti (vicini a 1,0), indicando che le spiegazioni generate contengono solo le modifiche necessarie e pochi elementi ridondanti.
Robustezza: Sotto rumore di input (perturbazioni di archi/nodi), DR-CFGNN ha dimostrato le prestazioni più coerenti tra gli esplicatori a livello locale, mantenendo un'alta validità e stabilità strutturale (misurata come Edge Consistency dopo il rumore).
Efficienza: Il framework ha mostrato tempi di addestramento e inferenza bassi rispetto ai metodi basati su diffusione (D4Explainer) o di ricerca esaustiva. Il solo passaggio di denoising ha ridotto i tempi di esecuzione fino al 50% in alcuni casi.

Significato e Rivendicazioni

Il paper sostiene che la prospettiva di completamento consapevole (integrazione della predizione di link) è cruciale per generare controfatuali impattanti. Decoupling (separando) la deconstruction dalla reconstruction, il framework evita le trappole dell'ottimizzazione end-to-end che spesso porta a edit OOD o a un'eccessiva complessità.

Gli autori sottolineano che il loro approccio raggiunge un compromesso superiore tra copertura (validità), qualità (fedeltà, prossimità ai motif, minimalezza) ed efficienza. Argomentano che, sebbene sia difficile trovare un approccio universalmente migliore a causa della natura multifasata del problema, DR-CFGNN produce costantemente spiegazioni altamente qualitative, compatte e robuste senza richiedere una complessa ingegneria delle funzioni di perdita. Lo studio evidenzia l'importanza di valutare metriche di qualità diverse dalla semplice validità e suggerisce che il lavoro futuro potrebbe estendere questo approccio ai grafi temporali e all'IA neuro-simbolica per la verifica formale.