🤖 machine learning

Model-Level GNN Explanations via Rule-to-Graph Readout for Logit Reconstruction

Questo articolo introduce un nuovo framework di spiegazione a livello di modello per GNN che ricostruisce i logit grezzi multiclasse componendo concetti di sottografi fondati in regole simboliche e facendole passare attraverso un classificatore congelato, ottenendo così spiegazioni globali ad alta fedeltà istanziabili al momento del test con analisi del contributo a livello di regola, significativamente più veloci dei metodi precedenti.

Autori originali: Shengyao Lu, Jiuding Yang, Aedan J. DeFrates, Keith G. Mills, Baochun Li, Di Niu

Pubblicato 2026-05-13

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Shengyao Lu, Jiuding Yang, Aedan J. DeFrates, Keith G. Mills, Baochun Li, Di Niu

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di avere un robot super-intelligente (una Rete Neurale Grafica, o GNN) che osserva reti complesse di punti e linee—come molecole o reti sociali—e formula previsioni. È incredibilmente preciso, ma è una "scatola nera". Gli chiedi: "Perché hai detto che questa molecola è pericolosa?" e lui risponde semplicemente: "Perché l'ho detto io", senza spiegare come sia giunto a quella conclusione.

I metodi esistenti cercano di spiegare il robot evidenziando specifici pattern che gli piacciono. Ad esempio: "Oh, gli piacciono le molecole con un anello rosso". Ma questo è come cercare di spiegare la ricetta complessa di uno chef elencando semplicemente gli ingredienti che preferisce. Non ti dice come lo chef li mescola, quanto ne usa di ciascuno, o come bilancia i sapori per ottenere il gusto finale.

TreeX è un nuovo strumento che cambia le regole del gioco. Invece di limitarsi a elencare gli ingredienti, TreeX cerca di ricostruire l'intero processo decisionale del robot utilizzando regole semplici e leggibili dall'uomo.

Ecco come funziona TreeX, utilizzando alcune analogie creative:

1. L'analogia della "Ricostruzione della Ricetta"

Pensa alla previsione finale del robot non come a una singola risposta "Sì/No", ma come a un profilo di sapori complesso (come un punteggio per "Piccante", "Dolce" e "Aspro").

Vecchio modo: Gli strumenti precedenti cercavano una regola del tipo "Se ha un anello rosso, è Piccante". Si limitavano ad abbinare pattern a etichette.
Modo TreeX: TreeX dice: "Prendiamo i punteggi grezzi di sapore del robot e ricostruiamoli da zero usando una ricetta". Scompone la decisione del robot in regole logiche (come "Se ha un anello rosso E nessun quadrato blu, aggiungi 5 punti a Piccante").

TreeX non indovina solo l'etichetta finale; cerca di ricostruire matematicamente i numeri esatti (logits) che il robot ha utilizzato prima di prendere la sua decisione finale. Se TreeX riesce a ricostruire perfettamente il "profilo di sapore" del robot usando regole semplici, sappiamo che quelle regole sono una vera spiegazione di come il robot pensa.

2. Il "Kit da Costruzione" (Mineraggio dei Concetti)

Per costruire queste regole, TreeX ha bisogno di mattoncini. Guarda all'interno del cervello del robot (i suoi strati nascosti) e trova concetti di sottografi.

L'analogia: Immagina che il robot veda una molecola. TreeX guarda alla visione interna del robot e dice: "Ah, vedo qui un 'Gruppo Nitro' e lì una 'Struttura ad Anello'". Raggruppa parti simili del grafo in "concetti" riutilizzabili.
La svolta: TreeX è intelligente a riguardo. Non si limita a prendere pezzi a caso; trova pattern stabili e ricorrenti (come trovare lo stesso tipo di mattone in case diverse) in modo da poterli utilizzare come mattoncini affidabili per le sue regole.

3. Il "Manuale delle Regole" (Logica Simbolica)

Una volta ottenuti i mattoncini, TreeX scrive un Manuale delle Regole.

Usa una logica del tipo: "SE (il Concetto A è presente) E (il Concetto B è assente), ALLORA aumenta il punteggio per la Classe 1".
Il trucco della "Negazione": Una caratteristica chiave di TreeX è che comprende l'assenza. Proprio come uno chef potrebbe dire: "Questa zuppa è buona perché non c'è sale", TreeX può creare regole basate su ciò che manca. Questo è cruciale per decisioni complesse in cui la mancanza di una caratteristica è importante quanto la sua presenza.

4. La "Performance dal Vivo" (Grounding al momento del test)

È qui che TreeX brilla rispetto agli altri.

Vecchio modo: Alcuni strumenti ti forniscono un manuale di regole statico che si applica all'intero dataset, ma non possono mostrarti come funziona su una specifica nuova molecola che hai appena consegnato loro.
Modo TreeX: Quando dai a TreeX un nuovo grafo, attiva istantaneamente le regole pertinenti. Indica le parti esatte del grafo che hanno attivato la regola (grounding) e ti mostra esattamente quanto quella regola abbia spinto il punteggio verso l'alto o verso il basso.
L'analogia: È come un commentatore sportivo dal vivo. Invece di darti solo il punteggio finale, TreeX dice: "In questo momento, la squadra sta vincendo perché il Giocatore A (Regola 1) ha segnato un gol, che ha aggiunto +2 punti, mentre il Giocatore B (Regola 2) ha sbagliato un tiro, che ha sottratto -1 punto".

Perché è meglio?

L'articolo afferma che TreeX è superiore per tre motivi principali:

Fedeltà: Non indovina solo la risposta giusta; ricostruisce matematicamente i "punteggi di confidenza" interni del robot (logits) con alta precisione. Se le regole di TreeX possono ricreare i numeri esatti del robot, la spiegazione è affidabile.
Velocità: È fino a 20 volte più veloce dei metodi precedenti. È come passare dal scrivere un romanzo a mano all'usare una macchina da scrivere ad alta velocità.
Insight Azionabile: Non dice solo "Questo è il motivo". Dice: "Questa regola sostiene la squadra vincente, mentre quella regola sopprime la squadra perdente". Ti permette di vedere quali regole sono le "stelle" dello spettacolo e quali sono solo rumore di fondo.

In Sintesi

TreeX prende un robot a scatola nera, seziona il suo processo decisionale in un insieme di semplici regole logiche "Se-Allora" e dimostra che quelle regole funzionano ricostruendo le previsioni esatte del robot. Gestisce sia ciò che è presente sia ciò che manca, funziona incredibilmente velocemente e ti offre una suddivisione dettagliata e in tempo reale di come il robot pensa per ogni singolo nuovo esempio che incontra.

Riepilogo Tecnico: TreeX - Spiegazioni a Livello di Modello per GNN tramite Lettura da Regola a Grafico

Enunciato del Problema

Sebbene le Reti Neurali su Grafi (GNN) raggiungano prestazioni predittive elevate, comprendere la loro logica decisionale rimane una sfida. Gli approcci esistenti si concentrano principalmente su spiegazioni a livello di istanza, identificando nodi o sottografi specifici responsabili di una singola previsione. Tuttavia, le spiegazioni locali non riescono a rivelare se le evidenze siano utilizzate sistematicamente in un dataset, se i modelli facciano affidamento su scorciatoie spurie, o come più concetti definiscano congiuntamente i confini decisionali a livello di classe.

I spiegatori a livello di modello attuali tentano tipicamente di identificare pattern di grafo o regole simboliche associate a una classe specifica. Un limite critico di questi metodi è che trattano le regole come descrittori di classe a posteriori piuttosto che come unità computazionali funzionali. Non spiegano come più regole producono congiuntamente la decisione finale della GNN o ricostruiscono i logit di previsione grezzi del modello. Di conseguenza, mancano della capacità di eseguire un'analisi del contributo a livello di regola al momento del test o di spiegare la soppressione delle classi concorrenti.

Metodologia: TreeX

Gli autori propongono TreeX, un nuovo framework di spiegazione per GNN a livello di modello che sposta l'obiettivo della spiegazione dall'estrazione di regole per classe alla ricostruzione di logit basata su regole. TreeX interviene all'interfaccia di lettura (readout) di una GNN pre-addestrata, mantenendo i livelli di passaggio dei messaggi e la testa del classificatore congelati, sostituendo la lettura originale da nodo a grafico con una lettura da regola a grafico ponderata.

La metodologia consta di quattro fasi principali:

1. Estrazione di Concetti Ispirata ai Sottografi

Per ancorare le regole globali a istanze locali, TreeX estrae concetti di sottografi dagli stati nascosti della GNN:

Estrazione Locale: Gli embedding dei nodi all'interno di un grafo vengono clusterizzati. Ogni cluster viene convertito in un sottografo di supporto aggregando i campi ricettivi a $l$ -hop dei suoi nodi membri (sottografi). Questo sposta i concetti verso evidenze strutturalmente stabili piuttosto che rumore.
Estrazione Globale: Gli embedding dei concetti locali vengono clusterizzati nuovamente per formare un archivio globale di concetti. I sottografi rappresentativi vengono selezionati utilizzando un filtro lessicografico a due stadi basato sulla maggioranza (fondato su firme di forma e grado) seguito da un pareggio basato sulla distanza dal centroide.
Giustificazione Teorica: Il paper sostiene che per le MPNN massimamente potenti (come GIN), l'embedding del nodo al $l$ -esimo strato è una "Rappresentazione di Albero Radicato Perfetta" dell'intero sottografo a $l$ -hop, giustificando l'uso degli embedding dei nodi per rappresentare le sottostrutture.

2. Apprendimento di Regole Neuro-Simboliche

TreeX apprende regole simboliche sui concetti globali di sottografi utilizzando una struttura CNF (Forma Normale Congiuntiva), specificamente un rilassamento OR-di-CNF:

Scoperta per Classe: Le regole sono inizialmente apprese in modalità uno-vs-rest per ogni classe target. I letterali positivi ( $P[k]$ ) e i letterali negativi ( $\neg P[k]$ ) sono istanziati in base al potere discriminatorio dei concetti globali.
Logica Differenziabile: Viene utilizzata una parametrizzazione di logica gerarchica differenziabile. Le clausole sono soddisfatte tramite una co-norma di Gödel (massimo sui letterali attivati), e le regole sono formate tramite un AND morbido di tipo prodotto tra le clausole. La previsione finale di classe utilizza una somma probabilistica (noisy-OR) sulle regole candidate.
Fusione: I candidati di regole specifici per classe vengono fusi in un archivio di regole condiviso unificato. Questo design a due stadi garantisce la scoperta di regole discriminative per classe mantenendo una struttura condivisa per la ricostruzione multiclasse.

3. Lettura da Regola a Grafico

L'innovazione centrale è la riscrittura dello strato di lettura:

Embedding delle Regole: Gli embedding delle regole sono calcolati aggregando gli embedding dei loro letterali costituenti (ponderati dalle attivazioni dei gate). I letterali negativi sono rappresentati come gli embedding negati delle loro controparti positive.
Ricostruzione dei Logit: Le regole attive sono ponderate da un vettore di pesi globale appreso $w$ . La combinazione ponderata degli embedding delle regole attive viene passata attraverso la testa del classificatore congelata della GNN di base per ricostruire i logit multiclasse grezzi ( $\hat{o}_G$ ).
Obiettivo: Il modello è addestrato per minimizzare l'Errore Quadratico Medio (MSE) tra i logit ricostruiti e i logit grezzi originali della GNN.

4. Ancoraggio e Analisi al Momento del Test

Al momento del test, TreeX proietta grafi non visti nello spazio dei concetti condiviso, valuta le regole fisse e produce spiegazioni specifiche per istanza. Abilita:

Ancoraggio: Mappatura dei letterali soddisfatti su evidenze concrete di sottografi locali (per i letterali positivi) o sull'assenza di concetti (per i letterali negativi).
Ablazione: Misurazione del contributo di ogni regola azzerando il suo peso e osservando la variazione nei logit ricostruiti ( $\Delta_{g,r}$ ).

Contributi Chiave

Nuovo Obiettivo di Spiegazione: Formula la spiegazione di GNN a livello di modello come ricostruzione di logit basata su regole, andando oltre la semplice associazione di pattern con etichette per spiegare la generazione dei logit di previsione grezzi.
Interfaccia di Lettura Simbolica: Introduce una lettura da regola a grafico in cui regole logiche ancorate agiscono come unità computazionali. Gli embedding delle regole attive sono aggregati e passati attraverso il classificatore congelato per ricostruire i logit multiclasse.
Costruzione di Regole Ancorate e Compositiva: Estrae concetti di sottografi ispirati ai sottografi per embedding continui ed evidenze concrete. Apprende regole OR-di-CNF, che preservano realizzazioni alternative all'interno di vincoli richiesti, offrendo una maggiore espressività strutturale rispetto alle formulazioni di tipo DNF sotto lo stesso budget di regole.
Spiegazioni Funzionali e Fedeli: Dimostra che le regole critiche identificate supportano attivamente la classe prevista e sopprimono le classi non target, agendo come unità funzionali piuttosto che come semplici artefatti a posteriori.

Risultati Sperimentali

TreeX è stato valutato su tre dataset sintetici (BA-2Motifs, BAMultiShapes, BA-Neg) e due dataset molecolari reali (Mutagenicity, NCI1).

Fedeltà dei Logit: TreeX ricostruisce fedelmente i logit multiclasse grezzi della GNN di base, ottenendo un'elevata Fedeltà della Probabilità Assoluta (APF) (es. >97% su BA-2Motifs, >75% su dataset reali).
Impatto delle Regole: Gli studi di ablazione mostrano che le regole attive principali aumentano costantemente il logit della classe target sopprimendo le classi non target, confermando il loro ruolo funzionale nel processo decisionale.
Necessità del Design: Le ablazioni confermano che la rimozione del modulo delle regole, dello stadio di fusione o dei letterali negativi degrada significativamente le prestazioni, in particolare nella ricostruzione dei logit grezzi.
Efficienza e Confronto: Rispetto a precedenti spiegatori basati su regole per classe (LogicXGNN, GLGExplainer, GraphTrail), TreeX raggiunge un Accordo di Previsione (PA) competitivo o migliore, essendo fino a 20 volte più veloce. A differenza delle baseline, TreeX fornisce pesi delle regole, ancoraggio al momento del test e analisi del contributo a livello di logit.

Significato e Affermazioni

Il paper afferma che TreeX fornisce un framework di spiegazione globale, istanziabile al momento del test e ancorato ai sottografi. Spostando il focus sulla ricostruzione dei logit, TreeX offre una valutazione più rigorosa dell'interpretabilità: le regole non sono solo descrittive, ma si dimostra che sono unità funzionali che modellano attivamente il margine decisionale.

Gli autori sottolineano che TreeX non è meramente uno strumento di sintesi a posteriori, ma un meccanismo che rivela come la logica decisionale di una GNN possa essere decomposta in regole simboliche riutilizzabili e ponderate. Questo approccio permette di analizzare come le regole supportino le classi previste e sopprimano i concorrenti, colmando un vuoto nell'interpretabilità a livello di modello attuale in cui l'interazione tra più regole e il confine decisionale finale rimane opaca. Il framework suggerisce una via più ampia per spiegare i modelli neurali identificando concetti interpretabili dall'uomo, componendoli in regole simboliche e utilizzando queste regole come unità a livello di lettura per ricostruire il comportamento del modello.