🤖 machine learning

Model-Level GNN Explanations via Rule-to-Graph Readout for Logit Reconstruction

Ce papier présente un cadre d'explication de GNN au niveau du modèle qui reconstruit les logits bruts multiclasse en composant des concepts de sous-graphes ancrés en règles symboliques et en les faisant passer à travers un classifieur figé, permettant ainsi d'obtenir des explications globales fidèles et instanciables au moment du test avec une analyse de contribution au niveau des règles, nettement plus rapides que les méthodes antérieures.

Auteurs originaux : Shengyao Lu, Jiuding Yang, Aedan J. DeFrates, Keith G. Mills, Baochun Li, Di Niu

Publié 2026-05-13

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Shengyao Lu, Jiuding Yang, Aedan J. DeFrates, Keith G. Mills, Baochun Li, Di Niu

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous avez un robot super-intelligent (un Réseau de Neurones à Graphes, ou RNG) qui examine des réseaux complexes de points et de lignes — comme des molécules ou des réseaux sociaux — et fait des prédictions. Il est incroyablement précis, mais c'est une « boîte noire ». Vous lui demandez : « Pourquoi as-tu dit que cette molécule est dangereuse ? » et il répond simplement : « Parce que je l'ai dit », sans expliquer comment il est arrivé à cette conclusion.

Les méthodes existantes tentent d'expliquer le robot en pointant des motifs spécifiques qu'il apprécie. Par exemple : « Oh, il aime les molécules avec un anneau rouge. » Mais c'est comme essayer d'expliquer la recette complexe d'un chef en listant simplement les ingrédients qu'il aime. Cela ne vous dit pas comment le chef les mélange, quelle quantité de chacun il utilise, ou comment il équilibre les saveurs pour obtenir le goût final.

TreeX est un nouvel outil qui change la donne. Au lieu de simplement lister les ingrédients, TreeX tente de reconstruire l'ensemble du processus de prise de décision du robot en utilisant des règles simples et lisibles par l'humain.

Voici comment TreeX fonctionne, en utilisant quelques analogies créatives :

1. L'analogie de la « Reconstruction de la recette »

Considérez la prédiction finale du robot non pas comme une simple réponse « Oui/Non », mais comme un profil de saveur complexe (comme un score pour « Épicé », « Sucré » et « Acide »).

Ancienne méthode : Les outils précédents tentaient de trouver une règle du type « S'il a un anneau rouge, c'est Épicé ». Ils faisaient simplement correspondre des motifs à des étiquettes.
Méthode TreeX : TreeX dit : « Prenons les scores de saveurs bruts du robot et reconstruisons-les à partir de zéro en utilisant une recette. » Il décompose la décision du robot en règles logiques (comme « S'il a un anneau rouge ET pas de carré bleu, ajoutez 5 points à Épicé »).

TreeX ne devine pas seulement l'étiquette finale ; il tente de reconstruire mathématiquement les nombres exacts (les logits) que le robot a utilisés avant de faire son choix final. Si TreeX peut reconstruire parfaitement le « profil de saveur » du robot en utilisant des règles simples, nous savons que ces règles sont une véritable explication de la façon dont le robot pense.

2. Le « Kit de construction » (Extraction de concepts)

Pour construire ces règles, TreeX a besoin de blocs de construction. Il regarde à l'intérieur du cerveau du robot (ses couches cachées) et trouve des concepts de sous-graphes.

L'analogie : Imaginez que le robot voit une molécule. TreeX examine la vue interne du robot et dit : « Ah, je vois un « Groupe Nitro » ici et une « Structure d'anneau » là-bas. » Il regroupe les parties du graphe qui se ressemblent en « concepts » réutilisables.
La particularité : TreeX est intelligent à ce sujet. Il ne s'empare pas de pièces au hasard ; il trouve des motifs stables et récurrents (comme trouver le même type de brique dans différentes maisons) afin de pouvoir les utiliser comme des blocs de construction fiables pour ses règles.

3. Le « Livre de règles » (Logique symbolique)

Une fois qu'il a les blocs de construction, TreeX écrit un Livre de règles.

Il utilise une logique du type : « SI (le Concept A est présent) ET (le Concept B est absent), ALORS augmentez le score pour la Classe 1. »
L'astuce de la « Négation » : Une caractéristique clé de TreeX est qu'il comprend l'absence. Tout comme un chef pourrait dire : « Cette soupe est bonne parce qu'il n'y a pas de sel », TreeX peut créer des règles basées sur ce qui manque. C'est crucial pour les décisions complexes où l'absence d'une caractéristique est aussi importante que sa présence.

4. La « Performance en direct » (Ancrage au moment du test)

C'est là que TreeX brille par rapport aux autres.

Ancienne méthode : Certains outils vous donnent un livre de règles statique qui s'applique à l'ensemble de l'ensemble de données, mais ils ne peuvent pas vous montrer comment cela fonctionne sur une nouvelle molécule spécifique que vous venez de leur remettre.
Méthode TreeX : Lorsque vous donnez un nouveau graphe à TreeX, il active instantanément les règles pertinentes. Il pointe les parties exactes du graphe qui ont déclenché la règle (ancrage) et vous montre exactement dans quelle mesure cette règle a augmenté ou diminué le score.
L'analogie : C'est comme un commentateur sportif en direct. Au lieu de simplement vous donner le score final, TreeX dit : « En ce moment, l'équipe gagne parce que le Joueur A (Règle 1) a marqué un but, ce qui a ajouté +2 points, tandis que le Joueur B (Règle 2) a raté un tir, ce qui a soustrait -1 point. »

Pourquoi est-ce mieux ?

L'article affirme que TreeX est supérieur pour trois raisons principales :

Fidélité : Il ne devine pas seulement la bonne réponse ; il reconstruit mathématiquement les « scores de confiance » internes du robot (les logits) avec une grande précision. Si les règles de TreeX peuvent recréer les nombres exacts du robot, l'explication est digne de confiance.
Vitesse : Il est jusqu'à 20 fois plus rapide que les méthodes précédentes. C'est comme passer de l'écriture manuelle d'un roman à l'utilisation d'une machine à écrire haute vitesse.
Insight actionnable : Il ne dit pas simplement « Voici pourquoi ». Il dit : « Cette règle soutient l'équipe gagnante, tandis que cette règle supprime l'équipe perdante. » Il vous permet de voir quelles règles sont les « stars » du spectacle et lesquelles ne sont que du bruit de fond.

En résumé

TreeX prend un robot boîte noire, dissèque sa prise de décision en un ensemble de règles logiques simples du type « Si-Alors », et prouve que ces règles fonctionnent en reconstruisant les prédictions exactes du robot. Il gère à la fois ce qui est présent et ce qui manque, fonctionne incroyablement vite et vous donne une décomposition en direct et détaillée de la façon dont le robot pense pour chaque nouvel exemple qu'il rencontre.

Résumé Technique : TreeX - Explications de GNN au Niveau du Modèle via une Lecture de Règles vers Graphes

Énoncé du Problème

Bien que les Réseaux de Neurones à Graphes (GNN) atteignent des performances prédictives solides, comprendre leur logique décisionnelle reste difficile. Les approches existantes se concentrent principalement sur les explications au niveau de l'instance, identifiant des nœuds ou sous-graphes spécifiques responsables d'une prédiction unique. Cependant, les explications locales échouent à révéler si les preuves sont utilisées systématiquement sur un ensemble de données, si les modèles s'appuient sur des raccourcis fallacieux, ou comment plusieurs concepts définissent conjointement les frontières de décision au niveau de la classe.

Les explicateurs au niveau du modèle actuels tentent généralement d'identifier des motifs de graphes ou des règles symboliques associés à une classe spécifique. Une limitation critique de ces méthodes est qu'elles traitent les règles comme des descripteurs de classe a posteriori plutôt que comme des unités de calcul fonctionnelles. Elles n'expliquent pas comment plusieurs règles produisent conjointement la décision finale du GNN ni ne reconstruisent les logits bruts de prédiction du modèle. Par conséquent, elles manquent de la capacité d'effectuer une analyse de contribution au niveau des règles lors du test ou d'expliquer la suppression des classes concurrentes.

Méthodologie : TreeX

Les auteurs proposent TreeX, un nouveau cadre d'explication de GNN au niveau du modèle qui déplace la cible de l'explication de l'extraction de règles par classe vers la reconstruction de logits basée sur des règles. TreeX intervient à l'interface de lecture d'un GNN pré-entraîné, en maintenant les couches de passage de messages et la tête de classificateur figées, tout en remplaçant la lecture originale de nœud vers graphe par une lecture pondérée de règles vers graphe.

La méthodologie se compose de quatre étapes principales :

1. Exploration de Concepts Inspirée des Sous-arbres

Pour ancrer les règles globales sur des instances locales, TreeX extrait des concepts de sous-graphes à partir des états cachés du GNN :

Exploration Locale : Les plongements de nœuds au sein d'un graphe sont regroupés. Chaque cluster est converti en un sous-graphe de support en agrégeant les champs récepteurs à $l$ -sauts de ses nœuds membres (sous-arbres). Cela biaise les concepts vers des preuves structurellement stables plutôt que vers du bruit.
Exploration Globale : Les plongements de concepts locaux sont regroupés à nouveau pour former une banque de concepts globale. Des sous-graphes représentatifs sont sélectionnés à l'aide d'un filtre majoritaire lexicographique en deux étapes (basé sur les signatures de forme et de degré) suivi d'un départage par distance au centroïde.
Justification Théorique : L'article soutient que pour les MPNN les plus puissants (comme GIN), le plongement de nœud de la $l$ -ième couche est une « Représentation d'Arbre Enraciné Parfaite » du sous-arbre complet à $l$ -sauts, justifiant l'utilisation des plongements de nœuds pour représenter des sous-structures.

2. Apprentissage de Règles Neuro-Symboliques

TreeX apprend des règles symboliques sur les concepts de sous-graphes globaux en utilisant une structure CNF (Forme Normale Conjonctive), spécifiquement une relaxation OU-de-CNF :

Découverte par Classe : Les règles sont initialement apprises de manière un-contre-toutes pour chaque classe cible. Les littéraux positifs ( $P[k]$ ) et les littéraux négatifs ( $\neg P[k]$ ) sont instanciés en fonction du pouvoir discriminatif des concepts globaux.
Logique Différentiable : Une paramétrisation de logique différentiable hiérarchique est utilisée. Les clauses sont satisfaites via une co-norme de Gödel (maximum sur les littéraux activés), et les règles sont formées via un ET souple de type produit à travers les clauses. La prédiction de classe finale utilise une somme probabiliste (OU-bruyant) sur les règles candidates.
Fusion : Les candidats de règles spécifiques à une classe sont fusionnés dans une banque de règles partagée unifiée. Cette conception en deux étapes garantit la découverte de règles discriminantes par classe tout en maintenant une structure partagée pour la reconstruction multiclasse.

3. Lecture de Règles vers Graphes

L'innovation centrale consiste à reformuler la couche de lecture :

Plongements de Règles : Les plongements de règles sont calculés en agrégeant les plongements de leurs littéraux constitutifs (pondérés par les activations des portes). Les littéraux négatifs sont représentés comme les plongements négatifs de leurs homologues positifs.
Reconstruction de Logits : Les règles actives sont pondérées par un vecteur de poids global appris $w$ . La combinaison pondérée des plongements de règles actives est passée à travers la tête de classificateur figée du GNN de base pour reconstruire les logits multiclasse bruts ( $\hat{o}_G$ ).
Objectif : Le modèle est entraîné pour minimiser l'Erreur Quadratique Moyenne (MSE) entre les logits reconstruits et les logits bruts du GNN original.

4. Ancrage et Analyse au Moment du Test

Au moment du test, TreeX projette les graphes non vus dans l'espace de concepts partagé, évalue les règles fixes et produit des explications spécifiques à l'instance. Cela permet :

Ancrage : La correspondance des littéraux satisfaits avec des preuves locales concrètes de sous-graphes (pour les littéraux positifs) ou l'absence de concepts (pour les littéraux négatifs).
Ablation : La mesure de la contribution de chaque règle en annulant son poids et en observant le changement dans les logits reconstruits ( $\Delta_{g,r}$ ).

Contributions Clés

Nouvelle Cible d'Explication : Formule l'explication de GNN au niveau du modèle comme une reconstruction de logits basée sur des règles, allant au-delà de la simple association de motifs avec des étiquettes pour expliquer la génération des logits bruts de prédiction.
Interface de Lecture Symbolique : Introduit une lecture de règles vers graphes où des règles logiques ancrées agissent comme des unités de calcul. Les plongements de règles actifs sont agrégés et passés à travers le classificateur figé pour reconstruire les logits multiclasse.
Construction de Règles Ancrée et Compositionnelle : Extrait des concepts de sous-graphes inspirés des sous-arbres pour des plongements continus et des preuves concrètes. Il apprend des règles OU-de-CNF, qui préservent les réalisations alternatives au sein des contraintes requises, offrant une expressivité structurelle supérieure aux formulations de type DNF sous le même budget de règles.
Explications Fonctionnelles et Fidèles : Démontre que les règles critiques identifiées soutiennent activement la classe prédite et suppriment les classes non cibles, agissant comme des unités fonctionnelles plutôt que de simples artefacts a posteriori.

Résultats Expérimentaux

TreeX a été évalué sur trois ensembles de données synthétiques (BA-2Motifs, BAMultiShapes, BA-Neg) et deux ensembles de données moléculaires réels (Mutagenicity, NCI1).

Fidélité des Logits : TreeX reconstruit fidèlement les logits multiclasse bruts du GNN de base, atteignant une Fidélité de Probabilité Absolue (APF) élevée (par exemple, >97 % sur BA-2Motifs, >75 % sur les ensembles de données réels).
Impact des Règles : Les études d'ablation montrent que les règles actives principales augmentent systématiquement le logits de la classe cible tout en supprimant les classes non cibles, confirmant leur rôle fonctionnel dans le processus décisionnel.
Nécessité de la Conception : Les ablations confirment que la suppression du module de règles, de l'étape de fusion ou des littéraux négatifs dégrade considérablement les performances, en particulier dans la reconstruction des logits bruts.
Efficacité et Comparaison : Par rapport aux explicateurs basés sur des règles par classe antérieurs (LogicXGNN, GLGExplainer, GraphTrail), TreeX atteint un Accord de Prédiction (PA) compétitif ou supérieur tout en étant jusqu'à 20 fois plus rapide. Contrairement aux lignes de base, TreeX fournit des poids de règles, un ancrage au moment du test et une analyse de contribution au niveau des logits.

Signification et Revendications

L'article revendique que TreeX fournit un cadre d'explication global, instanciable au moment du test et ancré sur des sous-graphes. En déplaçant l'accent vers la reconstruction de logits, TreeX offre une évaluation plus rigoureuse de l'explicabilité : les règles ne sont pas seulement descriptives mais sont montrées comme des unités fonctionnelles qui façonnent activement la marge de décision.

Les auteurs soulignent que TreeX n'est pas simplement un outil de résumé a posteriori, mais un mécanisme qui révèle comment la logique décisionnelle d'un GNN peut être décomposée en règles symboliques réutilisables et pondérées. Cette approche permet d'analyser comment les règles soutiennent les classes prédites et suppriment les concurrents, comblant une lacune dans l'interprétabilité au niveau du modèle actuelle où l'interaction entre plusieurs règles et la frontière de décision finale reste opaque. Le cadre suggère une voie plus large pour expliquer les modèles neuronaux en identifiant des concepts interprétables par l'humain, en les composant en règles symboliques et en utilisant ces règles comme unités au niveau de la lecture pour reconstruire le comportement du modèle.