Why Self-Inconsistency Arises in GNN Explanations and How to Exploit It

Résumé Technique : Pourquoi l'Incohérence de Soi Émerge dans les Explications de GNN et Comment l'Exploiter

1. Énoncé du Problème

Les Réseaux de Neurones Graphiques Auto-Interprétables (SI-GNN) intègrent la génération d'explications directement dans le pipeline de prédiction, offrant théoriquement des explications plus dignes de confiance que les méthodes post-hoc. Cependant, des observations récentes indiquent que les SI-GNN souffrent d'incohérence de soi : lorsqu'un modèle est réappliqué à son propre sous-ensemble de graphe explicatif généré, il produit souvent une explication différente, soit en supprimant des arêtes précédemment sélectionnées, soit en ajoutant de nouvelles. Ce comportement sape la fidélité et l'utilité pratique des SI-GNN. Bien que l'existence de ce phénomène soit documentée, le mécanisme sous-jacent qui le provoque reste mal compris, et il manque des stratégies efficaces pour l'atténuer sans réentraînement.

2. Méthodologie et Analyse Théorique

Cause Racine : Perturbation du Contexte
Les auteurs identifient la perturbation de contexte induite par la ré-explication comme la cause directe de la variation des scores. Dans les GNN, les représentations des nœuds sont mises à jour par passage de messages. Lorsqu'un SI-GNN génère une explication (un sous-graphe masqué) et le réinjecte dans lui-même, le masquage au niveau des arêtes altère le contexte local de passage de messages. Puisque les scores d'importance des arêtes sont dérivés de ces représentations de nœuds, le contexte perturbé conduit naturellement à des scores différents lors du second passage.

Hypothèse d'Attribution du Signal Latent
Pour expliquer pourquoi seules certaines arêtes (généralement les moins importantes) présentent une instabilité tandis que les arêtes importantes de vérité terrain restent stables, l'article propose une Hypothèse d'Attribution du Signal Latent. Les auteurs partitionnent les arêtes en trois ensembles disjoints :

• $E_p$ (Arêtes à signal positif) : Arêtes assignant des scores élevés basés sur des caractéristiques intrinsèques et invariantes au contexte. Celles-ci restent stables d'un passage à l'autre.
• $E_n$ (Arêtes à signal négatif) : Arêtes assignant des scores faibles basés sur des caractéristiques intrinsèques. Celles-ci restent également stables.
• $E_c$ (Arêtes pilotées par le contexte) : Arêtes dont les scores sont déterminés principalement par le contexte local de passage de messages. Celles-ci sont hautement sensibles aux perturbations causées par la ré-explication.

Les auteurs soutiennent que la régularisation de concision (qui limite le "budget" total de masse d'importance qu'une explication peut avoir) façonne cette allocation. Sous des contraintes de budget strictes, le modèle est forcé de réallouer l'importance, potentiellement en poussant des arêtes non importantes d'un état piloté par le signal vers un état piloté par le contexte, augmentant ainsi leur sensibilité aux perturbations.

Solution Proposée : Débruitage de Soi (SD)
S'appuyant sur l'observation que l'incohérence de soi agit comme un signal de bruit, les auteurs proposent le Débruitage de Soi (SD), une stratégie de post-traitement agnostique au modèle et sans réentraînement.

• Mécanisme : SD effectue un second passage avant sur le graphe explicatif pour mesurer l'instabilité ($\Delta s_{ij}$) du score d'importance de chaque arête.
• Calibration : Il pénalise les arêtes à forte instabilité en réduisant l'échelle de leurs scores originaux : $\tilde{m}_{ij} = \max(0, (1 - \eta \Delta s_{ij})m^{(1)}_{ij})$, où $\eta$ est un paramètre de force de débruitage.
• Sélection des Hyperparamètres : Pour gérer le décalage de distribution introduit par SD, les auteurs suggèrent une stratégie d'adaptation légère : figer l'explicateur et l'encodeur, et affiner uniquement le classifieur sur les explications calibrées. La force de débruitage $\eta$ est ensuite sélectionnée en fonction de la précision de validation de ce classifieur adapté.

3. Contributions Clés

• Insight Mécanistique : L'article fournit la première explication théorique de l'incohérence de soi, l'attribuant aux perturbations de contexte local et formalisant le rôle de l'attribution du signal latent sous contraintes de concision.
• Calibration Efficace : Il introduit le Débruitage de Soi (SD), une stratégie post-hoc qui améliore la qualité des explications avec une surcharge computationnelle minimale (un seul passage avant supplémentaire, ajoutant ~4–6 % de coût).
• Complémentarité : Le travail démontre que SD capture une source de bruit distincte (l'incohérence de soi d'un seul modèle) qui est complémentaire aux méthodes existantes d'incohérence inter-modèles comme l'Ensemble d'Explications (EE).

4. Résultats Expérimentaux

Des expériences ont été menées sur quatre cadres SI-GNN représentatifs (GAT, CAL, SMGNN, GSAT), plusieurs architectures de base (GIN, GraphSAGE, GatedGCN) et quatre jeux de données de référence (BA-2MOTIFS, 3MR, BENZENE, MUTAGENICITY).

• Qualité de l'Explication : SD améliore constamment l'AUC (plausibilité par rapport à la vérité terrain) sur les 16 configurations testées, avec des gains allant jusqu'à 3,9 %. Il réduit également significativement le SPA (Sparsité Douce), indiquant des explications plus concises et moins redondantes.
• Fidélité : Les résultats sur la FID (Fidélité) sont mitigés, ce que les auteurs attribuent au décalage de distribution introduit par SD et aux mécanismes spécifiques de certains modèles (par exemple, CAL). Cependant, après une adaptation légère du classifieur, la stabilité de la FID s'améliore.
• Performance Prédictive : L'application de SD seule entraîne des changements mineurs de précision. Lorsqu'il est combiné à l'adaptation légère du classifieur (SD*), la précision de classification en aval s'améliore de manière constante, avec des gains allant jusqu'à 8 % dans certains cas.
• Efficacité vs EE : Contrairement à l'Ensemble d'Explications (EE), qui nécessite l'entraînement de plusieurs modèles et engendre une surcharge d'environ 400 %, SD ne nécessite qu'un seul modèle et ajoute une surcharge d'environ 4–6 %. La combinaison de SD avec EE produit des améliorations supplémentaires, suggérant que les deux méthodes traitent des sources de bruit différentes.

5. Signification et Revendications

L'article affirme que l'incohérence de soi n'est pas simplement un mode de défaillance mais un signal intrinsèque qui peut être exploité pour calibrer les explications. En comprenant le mécanisme de perturbation de contexte et d'attribution du signal latent, les auteurs démontrent qu'une simple étape de post-traitement sans réentraînement peut améliorer considérablement la fiabilité et la concision des explications des SI-GNN.

Les auteurs adoptent une position modeste, notant que :

• Leur hypothèse de signal latent est une perspective mécanistique inférée du comportement plutôt qu'un modèle de variable latente rigoureusement identifiable.
• SD ne garantit pas des explications entièrement dignes de confiance, car il ne peut pas capturer toutes les sources de bruit (par exemple, celles non liées à l'incohérence de soi).
• La méthode est conçue pour la calibration post-hoc de modèles pré-entraînés existants, la distinguant des approches qui nécessitent un réentraînement avec des objectifs de cohérence de soi.

En fin de compte, ce travail vise à améliorer la fiabilité des systèmes d'IA dans des domaines à haut risque (par exemple, la découverte de médicaments, la découverte scientifique) en supprimant le bruit piloté par le contexte dans les explications de graphes sans nécessiter de modifications architecturales ni de réentraînement.