🤖 machine learning

Explaining Graph Neural Networks for Node Similarity on Graphs

Cet article examine la recherche de similarité explicable sur les graphes en évaluant l'information mutuelle et les méthodes d'explication basées sur le gradient pour les réseaux de neurones graphiques, démontrant que les approches basées sur le gradient offrent des explications plus actionnables, cohérentes et espacées pour les scores de similarité des nœuds.

Auteurs originaux : Daniel Daza, Cuong Xuan Chu, Trung-Kien Tran, Daria Stepanova, Michael Cochez, Paul Groth

Publié 2026-05-12

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Daniel Daza, Cuong Xuan Chu, Trung-Kien Tran, Daria Stepanova, Michael Cochez, Paul Groth

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous possédiez une carte géante et complexe de connexions, comme un vaste réseau social ou un réseau de citations scientifiques. Vous avez construit un programme informatique intelligent (un Réseau de Neurones à Graphes, ou GNN) qui examine cette carte et déclare : « Hé, ces deux personnes (ou articles) sont très similaires. »

Habituellement, lorsque ces programmes prennent une décision, nous voulons savoir pourquoi. Mais la plupart du temps, le « pourquoi » ne fonctionne que pour des réponses claires et nettes comme « Est-ce un chat ou un chien ? » ou « Cette personne cliquera-t-elle sur cette publicité ? »

Cet article pose une question différente : Et si l'ordinateur se contentait de dire : « Ces deux choses sont similaires à 85 % » ? Comment expliquer pourquoi il pense cela ?

Les auteurs ont réalisé que les outils habituels pour expliquer l'IA ne fonctionnent pas bien pour cette tâche de « similarité ». Alors, ils ont créé un nouvel ensemble d'outils pour tester quelles méthodes d'explication ont réellement du sens. Voici comment ils ont procédé, en utilisant quelques analogies du quotidien.

Le Problème : Le Score de Similarité « Boîte Noire »

Imaginez le GNN comme un chef qui a goûté deux plats et a déclaré : « Ces deux soupes sont très similaires. »

L'Ancienne Méthode (Apprentissage Supervisé) : Si le chef disait « C'est une soupe », nous pourrions demander : « Avez-vous goûté les carottes ? » ou « Est-ce le sel ? ». Nous connaissons la cible (Soupe vs Pas Soupe).
Le Nouveau Problème (Similarité) : Le chef dit simplement : « La Soupe A et la Soupe B sont similaires à 90 %. » Si nous demandons « Pourquoi ? », les anciens outils pourraient indiquer des ingrédients aléatoires qui n'expliquent pas réellement la similarité. Ils pourraient dire : « C'est le sel ! » mais ensuite, si vous retirez le sel, le score de similarité ne change pas beaucoup. C'est une mauvaise explication.

La Solution : Trois Règles pour une Bonne Explication

Les auteurs ont établi trois règles (critères) qu'une bonne explication de similarité doit respecter. Ils ont testé ces règles en jouant à des jeux du « et si » avec le graphe (la carte).

1. Actionnable (Le Test du « Et Si »)

L'Analogie : Imaginez que l'explication dit : « La raison pour laquelle ces deux soupes sont similaires est le basilic. »
Le Test : Si vous retirez le basilic des deux soupes, le score de similarité devrait chuter. Si vous ajoutez plus de basilic, le score devrait augmenter.
L'Affirmation : Une bonne explication doit vous permettre de modifier l'entrée (le graphe) de manière prévisible. Si l'explication dit « basilic » mais que le retirer ne change rien, l'explication est inutile.

2. Cohérente (Le Test des « Côtés Opposés »)

L'Analogie : Imaginez que l'explication divise les ingrédients en deux piles : « Bon pour la similarité » (Pile A) et « Mauvais pour la similarité » (Pile B).
Le Test : Si vous ne gardez que la pile « Bon », les soupes devraient devenir plus similaires. Si vous ne gardez que la pile « Mauvais », elles devraient devenir moins similaires.
L'Affirmation : Les deux piles doivent faire des choses opposées. Si garder la pile « Bon » les rend similaires, mais que garder la pile « Mauvais » les rend aussi similaires (ou ne fait rien), l'explication est confuse et incohérente.

3. Épars (Le Test de l'« Essentiel Seulement »)

L'Analogie : Une bonne explication ne devrait pas dire : « La similarité est due à chaque grain de sel individuel dans l'océan. » Elle devrait dire : « C'est à cause de ces trois herbes spécifiques. »
Le Test : Pouvez-vous jeter 90 % des ingrédients sur lesquels l'explication a pointé, et obtenir le même résultat ?
L'Affirmation : Une bonne explication devrait pouvoir être réduite à une liste minuscule et essentielle sans perdre sa puissance.

L'Expérience : Qui a réussi le test ?

Les auteurs ont pris deux types populaires d'explicateurs d'IA et les ont testés contre ces trois règles sur diverses cartes (ensembles de données comme les réseaux de citations et les graphes de connaissances).

Équipe A : Les Explicateurs « Information Mutuelle » (Les Devineurs)

Fonctionnement : Ils tentent de trouver un petit sous-graphe qui « contient » la réponse, un peu comme deviner quelle partie de la recette de soupe est la plus importante par essais et erreurs.
Résultat : Ils ont échoué aux tests.
- Ils n'étaient pas Actionnables : Retirer les ingrédients sur lesquels ils pointaient ne modifiait pas de manière fiable le score de similarité.
- Ils n'étaient pas Cohérents : Parfois, garder les ingrédients « importants » faisait augmenter le score, et parfois il diminuait. C'était un coup de chance.
- Ils n'étaient pas Épars : On ne pouvait pas facilement réduire leur liste d'ingrédients.

Équipe B : Les Explicateurs « Basés sur le Gradient » (Les Calculateurs)

Fonctionnement : Ils utilisent les mathématiques pour calculer exactement combien chaque arête (connexion) dans la carte pousse le score de similarité vers le haut ou vers le bas. C'est comme une balance précise mesurant le poids de chaque ingrédient.
Résultat : Ils ont réussi les trois tests !
- Actionnables : S'ils disaient qu'une arête augmentait la similarité, la retirer faisait chuter le score. S'ils disaient qu'elle diminuait la similarité, la retirer faisait monter le score.
- Cohérents : Les arêtes « vers le haut » et les arêtes « vers le bas » faisaient exactement des choses opposées.
- Épars : Vous pouviez jeter 90 % des arêtes sur lesquelles ils pointaient, et les quelques restantes expliquaient toujours parfaitement la similarité.

La Grande Conclusion

L'article conclut que lorsque vous essayez d'expliquer pourquoi deux choses sont similaires (un score continu), les méthodes « Basées sur le Gradient » sont les gagnantes. Elles vous offrent une carte claire, fiable et compacte du pourquoi l'ordinateur pense que deux nœuds sont semblables.

Les méthodes « Information Mutuelle », qui fonctionnent très bien pour des questions simples « Oui/Non » (comme « Est-ce un chat ? »), se confondent lorsque la question est « Dans quelle mesure ces deux choses se ressemblent-elles ? »

En bref : Si vous voulez savoir pourquoi deux personnes dans un réseau sont similaires, ne demandez pas à l'IA de deviner quelles connexions comptent. Demandez-lui de calculer la poussée et la traction exactes de chaque connexion. Cela vous donne une réponse claire et digne de confiance.

Résumé technique : Explication des réseaux de neurones à graphes pour la similarité de nœuds sur les graphes

Définition du problème

L'article comble une lacune critique dans l'explicabilité des réseaux de neurones à graphes (GNN). Bien qu'une recherche extensive existe sur l'explication des GNN pour des tâches supervisées (par exemple, classification de nœuds, prédiction de liens), le problème de l'explication de la similarité de nœuds dans des contextes non supervisés reste largement inexploré. Dans de nombreuses applications, telles que les réseaux de citations ou les graphes de connaissances, les GNN sont entraînés pour apprendre des représentations de nœuds où la similarité est calculée via des métriques comme la similarité cosinus. Contrairement aux étiquettes de classification discrètes, la similarité est une grandeur continue, et les protocoles d'évaluation existants pour l'explicabilité ne s'appliquent pas directement. Les auteurs examinent comment attribuer des valeurs aux arêtes d'un graphe pour expliquer pourquoi deux nœuds spécifiques ont un score de similarité élevé ou faible, distinguant cela des tâches où l'objectif est de justifier une prédiction discrète.

Méthodologie

Cadre et critères

Les auteurs proposent un cadre pour évaluer les explications de la similarité de nœuds basé sur trois critères dérivés des principes généraux de l'IA explicable (XAI) :

Actionnabilité : Une explication doit permettre des interventions (par exemple, ajouter ou supprimer des arêtes) qui entraînent un changement prévisible du score de similarité.
Cohérence : L'effet du maintien des arêtes au-dessus d'un seuil d'explication doit être distinct de l'effet de leur élimination (c'est-à-dire le maintien des arêtes en dessous du seuil). Les deux ensembles d'arêtes ne doivent pas produire d'effets se chevauchant ou indistinguables sur le score.
Parcimonie : Une explication doit être compressible ; un petit sous-ensemble des arêtes les plus pertinentes doit conserver la majorité de l'effet explicatif observé dans l'ensemble complet.

Métriques basées sur l'intervention

Pour opérationnaliser ces critères, les auteurs introduisent des métriques agnostiques au modèle et basées sur l'intervention :

Fidélité ($Fid$) : Mesure le changement du score de similarité après intervention sur le graphe basé sur l'explication. Plus précisément, ils calculent $Fid_a$ (changement lors du maintien des arêtes au-dessus d'un seuil) et $Fid_b$ (changement lors du maintien des arêtes en dessous du seuil).
Chevauchement des effets (EO) : Une métrique de similarité de Jaccard généralisée qui quantifie le chevauchement entre les signes des valeurs de fidélité pour les deux interventions. Un EO faible indique que les deux interventions ont des effets distincts et complémentaires (par exemple, l'une augmente la similarité, l'autre la diminue), satisfaisant ainsi le critère de cohérence.
Évaluation de la parcimonie : Les auteurs simulent des niveaux de parcimonie croissants en supprimant les arêtes les moins pertinentes des masques d'explication et en réévaluant la fidélité et l'EO. Une explication robuste conserve ses propriétés actionnables et cohérentes même lorsque le nombre d'arêtes est réduit.

Configuration expérimentale

L'étude évalue deux familles de méthodes d'explication :

Méthodes d'Information Mutuelle (IM) : Spécifiquement, GNNExplainer, qui cherche un sous-graphe maximisant l'information mutuelle avec la prédiction.
Méthodes basées sur le gradient (GB) : Calcul direct du gradient par rapport à la matrice d'adjacence et Intégrated Gradients.

Ces méthodes sont appliquées aux représentations de nœuds générées par quatre algorithmes d'apprentissage non supervisé : Autoencodeurs de graphes (GAE), Autoencodeurs variationnels de graphes (VGAE), Deep Graph Infomax (DGI) et Graph Contrastive Representation Learning (GRACE). Les expériences sont menées sur six jeux de données : réseaux de citations (Cora, Citeseer, Pubmed), graphes hétérophiles (Chameleon, Squirrel, Actor) et un graphe de connaissances (DBpedia50k).

Résultats clés

Les expériences produisent trois résultats principaux concernant la performance des méthodes GB par rapport aux méthodes IM dans le contexte de la similarité de nœuds :

Actionnabilité : Les explications basées sur le gradient sont systématiquement actionnables. Les interventions basées sur les explications GB (maintien des arêtes au-dessus du seuil) augmentent de manière prévisible le score de similarité, tandis que les interventions basées sur les arêtes en dessous du seuil le diminuent de manière prévisible. En revanche, GNNExplainer (IM) montre un comportement incohérent ; l'effet du maintien des arêtes à haute valeur dépend souvent du modèle d'incorporation spécifique et du jeu de données, échouant à produire une direction de changement prévisible dans tous les scénarios.
Cohérence : Les méthodes GB obtiennent des scores de chevauchement des effets (EO) significativement plus faibles (souvent proches de 0 ou < 0,1) par rapport aux méthodes IM (souvent > 0,4 ou > 0,5). Cela indique que les explications GB distinguent clairement entre les arêtes qui augmentent la similarité et celles qui la diminuent. Les explications IM entraînent fréquemment des effets se chevauchant où les arêtes à haute et basse valeur produisent des changements similaires dans le score, échouant ainsi au critère de cohérence.
Parcimonie : Les propriétés actionnables et cohérentes des explications GB sont préservées même lorsque l'explication est élaguée pour ne conserver que les 10 % supérieurs des arêtes (90 % de parcimonie). Cela suggère que les explications GB peuvent être considérablement simplifiées sans perdre leur pouvoir explicatif, alors que les explications IM ne présentent pas cette robustesse.

Les auteurs notent également que, bien que les méthodes IM montrent parfois un EO plus faible dans des cas spécifiques (par exemple, DGI avec GraphSAGE), cela est souvent dû à des effets proches de zéro (faible actionnabilité) plutôt qu'à une véritable cohérence. Dans de tels régimes, l'absence d'impact significatif sur le score rend la séparation basée sur le signe difficile pour tout explainer.

Importance et affirmations

L'article revendique être le premier à définir et évaluer formellement le problème de l'explication de la similarité de nœuds dans les GNN. Son importance réside dans :

Combler une lacune : Il va au-delà de l'accent dominant mis sur les tâches supervisées pour aborder l'explicabilité des scores de similarité continus et non supervisés.
Cadre d'évaluation : Il fournit un ensemble de métriques quantitatives basées sur l'intervention (Fidélité, EO, Parcimonie) nécessaires pour évaluer la qualité des explications de similarité, que les métriques standard basées sur la classification ne peuvent pas capturer.
Insight méthodologique : Les résultats démontrent que les méthodes basées sur le gradient sont supérieures aux méthodes basées sur l'information mutuelle pour cette tâche spécifique. Les méthodes GB fournissent des explications qui sont non seulement actionnables et cohérentes, mais aussi parcimonieuses, offrant un outil plus pratique et interprétable pour comprendre pourquoi les nœuds sont similaires.
Généralisabilité : Les métriques proposées sont agnostiques au modèle et applicables à toute fonction de similarité définie sur des représentations de nœuds (par exemple, distance euclidienne), offrant une base pour le développement futur de systèmes de recherche de similarité explicable.

Les auteurs concluent que, bien que le coût computationnel soit un facteur (les méthodes GB sont généralement plus efficaces que l'optimisation itérative requise par les méthodes IM), l'avantage principal des méthodes GB dans ce contexte est leur capacité à fournir des explications fiables, directionnelles et parcimonieuses pour la similarité de nœuds.