💻 computer science

Towards the Explainability of Temporal Graph Networks via Memory Backtracking and Topological Attribution

Cet article propose MemExplainer, un nouveau cadre qui améliore l'explicabilité des réseaux de graphes temporels en introduisant l'attribution de topologie et des arbres de rétro-traçage de mémoire pour quantifier l'influence des événements historiques sur les prédictions, surpassant ainsi les méthodes existantes à travers diverses tâches de graphes temporels.

Auteurs originaux : Yazheng Liu, Xi Zhang, Sihong Xie, Hui Xiong

Publié 2026-07-10

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Yazheng Liu, Xi Zhang, Sihong Xie, Hui Xiong

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayez de comprendre pourquoi un robot super intelligent a prédit que deux personnes dans un réseau social allaient devenir les meilleurs amis du monde. Ce robot, appelé Réseau de Graphes Temporels (TGN), est excellent pour faire ce genre de suppositions, mais il est généralement une « boîte noire ». Vous demandez : « Pourquoi as-tu pensé cela ? » et il se contente de hausser les épaules.

Le problème est que les tentatives précédentes pour jeter un coup d'œil à l'intérieur de cette boîte noire regardaient la mauvaise chose. Elles regardaient les connexions actuelles entre les personnes, mais ignoraient la mémoire du robot. Considérez la mémoire du robot comme un journal intime où il note chaque interaction qu'il a vue. Si vous ignorez le journal, vous manquez toute l'histoire de la façon dont le robot a appris à faire sa prédiction.

La percée du « Backtracking de Mémoire » (Retour en arrière de la mémoire)

Les auteurs de ce papier, Liu et son équipe, disent : « Attendez une minute ! Pour comprendre la prédiction, nous devons lire le journal ! »

Ils ont construit un nouvel outil appelé MemExplainer. Au lieu de simplement regarder qui est ami avec qui en ce moment, cet outil fait deux choses géniales :

L'Arbre de Topologie (Le « Qui est qui ») : Il cartographie le voisinage immédiat. Il demande : « Qui sont les voisins de ces deux personnes, et quelle est leur « vibe » actuelle (vecteurs de mémoire) ? »
L'Arbre de Backtracking de Mémoire (Le « Voyage dans le temps ») : C'est la partie magique. Il remonte les entrées du journal du robot en arrière dans le temps. Il demande : « Quels événements passés spécifiques (comme un message envoyé il y a trois jours ou un commentaire d'il y a une semaine) ont réellement mis à jour la mémoire du robot pour lui faire penser que ces deux-là sont amis ? »

Pourquoi l'ancienne méthode a échoué

Le papier argumente explicitement contre les anciennes méthodes (comme TGNNExplier ou TempME). Ces anciens outils traitaient la mémoire du robot comme une statue figée. Ils regardaient la mémoire au moment exact de la prédiction et disaient : « D'accord, c'est l'état actuel, expliquons-le. »

Les auteurs montrent que c'est une énorme erreur. C'est comme essayer de comprendre pourquoi un chef a préparé une soupe spécifique en regardant seulement la marmite après la cuisson, sans jamais regarder les ingrédients qu'il a ajoutés plus tôt. En figeant la mémoire, les anciennes méthodes manquaient l'« impact à long terme » des événements historiques. Elles ne pouvaient pas voir qu'une petite interaction datant de plusieurs semaines était la véritable raison pour laquelle le robot a fait son choix.

La règle de « Conservation »

C'est ici que les mathématiques deviennent ludiques. Les auteurs utilisent une méthode appelée Propagation de la Pertinence par Couche (LRP). Considérez cela comme un jeu de « patate chaude » où la « chaleur » (le score de prédiction) doit être transmise de la réponse finale jusqu'aux événements originaux.

Le papier prouve une règle stricte : La chaleur totale de tous les événements passés doit être égale au score de prédiction final. Rien n'est perdu, rien n'est inventé. Si le robot prédit une probabilité de 100 % d'amitié, la somme de tous les « points d'amitié » de chaque événement passé doit s'additionner pour donner exactement 100. Cela garantit que l'explication est « fidèle » : ce n'est pas juste une supposition ; c'est un compte rendu mathématiquement garanti des pensées du robot.

Les résultats : Est-ce que ça a marché ?

L'équipe a testé leur méthode sur neuf jeux de données différents du monde réel, allant des modifications sur Wikipédia et des publications Reddit aux chaînes d'e-mails et même aux vidéos de mouvements humains (comme faire des tractions ou courir).

La preuve : Ils ont comparé leur méthode à quatre autres outils d'explication de haut niveau. Dans 77 % des cas, leur méthode était statistiquement plus performante pour expliquer pourquoi le modèle a fait une prédiction (mesuré par une métrique appelée FidelityKL).
Les visuels : Dans une étude de cas impliquant des actions humaines (comme grimper ou courir), les anciennes méthodes mettaient généralement en évidence presque tout le squelette, ce qui rendait difficile de voir ce qui importait. MemExplainer, en revanche, a sélectionné précisément les articulations et les mouvements qui ont réellement piloté la prédiction (comme la chaîne hanche-genou-cheville pour la course), laissant le reste dans l'obscurité.

Ce qu'ils n'ont pas résolu

Le papier est honnête sur ses limites. Bien que la méthode fonctionne très bien, elle peut devenir très lourde en termes de calcul si l'« arbre de backtracking de mémoire » devient trop profond et large. Les auteurs suggèrent que pour les graphes massifs, il pourrait être nécessaire de limiter la profondeur de l'arbre (jusqu'où l'on remonte dans le temps) pour éviter que l'ordinateur ne sature. Ils n'ont pas prétendu avoir résolu cela parfaitement pour le moment ; ils ont simplement montré que leur approche actuelle est la meilleure que nous ayons à ce jour.

L'essentiel à retenir

Le papier suggère que si vous voulez faire confiance à un Réseau de Graphes Temporels, vous ne pouvez pas simplement regarder le présent. Vous devez suivre les miettes de pain de sa mémoire en remontant le temps. En construisant ces « arbres de backtracking », MemExplainer nous offre une carte fidèle et mathématiquement cohérente de quels moments passés ont façonné les prédictions futures du robot. Cela transforme une boîte noire en un livre d'histoires transparent.

Résumé technique : Vers l'explicabilité des réseaux de graphes temporels via le retour en arrière de la mémoire et l'attribution topologique

Énoncé du problème
Les réseaux de graphes temporels (TGN) ont atteint une précision prédictive supérieure dans des applications réelles telles que la détection de la fraude et les prévisions de santé. Cependant, ils fonctionnent comme des modèles « boîte noire », n'offrant qu'une faible transparence sur la manière dont les événements historiques pilotent les prédictions. Les méthodes d'explication existantes pour les TGN (par exemple, TGNNExplainer, TempME) se concentrent principalement sur la structure topologique du graphe mais négligent le module de mémoire, un composant central responsable de l'enregistrement et de la mise à jour des historiques des nœuds. En figeant les vecteurs de mémoire finaux, ces méthodes ignorent l'évolution temporelle des états des nœuds, conduisant à des explications infidèles qui ne parviennent pas à capturer comment les interactions passées s'accumulent pour façonner les prédictions futures.

Méthodologie
Les auteurs proposent MemExplainer, un cadre qui attribue les prédictions des TGN à la fois aux événements voisins (spatial) et aux événements historiques (temporel) en modélisant explicitement le module de mémoire. La méthodologie se compose de trois étapes principales :

Arbre d'attribution topologique (Décomposition spatiale) :
Le cadre construit un arbre d'attribution topologique pour quantifier la contribution des événements voisins et des vecteurs de mémoire des nœuds à l'embedding du nœud cible. En utilisant la propagation de la pertinence par couche (LRP - Layer-wise Relevance Propagation), la méthode décompose l'embedding du nœud cible ( $z^t_u$ ) en contributions provenant de la mémoire du nœud cible, des mémoires des voisins et des caractéristiques des événements. Une contribution théorique clé est la preuve d'une propriété de conservation, garantissant que la somme des contributions de tous les événements voisins et des mémoires de nœuds est égale aux logits originaux.
Arbre de retour en arrière de la mémoire (Décomposition temporelle) :
Pour remédier à la limitation des vecteurs de mémoire figés, les auteurs construisent un arbre de retour en arrière de la mémoire (memory backtracking tree). Cet arbre trace de manière récursive l'influence des événements historiques sur les vecteurs de mémoire actuels des nœuds. En appliant la LRP à la fonction de mise à jour de la mémoire (par exemple, GRU ou RNN), la méthode attribue la contribution de l'état de mémoire actuel aux événements historiques spécifiques qui ont déclenché les mises à jour. Ce processus garantit que la contribution totale de tous les événements historiques est égale à la contribution totale de la mémoire, maintenant la propriété de conservation tout au long de la dimension temporelle.
Sélection d'événements via l'optimisation :
En raison de la cartographie non linéaire des logits vers les probabilités, une simple sélection des $k$ meilleurs événements peut être infidèle. Pour y remédier, les auteurs dérivent la divergence de KL entre la prédiction originale et la prédiction réalisée en utilisant uniquement un sous-ensemble d'événements sélectionnés. Ils formulent un problème d'optimisation pour sélectionner un sous-ensemble d'événements importants ( $E^*$ ) qui minimise cette divergence, garantissant que l'explication reproduit fidèlement le comportement du modèle.

Contributions clés

Explication sensible à la mémoire : Contra irement aux travaux antérieurs qui figent les vecteurs de mémoire, cette méthode suit explicitement comment les événements historiques mettent à jour les mémoires des nœuds, fournissant une attribution plus fidèle des prédictions.
Propriété de conservation : Le cadre garantit que la somme des contributions de tous les événements (tant voisins qu'historiques) est égale aux logits finaux du modèle, une propriété critique pour une explication rigoureuse.
d'un architecture à double arbre : La combinaison d'un arbre d'attribution topologique (spatial) et d'un arbre de retour en arrière de la mémoire (temporel) permet une décomposition complète des prédictions des TGN.
Sélection basée sur l'optimisation : L'utilisation de la minimisation de la divergence de KL pour la sélection d'événements évite les pièges de la sélection heuristique top- $k$ dans les modèles non linéaires.

Résultats expérimentaux
La méthode a été évaluée sur neuf jeux de données de graphes temporels couvrant des tâches de prédiction de liens, de prédiction de propriétés de nœuds et de classification de graphes (incluant Wikipedia, Reddit, Enron, UCI et des jeux de données de reconnaissance d'actions humaines).

Performance : MemExplainer a systématiquement surpassé les bases de référence de l'état de l'art (TGNNExplainer, TempME, GNNExplayer, PGExplainer) en termes de fidélité (mesurée par $Fidelity_{KL}$ et $Fidelity_{prob}$ ) sur tous les jeux de données.
Signification statistique : Un test t entre MemExplainer et la deuxième meilleure base de référence a montré une signification statistique dans 77 % des cas pour $Fidelity_{KL}$ et 74 % pour $Fidelity_{prob}$ .
Études de cas : Dans la classification d'actions basée sur la pose humaine, MemExplainer a sélectionné des sous-ensembles d'arêtes plus petits et plus ciblés qui s'alignaient sur les chaînes biomécaniques clés (par exemple, hanche-genou-cheville pour la course), tandis que les bases de référence sélectionnaient souvent des arêtes excessives et non informatives.
Efficacité : La méthode reste informatiquement réalisable, avec des temps d'exécution totaux inférieurs à 6 secondes, même avec un retour en arrière de la mémoire profond (profondeur 10) sur de grands jeux de données.

Signification et affirmations
L'article affirme qu'en intégrant le retour en arrière de la mémoire à l'attribution topologique, MemExplainer fournit des explications fidèles qui révèlent le rôle critique du module de mémoire dans les TGN. Les auteurs soutiennent que leur méthode améliore la fiabilité des TGN, ce qui est essentiel pour leur déploiement sécurisé dans des domaines à enjeux élevés. Le travail souligne que ignorer l'évolution temporelle des mémoires de nœuds conduit à des attributions inexactes, et que leur approche basée sur la conservation offre une solution robuste pour comprendre les dépendances temporelles complexes. Les auteurs notent modestement une limitation concernant les coûts de calcul sur de très grands graphes avec un retour en arrière de la mémoire profond, suggérant des travaux futurs sur l'élagage ou la limitation de la profondeur.