🤖 machine learning

Explaining Temporal Graph Predictions With Shapley Values

Ce travail présente deux nouveaux explainers agnostiques au modèle, basés sur les valeurs de Shapley et d'Owen, pour fournir des explications locales (au niveau des événements et des caractéristiques) pour les réseaux de neurones sur graphes temporels (TGNN).

Auteurs originaux : Lea-Marie Sussek, Stefan Heindorf

Publié 2026-04-28

📖 3 min de lecture☕ Lecture pause café

CC BY 4.0

Auteurs originaux : Lea-Marie Sussek, Stefan Heindorf

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le Problème : La "Boîte Noire" des Réseaux Temporels

Imaginez que vous essayez de comprendre pourquoi une application de recommandation de musique vous propose soudainement du Jazz. Ce n'est pas juste parce que vous avez écouté un morceau de Jazz (l'événement), mais c'est aussi quand vous l'avez écouté (le temps) et comment cela s'inscrit dans vos habitudes (le réseau social ou vos autres écoutes).

Aujourd'hui, les chercheurs utilisent des outils ultra-puissants appelés TGNN (Réseaux de Neurones Graphiques Temporels). Ces outils sont comme des détectives géniaux : ils voient les connexions entre les gens et le passage du temps pour prédire l'avenir.

Le souci ? Ils sont tellement complexes qu'ils sont devenus des "boîtes noires". Ils vous donnent la réponse ("Il va pleuvoir demain"), mais ils sont incapables de vous expliquer pourquoi. Pour un médecin ou un banquier, une réponse sans explication, c'est comme un verdict de juge sans preuve : on ne peut pas lui faire confiance.

La Solution : Les "Détectives de la Contribution"

Les chercheurs de l'Université de Paderborn ont créé deux nouveaux outils pour "ouvrir" cette boîte noire et comprendre le raisonnement de l'IA. Ils utilisent une théorie mathématique appelée les Valeurs de Shapley.

Pour comprendre, imaginez une équipe de football qui gagne un match 3-0.

L'Event Explainer (L'Explicateur d'Événements) : C'est comme si on voulait savoir quel joueur a le plus contribué à la victoire. Est-ce l'attaquant qui a marqué ? Le défenseur qui a bloqué l'adversaire ? Cet outil regarde chaque "action" (chaque événement dans le réseau) et lui donne une note de mérite. On sait enfin quels moments clés ont provoqué la décision de l'IA.
Le Feature Explainer (L'Explicateur de Détails) : C'est encore plus précis. Imaginez maintenant qu'on ne veut pas seulement savoir si l'attaquant a été bon, mais pourquoi : était-ce sa vitesse ? Sa précision de tir ? Ou sa vision du jeu ? Cet outil décompose chaque action pour voir si c'est l'heure de l'événement, la nature de l'interaction ou les caractéristiques des personnes impliquées qui ont fait pencher la balance.

La Découverte : Le "Bug" du Temps Perdu

En utilisant leur nouvel outil (le deuxième), les chercheurs ont découvert quelque chose de fascinant et de troublant. Ils ont testé une IA très populaire et ont remarqué qu'elle faisait une petite "triche" involontaire.

L'analogie du sablier cassé :
Imaginez un détective qui doit deviner l'heure d'un crime en regardant les ombres. Normalement, il ne devrait regarder que la position du soleil. Mais le détective a un petit défaut : il regarde aussi la poussière qui tombe dans le sablier à côté de lui. Même si le sablier n'a rien à voir avec le crime, il finit par utiliser la poussière pour deviner l'heure.

C'est ce qui arrivait à l'IA : elle utilisait des informations de temps "fantômes" (des erreurs de calcul mathématique) pour deviner des choses qu'elle n'était pas censée savoir. Grâce aux nouveaux outils des chercheurs, on a pu voir ce bug et dire : "Attention, votre IA ne réfléchit pas aussi bien qu'on le pense, elle triche avec des détails inutiles !"

En résumé

Ce papier propose des lunettes de haute précision pour regarder à l'intérieur des cerveaux artificiels qui gèrent des réseaux complexes (comme les réseaux sociaux ou les transactions bancaires).

On identifie les moments clés (les événements).
On identifie les détails précis (les caractéristiques).
On vérifie que l'IA ne triche pas avec des informations cachées.

C'est une étape cruciale pour que l'intelligence artificielle devienne non seulement plus intelligente, mais surtout plus honnête et compréhensible pour les humains.

Résumé Technique : Expliquer les prédictions des graphes temporels avec les valeurs de Shapley

1. Problématique (Le Problème)

Les réseaux de neurones sur graphes temporels (TGNN) sont devenus essentiels pour modéliser des données évoluant dans le temps (réseaux sociaux, biologiques, communications). Cependant, ces modèles fonctionnent comme des « boîtes noires ». Comprendre comment ils utilisent les informations spatiales et temporelles est crucial pour éviter les biais et les erreurs, particulièrement dans des domaines sensibles comme la santé ou la finance.

Les méthodes d'explication actuelles présentent plusieurs limites :

Manque de dimension temporelle : Les explicateurs pour graphes statiques ignorent l'évolution du temps.
Complexité et lenteur : Les explicateurs pour graphes temporels discrets nécessitent souvent l'entraînement de modèles auxiliaires, ce qui les rend lents et sensibles aux hyperparamètres.
Manque de granularité : Les méthodes existantes fournissent souvent des scores d'importance globaux sans préciser si l'impact est positif ou négatif, ni détailler la contribution des caractéristiques (features) au sein d'un événement.

2. Méthodologie (L'Approche)

Les auteurs proposent deux nouveaux explicateurs agnostiques au modèle (compatibles avec n'importe quelle architecture de TGNN) basés sur la théorie des jeux coopératifs :

L'Event Explainer (Niveau Événement) :
- Il utilise l'algorithme KernelSHAP pour estimer la contribution de chaque événement (un triplet source, destination, timestamp) à la prédiction finale.
- Pour gérer la suppression d'événements sans briser la structure du graphe, les auteurs introduisent le concept d'événement moyen ( $\bar{e}$ ), qui remplace un événement masqué par une valeur moyenne, préservant ainsi la connectivité.
- Il quantifie à la fois la direction (impact positif ou négatif) et l'amplitude de l'influence de chaque événement.
Le Feature Explainer (Niveau Caractéristique) :
- Pour aller plus loin, cet outil décompose la valeur de Shapley d'un événement en utilisant les valeurs d'Owen.
- Les valeurs d'Owen permettent de gérer des structures hiérarchiques. Ici, l'événement est considéré comme un "groupe" et ses caractéristiques (features, timestamp, nœud source) comme des "joueurs" au sein de ce groupe.
- Cette approche garantit la cohérence hiérarchique : la somme des contributions des caractéristiques d'un événement est égale à la valeur de Shapley de l'événement lui-même.

3. Contributions Clés

Nouveaux outils d'explication : Introduction de deux méthodes (Event et Feature Explainer) capables de fournir des explications locales fines pour les graphes dynamiques en temps continu (CTDG).
Efficacité computationnelle : Utilisation d'une approximation combinant KernelSHAP et échantillonnage de Monte-Carlo, évitant l'entraînement de modèles lourds.
Capacité de diagnostic : L'outil permet non seulement d'expliquer, mais aussi de détecter des erreurs de conception dans les modèles de TGNN existants.

4. Résultats

Performance quantitative : Les tests sur les jeux de données MOOC, Wikipedia et Reddit montrent que les méthodes proposées surpassent l'état de l'art (notamment TempME et TGNN-Explainer) sur la plupart des métriques de fidélité (Fidelity, Deviation, GEF).
Supériorité sur la régression : Le Feature Explainer obtient des résultats nettement supérieurs sur les tâches de régression en identifiant les caractéristiques les plus pertinentes.
Découverte d'un bug majeur : En utilisant le Feature Explainer sur un modèle TGAT, les auteurs ont découvert que le modèle utilisait de manière erronée des informations de "timestamps absolus" via un mécanisme d'attention mal géré lors de l'absence de voisins. Cela prouve la valeur diagnostique de leur méthode.

5. Signification et Impact

Ce travail marque une avancée importante pour l'IA explicable (XAI) appliquée aux graphes dynamiques. En offrant une méthode qui est à la fois mathématiquement rigoureuse (via Shapley et Owen) et pratique (agnostique et efficace), les auteurs permettent aux développeurs de mieux comprendre, valider et déboguer les modèles de graphes temporels. La capacité de décomposer l'importance d'un événement jusqu'à ses caractéristiques intrinsèques ouvre la voie à une interprétation humaine beaucoup plus fine des processus complexes évoluant dans le temps.