🤖 machine learning

Overcoming Shortcut Learning in Graph Neural Networks through Active Explanation Guidance

Le document présente XIGL, un cadre d'apprentissage actif avec intervention humaine indépendant de l'architecture qui améliore la fiabilité des réseaux de neurones sur graphes lors de tâches hors distribution en identifiant et en corrigeant l'apprentissage par raccourcis grâce à des retours ciblés de l'utilisateur sur les explications du modèle.

Auteurs originaux : Taraneh Younesian, Steve Azzolin, Antonio Longa, Francesco Ferrini, Vincenzo Marco De Luca, Stefano Teso

Publié 2026-08-17

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Taraneh Younesian, Steve Azzolin, Antonio Longa, Francesco Ferrini, Vincenzo Marco De Luca, Stefano Teso

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous enseigniez à un robot à reconnaître différents types d'arbres. Vous lui montrez des milliers de photos de chênes, de pins et d'érables. Mais voici le piège : dans vos photos d'entraînement, chaque chêne se trouve par hasard à côté d'une boîte aux lettres rouge, tandis que chaque pin est près d'une bleue. Le robot est intelligent, mais il est enclin à prendre des raccourcis. Au lieu d'apprendre à quoi ressemble réellement un chêne (ses feuilles, son écorce et sa forme), il apprend un « raccourci » : « Si je vois une boîte aux lettres rouge, c'est un chêne ! ». Cela fonctionne parfaitement dans votre salle d'entraînement. Mais dès que vous emmenez le robot dans une vraie forêt où les boîtes aux lettres n'existent pas, le robot est confus et échoue lamentablement.

C'est le monde des réseaux de neurones sur graphes (GNN), un type d'intelligence artificielle conçu pour comprendre des données qui ressemblent à un réseau de connexions (comme les réseaux sociaux, les molécules ou les systèmes de trafic). Ces réseaux sont puissants, mais ils ont une fâcheuse tendance à trouver ces « raccourcis ». Ils s'accrochent à des motifs qui correspondent par hasard à la réponse dans les données d'entraînement, mais qui ne sont pas la réelle raison de la réponse. Dans le monde réel, où les données changent et les raccourcis disparaissent, ces modèles peuvent devenir peu fiables. La grande question pour les scientifiques est la suivante : comment empêcher nos modèles d'IA de s'appuyer sur des raccourcis et les forcer à apprendre de la bonne manière ?

La solution « XIGL » : Un détective avec l'humain dans la boucle

Ce document présente une nouvelle stratégie ingénieuse appelée XIGL (eXplanatory Interactive Graph shortcut unLearning — désapprentissage de raccourcis sur graphes interactif et explicatif). Considérez XIGL non pas comme un enseignant qui se contente de donner plus de devoirs, mais comme un détective qui interroge le robot pour comprendre pourquoi il a fait une supposition, puis corrige sa logique.

Habituellement, lorsqu'une IA commet une erreur, nous lui disons simplement : « Mauvaise réponse, réessaie ». Mais avec les raccourcis, le robot peut donner la bonne réponse pour la mauvaise raison, de sorte qu'il ne sait même pas qu'il s'appuie sur un raccourci. XIGL change la donne en demandant au robot d'expliquer son raisonnement. Il examine l'« explication » — une carte montrant les parties des données sur lesquelles le robot se concentre. Si le robot dit : « J'ai choisi cet arbre à cause de la boîte aux lettres rouge », XIGL signale cela comme un problème.

Voici le tour de magie : les chercheurs ont réalisé que demander à un expert humain de corriger l'explication du robot est coûteux et lent. Vous ne voulez pas demander à un humain de vérifier chaque photo. C'est pourquoi ils ont ajouté une couche d'apprentissage actif (Active Learning). C'est comme un filtre intelligent qui dit : « Hé, le robot est vraiment confus concernant cette image spécifique, ou il est trop confiant à propos d'un raccourci étrange ici. Montrons celle-ci à l'expert humain en priorité. » En ne demandant de l'aide que pour les cas les plus difficiles, ils économisent du temps et de l'argent tout en apprenant au robot à ignorer les boîtes aux lettres rouges pour regarder les feuilles à la place.

Comment cela fonctionne : Le processus de « désapprentissage »

Le processus est une boucle de découverte et de correction :

La vérification du détective : L'IA examine un graphe (un réseau de points connectés) et fait une prédiction. Elle génère également une explication, mettant en évidence les points qu'elle pense être importants.
Le détecteur de raccourcis : Un algorithme d'apprentissage actif scanne ces explications. Il cherche les cas où l'IA est soit très incertaine, soit, plus dangereusement, très confiante au sujet de mauvaises choses (comme se concentrer sur la boîte aux lettres).
La correction humaine : Le système choisit les exemples les plus déroutants ou les plus chargés de raccourcis et demande à un expert humain : « Hé, l'IA regarde la boîte aux lettres. Vous savez que c'est mal. Quelles parties devrait-elle réellement regarder ? »
La leçon : La correction de l'humain est réinjectée dans l'IA. L'IA est alors mathématiquement « punie » pour avoir regardé les mauvais points et « récompensée » pour avoir regardé les bons. Elle « désapprend » ainsi le raccourci.

Ce que les expériences ont montré

Les chercheurs ont testé cette idée dans deux terrains de jeu différents. L'un était un monde fictif de points et de formes colorés (appelé ER-color), et l'autre était un défi du monde réel utilisant des images de chiffres écrits à la main transformés en graphes (appelé CPatchMNIST). Dans les deux cas, ils ont truqué les données d'entraînement de sorte qu'une couleur ou un motif spécifique agisse comme un faux raccourci vers la réponse.

Les résultats étaient prometteurs. Lorsqu'ils laissaient l'IA apprendre seule sans aide, elle s'appuyait principalement sur les raccourcis et échouait lorsque les données de test changeaient. Cependant, lorsqu'ils utilisaient XIGL :

Cela fonctionnait : Les modèles d'IA apprenaient à ignorer les faux raccourcis et à se concentrer sur les caractéristiques réelles nécessaires pour résoudre le problème.
C'était efficace : Ils n'avaient pas besoin de montrer chaque exemple à l'expert humain. En utilisant leur filtre intelligent d'apprentissage actif pour choisir les meilleurs exemples, ils ont obtenu des résultats presque aussi bons que s'ils avaient tout annoté, mais avec beaucoup moins d'efforts.
Cela battait les méthodes de base : Leur nouvelle stratégie consistant à demander de l'aide sur la base des explications (ce que l'IA pensait) fonctionnait généralement mieux que les anciennes méthodes qui demandaient simplement de l'aide en fonction de l'incertitude de l'IA concernant la réponse finale.

Il est intéressant de noter que, bien que cette méthode soit très efficace, elle n'est pas une baguette magique qui résout tout instantanément. Le succès dépend de la présence d'un expert capable de repérer les raccourcis, et la méthode suggère que se concentrer sur le pourquoi l'IA se trompe est souvent plus puissant que de simplement savoir qu'elle se trompe.

En bref, XIGL suggère que si nous voulons que notre IA soit fiable dans le monde réel, nous ne pouvons pas nous contenter de lui fournir plus de données. Nous devons avoir une conversation avec elle, lui signaler ses habitudes de raccourcis et la guider pour qu'elle fasse l'effort d'apprendre la vérité.

Résumé Technique : Surmonter l'apprentissage par raccourcis dans les réseaux de neurones sur graphes grâce au guidage par explication active

Problématique
Les réseaux de neurones sur graphes (GNN) souffrent fréquemment d'un « apprentissage par raccourcis » (shortcut learning), où les modèles exploitent des corrélations spécieuses (facteurs de confusion) plutôt que des motifs causaux pour atteindre une haute précision en distribution (in-distribution). Ces raccourcis — tels que des caractéristiques de nœuds spécifiques, des métadonnées ou de simples statistiques d'entrée — permettent aux modèles de bien performer sur les données d'entraînement, mais entraînent un échec de généralisation lors d'un changement de distribution (hors distribution ou out-of-distribution). Les solutions existantes nécessitent souvent l'accès à des données multi-domaines ou à de vastes données observationnelles, ce qui n'est pas toujours possible. De plus, bien que les explications de GNN puissent révéler la dépendance aux raccourcis, obtenir des explications de vérité terrain pour l'ensemble d'un jeu de données est extrêmement coûteux et chronophage en raison de la nécessité d'une annotation par des experts.

Méthodologie : XIGL
Les auteurs proposent XIGL (xExplanatory Interactive Graph shortcut unLearning), une stratégie agnostique à l'architecture et impliquant l'humain dans la boucle (human-in-the-loop), conçue pour déconfondre les GNN en supprimant de manière itérative les dépendances aux raccourcis. Le cadre repose sur deux idées clés : (1) les explications de GNN peuvent exposer la dépendance aux raccourcis, et (2) les utilisateurs experts peuvent fournir un feedback correctif sur ces explications pour guider le modèle vers un raisonnement causal.

La méthodologie centrale comprend trois composantes :

Fonction de perte guidée par l'explication :
XIGL utilise les gradients d'entrée comme substitut de l'importance des nœuds. Pour pénaliser la dépendance aux nœuds non pertinents ou spécieux ( $V_{ir}$ ), les auteurs introduisent une fonction de perte $L = L_{ce} + \lambda L_e$ .
- $L_{ce}$ est la perte d'entropie croisée standard.
- $L_e$ minimise le ratio des gradients d'entrée des nœuds non pertinents par rapport au total des gradients d'entrée.
- Un terme de normalisation est inclus au dénominateur pour éviter la solution triviale où tous les gradients s'effondrent vers zéro.
- Le vecteur d'explication de vérité terrain $e$ (où $e_j=1$ pour les nœuds pertinents et $0$ sinon) est utilisé pour pondérer cette pénalité.
Pipeline d'apprentissage actif (Active Learning) :
Reconnaissant qu'annoter les explications pour toutes les données est impraticable, XIGL emploie une stratégie d'apprentissage actif avec un budget d'annotation fixe $B$ .
- Initialisation : Le modèle est entraîné sur un petit ensemble initial de graphes dotés d'explications corrigées par un expert.
- Sélection itérative : À chaque itération, une stratégie de requête d'apprentissage actif sélectionne un lot des graphes les plus informatifs parmi le pool non étiqueté.
- Correction et ajustement fin (Fine-tuning) : Un expert annote les graphes sélectionnés (indiquant les nœuds sur lesquels le modèle ne devrait pas se fier), et le modèle est affiné en utilisant la perte guidée par l'explication.
Stratégies de requête :
Le papier propose et évalue deux nouvelles stratégies de requête basées sur l'explication aux côtés de lignes de base (baselines) basées sur la prédiction :
- Entropie d'explication maximale (MaEE - Maximum Explanation Entropy) : Sélectionne les graphes où l'explication du modèle (gradients d'entrée) est la plus incertaine (uniforme entre les nœuds).
- Entropie d'explication minimale (MiEE - Minimum Explanation Entropy) : Sélectionne les graphes où le modèle est le plus confiant dans son explication. Cette stratégie exploite le « biais de simplicité » des réseaux de neurones, en supposant que les explications hautement confiantes sont souvent surajustées à des raccourcis spécieux et doivent donc être prioritairement corrigées.
- Baselines : Entropie de classification maximale (MaCE) et échantillonnage aléatoire (Random Sampling).

Principales contributions

Cadre XIGL : Un pipeline interactif qui intègre le feedback humain sur les explications de GNN pour supprimer activement les dépendances aux raccourcis.
Nouvelles stratégies de requête : L'introduction de stratégies d'apprentissage actif basées sur l'explication (MaEE et MiEE) qui hiérarchisent les instances en fonction de la qualité du raisonnement du modèle plutôt que de la seule incertitude de prédiction.
Efficacité : La démonstration qu'un déconfondage de haute performance peut être obtenu avec une fraction du budget d'annotation requis pour une supervision passive (annotation complète du jeu de données).

Résultats
Les expériences ont été menées sur deux jeux de données : ER-color (synthétique) et CPatchMNIST (extension du monde réel), sur quatre architectures GNN (GCN, GIN, GraphSAGE, GAT).

Supervision passive : Lorsqu'elles sont fournies avec les explications pour l'ensemble du jeu de données, les modèles XIGL améliorent considérablement la généralisation sur les ensembles de test non confondus par rapport aux modèles entraînés sans supervision d'explication. Par exemple, sur ER-color, les modèles sans supervision ont performé au niveau du hasard, tandis que ceux avec supervision passive ont montré des gains d'exactitude substantiels.
Supervision active : Les stratégies d'apprentissage actif ont généralement surpassé l'échantillonnage aléatoire.
- Sur CPatchMNIST, les stratégies basées sur l'explication (MaEE et MiEE) ont systématiquement surpassé les stratégies basées sur la prédiction (MaCE) à travers toutes les architectures.
- MiEE est apparue comme la stratégie la plus performante et la plus constante, suggérant que cibler les instances où le modèle est excessivement confiant dans son (potentiellement spécieux) raisonnement est hautement efficace.
- Bien que l'apprentissage actif ait atteint une exactitude légèrement inférieure à l'apprentissage passif (en raison du budget d'annotation réduit), l'écart est resté relativement faible, l'apprentissage actif utilisant moins de 20 % des données d'entraînement.

Signification et affirmations
Le papier affirme que XIGL offre une voie pratique pour améliorer la fiabilité des GNN dans des scénarios hors distribution sans nécessiter de données multi-domaines. En exploitant le fait que les explications exposent naturellement la dépendance aux raccourcis, la méthode permet aux experts de faire « désapprendre » efficacement les motifs spécieux. Les auteurs soulignent que leur approche réduit à la fois les coûts d'annotation et les coûts cognitifs en concentrant l'effort de l'expert uniquement sur les instances où le feedback est le plus bénéfique.

Le travail conclut que l'apprentissage actif basé sur l'explication est une direction prometteuse pour le déconfondage, particulièrement les stratégies qui ciblent la confiance du modèle dans son propre raisonnement (MiEE). Les auteurs notent que les travaux futurs exploreront les GNN auto-explicables, l'impact de la fidélité de l'explication sur le succès du déconfondage, et l'application de ces méthodes à une gamme plus large de jeux de données réels et de types de raccourcis.

La solution « XIGL » : Un détective avec l'humain dans la boucle

Comment cela fonctionne : Le processus de « désapprentissage »

Ce que les expériences ont montré

Articles similaires