🤖 machine learning

Counterfactual Explanations for Hypergraph Neural Networks

Ce papier présente CF-HyperGNNExplainer, une méthode d'explication par contrefactuel pour les réseaux de neurones sur hypergraphes qui identifie des modifications structurelles minimales, telles que la suppression d'incidences nœud-hyperarête ou la suppression d'hyperarêtes, pour modifier les prédictions du modèle et fournir des insights interprétables sur les interactions d'ordre supérieur.

Auteurs originaux : Fabiano Veglianti, Lorenzo Antonelli, Gabriele Tolomei

Publié 2026-05-26

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Fabiano Veglianti, Lorenzo Antonelli, Gabriele Tolomei

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous possédez un programme informatique très intelligent, mais quelque peu mystérieux (un « Réseau de Neurones sur Hypergraphe »), qui prend des décisions concernant des groupes complexes de choses. Contrairement à une carte standard qui ne relie que deux points à la fois (comme une route entre deux villes), ce programme comprend les groupes. Il sait qu'une équipe de trois personnes travaillant ensemble, ou une combinaison spécifique d'ingrédients dans une recette, crée un résultat unique que l'on ne peut pas simplement décomposer en paires.

Cependant, parce que ce programme est si performant pour gérer ces groupes complexes, il est difficile de comprendre pourquoi il a pris une décision spécifique. C'est comme une boîte noire.

Ce papier présente un nouvel outil appelé CF-HyperGNNExplainer. Imaginez-le comme une machine « Et si ? » conçue spécifiquement pour ouvrir cette boîte noire.

L'Idée Centrale : Le Jeu « Et si ? »

Dans la vie quotidienne, une explication contrefactuelle revient à se demander : « Quelle est la plus petite chose que je pourrais changer pour obtenir un résultat différent ? »

Exemple : Si une banque rejette votre demande de prêt, une explication contrefactuelle pourrait dire : « Si vos revenus avaient été 500 $ plus élevés, vous auriez été approuvé. » Elle identifie le changement minimal nécessaire pour inverser la décision.

Les auteurs ont construit cet outil pour poser cette même question à leur IA basée sur des groupes complexes. Ils veulent savoir : « Quelle est la plus petite modification que nous pouvons apporter à ce groupe de connexions pour que l'IA change d'avis ? »

Les Deux Manières de Modifier le Système

Le papier propose deux méthodes spécifiques pour jouer à ce jeu « Et si ? », selon le niveau de granularité souhaité :

L'Approche « Supprimer un Lien » (NHP) :
Imaginez un projet de groupe où trois étudiants travaillent ensemble. L'IA pense : « Cette équipe réussira. »
La méthode NHP demande : « Et si nous retirions un seul étudiant de cette équipe spécifique ? » Elle vérifie si le retrait de cette seule personne du groupe suffit à faire changer la prédiction de l'IA. C'est comme défaire un seul nœud dans un filet complexe.
L'Approche « Supprimer le Groupe Entier » (HP) :
En utilisant le même exemple, la méthode HP demande : « Et si nous annulions le projet entier ? » Elle retire tout le groupe (l'hyperarête) du système. C'est comme couper tout le nœud plutôt que de simplement défaire une seule ficelle.

Comment Cela Fonctionne (Le Tour de Magie)

L'outil ne devine pas au hasard. Il utilise une « échelle glissante » mathématique pour tester des millions de minuscules changements très rapidement.

Il commence par la structure de groupe originale.
Il tente d'« assombrir » ou de « couper » des connexions spécifiques (comme un variateur de lumière sur une lampe).
Il continue d'ajuster ces interrupteurs jusqu'à ce que la prédiction de l'IA bascule vers une réponse différente.
Une fois le basculement trouvé, il éteint ou allume complètement les interrupteurs pour vous donner une réponse claire et binaire : « Cette connexion spécifique était la clé. »

Pourquoi Est-ce Meilleur Que les Outils Existants ?

Les auteurs ont testé leur outil contre deux autres types d'explicateurs :

L'Expliqueur « Graphe » (CF-GNNExplainer) :
Les outils existants étaient conçus pour des réseaux simples (comme une carte de routes). Pour les utiliser sur des groupes complexes, il faut d'abord décomposer les groupes en paires de deux.
- L'Analogie : Imaginez essayer d'expliquer une symphonie en ne regardant que des paires d'instruments jouant ensemble. Vous perdez la magie de tout l'orchestre.
- Le Résultat : Les auteurs ont constaté que leur nouvel outil, qui comprend nativement les groupes, est plus rapide, plus précis et nécessite moins de changements pour inverser la décision que les outils qui tentent de forcer les groupes en paires.
L'Expliqueur « Factuel » (HyperEX, SHypX) :
D'autres outils tentent de trouver le plus petit groupe qui maintient la décision originale inchangée.
- L'Analogie : Si l'IA dit « Oui », ces outils tentent de trouver le plus petit groupe qui dit encore « Oui ».
- La Différence : L'outil des auteurs fait l'inverse. Il tente de trouver le plus petit changement pour faire dire « Non » à l'IA. Ils jouent à des jeux différents. L'outil des auteurs est spécifiquement conçu pour trouver le « point de bascule » où la décision s'inverse.

Les Résultats

Le papier a mené des expériences sur de nombreux jeux de données différents (comme des réseaux de co-auteurs, des données biologiques et des modèles d'objets 3D). Ils ont constaté que :

Leur outil a réussi à faire changer d'avis l'IA dans la plupart des cas (taux de réussite élevé).
Il l'a fait en apportant des changements très petits et concis (forte « parcimonie »), ce qui signifie que l'explication est facile à comprendre.
Il était généralement plus rapide que d'essayer de forcer les données dans un format plus simple au préalable.

Limites (Ce Qu'il Ne Peut Pas Faire Encore)

Les auteurs sont honnêtes sur ce que leur outil ne peut pas faire pour le moment :

Il ne supprime que : L'outil ne peut suggérer que la suppression de connexions ou de groupes. Il ne peut pas suggérer d'ajouter de nouvelles personnes à une équipe ou d'ajouter de nouveaux ingrédients à une recette pour changer le résultat.
Il concerne les groupes, pas les caractéristiques : Il modifie la structure des groupes, et non les détails spécifiques des éléments qui les composent (comme changer l'âge d'une personne ou le prix d'un produit).

Résumé

En bref, ce papier présente le premier outil « Et si ? » conçu spécifiquement pour l'IA qui comprend les groupes complexes. Il aide les utilisateurs à comprendre le « point de bascule » dans une décision en montrant la quantité minimale de changement structurel nécessaire pour faire changer d'avis l'IA, le faisant plus efficacement que les outils qui tentent de simplifier les groupes complexes en paires.

Problème
Les réseaux de neurones sur hypergraphes (HGNN) sont des modèles puissants capables de capturer des interactions d'ordre supérieur (HOI) dans des systèmes complexes, tels que les équipes de co-auteurs ou les complexes biochimiques, où les résultats dépendent de groupes d'entités plutôt que des seules relations binaires. Cependant, malgré leur efficacité, les HGNN souffrent d'une interprétabilité limitée, ce qui entrave leur déploiement dans des contextes à haut risque. Bien que les explications contrefactuelles (CF) — identifiant les modifications minimales d'entrée requises pour altérer la prédiction d'un modèle — aient considérablement progressé pour les réseaux de neurones sur graphes (GNN) standards, elles ne peuvent pas être directement appliquées aux hypergraphes. Les méthodes existantes basées sur les graphes reposent sur des matrices d'adjacence représentant des liens binaires, alors que les hypergraphes utilisent des structures d'incidence pour encoder des ensembles de nœuds de taille arbitraire. Réduire directement les hyperarêtes à des liens binaires altère le sens sémantique des interactions. Par conséquent, il manque des outils dédiés pour générer des contrefactuels structuraux valides et minimaux pour les HGNN qui respectent leur nature discrète et d'ordre supérieur.

Méthodologie
Les auteurs proposent CF-HyperGNNExplainer, la première méthode d'explication contrefactuelle spécifiquement conçue pour les HGNN. L'approche adapte le cadre d'optimisation de CF-GNNExplainer au domaine des hypergraphes en recherchant la plus petite modification structurelle de la matrice d'incidence qui inverse la prédiction d'un modèle entraîné.

La méthode fonctionne en introduisant une matrice de perturbation apprenable, $\Pi$ , qui agit comme un masque différentiable sur la structure d'incidence de l'hypergraphe. L'optimisation centrale minimise une fonction de perte comprenant deux termes : une perte de prédiction qui encourage le modèle à inverser sa prédiction originale, et un terme de régularisation de distance qui garantit que l'hypergraphe perturbé reste proche de l'original. Pour gérer la nature discrète des hypergraphes, la méthode optimise une relaxation continue du masque (en utilisant une fonction sigmoïde) et applique un seuil (0,5) au moment de l'évaluation pour produire des modifications binaires exploitables.

L'article introduit deux variantes distinctes de la méthode, différant par la granularité des modifications structurelles :

Perturbation Nœud-Hyperarête (NHP) : Cette variante cible des incidences nœud-hyperarête spécifiques. Elle apprend un vecteur de coefficients pour un nœud cible, lui permettant de supprimer sélectivement la participation de ce nœud à des hyperarêtes spécifiques sans altérer les incidences des autres nœuds.
Perturbation d'Hyperarête (HP) : Cette variante cible des hyperarêtes entières au sein du voisinage à $n$ sauts d'un nœud cible. Elle apprend un coefficient pour chaque hyperarête, supprimant efficacement l'hyperarête entière et réprimant toutes les interactions médiées par celle-ci pour tous les nœuds participants.

Le processus d'optimisation recalcule dynamiquement les degrés des nœuds et des hyperarêtes chaque fois que la structure d'incidence est modifiée pour maintenir une normalisation cohérente. Les auteurs emploient également une stratégie de taux d'apprentissage adaptatif pour gérer les cas où le modèle est trop confiant, ajustant le taux d'apprentissage en fonction du paysage de la perte et des époques d'optimisation restantes.

Contributions Clés

Première méthode CF pour les HGNN : L'article introduit CF-HyperGNNExplainer, la première technique d'explication contrefactuelle adaptée spécifiquement aux contraintes structurelles des réseaux de neurones sur hypergraphes.
Variantes Granulaires : Les auteurs proposent et évaluent deux variantes (NHP et HP) offrant différents niveaux de contrôle, allant des modifications fines nœud-hyperarête aux suppressions grossières d'hyperarêtes.
Évaluation Empirique : La méthode est évaluée sur un large éventail de jeux de données de référence sur hypergraphes (incluant Cora, Citeseer, Pubmed, DBLP, et autres) issus de la collection AllSet.
Analyse Comparative : L'étude fournit des comparaisons extensives contre :
- Des bases de référence basées sur les graphes : Spécifiquement CF-GNNExplainer appliqué à des hypergraphes étendus en étoiles.
- Des bases de référence natives aux hypergraphes : Des méthodes d'explicabilité existantes comme HyperEX et SHypX (bien que ce soient des explicateurs factuels, et non contrefactuels).
Open Source : Les auteurs publient l'intégralité du code source pour encourager la reproductibilité.

Résultats
Des expériences extensives démontrent que CF-HyperGNNExplainer génère des contrefactuels valides et concis :

Vs. Méthodes basées sur les graphes : Comparé à CF-GNNExplainer (appliqué à des graphes étendus en étoiles), l'approche native aux hypergraphes atteint des taux de réussite significativement plus élevés pour inverser les prédictions et produit des tailles d'explication plus petites (moins de modifications structurelles). L'approche native est également généralement plus rapide, évitant les problèmes d'évolutivité et la surcharge mémoire associées à l'expansion des hypergraphes en grands graphes.
Vs. Méthodes natives aux hypergraphes : Comparé à des explicateurs factuels comme HyperEX et SHypX, CF-HyperGNNExplainer obtient des performances supérieures sur des métriques spécifiques aux contrefactuels, en particulier le taux de réussite de l'inversion d'étiquette ( $Fid_{acc}^+$ ). Alors que les explicateurs factuels excellent à trouver des sous-hypergraphes qui préservent la prédiction originale (faible $Fid_{acc}^-$ ), CF-HyperGNNExplainer est optimisé pour altérer la prédiction avec une intervention minimale. La variante HP, en particulier, montre de solides performances dans l'altération de la distribution prédictive tout en maintenant de petites tailles d'explication.
Sensibilité aux Hyperparamètres : L'étude constate que des taux d'apprentissage plus élevés et plus d'époques d'optimisation augmentent généralement le taux de réussite de la recherche de contrefactuels valides, bien qu'au prix de tailles d'explication plus grandes. Une stratégie de taux d'apprentissage adaptatif (spécifiquement la stratégie "1E" pour NHP et "Po2" pour HP) s'avère équilibrer efficacement les taux de réussite et les tailles d'explication.

Signification
L'article affirme que CF-HyperGNNExplainer comble une lacune critique dans l'IA explicable (XAI) pour les données relationnelles d'ordre supérieur. En fournissant une méthode qui respecte la structure combinatoire et la sémantique des hyperarêtes, elle permet aux utilisateurs de comprendre quelles relations d'ordre supérieur spécifiques sont les plus critiques pour la décision d'un HGNN. La capacité à générer des contrefactuels minimaux et structurellement significatifs (par exemple, "Quelles interactions d'ordre supérieur doivent être supprimées pour que le modèle change de décision ?") renforce la confiance et l'interprétabilité, facilitant potentiellement le déploiement des HGNN dans des domaines à haut risque où la compréhension du comportement du modèle est essentielle. Ce travail souligne que le transfert de techniques d'explication basées sur les graphes vers les hypergraphes n'est pas trivial et nécessite des formulations spécialisées tenant compte des propriétés uniques des interactions d'ordre supérieur.