A Comparative Study of Counterfactual Explainers for Graph Neural Networks Enabling Multiple Types of Graph Edit

Dans le monde de l'intelligence artificielle, il existe une demande croissante pour comprendre comment les machines prennent des décisions, surtout lorsque ces décisions affectent des vies réelles. Imaginez un programme informatique qui examine un réseau complexe de connexions — comme une carte de la façon dont différents médicaments interagissent entre eux, ou comment les gens sont liés dans un réseau social — et prédit un résultat. Ces programmes, connus sous le nom de réseaux de neurones sur graphes, sont incroyablement puissants, mais ils fonctionnent souvent comme des boîtes noires, offrant une prédiction sans expliquer pourquoi. Pour remédier à cela, des chercheurs ont développé une méthode appelée explication contrefactuelle. Au lieu de simplement indiquer quelles parties du réseau étaient importantes pour la réponse finale, cette méthode pose une question de type « et si » : quel est le plus petit changement, le plus réaliste, que nous pourrions apporter au réseau pour obtenir un résultat complètement différent ? Par exemple, si un système prédit que deux médicaments peuvent être pris ensemble en toute sécurité, une explication contrefactuelle montrerait exactement quelle nouvelle connexion, si elle existait, ferait prédire au système une réaction dangereuse. Cette approche aide les médecins, les scientifiques et les ingénieurs à faire confiance à la machine en montrant les leviers précis qui contrôlent sa logique.

Une équipe de chercheurs de l'Institut d'Informatique en Grèce s'est récemment donné pour mission de tester les meilleurs outils actuellement disponibles pour générer ces scénarios « et si » dans les réseaux de graphes. Ils se sont concentrés sur une nouvelle génération d'outils capables de faire plus que simplement supprimer des connexions ; ils peuvent également en ajouter de nouvelles. Cette capacité à ajouter et à supprimer des liens est cruciale car les réseaux du monde réel sont rarement fixes ; ils évoluent, et comprendre comment les modifier nécessite d'observer dans les deux directions. Les chercheurs ont rassemblé six des programmes informatiques les plus avancés conçus pour cette tâche et les ont soumis à une série rigoureuse de tests. Ils ont fait passer ces programmes sur une grande variété de données, incluant des réseaux synthétiques construits pour présenter des motifs spécifiques et des ensembles de données réels représentant tout, des molécules chimiques aux publications sur les réseaux sociaux et aux citations scientifiques. L'objectif n'était pas seulement de voir quel programme pouvait trouver une réponse, mais de juger la qualité de cette réponse : le changement était-il assez petit pour être crédible ? A-t-il réellement inversé la prédiction ? Et a-t-il pris trop de temps pour être calculé ?

L'étude a révélé qu'il n'y a pas de champion unique qui gagne dans toutes les catégories. Les chercheurs ont constaté un compromis constant entre la vitesse de l'explication, la taille du changement requis et la fiabilité du résultat. Certains programmes étaient excellents pour trouver des changements minuscules et minimaux qui inversaient la prédiction, mais ils échouaient souvent à trouver une solution du tout pour des données complexes du monde réel. D'autres étaient très fiables et pouvaient presque toujours trouver un moyen de changer le résultat, mais les changements qu'ils suggéraient étaient souvent si vastes et compliqués qu'ils seraient impossibles à interpréter ou à accorder par un humain. Un programme, qui utilisait une technique inspirée de la génération d'images, était très approfondi et trouvait des réponses de haute qualité, mais il était si lent qu'il lui fallait des heures pour traiter un seul graphe, ce qui le rendait peu pratique pour de nombreux usages. Un autre programme était incroyablement rapide et efficace, mais avait tendance à produire des explications trop volumineuses pour être utiles.

La découverte la plus surprenante fut peut-être que même les meilleurs outils avaient du mal à se concentrer sur la bonne partie du réseau. Dans les tests synthétiques, où les chercheurs savaient exactement quel motif de connexions était responsable de la prédiction, beaucoup de programmes suggéraient encore des modifications dans des zones du réseau qui étaient non pertinentes. Ils ajoutaient ou supprimaient des arêtes loin du motif critique, cherchant ainsi à tâtons plutôt qu'en ciblant la véritable cause. Cela suggère que, bien que ces outils s'améliorent pour trouver une solution, ils ne trouvent pas encore systématiquement la bonne solution. Les chercheurs ont également noté que la plupart des outils existants étaient principalement conçus pour classer des réseaux entiers, comme déterminer si une molécule est toxique, mais qu'ils performaient nettement moins bien lorsqu'on leur demandait d'expliquer le comportement d'un seul nœud au sein d'un réseau, comme prédire le sujet d'un article de recherche spécifique.

En fin de compte, ce travail sert de rappel à la réalité pour un domaine qui progresse très rapidement. Les auteurs concluent que, bien que la capacité d'ajouter et de supprimer des connexions soit une étape majeure, la génération actuelle d'outils est encore un travail en cours. Aucune méthode ne propose actuellement l'équilibre parfait entre vitesse, précision et simplicité. L'étude souligne que les recherches futures doivent aller au-delà de la simple recherche d'une réponse et se concentrer sur la génération d'explications qui soient non seulement correctes, mais aussi significatives et efficaces. Tant qu'une méthode ne sera pas trouvée capable d'identifier de manière cohérente les changements minimaux et précis nécessaires pour altérer une prédiction sans s'enliser dans la complexité ou le temps, le plein potentiel de ces puissants systèmes d'IA restera partiellement caché derrière un voile d'incertitude.