🤖 AI

Binary Spiking Neural Networks as Causal Models

Cet article introduit un cadre d'analyse causale pour les réseaux de neurones à impulsions binaires qui représente leur activité de décharge sous la forme d'un modèle causal binaire, permettant l'utilisation de solveurs SAT et SMT pour générer des explications abductives au niveau du pixel qui garantissent l'exclusion de caractéristiques non pertinentes, contrairement aux méthodes populaires telles que SHAP.

Auteurs originaux : Aditya Kar (CNRS, IRIT), Emiliano Lorini (CNRS, IRIT), Timothée Masquelier (CNRS, CERCO UMR5549)

Publié 2026-06-04

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Aditya Kar (CNRS, IRIT), Emiliano Lorini (CNRS, IRIT), Timothée Masquelier (CNRS, CERCO UMR5549)

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

La vue d'ensemble : Une « boîte noire » vs un plan transparent

Imaginez que vous avez un robot très intelligent capable de regarder la photo d'un chiffre écrit à la main (comme un « 5 ») et de vous dire de quel chiffre il s'agit. Ce robot est un Réseau de Neurones Impulsionnels Binaires (BSNN).

Habituellement, quand ces robots prennent une décision, c'est comme une boîte noire. Vous insérez l'image, et la réponse sort, mais personne ne sait exactement quelles parties de l'image ont convaincu le robot. Était-ce la courbe du haut ? La boucle du bas ? Ou a-t-il simplement deviné en se basant sur une tache aléatoire ?

Les auteurs de cet article voulaient ouvrir cette boîte noire. Ils ne voulaient pas seulement deviner pourquoi le robot a dit « 5 » ; ils voulaient le prouver mathématiquement en utilisant la logique et la causalité (cause et effet).

L'idée centrale : Transformer les neurones en interrupteurs de lumière

Pour comprendre le robot, les auteurs l'ont simplifié.

Le cerveau du robot : Au lieu de signaux électriques complexes et flous, ils ont traité les neurones du robot comme de simples interrupteurs de lumière. Un neurone est soit ALLUMÉ (émet une impulsion) soit ÉTEINT (silencieux).
Le timing : Contrairement à un ordinateur standard qui traite une image entière instantanément, ce robot regarde l'image au fil du temps, comme un film qui se joue image par image.
La traduction : Les auteurs ont pris ce robot basé sur des « interrupteurs » et ont traduit toute l'activité de son cerveau en un Modèle Causal. Voyez cela comme le dessin d'un immense organigramme où chaque flèche représente une règle stricte : « Si l'Interrupteur A est ALLUMÉ et l'Interrupteur B est ALLUMÉ, alors l'Interrupteur C DOIT s'allumer. »

Parce que les règles sont si simples (juste ON/OFF), ils ont pu utiliser de puissants outils de logique informatique (appelés solveurs SAT et SMT) pour lire cet organigramme et comprendre exactement ce qui a causé la décision finale.

La méthode : Trouver la « raison minimale »

Les auteurs voulaient trouver une Explication Abductive. En langage courant, cela signifie trouver l'ensemble le plus petit et le plus essentiel de raisons qui ont forcé le robot à faire son choix.

L'analogie : Le détective et les suspects
Imaginez un détective essayant de résoudre un crime.

Le crime : Le robot a décidé que l'image était un « 5 ».
Les suspects : Chaque pixel de l'image (il y en a 784).
Le but : Le détective ne veut pas accuser tout le monde dans la pièce. Il veut trouver le plus petit groupe de personnes qui, si elles n'avaient pas été là, le crime ne se serait pas produit.

La méthode des auteurs consiste à retirer systématiquement des pixels de l'explication. Si le robot dit toujours « 5 » sans un pixel spécifique, ce pixel est écarté. Ils continuent de retirer des pixels jusqu'à obtenir la liste minimale de pixels qui garantit absolument la réponse « 5 ».

Les résultats : Logique vs Intuition

L'article compare leur nouvelle méthode de « Détective Logique » à une méthode populaire existante appelée SHAP.

SHAP (Le « test de l'ambiance ») : SHAP est comme un sondage d'opinion participatif. Il regarde de nombreuses variations de l'image et devine quels pixels semblent importants en se basant sur des statistiques. C'est rapide, mais c'est un peu flou.
La méthode des auteurs (Le « contrôle du plan ») : Cette méthode examine le câblage réel du robot.

Le constat clé :
Les auteurs ont découvert que SHAP se fait souvent piéger. Il accuse parfois des pixels qui sont totalement non pertinents pour la décision du robot.

Exemple : Imaginez un robot décidant si une image est un « 5 ». SHAP pourrait dire : « Le pixel dans le coin supérieur gauche est très important ! » alors que ce pixel est connecté au cerveau du robot par un fil de force zéro (il est physiquement impossible que ce pixel influence la décision).
La garantie : La méthode basée sur la logique des auteurs garantit qu'elle ne blâmera jamais un pixel qui n'est pas réellement connecté au processus de décision. Si un pixel est dans leur explication, il a causé le résultat. S'il n'y est pas, il ne l'a pas fait.

Pourquoi cela importe (selon l'article)

Confiance : Vous pouvez faire confiance à l'explication car elle est mathématiquement prouvée, et non simplement devinée statistiquement.
Pas de fausse piste : L'explication ne contiendra pas de « bruit non pertinent ». Elle n'inclut que les caractéristiques qui ont réellement causé le résultat.
Efficacité : Ils ont montré que bien que cette méthode logique puisse prendre du temps à calculer (des heures pour certaines configurations complexes), c'est possible, et l'utilisation d'outils mathématiques avancés (SMT) la rend beaucoup plus rapide que les outils de logique de base (SAT).

Résumé

Les auteurs ont construit un pont entre les réseaux de neurones (cerveaux d'IA) et la logique (règles mathématiques). En traitant les neurones de l'IA comme de simples interrupteurs on/off, ils ont créé une carte transparente de cause à effet. Cela permet d'expliquer les décisions de l'IA avec une certitude de 100 %, prouvant exactement quelles parties d'une image importaient et lesquelles n'étaient que du bruit de fond, ce que les méthodes populaires comme SHAP ne peuvent garantir.

Résumé Technique : Les Réseaux de Neurones à Impulsions Binaires comme Modèles Causaux

Énoncé du Problème

L'article traite du compromis entre l'exactitude et l'explicabilité des réseaux de neurones artificiels (ANN). Bien que les réseaux de neurones binarisés (BNN) et les réseaux de neurones à impulsions binaires (BSNN) offrent des avantages en termes d'efficacité matérielle et de représentabilité logique, leurs processus de décision internes restent opaques. Les méthodes existantes d'IA explicable (XAI), telles que SHAP, traitent souvent les modèles comme des « boîtes noires », ne tenant pas compte des structures causales internes. Par conséquent, ces méthodes peuvent identifier des caractéristiques comme étant pertinentes même lorsqu'elles n'ont aucun lien causal avec la sortie du réseau (par exemple, des connexions à poids nul). Les auteurs visent à combler cette lacune en cartographiant formellement la dynamique des BSNN vers un cadre causal, permettant la génération d'explications rigoureuses basées sur la logique qui garantissent la pertinence causale des caractéristiques incluses.

Méthodologie

1. Formalisation des BSNN

Les auteurs définissent une architecture BSNN $S$ comme un tuple comprenant des neurones d'entrée ( $I$ ), des neurones non-entrants ( $L$ ), des relations de connectivité ( $R$ ), des fonctions de poids ( $W$ ) et des seuils de déclenchement ( $\tau$ ). Ils modélisent la dynamique des impulsions à l'aide d'un mécanisme d'Intégration et de Décharge (IF) sans fuites, où l'état de déclenchement d'un neurone à l'instant $t$ dépend de manière récursive de son état précédent et de la somme pondérée des impulsions entrantes.

Quantification des poids : L'étude se concentre sur des réseaux dont les poids sont quantifiés vers des ensembles binaires $\{0, 1\}$ ou ternaires $\{-1, 0, 1\}$ .
Codage des impulsions : Les expériences utilisent le codage par taux de Poisson et des schémas de binarisation par seuil. Les auteurs évitent explicitement les codages temporels complexes pour gérer la complexité computationnelle de la génération d'explications.

2. Cartographie vers des Modèles Causaux Binaires (BCM)

Une contribution méthodologique centrale est la cartographie de la dynamique des impulsions des BSNN vers un Modèle Causal Binaire (BCM).

Variables : Chaque neurone $X$ à chaque instant $t$ se voit assigner une variable booléenne $p_{X,t}$ . Les neurones d'entrée correspondent à des variables exogènes, tandis que les neurones non-entrants correspondent à des variables endogènes.
Dépendances causales : La logique de déclenchement est traduite en un ensemble d'équations booléennes (équations structurelles). Pour qu'un neurone se déclenche, une combinaison spécifique d'impulsions de prédécesseurs doit satisfaire la condition de seuil.
Équivalence : Les auteurs prouvent (Théorème 5.2) que les fonctions de déclenchement du BSNN sont compatibles avec le BCM si et seulement si l'interprétation booléenne satisfait toutes les équations du modèle.

3. Génération d'Explications Abductives (AXp)

L'article emploie des Explications Abductives (AXp), définies comme des ensembles minimaux suffisants de caractéristiques d'entrée (littéraux) qui garantissent une classification de sortie spécifique.

Définition : Une AXp $\lambda$ pour une sortie $\omega_0$ doit satisfaire : (i) $\lambda$ est vrai étant donné l'entrée ; (ii) $\lambda$ implique logiquement $\omega_0$ sous les contraintes du BCM ; et (iii) $\lambda$ est minimal (aucun sous-ensemble propre n'implique $\omega_0$ ).
Algorithmes : Deux approches basées sur des solveurs sont implémentées pour trouver des AXp :
1. Basée sur SAT : Encode le BCM et les conditions d'explication en logique propositionnelle.
2. Basée sur SMT : Encode le modèle en utilisant la satisfaction de théories (spécifiquement l'arithmétique entière linéaire), ce qui évite la quantification universelle sur les ensembles de variables, offrant des améliorations significatives de vitesse.
Stratégie de recherche : L'algorithme commence par un terme complet représentant l'entrée complète et retire itérativement des littéraux tout en vérifiant que l'implication vers la sortie reste valide.

4. Configuration Expérimentale

La méthodologie a été testée sur le jeu de données MNIST pour la reconnaissance de chiffres manuscrits.

Architectures : Réseaux entièrement connectés avec des tailles de couches cachées variables ( $k \in \{8, 16, 32, 64, 128\}$ ) et des quantifications de poids (binaires et ternaires).
Tâches : Classification de sous-ensembles de 3 chiffres et de l'ensemble complet de 10 chiffres.
Validation : A atteint une précision élevée (jusqu'à environ 95 % pour les tâches à 3 chiffres) en utilisant des réseaux quantifiés binaires et ternaires.

Principales Contributions

Première Cartographie Causale des BSNN : L'article présente la première cartographie formelle d'un Réseau de Neurones à Impulsions Binaires sur un Modèle Causal Binaire, capturant les dépendances causales temporelles entre les unités neuronales.
Cadre d'Explication Basé sur la Logique : Il démontre que la nature booléenne des BSNN permet l'utilisation de solveurs SAT et SMT pour calculer des explications abductives directement à partir du modèle causal.
Garantie de Pertinence Causale : Une contribution théorique critique est la Proposition 6.2, qui prouve que toute caractéristique incluse dans une explication abductive dérivée de ce cadre doit avoir une connexion de poids non nulle avec la couche cachée du réseau. Cela garantit que l'explication ne contient aucune caractéristique totalement non pertinente.
Analyse Comparative avec SHAP : L'article fournit une comparaison rigoureuse avec SHAP (SHapley Additive exPlanations), soulignant la tendance de SHAP à attribuer de la pertinence à des caractéristiques ayant des connexions de poids nul en raison de sa nature agnostique du modèle.

Résultats

Efficacité Computationnelle : L'approche basée sur SMT a nettement surpassé l'approche basée sur SAT. Pour les réseaux à poids binaires ( $S^{bin}_k$ ), SMT a réduit les temps de recherche de plusieurs heures (SAT) à quelques secondes (par exemple, ~11 heures contre ~12 secondes pour $k=32$ ). Pour les réseaux à poids ternaires ( $S^{tern}_k$ ), les temps de recherche SMT variaient de 0,27 à 1,0 heure.
Qualité de l'Explication : Les explications générées étaient des ensembles minimaux de pixels actifs ou inactifs suffisants pour déclencher la classification.
Comparaison avec SHAP :
- SHAP a identifié incorrectement des caractéristiques avec des connexions de poids zéro comme étant pertinentes dans environ 47 % des cas (moyenne sur les tailles d'échantillon).
- L'augmentation de la taille de l'échantillon pour SHAP a réduit ce taux d'erreur mais a considérablement augmenté le temps de calcul (par exemple, 173 secondes pour 1M d'échantillons).
- En revanche, la méthode basée sur la logique proposée garantit mathématiquement qu'aucune caractéristique de poids zéro n'est incluse dans l'explication.

Signification et Revendications

Les auteurs positionnent ce travail comme une étape fondamentale pour rendre les BSNN interprétables via la logique formelle. Ils affirment qu'en exploitant la structure causale inhérente aux BSNN, il est possible de générer des explications qui sont non seulement efficaces mais aussi formellement garanties comme étant exemptes de caractéristiques non pertinentes — une propriété que les méthodes statistiques ou agnostiques du modèle comme SHAP ne peuvent fournir.

L'article note modestement que le travail actuel se concentre exclusivement sur les explications abductives (AXp) et les architectures entièrement connectées. Les auteurs suggèrent que le cadre est extensible à des concepts causaux plus complexes (tels que la cause réelle et les causes NESS) et à d'autres architectures, telles que les BSNN convolutionnels (C-BSNN) et les réseaux entraînés sur des jeux de données linguistiques, bien que ceux-ci soient identifiés comme des directions pour la recherche future plutôt que des accomplissements actuels.