Lightweight Transformer for EEG Classification via Balanced Signed Graph Algorithm Unrolling

Cette étude propose un réseau de neurones léger et interprétable pour la classification des signaux EEG, construit par déroulement d'un algorithme de débruitage spectral sur un graphe signé équilibré, permettant d'atteindre des performances comparables aux modèles profonds avec beaucoup moins de paramètres.

L'essentiel

🧠 Le Défi : Écouter le cerveau sans se perdre dans le bruit

Imaginez que vous essayez d'écouter une conversation dans une pièce remplie de gens qui parlent tous en même temps. C'est un peu ce que font les médecins avec les électroencéphalogrammes (EEG). Ils posent des capteurs sur le crâne pour écouter l'activité électrique du cerveau.

Le problème ?

1. Le bruit : Il y a beaucoup de parasites dans le signal.
2. La complexité : Les signaux du cerveau sont très compliqués.
3. Le poids des outils : Les ordinateurs actuels qui analysent ces signaux (les "Transformers" ou réseaux de neurones profonds) sont comme des camions de pompiers géants : ils sont très puissants, mais ils consomment énormément d'énergie et sont trop lourds pour être utilisés sur de petits appareils portables (comme un bracelet connecté).

L'objectif de cette équipe de chercheurs (de l'Université de Pékin, York et NYU) était de créer un outil léger, rapide et compréhensible pour distinguer les cerveaux sains de ceux souffrant d'épilepsie.

---

💡 L'Idée Géniale : Le "Graphisme Équilibré"

Pour comprendre leur solution, utilisons une analogie avec un orchestre.

1. Le problème des "Anti-amis" (Les bords négatifs)

Dans un cerveau sain, certaines zones travaillent ensemble (elles sont "positives"). Mais dans l'épilepsie, ou même dans un cerveau normal, certaines zones s'opposent : quand l'une s'active, l'autre se calme. C'est une relation "anti-corrélée".

Les anciens outils d'analyse ne savaient gérer que les "amis" (les connexions positives). Ils voyaient le cerveau comme un groupe d'amis qui se serrent la main. Mais ils ne comprenaient pas les "ennemis" qui se font de l'œil (les connexions négatives).

Les chercheurs ont décidé de dessiner une carte du cerveau où les liens peuvent être :

• Bleus (Positifs) : "On est d'accord, on travaille ensemble."
• Rouges (Négatifs) : "On s'oppose, l'un s'active quand l'autre se calme."

C'est ce qu'ils appellent un graphe signé.

2. Le secret de l'équilibre (Le Théorème de Cartwright-Harary)

Le problème avec les cartes qui ont des ennemis (liens rouges), c'est qu'elles peuvent devenir chaotiques. Imaginez un triangle de trois personnes : A est ami avec B, B est ami avec C, mais A et C sont ennemis. C'est un triangle "déséquilibré" et stressant.

Les chercheurs ont utilisé une astuce mathématique (le théorème de Cartwright-Harary) pour s'assurer que leur carte est équilibrée.

• L'analogie : Imaginez que vous pouvez attribuer un "chapeau" à chaque personne (un chapeau blanc ou un chapeau noir).
  • Si deux personnes ont le même chapeau, elles doivent être amies (lien bleu).
  • Si elles ont des chapeaux différents, elles doivent être ennemies (lien rouge).
• Si vous réussissez à mettre des chapeaux à tout le monde sans contradiction, la carte est équilibrée.

Pourquoi est-ce important ? Parce que sur une carte équilibrée, on peut utiliser des outils mathématiques très puissants et simples (comme des filtres radio) pour nettoyer le signal, alors que sur une carte désordonnée, c'est impossible.

---

⚙️ Comment ça marche ? (Le "Débruiteur" Intelligent)

Voici comment leur algorithme fonctionne, étape par étape, comme un filtre à café ultra-sophistiqué :

1. La Carte Dynamique : Au lieu d'utiliser une carte fixe, l'algorithme dessine sa propre carte du cerveau à chaque fois, en apprenant qui est ami avec qui (ou qui s'oppose à qui) en fonction des données réelles.
2. Le Filtre à Café (Le Low-Pass Filter) : Une fois la carte dessinée, l'algorithme agit comme un filtre à café. Il laisse passer les "bonnes notes" (les signaux lents et réguliers du cerveau) et bloque les "mauvaises notes" (le bruit électrique et les parasites).
   • L'astuce : Au lieu de calculer tout cela de manière lourde, ils utilisent une méthode rapide (Lanczos) qui est comme un raccourci magique pour obtenir le même résultat en une fraction de seconde.
3. L'Entraînement (Deux Gardiens) : Ils entraînent deux de ces filtres différents :
   • Le Gardien A apprend à reconstruire parfaitement le signal d'un cerveau sain.
   • Le Gardien B apprend à reconstruire parfaitement le signal d'un cerveau épileptique.
4. Le Test Final : Quand un nouveau patient arrive, on passe son signal dans les deux gardiens.
   • Si le Gardien A dit : "Oh, je peux reconstruire ce signal parfaitement, il ressemble à ce que j'ai appris !" (Erreur faible), alors c'est un cerveau sain.
   • Si le Gardien B dit : "Ah, c'est moi qui comprends ça !" (Erreur faible), alors c'est un cerveau épileptique.
   • Celui qui fait l'erreur la plus petite gagne.

---

🏆 Pourquoi c'est une révolution ?

Les résultats sont impressionnants et répondent à tous les problèmes initiaux :

• 🚀 Ultra-Léger : Les modèles classiques (comme les Transformers) sont des éléphants avec des millions de paramètres. Leur modèle est une fourmi : il utilise 99% de paramètres en moins (moins de 15 000 paramètres contre des millions). C'est comme passer d'un camion de pompiers à un vélo électrique pour aller au travail.
• 🎯 Très Précis : Malgré sa petite taille, il est aussi précis, voire plus, que les géants de l'intelligence artificielle. Il atteint 97,6% de précision pour détecter l'épilepsie, contre 85% pour un modèle Transformer classique sur le même jeu de données.
• 🔍 Compréhensible (Interprétable) : Les modèles classiques sont des "boîtes noires" : on met des données dedans, on obtient un résultat, mais on ne sait pas pourquoi. Ici, chaque étape correspond à une règle mathématique claire. On sait exactement comment le filtre a décidé. C'est comme avoir la recette du gâteau, pas juste le gâteau.
• ⏱️ Rapide : L'entraînement et l'analyse sont beaucoup plus rapides, ce qui permettrait un jour d'avoir un diagnostic en temps réel sur un petit appareil portable.

En résumé

Cette équipe a créé un super-filtre mathématique qui comprend la nature "amis/ennemis" du cerveau. En s'assurant que cette carte reste logique (équilibrée), ils ont pu utiliser des outils simples et rapides pour nettoyer le bruit et détecter l'épilepsie avec une précision chirurgicale, le tout dans un petit paquet facile à transporter. C'est une victoire de l'intelligence mathématique sur la brute force des ordinateurs.

Résumé technique

1. Problématique

L'article aborde le défi de la classification des signaux électroencéphalographiques (EEG) pour distinguer les patients épileptiques des sujets sains. Bien que les modèles d'apprentissage profond (Deep Learning), tels que les réseaux de neurones convolutifs (CNN) et les transformeurs (Transformers), aient atteint des performances de pointe (SOTA), ils souffrent de deux limitations majeures :

• Complexité computationnelle : Ils nécessitent un nombre massif de paramètres, les rendant difficiles à déployer sur des dispositifs EEG contraints en ressources.
• Manque d'interprétabilité : Ils fonctionnent souvent comme des "boîtes noires", ce qui est problématique pour les applications médicales où la traçabilité des décisions est cruciale.

De plus, les signaux EEG présentent des anti-corrélations inhérentes (relations négatives entre capteurs) qui sont mal modélisées par les graphes classiques à arêtes uniquement positives.

2. Méthodologie

Les auteurs proposent une approche novatrice basée sur le déploiement d'algorithmes (Algorithm Unrolling) combiné au traitement de signaux sur graphes (Graph Signal Processing - GSP).

A. Modélisation par Graphes Signés Équilibrés

• Graphes Signés : Contrairement aux graphes positifs standards, les auteurs modélisent les données EEG sur un graphe signé équilibré ($G_B$). Dans ce graphe, les arêtes peuvent être positives (corrélations) ou négatives (anti-corrélations).
• Équilibre du graphe : Un graphe signé est dit "équilibré" s'il ne contient aucun cycle avec un nombre impair d'arêtes négatives. Grâce au Théorème de Cartwright-Harary, il est possible d'assigner des polarités ($\beta_i \in \{1, -1\}$) aux nœuds de telle sorte que le signe d'une arête soit déterminé par le produit des polarités de ses extrémités.
• Transformation Spectrale : L'apport théorique clé est que la matrice Laplacienne d'un graphe signé équilibré ($L_B$) est une transformation de similarité de la matrice Laplacienne d'un graphe positif correspondant ($L_+$). Cela permet de définir des fréquences graphiques rigoureuses pour les signaux sur graphes signés, rendant possible l'application de filtres spectraux classiques.

B. Architecture du Réseau (Déploiement d'Algorithme)

Le modèle est construit en "déroulant" itérativement un algorithme de débruitage spectral :

1. Apprentissage du Graphe (Module BGL) : Un module apprend les poids des arêtes signées à partir des données. Il calcule des distances de caractéristiques (via une métrique de Mahalanobis apprise) et assigne des polarités aux nœuds pour garantir l'équilibre du graphe. Ce module joue un rôle analogue à l'attention dans les transformeurs, mais avec beaucoup moins de paramètres.
2. Filtrage Pass-Bas (Module LPF) : Une fois le graphe positif $G_+$ obtenu via transformation, un filtre passe-bas idéal est appliqué pour éliminer le bruit haute fréquence.
3. Approximation de Lanczos : Pour éviter le coût prohibitif de la décomposition spectrale ($O(N^3)$), les auteurs utilisent l'approximation de Lanczos ($O(N)$) pour implémenter le filtre passe-bas de manière efficace.
4. Réseau Unrolled : Plusieurs blocs (Graph Learning + Low-Pass Filter) sont empilés pour former un réseau feed-forward léger et interprétable.

C. Stratégie de Classification

Au lieu d'un classifieur discriminatif standard, l'approche utilise deux débruiteurs conditionnés par la classe ($\Psi_0$ pour les sujets sains, $\Psi_1$ pour les épileptiques) :

• Chaque débruiteur est entraîné pour apprendre la probabilité a posteriori de sa classe respective (en minimisant l'erreur de reconstruction).
• Décision : Pour un signal d'entrée $y$, la classe est attribuée à celle qui produit la plus faible erreur de reconstruction ($\min_c \|y - \Psi_c(y)\|^2$). Cette méthode relie la modélisation générative (débruitage) à la classification discriminative.

3. Contributions Clés

1. Extension aux Graphes Signés Équilibrés : Première application du déploiement d'algorithmes pour les signaux sur graphes signés équilibrés, permettant de capturer les anti-corrélations EEG tout en conservant une définition spectrale rigoureuse.
2. Transformeur Interprétable et Léger : Création d'une architecture de type transformeur où les mécanismes d'attention sont remplacés par des modules d'apprentissage de graphes normalisés, réduisant drastiquement le nombre de paramètres.
3. Filtrage Efficide sans Décomposition Spectrale : Implémentation d'un filtre passe-bas idéal via l'approximation de Lanczos, permettant un traitement en temps linéaire.
4. Approche Générative-Discriminative : Utilisation de l'erreur de reconstruction de deux débruiteurs entraînés séparément pour la classification, offrant une interprétabilité complète du processus de décision.

4. Résultats Expérimentaux

Les expériences ont été menées sur le Turkish Epilepsy EEG Dataset (10 356 enregistrements, 121 participants) et validées sur le corpus TUH Abnormal EEG.

• Performance :
  • Dans le cadre de tâche par défaut (train/test sur mêmes sujets), le modèle atteint 97,57 % de précision et 98,01 % de score F1.
  • Dans le cadre LOSO (Leave-One-Subject-Out, test sur un sujet jamais vu), il atteint 90,06 % de précision, surpassant les méthodes graphiques existantes (DGCNN, GIN, EEGNet).
• Efficacité des Paramètres :
  • Le modèle n'utilise que 14 787 paramètres.
  • Comparaison : Un modèle Transformer SOTA ([5]) atteint 85,12 % de précision avec 1,85 million de paramètres. Un CNN basé sur STFT ([3]) atteint 99,20 % mais avec 11,5 millions de paramètres.
  • Notre méthode offre des performances comparables (voire supérieures dans certains cas LOSO) avec moins de 1 % des paramètres des modèles lourds.
• Ablation Studies :
  • L'utilisation de graphes signés équilibrés est supérieure aux graphes uniquement positifs ou aux graphes signés non équilibrés.
  • L'utilisation d'une fonction de perte contrastive améliore significativement la séparation des classes par rapport à une perte MSE standard.

5. Signification et Impact

Ce travail démontre qu'il est possible de concilier haute performance, faible empreinte computationnelle et interprétabilité dans le domaine médical.

• Praticité : La légèreté du modèle le rend idéal pour le déploiement sur des dispositifs portables ou embarqués pour la surveillance de l'épilepsie en temps réel.
• Interprétabilité : Chaque couche du réseau correspond à une itération d'un algorithme d'optimisation mathématique défini, permettant aux cliniciens de comprendre comment le signal est filtré et classé.
• Théorique : L'article établit un pont solide entre le traitement de signaux sur graphes signés et les architectures de type transformeur, ouvrant la voie à de nouvelles recherches sur l'apprentissage de structures de graphes pour des données complexes et corrélées négativement.