Temporal Context and Architecture: A Benchmark for Naturalistic EEG Decoding

Résumé Technique : Contexte Temporel et Architecture pour le Décodage de l'EEG Naturaliste

Énoncé du Problème
Le décodage de l'activité cérébrale à partir de l'EEG lors de tâches naturalistes, telles que le visionnage de films, présente un défi significatif en raison de la nécessité de capturer des dépendances temporelles à longue portée au sein d'enregistrements continus et bruités. Bien que l'apprentissage profond ait été largement appliqué à ce domaine, les architectures traditionnelles font face à des compromis fondamentaux : les réseaux de neurones convolutifs (CNN) sont efficaces sur le plan computationnel mais contraints par des champs récepteurs locaux, tandis que les Transformers offrent un contexte global via des mécanismes d'attention mais souffrent d'une mise à l'échelle quadratique en temps et en mémoire. Récemment, les modèles d'espace d'état structurés (SSM) comme S4 et S5 ont émergé comme un compromis potentiel, offrant une modélisation à longue portée avec une complexité quasi linéaire. Cependant, une comparaison systématique de la manière dont ces architectures modernes se comportent face à des variations de longueurs de contexte temporel, et de leur capacité de généralisation à travers des tâches, fréquences et sujets inédits, faisait défaut.

Méthodologie
Les auteurs évaluent cinq architectures distinctes sur une tâche de décodage EEG naturaliste à 4 classes utilisant des données issues de l'initiative Healthy Brain Network (HBN). Le jeu de données comprend des enregistrements de tâches de visionnage de films (« Despicable Me », « Diary of a Wimpy Kid », « The Present ») et une ligne de base à l'état de repos.

• Traitement des données : Les données brutes ont été sous-échantillonnées à 250 Hz, filtrées (1-50 Hz), re-référencées (moyenne commune) et segmentées en fenêtres allant de 8 s à 128 s avec un chevauchement de 50 %. Crucialement, la division des données a eu lieu avant la segmentation pour éviter toute fuite de données.
• Architectures Évaluées :
  1. CNN Temporel : Un baseline standard à champ récepteur local.
  2. LSTM Bidirectionnel : Un baseline récurrent.
  3. Transformer Vanille : Un baseline d'attention globale.
  4. EEGXF : Un baseline Transformer stabilisé développé par les auteurs, présentant des projections d'entrée simplifiées, des couches BatchNorm, un encodage de type "norm-first" et un pooling d'attention appris pour remédier à l'instabilité de l'entraînement sur l'EEG bruité.
  5. S5 : Un modèle d'espace d'état structuré utilisant des matrices d'état diagonalisées pour un balayage parallèle efficace.
• Métriques d'Évaluation : L'étude évalue la performance selon trois dimensions :
  1. Mise à l'échelle Temporelle : Précision vs longueur du segment (8s–128s).
  2. Robustesse : Décalages de fréquence zero-shot (test sur des signaux de 128 Hz et 64 Hz entraînés à 250 Hz) et généralisation Leave-One-Subject-Out (LOSO).
  3. Comportement Hors-Distribution (OOD) : Généralisation zero-shot sur des tâches cognitives actives non vues, analysée parallèlement aux métriques de calibration (NLL, Brier, ECE).

Résultats Clés

• Mise à l'échelle du Contexte Temporel : La précision s'améliore généralement avec un contexte plus long. À 64 s, S5 a atteint 98,7 % ± 0,6 de précision, et le CNN a atteint 98,3 % ± 0,3. Notamment, S5 a atteint cette performance avec environ 20 fois moins de paramètres (0,2M contre 4,4M) que le CNN.
• Efficacité : Le CNN est resté le plus rapide en temps de calcul réel (9,8 min à 64 s), tandis que S5 et EEGXF avaient des temps d'entraînement comparables (~25 min). S4 et LSTM ont été jugés non compétitifs ; le LSTM n'a pas réussi à converger, et S4 était prohibitif en termes de lenteur.
• Robustesse de Fréquence : Un compromis significatif est apparu. La précision de S5 a chuté considérablement (>18 points de pourcentage) lorsqu'il était testé sur des signaux sous-échantillonnés (128 Hz/64 Hz), indiquant une haute sensibilité à la résolution temporelle. À l'inverse, EEGXF est resté remarquablement stable, avec une chute de précision de moins de 2 %.
• Généralisation par Sujet (LOSO) : Dans les tests Leave-One-Subject-Out, S5 a démontré une meilleure généralisation (55,9 % de précision moyenne) par rapport à EEGXF (48,4 %), bien que les deux scores soient nettement inférieurs aux résultats mixtes par sujet, soulignant la difficulté du décodage inter-sujets.
• OOD et Calibration :
  • S5 : A présenté une « spécialisation sur-confiante ». Bien que bien calibré sur les données in-distribution, il a systématiquement classé à tort les tâches OOD comme une classe de film spécifique avec une grande confiance (~60 %), échouant à exprimer l'incertitude.
  • EEGXF : A démontré un « effondrement conservateur ». Il a correctement identifié les tâches OOD comme étant inconnues en adoptant par défaut une classe neutre (« État de repos ») avec une faible confiance (~26 %), indiquant une quantification robuste de l'incertitude malgré une moindre calibration in-distribution.

Contributions Clés

1. Benchmarking Systématique : Le papier fournit une comparaison complète des architectures CNN, RNN, Transformer et SSM sur une large gamme de contextes temporels (8s–128s) pour le décodage de l'EEG naturaliste.
2. Baseline Transformer Stabilisé : L'introduction d'EEGXF, une architecture Transformer modifiée conçue pour gérer l'instabilité des données EEG bruitées, sert de baseline robuste pour les comparaisons futures.
3. Suite de Généralisation : L'étude va au-delà de la simple précision en introduisant une suite de tests de généralisation exigeants, incluant les décalages de fréquence, la généralisation indépendante du sujet et l'évaluation zero-shot inter-tâches.
4. Caractérisation du Compromis d'Architecture : Le travail caractérise explicitement un compromis pratique entre efficacité et robustesse, identifiant S5 comme optimal pour une précision de pointe par efficacité de paramètres dans des environnements contrôlés, et EEGXF comme préférable lorsque la robustesse et l'estimation conservatrice de l'incertitude sont critiques.

Signification et Revendications
L'article affirme que l'interaction entre l'architecture du modèle et le contexte temporel est un facteur critique pour le décodage de l'EEG. Il démontre que si S5 offre un équilibre convaincant entre précision et efficacité de paramètres, particulièrement dans les scénarios mixtes par sujet et à long contexte, il manque de robustesse face aux changements de fréquence et présente une sur-confiance dangereuse sur les données hors-distribution. À l'inverse, EEGXF offre une plus grande stabilité et une quantification de l'incertitude plus sûre au prix de la précision de pointe et de l'efficacité computationnelle.

Les auteurs concluent que le choix d'une architecture dépend des exigences de l'application : S5 est idéal pour la vitesse et la précision dans des environnements contrôlés, tandis qu'EEGXF est préférable pour un déploiement en conditions réelles où la robustesse aux variations de signal et une estimation fiable de l'incertitude sont primordiales. L'étude reconnaît sa dépendance vis-à-vis du jeu de données HBN et suggère une validation future sur des benchmarks standards comme Sleep-EDF.