Beyond Accuracy: Robustness, Interpretability and Expressiveness of EEG Foundation Models

Titre : Au-delà de la précision : robustesse, interprétabilité et expressivité des modèles de fondation pour l'EEG

Énoncé du problème
Les modèles de fondation pour l'électroencéphalographie (EEG-FM) sont apparus comme une approche prometteuse pour les interfaces cerveau-ordinateur (ICO), visant à apprendre des représentations à usage général à partir de grands corpus non étiquetés via l'auto-apprentissage. Cependant, les évaluations actuelles de ces modèles se limitent principalement à des métriques de précision « propres » et intra-distribution. Cette focalisation néglige des facteurs critiques pour le déploiement dans le monde réel : le bruit inhérent aux signaux EEG (dû à l'impédance des électrodes, aux mouvements et aux artefacts environnementaux), la nécessité d'interprétabilité dans les domaines cliniques à haut risque, et la qualité réelle des représentations apprises. Les benchmarks précédents ont montré que les EEG-FM n'offrent souvent que des gains marginaux par rapport aux bases de référence supervisées comme EEGNet, pourtant les causes profondes — qu'il s'agisse d'une faible robustesse, d'un apprentissage de caractéristiques mal aligné ou de représentations pré-entraînées de faible qualité — restent inexplorées.

Méthodologie
Les auteurs ont mené une étude de benchmark systématique impliquant six EEG-FM de l'état de l'art (BIOT, CBraMod, LaBraM, NeuroRVQ, BrainOmni et REVE) et une base de référence supervisée (EEGNet) sur huit ensembles de données diversifiés couvrant l'imagerie motrice, l'exécution motrice, les potentiels liés à l'événement (ERP), la mémoire de travail, le classement des stades de sommeil et la classification de l'état oculaire. L'étude a employé trois niveaux d'analyse distincts :

1. Analyse de la robustesse : Les modèles entraînés sur des données propres ont été évalués au moment du test dans cinq conditions de perturbation : bruit blanc et rose additif (à différents rapports signal sur bruit), dropout aléatoire de canaux (remplissage par zéro), dropout de canaux par région (remplissage par zéro et suppression réelle), et injection de bruit spécifique à la région.
2. Analyse de l'interprétabilité : L'étude a appliqué la propagation de pertinence couche par couche consciente de l'attention (AttnLRP) pour attribuer les prédictions du modèle à des régions cérébrales spécifiques. Pour les modèles où AttnLRP était numériquement instable (NeuroRVQ et BrainOmni), la méthode Gradient × Entrée (G×I) a été utilisée. L'analyse a examiné si les modèles se concentraient sur des régions neurophysiologiquement plausibles et comment ces cartes d'attention évoluaient sous perturbation.
3. Analyse de l'expressivité : En utilisant un sondage linéaire par blocs, les auteurs ont investigué où l'information pertinente pour la tâche émerge au sein de l'architecture transformer (blocs précoces vs blocs tardifs) et si les représentations pré-entraînées sont suffisantes pour les tâches en aval. Une attention particulière a été portée à l'impact des stratégies de mise en commun (moyenne vs aplatissement des tokens) sur la performance de l'adaptation « tête seule » (colonne vertébrale figée).

Résultats clés

• Robustesse : Aucun modèle ne domine tous les modes de défaillance.

  • Bruit : BrainOmni a démontré la robustesse la plus élevée face au bruit additif, ne perdant que 5,4 % de précision à -5 dB contre 14–21 % pour les autres.
  • Dropout : Paradoxalement, BrainOmni était parmi les plus fragiles sous un dropout aléatoire de canaux lorsque les canaux étaient remplis de zéros (-13,3 % de dégradation). Cependant, lorsque les canaux abandonnés étaient supprimés entièrement (vrai dropout) plutôt que remplis de zéros, les modèles à nombre de canaux variable (y compris BrainOmni) se sont rétablis de manière significative, suggérant que leur fragilité provient de la gestion des entrées à valeur nulle plutôt que d'un manque d'information sur la tâche.
  • Régimes : À des niveaux de bruit extrêmes, tous les modèles ont convergé vers un plancher de performance spécifique à la tâche, indiquant un régime limité par le signal où l'architecture compte moins. À un bruit modéré, les différences architecturales sont restées déterminantes.

• Interprétabilité :

  • Alignement spatial : Tous les modèles se sont concentrés globalement sur des régions cérébrales appropriées à la tâche (par exemple, électrodes centrales pour les tâches motrices, sites occipitaux pour les ERP), s'alignant sur la neurophysiologie connue.
  • Stabilité sous perturbation : Sous perturbation, les cartes d'attribution sont restées spatialement stables même alors que la précision des prédictions se dégradait. Cela suggère que les modèles continuent de prêter attention aux bonnes régions cérébrales mais échouent à décoder le contenu du signal corrompu.
  • Exceptions : BrainOmni a produit des cartes d'attention diffuses, probablement en raison de son fonctionnement sur des tokens latents abstraits plutôt que sur des électrodes physiques.

• Expressivité :

  • Sondage par blocs : Des signaux linéairement décodables pertinents pour la tâche étaient présents dans les blocs précoces des modèles pré-entraînés. Le fine-tuning a principalement réaffecté les blocs tardifs pour se spécialiser dans la tâche en aval, un schéma cohérent avec les résultats trouvés dans les transformers de TALN.
  • Artéfacts de mise en commun : La mauvaise performance précédemment observée de l'adaptation tête seule pour des modèles comme LaBraM et NeuroRVQ a été largement attribuée à leur utilisation de la mise en commun par moyenne, qui effondre l'information au niveau des tokens. Le remplacement de la mise en commun par moyenne par un aplatissement des tokens a considérablement amélioré la performance tête seule (gains de 14–21 %), rapprochant ces modèles de la base de référence EEGNet. Cela indique que les EEG-FM possèdent une capacité de représentation suffisante lorsque les embeddings au niveau des tokens sont préservés.

Importance et affirmations
L'article prétend fournir la première évaluation systématique de la robustesse, de l'interprétabilité et de l'expressivité pour les modèles de fondation EEG. Les auteurs soutiennent que :

1. La robustesse dépend de la tâche et de la perturbation : Les classements des performances des modèles changent en fonction du type de corruption (bruit vs dropout) et du signal de tâche spécifique.
2. L'ancrage spatial existe mais est insuffisant : Bien que les modèles apprennent des représentations ancrées spatialement cohérentes avec la neurophysiologie, cela ne garantit pas une prédiction fidèle sous corruption.
3. Les stratégies de mise en commun faussent l'évaluation : La « faible qualité » perçue des représentations pré-entraînées dans les paramètres tête seule est souvent un artéfact de la conception de la mise en commun (moyenne vs aplatissement) plutôt que des représentations elles-mêmes.
4. Voies futures : L'étude souligne la nécessité que les évaluations futures utilisent une mise en commun par concaténation pour éviter de confondre la conception de la mise en commun avec la qualité de la représentation, et de considérer la suppression réelle des canaux plutôt que le remplissage par zéro lors du test de modèles à nombre de canaux variable.

Les auteurs concluent que si les EEG-FM montrent des promesses, leur développement nécessite une évaluation rigoureuse au-delà de la précision propre pour garantir la fiabilité dans les contextes cliniques et réels des ICO.