What Do EEG Foundation Models Capture from Human Brain Signals?

Résumé Technique : Que Captent les Modèles Fondation EEG des Signaux Cérébraux Humains ?

Énoncé du Problème
L'analyse clinique de l'électroencéphalogramme (EEG) a historiquement reposé sur un catalogue de caractéristiques élaborées à la main, affiné au fil des décennies, englobant la puissance de bande, la connectivité, la complexité et d'autres propriétés du signal. Récemment, des modèles fondation EEG ont émergé, utilisant un pré-entraînement auto-supervisé sur des signaux bruts pour atteindre des performances de pointe sur des benchmarks cliniques, contournant souvent le pipeline traditionnel d'ingénierie des caractéristiques. Une question ouverte critique demeure : les représentations de haute dimension apprises par ces modèles fondation s'alignent-elles sur le lexique établi des caractéristiques cliniques, ou ont-elles divergé pour découvrir de nouvelles structures de signal ? Comprendre cet alignement est essentiel pour valider les décisions du modèle face aux connaissances humaines et identifier les lacunes où de nouveaux descripteurs cliniques pourraient être nécessaires.

Méthodologie
Les auteurs proposent un cadre d'audit en trois parties pour décomposer la question de l'alignement en : (1) Que apprend le modèle ? (Encodage), (2) Que utilise le modèle ? (Dépendance causale), et (3) Quelle part peut être expliquée ? (Récupération de performance). Cet audit est appliqué à travers trois modèles fondation (CSBrain, CBraMod, LaBraM), cinq tâches cliniques (MDD, Stress, ISRUC-Sleep, TUSL, Siena), et un lexique de 63 caractéristiques élaborées à la main regroupées en six familles (morphologie temporelle, puissance/forme spectrale, enveloppe temps-fréquence, complexité du signal, couplage inter-fréquences, et relations inter-canaux).

La méthodologie emploie trois techniques d'interprétabilité distinctes pour chaque triplet (jeu de données, modèle, caractéristique) :

1. Sondage Ridge par Couche : Pour déterminer l'encodage, des sondes de régression ridge linéaire prédisent chaque caractéristique élaborée à la main à partir des activations du modèle à chaque couche. Une caractéristique est considérée comme « encodée » si une sonde atteint un pouvoir prédictif significatif ($R^2$) sur un jeu de validation retenu, identifiant la couche spécifique où l'information réside.
2. Effacement de Sous-espace de Covariance Croisée de Style LEACE : Pour déterminer l'utilisation causale, les auteurs interviennent sur les activations du modèle. Au pic de la couche d'encodage, ils suppriment la composante linéairement décodable d'une caractéristique cible du vecteur d'activation en utilisant un effacement de sous-espace de covariance croisée (une approximation évolutive de l'opérateur LEACE). La baisse résultante de la performance de la tâche sur un jeu de test retenu indique une dépendance causale. Ceci est rigoureusement contrôlé par rapport à trois cibles nulles (sous-espace aléatoire, appariement mélangé, bruit gaussien) et une sonde de résidu linéaire pour écarter les effets spurs.
3. Clôture de Classificateur Transparent : Pour mesurer l'explicabilité, un classificateur de régression logistique est entraîné uniquement sur l'ensemble des caractéristiques confirmées comme « causales de représentation ». Sa performance est comparée à celle du modèle fondation et à une base de référence de caractéristiques aléatoires de même dimension. Le « ratio de clôture » quantifie la fraction de l'avantage du modèle fondation par rapport à la base aléatoire qui est récupérée par les caractéristiques élaborées à la main.

Contributions Clés

• Cadre d'Audit Causal : L'article introduit un pipeline rigoureux qui distingue les caractéristiques qu'un modèle encode (possède dans sa représentation) de celles qu'il utilise causalement pour la prise de décision, abordant la limitation des méthodes d'interprétabilité basées sur la corrélation.
• Audit Lexical Complet : L'étude audite 945 unités (3 modèles × 5 tâches × 63 caractéristiques), fournissant la première carte causale à grande échelle de la façon dont les modèles fondation se rapportent au canon des caractéristiques EEG cliniques.
• Taxonomie des Caractéristiques : Les auteurs catégorisent les caractéristiques en candidats universels (fort soutien à travers les architectures/tâches), spécifiques à la tâche, spécifiques au modèle, et uniquement encodées, offrant une vue structurée de la dépendance du modèle.

Résultats

• Encodage : Les modèles fondation récupèrent largement le lexique clinique. 89,6 % (847/945) des unités passent le critère d'encodage, toutes les 63 caractéristiques étant encodées dans au moins une cellule (modèle, tâche). Les caractéristiques du domaine fréquentiel sont encodées avec une forte intensité dans toutes les cellules.
• Utilisation Causale : 68,6 % (648/945) des unités sont « causales de représentation », ce qui signifie que le modèle s'y fie pour les décisions de tâche. 21,1 % sont encodées mais pas utilisées causalement. À travers les tâches, 50 caractéristiques se qualifient comme candidats universels avec un fort soutien dans deux tâches ou plus. Bien que les caractéristiques du domaine fréquentiel dominent, les familles temps-fréquence, inter-canaux, complexité, temporelle et inter-fréquences contribuent chacune une masse causale substantielle sur au moins quatre des cinq tâches.
• Récupération de Performance (Clôture) : Les caractéristiques confirmées récupèrent, en moyenne, 79,3 % de l'avantage du modèle fondation par rapport à une base de référence de caractéristiques aléatoires. Une gradient de tâche clair existe : les tâches proches du plafond de performance (par exemple, MDD, clôture ≈ 0,99) sont presque entièrement expliquées par le lexique, tandis que les tâches plus difficiles (par exemple, Stress, clôture ≈ 0,56) laissent un résidu non trivial.
• Résidus : L'écart de performance inexpliqué sur les tâches difficiles suggère l'existence de structures de signal non capturées par le lexique actuel de 63 caractéristiques ou de combinaisons non linéaires non capturées par le substitut linéaire.

Signification
L'article affirme que les modèles fondation EEG, bien qu'entraînés sans biais inductif vers des caractéristiques élaborées à la main, récupèrent le catalogue de caractéristiques cliniques à grande échelle. Cependant, la distinction entre encodage et utilisation est cruciale ; les modèles encodent de nombreuses caractéristiques mais s'appuient causalement sur un sous-ensemble spécifique. Les résultats suggèrent que pour les tâches proches du plafond de performance, les descripteurs cliniques existants sont largement suffisants pour expliquer le comportement du modèle. Inversement, la performance résiduelle sur les tâches plus difficiles pointe des cibles concrètes pour la découverte future de concepts, indiquant que le catalogue actuel de descripteurs EEG est incomplet. Ce travail établit une boucle de rétroaction entre les représentations du modèle et les connaissances humaines, fournissant une méthode pour valider les descripteurs cliniques existants et identifier où de nouveaux sont nécessaires pour les neurosciences pilotées par l'IA.