Résumé Technique : Apprentissage de Représentations EEG Alignées avec des Encodeurs Spécifiques au Sujet

Énoncé du Problème

Le décodage EEG inter-sujets est essentiel pour faire évoluer les modèles d'interface cerveau-ordinateur (BCI) en raison de la rareté des données par sujet individuel. Cependant, l'agrégation de données introduit des décalages de distribution inter-sujets significatifs (décalages de covariables et de concepts) causés par les différences neuroanatomiques, le placement des électrodes et la non-stationnarité. Les modèles de deep learning standards, qui supposent que les données d'entraînement et de test partagent la même distribution, souffrent souvent de transfert négatif lorsqu'ils sont entraînés sur des données multi-sujets regroupées. Bien que les techniques d'adaptation de domaine comme l'Alignement Euclidien (EA) existent pour recentrer les covariances des sujets lors du prétraitement, ce sont des transformations fixes qui ne s'étendent pas naturellement aux entrées de séries temporelles brutes ou ne parviennent pas à apprendre des motifs complexes spécifiques au sujet. L'article examine si la supervision de la tâche et la conception architecturale peuvent, à elles seules, induire un alignement inter-sujets sans dépendre uniquement de prétraitements externes.

Méthodologie

1. Architecture Proposée : Modèle Hybride à Têtes Multiples

Les auteurs proposent de remplacer l'encodeur EEG partagé standard par un ensemble d'encodeurs spécifiques au sujet ($e^{(k)}_{\phi_k}$), chacun dédié à un sujet d'entraînement spécifique, tout en maintenant un classificateur unique partagé ($h_\psi$).

• Structure : $f^{(k)}_\theta(X) = h_\psi(e^{(k)}_{\phi_k}(X))$.
• Mécanisme : Chaque encodeur apprend une transformation non linéaire et spécifique au sujet des signaux EEG bruts. L'objectif de classification partagé agit comme un signal d'alignement implicite, forçant les encodeurs individuels à projeter leurs sujets respectifs dans un espace latent unifié compatible avec une frontière de décision unique.
• Entraînement : Le modèle est entraîné en utilisant une stratégie de "leave-one-subject-out" (LOSO). Pendant le pré-entraînement, les mini-lots de chaque sujet source sont acheminés via leur encodeur correspondant. Les gradients s'accumulent dans le classificateur partagé, tandis que chaque encodeur ne reçoit des gradients que de ses propres données de sujet.

2. Adaptation du Sujet Cible

Pour les sujets non vus (cibles), le modèle utilise une stratégie d'adaptation à faible calibration :

1. Sélection de la Tête : Un encodeur cible est initialisé en copiant les poids de l'encodeur source qui produit la meilleure précision équilibrée sur un petit ensemble de calibration (48 essais) provenant du sujet cible.
2. Affinage (Fine-tuning) : La branche cible sélectionnée est affinée sur les données de calibration et évaluée sur les essais de test mis de côté.

3. Baselines et Datasets

Le modèle hybride est comparé à des architectures à backbone d'encodeur partagé standard (EEGNet, AttentionBaseNet, CTNet) avec et sans prétraitement par Alignement Euclidien (EA). Les expériences ont été menées sur quatre jeux de données d'imagerie motrice : BNCI2014-001, BNCI2015-001, Schirrmeister2017 et Weibo2014.

4. Métriques d'Évaluation

• Métrique Primaire : Précision Équilibrée (Balanced Accuracy - BA) sur les essais cibles mis de côté.
• Métriques Diagnostiques :
  • Distinctivité des Classes : Une métrique indépendante du classificateur basée sur le ratio de la distance riemannienne inter-classe sur la dispersion intra-classe des matrices de covariance par essai.
  • Géométrie Latente : Analyse des distances riemanniennes entre les essais cibles et les centroïdes des encodeurs sources pour mesurer l'alignement des variétés (manifolds).
  • Dynamique d'Entraînement : Courbes de convergence de la perte de validation.

Résultats Clés

1. Efficacité des Encodeurs Spécifiques au Sujet

• Gains de Performance : L'architecture hybride a amélioré les performances par rapport aux baselines utilisant uniquement l'EA sur des jeux de données spécifiques et des backbones donnés. Notamment, sur le jeu de données BNCI2015-001, le modèle hybride a obtenu des gains significatifs sur les trois backbones (EEGNet, AttnBNet, CTNet). Cependant, les gains n'étaient pas uniformes ; sur des jeux de données comme Weibo2014, le modèle hybride CTNet s'est effondré, indiquant que le bénéfice dépend du dataset et du backbone.
• Distinctivité des Classes : Les encodeurs spécifiques au sujet ont considérablement augmenté la distinctivité des classes pour les sujets sources (par exemple, de ~28 à ~67 sous EA), indiquant une haute spécialisation. Pour les sujets cibles non vus, la distinctivité est restée plus élevée que celle des baselines à encodeur partagé, suggérant que les encodeurs spécifiques au sujet conservent une certaine structure transférable même lorsqu'ils sont appliqués hors domaine.
• Alignement des Variétés (Manifolds) : L'analyse des distances latentes a révélé que les essais des sujets cibles sont significativement plus proches de la variété de leur encodeur source correspondant que de celles des encodeurs non correspondants. Cet écart s'est élargi sous l'effet de l'EA, confirmant que chaque tête apprend une variété unique et spécifique au sujet.

2. Internalisation de l'Alignement

• Convergence de la Perte : Pour les encodeurs partagés, l'EA est critique ; supprimer l'EA provoque un plafonnement de la perte de validation à un niveau beaucoup plus élevé. En revanche, l'architecture hybride converge vers des niveaux de perte faibles similaires avec ou sans EA. Cela suggère que les encodeurs spécifiques au sujet apprennent intrinsèquement la fonction d'alignement que l'EA réalise de manière externe.
• Géométrie Latente : Les visualisations t-SNE ont montré que, tandis que les encodeurs partagés commencent avec des distributions de sujets qui se chevauchent, les encodeurs hybrides commencent avec des clusters séparés. L'entraînement avec la seule supervision de la tâche réorganise ces clusters pour qu'ils soient plus proches et mieux séparés, répliquant efficacement le rôle d'alignement de l'EA par des transformations de caractéristiques apprises.

3. Hétérogénéité des Sujets

L'étude a identifié deux modes distincts de comportement des sujets :

• Sujets Consistamment Difficiles : Sujets qui performent mal à travers toutes les méthodes, suggérant des limitations de signal irréductibles.
• Sujets "Bruités par la Méthode" (Method-Noisy) : Sujets dont la performance varie considérablement selon l'architecture et la stratégie d'alignement, impliquant qu'une meilleure sélection de tête ou une meilleure calibration pourrait débloquer des performances supérieures.

Signification et Revendications

L'article affirme que les encodeurs spécifiques au sujet agissent comme un mécanisme d'alignement appris pour le décodage EEG. En factorisant l'encodeur en têtes par sujet, le modèle peut apprendre à recentrer et à transformer les distributions individuelles des sujets pour qu'elles s'adaptent à un espace de classification partagé, internalisant ainsi le rôle des techniques de prétraitement comme l'Alignement Euclidien.

Principales Contributions :

1. Alignement Architectural : Démontre que la supervision de la tâche combinée à une architecture multi-têtes peut induire un alignement inter-sujets sans perte explicite d'adaptation de domaine ou de prétraitement fixe.
2. Aperçus Diagnostiques : Fournit la preuve que ces gains ne sont pas simplement dus à une augmentation de la capacité du modèle, mais résultent de l'apprentissage par l'encodeur de variétés spécifiques au sujet qui améliorent la distinctivité des classes et facilitent le transfert.
3. Identification des Goulots d'Étranglement : Bien que l'architecture améliore l'alignement, les auteurs identifient la sélection de la tête pour les sujets non vus comme le goulot d'étranglement restant. La performance du système sur de nouveaux sujets dépend fortement de la sélection de l'initialisation correcte parmi le pool de sources, et ce processus de sélection reste un défi, particulièrement pour les sujets "method-noisy".

Les auteurs concluent que, bien que la structure proposée soutienne les encodeurs spécifiques au sujet comme un mécanisme d'alignement appris viable, la scalabilité à des pools de sujets larges et diversifiés reste une limitation, motivant des travaux futurs sur des alternatives économes en paramètres (ex: adaptateurs de bas rang) et des stratégies de sélection de tête non-oracles améliorées.