Technische Samenvatting: Het leren van gealigneerde EEG-representaties met subject-specifieke encoders

Probleemstelling

Cross-subject EEG-decodering is essentieel voor het schalen van hersen-computerinterface (BCI) modellen vanwege de schaarste aan data bij individuele proefpersonen. Het aggregeren van data introduceert echter aanzienlijke inter-subject distributieverschuivingen (covariaat- en conceptverschuivingen) veroorzaakt door neuroanatomische verschillen, elektrodenplaatsing en niet-stationariteit. Standaard deep learning-modellen, die ervan uitgaan dat trainings- en testdata dezelfde distributie delen, lijden vaak aan negatieve transfer wanneer ze worden getraind op gepoolde multi-subject data. Hoewel domeinadaptatietechnieken zoals Euclidean Alignment (EA) bestaan om de covarianties van proefpersonen tijdens de preprocessing te recentreren, zijn dit vaste transformaties die niet op natuurlijke wijze kunnen worden uitgebreid naar ruwe tijdreeksen of complexe subject-specifieke patronen kunnen leren. Het onderzoek onderzoekt of taaksupervisie en architectonisch ontwerp alleen al kunnen leiden tot cross-subject alignment zonder uitsluitend te vertrouwen op externe preprocessing.

Methodologie

1. Voorgestelde Architectuur: Multi-Head Hybride Model

De auteurs stellen voor om de standaard gedeelde EEG-encoder te vervangen door een set subject-specifieke encoders ($e^{(k)}_{\phi_k}$), elk toegewijd aan een specifieke trainingsproefpersoon, terwijl een enkele gedeelde classifier ($h_\psi$) behouden blijft.

• Structuur: $f^{(k)}_\theta(X) = h_\psi(e^{(k)}_{\phi_k}(X))$.
• Mechanisme: Elke encoder leert een niet-lineaire, subject-specifieke transformatie van ruwe EEG-signalen. De gedeelde classificatie-opdracht fungeert als een impliciet alignment-signaal, wat de individuele encoders onder druk zet om hun respectieve proefpersonen te projecteren in een verenigde latente ruimte die compatibel is met een enkele beslissingsgrens.
• Training: Het model wordt getraind met een "leave-one-subject-out" (LOSO) strategie. Tijdens de pre-training worden mini-batches van elke bronproefpersoon door de bijbehorende encoder geleid. Gradiënten accumuleren in de gedeelde classifier, terwijl elke encoder alleen gradiënten ontvangt van de eigen data van die proefpersoon.

2. Target Subject Adaptatie

Voor ongeziene (target) proefpersonen maakt het model gebruik van een strategie met lage kalibratie:

1. Head Selectie: Een target encoder wordt geïnitialiseerd door de gewichten te kopiëren van de bron-encoder die de hoogste gebalanceerde accuratesse behaalt op een kleine kalibratieset (48 trials) van de target proefpersoon.
2. Fine-tuning: De geselecteerde target-branch wordt gefine-tuned op de kalibratiedata en geëvalueerd op de uit de test gehouden test-trials.

3. Baselines en Datasets

Het hybride model wordt vergeleken met standaard shared-encoder backbones (EEGNet, AttentionBaseNet, CTNet) met en zonder Euclidean Alignment (EA) preprocessing. Experimenten werden uitgevoerd op vier motor-imagery datasets: BNCI2014-001, BNCI2015-001, Schirrmeister2017, en Weibo2014.

4. Evaluatiemetrieken

• Primaire Metriek: Gebalanceerde Accuratesse (BA) op de uit de test gehouden target trials.
• Diagnostische Metrieken:
  • Class Distinctiveness: Een classifier-onafhankelijke metriek gebaseerd op de ratio van de inter-class Riemanniaanse afstand tot de intra-class dispersie op trial-niveau covariantie-matrices.
  • Latente Geometrie: Analyse van Riemanniaanse afstanden tussen target trials en bron-encoder centroids om manifold alignment te meten.
  • Trainingsdynamiek: Validatieverlies convergentiecurven.

Belangrijkste Resultaten

1. Effectiviteit van Subject-Specifieke Encoders

• Prestatiewinst: De hybride architectuur verbeterde de prestaties ten opzichte van EA-alleen baselines op specifieke datasets en backbones. Met name op de BNCI2015-001 dataset behaalde het hybride model significante winst over alle drie de backbones (EEGNet, AttnBNet, CTNet). De winst was echter niet uniform; op datasets zoals Weibo2014 stortte de CTNet hybride in, wat aangeeft dat het voordeel dataset- en backbone-afhankelijk is.
• Class Distinctiveness: Subject-specifieke encoders verhoogden de class distinctiveness scherp voor bronproefpersonen (bijv. van ~28 naar ~67 onder EA), wat wijst op hoge specialisatie. Voor ongeziene target proefpersonen bleef de distinctiveness hoger dan bij shared-encoder baselines, wat suggereert dat subject-specifieke encoders nog steeds enige overdraagbare structuur behouden wanneer ze out-of-domain worden toegepast.
• Manifold Alignment: Analyse van latente afstanden toonde aan dat de trials van target proefpersonen significant dichter bij het manifold van hun bijbehorende bron-encoder liggen dan bij mismatched encoders. Deze kloof werd groter onder EA, wat bevestigt dat elke head een uniek subject-specifiek manifold leert.

2. Internalisering van Alignment

• Loss Convergentie: Voor shared encoders is EA cruciaal; het verwijderen ervan zorgt ervoor dat het validatieverlies op een veel hoger niveau stagneert. In tegenstelling hiertoe convergeert de hybride architectuur naar vergelijkbare lage loss-niveaus met of zonder EA. Dit suggereert dat de subject-specifieke encoders de alignment-functie die EA extern uitvoert, intern leren.
• Latente Geometrie: t-SNE visualisaties toonden aan dat terwijl shared encoders beginnen met overlappende subject-distributies, hybride encoders beginnen met gescheiden clusters. Training met enkel taaksupervisie reorganiseert deze clusters om dichter bij elkaar en beter gescheiden te zijn, waardoor de rol van EA effectief wordt gerepliceerd via geleerde feature-transformaties.

3. Subject Heterogeniteit

De studie identificeerde twee verschillende modi van subject gedrag:

• Consistent Moeilijke Subjects: Proefpersonen die slecht presteren over alle methoden, wat duidt op irreducibele signaalbeperkingen.
• Method-Noisy Subjects: Proefpersonen wier prestaties sterk variëren afhankelijk van de architectuur en alignment strategie, wat impliceert dat betere head selectie of kalibratie hogere prestaties zou kunnen ontsluiten.

Betekenis en Claims

De paper claimt dat subject-specifieke encoders fungeren als een geleerd alignment-mechanisme voor EEG-decodering. Door de encoder te factoriseren in per-subject heads, kan het model leren om de individuele subject-distributies te recentreren en te transformeren zodat ze in een gedeelde classificatieruimte passen, waarmee de rol van preprocessing-technieken zoals Euclidean Alignment effectief wordt geïnternaliseerd.

Belangrijkste Bijdragen:

1. Architectonische Alignment: Demonstreert dat taaksupervisie gecombineerd met een multi-head architectuur subject-alignment kan induceren zonder expliciete domeinadaptatie-losses of vaste preprocessing.
2. Diagnostische Inzichten: Levert bewijs dat deze winsten niet louter te wijten zijn aan verhoogde modelcapaciteit, maar voortkomen uit de encoder die subject-specifieke manifolds leert die class distinctiveness verbeteren en transfer vergemakkelijken.
3. Identificatie van Bottlenecks: Hoewel de architectuur de alignment verbetert, identificeren de auteurs head selectie voor ongeziene proefpersonen als de resterende bottleneck. De prestaties van het systeem op nieuwe proefpersonen zijn sterk afhankelijk van het selecteren van de juiste initialisatie uit de bronpool, en dit selectieproces blijft een uitdaging, met name voor "method-noisy" proefpersonen.

De auteurs concluderen dat hoewel de voorgestelde structuur ondersteunt dat subject-specifieke encoders een levensvatbaar geleerd alignment-mechanisme zijn, de schaalbaarheid naar grote, diverse subject-pools een beperking blijft, wat toekomstig werk stimuleert op het gebied van parameter-efficiënte alternatieven (bijv. low-rank adapters) en verbeterde non-oracle head selectiestrategieën.