Technische Samenvatting: Spatiotemporale Convoluties op EEG-Signalen

Probleemstelling

Classificatie van Electro-encefalografie (EEG)-signalen met behulp van ondiepe Convolutional Neural Networks (CNN's) is een veelvoorkomende aanpak in velden variërend van medische diagnose tot Brain-Computer Interfaces (BCI). De standaardarchitectuur voor deze modellen maakt doorgaans gebruik van onafhankelijke een-dimensionale (1D) convolutielagen om de temporele en ruimtelijke dimensies afzonderlijk te verwerken, waarbij deze vaak worden samengevoegd zonder een niet-lineaire activatielaag ertussen. Hoewel dit onder specifieke voorwaarden (identieke gewichten, geen tussenliggende niet-lineariteit) numeriek equivalent is aan één enkele bewerking, blijft de impact van het vervangen van deze sequentiële 1D-lagen door één enkele tweedimensionale (2D) spatiotemporale convolutielaag op leerdynamiek, representatiegeometrie en efficiëntie onzeker. Dit artikel onderzoekt of deze architecturale verschuiving tastbare voordelen biedt voor trainings-efficiëntie en hoe dit de interne representaties van EEG-decodermodellen verandert.

Methodologie

De auteurs voerden empirische tests uit waarbij 1D- en 2D-convolutiearchitecturen werden vergeleken binnen twee state-of-the-art modelfamilies: een ondiepe CNN gebaseerd op ShallowFBCSPNet en een hybride CNN-Transformer-model gebaseerd op de EEG Conformer.

Architecturen

• 1D Basismodellen: Deze modellen maken gebruik van separate temporele en ruimtelijke 1D-convolutielagen. De temporele laag convolueert over tijdstippen, terwijl de ruimtelijke laag werkt over kanalen.
• 2D Varianten: De onafhankelijke variabele in deze studie. Deze modellen vervangen de sequentiële 1D-lagen door één enkele 2D spatiotemporale convolutielaag ($k_{st} \in \mathbb{R}^{C \times m}$), die temporele en ruimtelijke informatie gelijktijdig in één bewerking vastlegt. Cruciaal is dat er in geen van beide architecturen een niet-lineaire activatie wordt toegepast tussen de temporele en ruimtelijke dimensies, waardoor de 2D-bewerking theoretisch equivalent is in representatieve kracht aan de twee 1D-bewerkingen.

Datasets en Taken

Experimenten werden uitgevoerd op twee motorische voorstellings (MI)-datasets van de BNCI Competition IV, verwerkt via het MOABB-framework:

1. BNCI2014-001 (Dataset 1): Een taak met hoge dimensionaliteit met 22 kanalen, 4 klassen en 62.208 trials.
2. BNCI2014-004 (Dataset 2): Een taak met lage dimensionaliteit met 3 kanalen, binaire classificatie en 32.400 trials.
   Beide taken maakten gebruik van een generalisatie-instelling met gemengde proefpersonen. Preprocessing omvatte bandpass-filtering (8–32 Hz) en standaard schaling.

Evaluatiemetrics

• Prestatie: Classificatie-accuraatheid en trainingstijd (epochs en totale duur).
• Feature-analyse: Lineaire regressie werd gebruikt om band-power-features (5 bands binnen 8–32 Hz) te reconstrueren uit modelactivaties om spectrale feature-learning te beoordelen.
• Representational Similarity Analysis (RSA): Representational Dissimilarity Matrices (RDM's) werden geconstrueerd met behulp van activaties na de pooling-laag om de geometrische structuur van representaties te vergelijken tussen verschillende modeltypen en folds.

Belangrijkste Resultaten

1. Trainings-efficiëntie

De meest significante bevinding was een aanzienlijke reductie in trainingstijd voor 2D-modellen, met name in omgevingen met hoge dimensionaliteit.

• Dataset 1 (22 kanalen): 2D-modellen trainden aanzienlijk sneller dan hun 1D-tegenhangers. Hoewel 2D-modellen meer epochs nodig hadden om convergentie te bereiken, was de tijd per epoch drastisch lager, wat resulteerde in een netto-reductie in totale trainingstijd.
• Dataset 2 (3 kanalen): 2D-modellen waren even snel of iets sneller, hoewel het effect minder uitgesproken was dan in de taak met hoge dimensionaliteit.
• Inferentie: De auteurs merken op dat 2D-convoluties ook snellere inferentietijden opleveren, een kritieke factor voor online BCI-toepassingen.

2. Classificatie-prestaties

De nauwkeurigheid bleef statistisch onveranderd tussen 1D- en 2D-varianten voor beide modelfamilies (Shallow CNN en Conformer) over beide datasets. De modellen vertoonden vergelijkbare betrouwbaarheid en variantie over cross-validation folds.

3. Feature-learning en Reconstructie

Analyse van band-power-reconstructie onthulde dat zowel 1D- als 2D-modellen in wezen identieke spectrale features leerden.

• Er waren geen systematische verschillen in het vermogen om alpha- en beta-band-power te reconstrueren uit kernel-activaties tussen de twee architecturen.
• Beide architecturen identificeerden succesvol kanaalspecifieke spectrale importantie (bijvoorbeeld C3 versus Cz-verschillen in specifieke frequentiebanden), wat aangeeft dat de verschuiving naar 2D niet veranderde welke spectrale features werden geleerd.

4. Representatiegeometrie

Ondanks identieke prestaties en feature-reconstructie, onthulde RSA een fundamenteel verschil in de interne structuur van de modellen:

• Divergentie bij hoge dimensionaliteit: In Dataset 1 (22 kanalen) was de representatieve dissimilariteit tussen 1D- en 2D-modellen significant. De 2D-modellen vormden een duidelijk verschillende representatiegeometrie vergeleken met de 1D-modellen.
• Convergentie bij lage dimensionaliteit: In Dataset 2 (3 kanalen) was de dissimilariteit tussen 1D- en 2D-modellen lager, waarschijnlijk omdat de beperkte kanaalinformatie werd verspreid over een groter aantal kernels, waardoor de waarneembare effecten van de architecturale bias werden verdund.
• Stabiliteit: Modellen waren over het algemeen meer vergelijkbaar met verschillende folds van hun eigen architectuur dan met verschillende architecturen, wat bevestigt dat de architecturale inductieve bias (1D vs. 2D) sterk de representatieruimte dicteert.

Betekenis en Claims

Het artikel stelt dat 2D spatiotemporale convoluties, hoewel ze numeriek equivalent zijn aan sequentiële 1D-convoluties wat betreft het vermogen tot ruwe feature-extractie, niet equivalent zijn wat betreft leerdynamiek en representatiegeometrie.

• Efficiëntie: De primaire praktische bijdrage is de demonstratie dat 2D-convoluties een computatie-efficiënt alternatief bieden voor EEG-decoding, wat de training- en inferentietijden aanzienlijk verkort, vooral voor datasets met een hoog kanaalaantal. Deze efficiëntie maakt uitgebreidere hyperparameter-tuning en modelverkenning mogelijk zonder extra computatiekosten.
• Architecturale Inductieve Bias: De studie benadrukt dat de keuze van de encoding-laag (1D vs. 2D) een specifieke inductieve bias oplegt die de interne representatieruimte herschikt. Dit suggereert dat onderzoekers die gebruikmaken van Explainable AI (XAI)-technieken rekening moeten houden met architecturale verschillen, aangezien de "hoe" van representatie verschilt, zelfs wanneer de "wat" (prestaties en spectrale features) hetzelfde blijft.
• Aanbeveling: De auteurs stellen voor om 2D spatiotemporale convolutielagen als standaard aan te nemen voor EEG-decodermodellen om snellere training en inferentie te bereiken terwijl state-of-the-art prestaties worden behouden, met name in complexe, multivariate signaalverwerkingstaken.