Motor Imagery EEG Signal Classification Using Minimally Random Convolutional Kernel Transform and Hybrid Deep Learning

Probleemstelling

De hersen-computerinterface (BCI) biedt een niet-musculaire kanaal voor directe communicatie tussen het menselijk brein en externe apparaten. Een veelgebruikte techniek hiervoor is elektro-encefalografie (EEG), specifiek voor motorische voorstelling (Motor Imagery - MI). Het classificeren van MI-EEG signalen vormt echter een aanzienlijke uitdaging vanwege:

• Niet-stationariteit en tijdsvariatie: EEG-signalen veranderen dynamisch in de tijd.
• Individuele diversiteit: Signalen verschillen sterk tussen verschillende personen.
• Ruis en lage signaal-ruisverhouding (SNR): EEG-data is vaak vervuild met artefacten.
• Rekenkosten: Bestaande state-of-the-art deep learning-modellen zijn vaak zeer rekenintensief en vereisen grote datasets om goed te presteren, wat een probleem is bij het beperkte aantal beschikbare EEG-opnames.

Het doel is om een methode te vinden die hoge classificatieprecisie bereikt bij een lagere rekenkosten, zonder dat de prestaties van geavanceerde deep learning-modellen worden ingeleverd.

Methodologie

De auteurs stellen een hybride aanpak voor die twee hoofdcomponenten combineert: een lineaire classifier gebaseerd op Minimally Random Convolutional Kernel Transform (MiniRocket) en een diep leernetwerk gebaseerd op Convolutional Neural Networks (CNN) en Long Short-Term Memory (LSTM).

1. Dataset en Preprocessing:

• Dataset: De PhysioNet EEGMI-dataset (eegmmidb) werd gebruikt, bestaande uit 109 proefpersonen. Voor dit onderzoek werden data van 10 proefpersonen geselecteerd.
• Taken: Vier motorische voorstellings-taken: linker vuist (L), rechter vuist (R), beide vuisten (BLR), en beide voeten (BF).
• Preprocessing:
  • Het signaal werd gefilterd en gesegmenteerd.
  • Independent Component Analysis (ICA) werd toegepast om de $\mu$ (8-14 Hz) en $\beta$ (14-30 Hz) frequentiebanden te isoleren, aangezien deze de meest discriminerende informatie bevatten voor MI.
  • De data werd opgesplitst in training, validatie en testsets (verhouding 5:2:3).

2. Benadering A: MiniRocket met Lineaire Classifier

• MiniRocket: Dit is een geoptimaliseerde versie van de ROCKET-algoritme. In plaats van geleerde convolutie-kernen gebruikt MiniRocket willekeurige kernen met vaste parameters (lengte, gewichten, bias, dilatie).
• Kenmerkextractie: Het algoritme past duizenden convoluties toe en berekent de Proportion of Positive Values (PPV) als het belangrijkste kenmerk. Dit reduceert de complexiteit aanzienlijk in vergelijking met traditionele CNN's.
• Classifier: De geëxtraheerde kenmerken worden ingevoerd in een lineaire classifier (Ridge Classifier). Dit biedt een zeer snelle en efficiënte oplossing.

3. Benadering B: Hybride CNN-LSTM Model

• Architectuur: Een diep leernetwerk dat ruimtelijke en temporele kenmerken simultaan leert.
  • CNN-deel: Twee 1D-convolutielagen (met respectievelijk 16 en 32 filters) om lokale ruimtelijke patronen in de EEG-signalen te extraheren.
  • LSTM-deel: Een LSTM-laag met 100 eenheden om de temporele afhankelijkheden en sequentiële informatie in het signaal te modelleren.
  • Regularisatie: Dropout-lagen (0.5 na CNN/LSTM, 0.25 na dense lagen) en L2-regularisatie werden gebruikt om overfitting te voorkomen.
  • Output: Dichte lagen (Dense) met ReLU en uiteindelijk een Sigmoid-activatie voor de vier klassen.

Belangrijkste Bijdragen

1. Toepassing van MiniRocket op MI-EEG: Het paper introduceert MiniRocket als een efficiënte kenmerkextractor voor EEG-data, wat een nieuwe inzichten biedt in het verminderen van rekenkosten zonder precisie te verliezen.
2. Hybride Deep Learning Baseline: Een nieuw CNN-LSTM model werd ontworpen en getraind als een robuuste baseline om de prestaties van de MiniRocket-aanpak te vergelijken.
3. Frequentie-selectie via ICA: Het gebruik van ICA om specifiek de $\mu$- en $\beta$-banden te isoleren voorafgaand aan de classificatie, wat de kwaliteit van de inputdata verbetert.
4. Vergelijkend Onderzoek: Een uitgebreide vergelijking tussen een lineaire, kenmerk-gedreven aanpak (MiniRocket) en een complexe deep learning-architectuur (CNN-LSTM) op dezelfde dataset.

Resultaten

De modellen werden getest op de PhysioNet-dataset met 10 proefpersonen (totaal 7.560 samples).

• MiniRocket: Bereikte een gemiddelde nauwkeurigheid van 98,63%. Dit was de beste prestatie, met name voor proefpersoon S8 (tot wel 99,65% op specifieke taken).
• CNN-LSTM: Bereikte een gemiddelde nauwkeurigheid van 98,06%. Hoewel zeer hoog, was dit iets lager dan MiniRocket.
• Vergelijking met State-of-the-Art: De resultaten van dit paper (98,63%) overtreffen eerdere studies op dezelfde dataset die gebruikmaakten van SVM, standaard CNN's, of andere hybride modellen (die vaak rond de 75% - 97% lagen, zie Tabel 2 in het paper).
• Efficiëntie: De MiniRocket-aanpak bereikte de hoogste nauwkeurigheid met een aanzienlijk lagere rekenkosten dan het diepe CNN-LSTM model. De PPV-methode reduceert de feature-map grootte en elimineert de noodzaak voor het trainen van convolutie-weights.

Betekenis en Conclusie

Dit paper demonstreert dat voor MI-EEG classificatie niet per se complexe, zware deep learning-modellen nodig zijn om de hoogste nauwkeurigheid te bereiken.

• Efficiëntie: MiniRocket biedt een "lightweight" alternatief dat sneller is te trainen en minder rekenkracht vereist, wat essentieel is voor real-time BCI-toepassingen.
• Prestatie: De combinatie van ICA-gebaseerde frequentie-isolatie en MiniRocket resulteert in een nieuwe state-of-the-art prestatie (98,63%) op de PhysioNet-dataset.
• Toekomstperspectief: De auteurs suggereren dat deze aanpak goed schaalbaar is en plannen om de methode te testen in online experimenten en aan te passen aan verschillende experimentele paradigma's.

Kortom, de studie bewijst dat geoptimaliseerde willekeurige convolutie-kernen (MiniRocket) een krachtigere en efficiëntere oplossing kunnen zijn voor EEG-classificatie dan traditionele diepe neurale netwerken, terwijl ze toch uitzonderlijke nauwkeurigheid behalen.