Riepilogo Tecnico: Convoluzioni Spaziotemporali su Segnali EEG

Enunciato del Problema

La classificazione dei segnali di Elettroencefalografia (EEG) mediante Reti Neurali Convolutive (CNN) superficiali è un approccio prevalente in ambiti che spaziano dalla diagnosi medica alle Interfacce Cervello-Computer (BCI). L'architettura standard per questi modelli impiega tipicamente strati convolutive unidimensionali (1D) indipendenti per elaborare separatamente le dimensioni temporali e spaziali, spesso concatenandole senza un livello di attivazione non lineare intermedio. Sebbene numericamente equivalenti a un'unica operazione in condizioni specifiche (pesi identici, assenza di non-linearità intermedia), l'impatto della sostituzione di questi strati 1D sequenziali con un singolo strato convolutivo bi-dimensionale (2D) spaziotemporale sulla dinamica di apprendimento, sulla geometria rappresentazionale e sull'efficienza rimane incerto. Questo lavoro indaga se tale cambiamento architetturale offra benefici tangibili nell'efficienza dell'addestramento e come alteri le rappresentazioni interne dei modelli decodificatori EEG.

Metodologia

Gli autori hanno condotto test empirici confrontando architetture convolutive 1D e 2D su due famiglie di modelli all'avanguardia: una CNN superficiale basata su ShallowFBCSPNet e un modello ibrido CNN-Transformer basato su EEG Conformer.

Architetture

• Modelli Baseline 1D: Questi modelli utilizzano strati convolutive 1D temporali e spaziali separati. Lo strato temporale convolve sui punti temporali, mentre lo strato spaziale opera sui canali.
• Varianti 2D: La variabile indipendente in questo studio. Questi modelli sostituiscono gli strati 1D sequenziali con un singolo strato convolutivo spaziotemporale 2D ($k_{st} \in \mathbb{R}^{C \times m}$), che cattura simultaneamente informazioni temporali e spaziali in un'unica operazione. Crucialmente, non viene applicata alcuna attivazione non lineare tra le dimensioni temporali e spaziali in nessuna delle due architetture, garantendo che l'operazione 2D sia teoricamente equivalente in potenza rappresentazionale alle due operazioni 1D.

Dataset e Compiti

Gli esperimenti sono stati eseguiti su due dataset di immaginazione motoria (MI) dalla Competizione BNCI IV, elaborati tramite il framework MOABB:

1. BNCI2014-001 (Dataset 1): Un compito ad alta dimensionalità con 22 canali, 4 classi e 62.208 prove.
2. BNCI2014-004 (Dataset 2): Un compito a bassa dimensionalità con 3 canali, classificazione binaria e 32.400 prove.
   Entrambi i compiti hanno utilizzato un setting di generalizzazione misto tra soggetti. Il pre-processing ha incluso filtraggio passa-banda (8–32 Hz) e scalatura standard.

Metriche di Valutazione

• Prestazioni: Accuratezza di classificazione e tempo di addestramento (epoche e durata totale).
• Analisi delle Caratteristiche: È stata utilizzata la regressione lineare per ricostruire le caratteristiche di potenza di banda (5 bande all'interno di 8–32 Hz) dalle attivazioni del modello per valutare l'apprendimento delle caratteristiche spettrali.
• Analisi di Similarità Rappresentazionale (RSA): Sono state costruite Matrici di Dissimilarità Rappresentazionale (RDM) utilizzando le attivazioni dopo lo strato di pooling per confrontare la struttura geometrica delle rappresentazioni tra diversi tipi di modello e fold.

Risultati Chiave

1. Efficienza dell'Addestramento

La scoperta più significativa è stata una sostanziale riduzione del tempo di addestramento per i modelli 2D, in particolare in contesti ad alta dimensionalità.

• Dataset 1 (22 canali): I modelli 2D si sono addestrati significativamente più velocemente dei loro corrispettivi 1D. Sebbene i modelli 2D abbiano richiesto più epoche per raggiungere la convergenza, il tempo per epoca è stato drasticamente inferiore, risultando in una riduzione netta del tempo totale di addestramento.
• Dataset 2 (3 canali): I modelli 2D sono stati simili o leggermente più veloci, sebbene l'effetto sia stato meno pronunciato rispetto al compito ad alta dimensionalità.
• Inferenza: Gli autori notano che le convoluzioni 2D producono anche tempi di inferenza più rapidi, un fattore critico per le applicazioni BCI online.

2. Prestazioni di Classificazione

L'accuratezza è rimasta statisticamente invariata tra le varianti 1D e 2D per entrambe le famiglie di modelli (CNN superficiale e Conformer) su entrambi i dataset. I modelli hanno dimostrato affidabilità e varianza comparabili tra i fold di validazione incrociata.

3. Apprendimento e Ricostruzione delle Caratteristiche

L'analisi della ricostruzione della potenza di banda ha rivelato che sia i modelli 1D che quelli 2D hanno appreso caratteristiche spettrali essenzialmente identiche.

• Non vi sono state differenze sistematiche nella capacità di ricostruire le potenze delle bande alfa e beta dalle attivazioni dei kernel tra le due architetture.
• Entrambe le architetture hanno identificato con successo l'importanza spettrale specifica del canale (ad esempio, differenze tra C3 e Cz in specifiche bande di frequenza), indicando che il passaggio al 2D non ha alterato quali caratteristiche spettrali venivano apprese.

4. Geometria Rappresentazionale

Nonostante prestazioni e ricostruzione delle caratteristiche identiche, l'RSA ha rivelato una differenza fondamentale nella struttura interna dei modelli:

• Divergenza ad Alta Dimensionalità: Nel Dataset 1 (22 canali), la dissimilarità rappresentazionale tra modelli 1D e 2D è stata significativa. I modelli 2D hanno formato una geometria rappresentazionale distintamente diversa rispetto ai modelli 1D.
• Convergenza a Bassa Dimensionalità: Nel Dataset 2 (3 canali), la dissimilarità tra modelli 1D e 2D è stata inferiore, probabilmente perché le informazioni limitate dei canali erano distribuite su un numero maggiore di kernel, diluendo gli effetti osservabili del bias architetturale.
• Stabilità: I modelli sono stati generalmente più simili tra diversi fold della propria architettura rispetto a modelli di architetture diverse, confermando che il bias induttivo architetturale (1D vs 2D) detta fortemente lo spazio rappresentazionale.

Significato e Affermazioni

Il lavoro afferma che, sebbene le convoluzioni spaziotemporali 2D siano numericamente equivalenti alle convoluzioni 1D sequenziali in termini di capacità di estrazione grezza delle caratteristiche, non sono equivalenti in termini di dinamica di apprendimento e geometria rappresentazionale.

• Efficienza: Il contributo pratico principale è la dimostrazione che le convoluzioni 2D offrono un'alternativa computazionalmente efficiente per la decodifica EEG, riducendo significativamente i tempi di addestramento e inferenza, specialmente per dataset con un elevato numero di canali. Questa efficienza consente una regolazione più estesa degli iperparametri e un'esplorazione dei modelli senza costi computazionali aggiuntivi.
• Bias Induttivo Architetturale: Lo studio evidenzia che la scelta dello strato di codifica (1D vs 2D) impone un bias induttivo specifico che rimodella lo spazio rappresentazionale interno. Ciò suggerisce che i ricercatori che utilizzano tecniche di Intelligenza Artificiale Spiegabile (XAI) devono tenere conto delle differenze architetturali, poiché il "come" della rappresentazione differisce anche quando il "cosa" (prestazioni e caratteristiche spettrali) rimane lo stesso.
• Raccomandazione: Gli autori propongono l'adozione di strati convolutivi spaziotemporali 2D come standard per i modelli decodificatori EEG per ottenere addestramento e inferenza più rapidi mantenendo prestazioni all'avanguardia, in particolare in compiti complessi di elaborazione di segnali multivariati.