Explainability of Recurrent Neural Networks for Enhancing P300-based Brain-Computer Interfaces

Riepilogo Tecnico: Spiegabilità delle Reti Neurali Ricorrenti per il Potenziamento delle Interfacce Cervello-Computer basate su P300

Enunciato del Problema
Le Interfacce Cervello-Computer (BCI) che utilizzano potenziali correlati agli eventi (ERP) P300 offrono un potenziale significativo per le tecnologie assistive, ma incontrano sfide nel dispiegamento pratico. Queste sfide includono bassi rapporti segnale-rumore intrinseci nelle registrazioni EEG, una significativa variabilità inter- e intra-soggetto e la natura "scatola nera" dei modelli di Deep Learning (DL). Sebbene i modelli DL, in particolare le Reti Neurali Ricorrenti (RNN), abbiano migliorato l'accuratezza della classificazione, la loro mancanza di trasparenza ostacola la fiducia e la capacità di adattarsi alle differenze individuali degli utenti. Inoltre, le RNN standard spesso si affidano esclusivamente allo stato nascosto finale per la previsione, potenzialmente scartando informazioni temporali intermedie preziose contenute nei dati EEG sequenziali.

Metodologia
Gli autori propongono un'architettura RNN potenziata che incorpora un Modulo Post-Ricorrente (PRM) per migliorare sia le prestazioni che l'interpretabilità per la classificazione P300.

• Dataset e Preprocessing: Lo studio utilizza il dataset di Hoffmann et al., contenente segnali EEG da otto soggetti registrati tramite 32 elettrodi (sistema 10-20) a 2048 Hz. I segnali sono filtrati in banda passante (1–12 Hz) e ridotti in frequenza a 32 Hz. I dati sono segmentati in finestre di 1000 ms (32 passi temporali) a partire dall'inizio dello stimolo, catturando la finestra di risposta P300 (tipicamente 250–600 ms).
• Architettura di Base: Il modello centrale è una RNN di tipo Elman. A ogni passo temporale $t$, la rete elabora un vettore di input a 32 dimensioni (uno per elettrodo) combinato con lo stato nascosto precedente ($h_{t-1}$) per generare lo stato corrente ($h_t$).
• Modulo Post-Ricorrente (PRM): A differenza delle RNN standard che producono una previsione basata solo sull'ultimo passo temporale ($t=32$), il PRM elabora la concatenazione degli output da tutti i 32 passi temporali ($y_{[1:32]}$). Un livello di regressione logistica impara a pesare e combinare questi contributi temporali per produrre la probabilità finale di classificazione.
• Tecniche di Spiegabilità:
  • Analisi Spaziale: La rilevanza globale ($R_i$) di ciascun elettrodo è calcolata sommando i valori assoluti dei pesi input-nascosto ($W_{xh}$). Viene applicata la regolarizzazione $L_1$ per incoraggiare la sparsità, evidenziando gli elettrodi più critici.
  • Analisi Temporale: I pesi del PRM ($w_p$) sono analizzati per identificare quali passi temporali contribuiscono maggiormente alla decisione.
  • Analisi Spazio-Temporale: Un metodo di attribuzione locale basato sul gradiente è utilizzato per calcolare la rilevanza di specifici elettrodi in specifici passi temporali ($R_{it}^{(k)} = x_{it}^{(k)} \frac{\partial p^{(k)}}{\partial x_{it}^{(k)}}$). Questo visualizza il flusso di informazioni attraverso la rete.
• Strategia di Addestramento: Viene eseguita una validazione incrociata a 4 fold (3 sessioni per l'addestramento, 1 per il test). Il modello utilizza un ottimizzatore Nadam con un tasso di apprendimento di 0,0003 e una dimensione del batch di 16. Per affrontare lo squilibrio delle classi (1 target vs 5 non-target), vengono applicati pesi di classe e viene impiegata la regolarizzazione $L_1$ ($\lambda=0,1$ per i pesi di input, $\lambda=0,01$ per i pesi del PRM) per migliorare l'interpretabilità.

Contributi Chiave

1. Innovazione Architettonica: L'integrazione del livello PRM permette al modello di utilizzare esplicitamente le informazioni temporali dall'intera sequenza, anziché affidarsi esclusivamente allo stato nascosto finale compresso.
2. Quadro di Spiegabilità Duale: Il documento presenta una metodologia che identifica simultaneamente regioni cerebrali critiche (spaziali) e intervalli temporali critici (temporali) utilizzando l'analisi dei pesi e l'attribuzione basata sul gradiente.
3. Allineamento Neurofisiologico: L'analisi di spiegabilità convalida che il processo decisionale del modello è allineato con le neuroscienze consolidate, identificando specificamente il componente P300 e le regioni corticali rilevanti.

Risultati

• Prestazioni: La RNN Elman con il livello PRM ha raggiunto un'Accuratezza Bilanciata (BAC) di 0,80 ± 0,05. Ciò rappresenta un miglioramento del 9% rispetto alla RNN Elman standard (0,71 ± 0,06) e al modello di base BLDA (0,71 ± 0,05).
• Risultati Temporali: L'analisi dei pesi del PRM ha rivelato che il modello identifica due regioni attive principali:
  • 375–500 ms (12–16 passi temporali): Corrisponde al classico componente P300/P3b.
  • 750–900 ms (24–29 passi temporali): Una regione secondaria potenzialmente associata all'elaborazione visiva tardiva (N750/N900) o ad artefatti derivanti dalla sovrapposizione delle finestre, suggerendo che il modello cattura dinamiche cognitive più ampie rispetto ai rilevatori standard.
• Risultati Spaziali: Il modello ha identificato elettrodi critici variabili tra i soggetti, dimostrando una significativa variabilità inter-soggetto. Per alcuni utenti, gli elettrodi frontali ($Fp1, Fp2$) erano i più rilevanti; per altri, le regioni occipitali ($O1, O2$) e parietali ($Pz$) predominavano. Ciò conferma che la topografia P300 non è uniforme tra gli individui.
• Validazione Spazio-Temporale: L'analisi basata sul gradiente ha confermato che il modello si basa su elettrodi specifici (ad es. $Fp1, Fp2$) durante i primi 20 passi temporali (~625 ms) per la classificazione dei target, con rilevanza positiva (rosso) che indica pattern di supporto e rilevanza negativa (blu) che indica pattern che portano a una classificazione errata.

Significato e Affermazioni
Il documento afferma che la spiegabilità non è meramente un'aggiunta, ma una componente essenziale per comprendere il processo decisionale delle RNN nelle BCI. Rendendo il modello trasparente, gli autori dimostrano che:

1. Affidabilità: Le decisioni del modello si basano su pattern neurofisiologici plausibili coerenti con la letteratura consolidata, piuttosto che su artefatti arbitrari.
2. Efficienza: L'identificazione di elettrodi chiave e finestre temporali consente la potenziale riduzione dei costi computazionali e lo sviluppo di sistemi BCI embedded efficienti e a basso costo.
3. Adattabilità: Il quadro evidenzia la necessità di tenere conto della variabilità inter- e intra-soggetto, aprendo la strada a sistemi più adattivi in grado di mantenere la robustezza in condizioni dinamiche.
4. Generalizzabilità: Sebbene focalizzato su P300, gli autori suggeriscono che questo quadro spiegabile potrebbe essere generalizzato ad altri compiti basati su EEG come l'immaginazione motoria, le SSVEP e la valutazione del carico cognitivo.

Lo studio conclude che l'approccio proposto offre un metodo concettualmente semplice ma altamente efficace per potenziare il rilevamento P300, colmando il divario tra deep learning ad alte prestazioni e l'interpretabilità richiesta per applicazioni reali nel settore sanitario e assistivo.