Riepilogo Tecnico: Interpretazione dei Transformer Fondamentali EEG con LRP

Enunciato del Problema

L'adozione di Modelli Fondamentali (Foundation Models, FM) nell'elettroencefalografia (EEG) offre una potenziale soluzione alla scarsità di dati nella diagnostica basata sul deep learning e nelle interfacce cervello-computer (BCI). Tuttavia, la natura "opaca" di questi modelli, in particolare quelli basati su architetture Transformer, ostacola la loro più ampia adozione e la fiducia clinica. Sebbene metodi di attribuzione delle caratteristiche come la Propagazione della Rilevanza Livello per Livello (Layer-wise Relevance Propagation, LRP) siano stati applicati con successo alle reti neurali convoluzionali (CNN) e ai perceptron multistrato (MLP) nell'EEG, la loro applicazione ai moderni FM-EEG basati su Transformer rimane inesplorata. La sfida principale è determinare se la LRP possa sondare efficacemente i processi decisionali di questi modelli complessi per verificarne la validità o scoprire strategie di apprendimento spurie (ad esempio, effetti "Clever Hans") senza fare affidamento su etichette di verità fondamentale per ogni compito.

Metodologia

Gli autori propongono l'applicazione della LRP consapevole dell'attenzione [8] al modello LaBraM [2], un prominente Modello Fondamentale EEG. La metodologia coinvolge tre componenti principali:

1. Configurazione del Modello: Lo studio valuta LaBraM in tre configurazioni per isolare gli effetti del pre-addestramento:

   • Affinato (Finetuned): Approccio standard in cui l'intero modello viene adattato.
   • Congelato (Frozen): Il backbone pre-addestrato è congelato, con solo un'intestazione di classificazione addestrabile.
   • Da zero (From Scratch): Inizializzazione casuale senza pre-addestramento.
     Ogni configurazione viene addestrata cinque volte per tenere conto della variabilità nel dropout, nell'inizializzazione e nel campionamento dei dati.

2. Attribuzione e Visualizzazione:

   • La LRP viene applicata per generare punteggi di rilevanza per ogni elemento di input (passo temporale e canale) per ogni decisione di classificazione.
   • Per gestire l'alta dimensionalità dei dati EEG ($n_{canali} \times t_{in}$) e il volume dei punteggi generati, gli autori adottano una strategia di aggregazione. Aggregano le attribuzioni nel tempo per analizzare i pattern spaziali (topografia) e attraverso i canali per analizzare i pattern temporali.
   • Le visualizzazioni spaziali utilizzano la colorazione discreta delle celle di Voronoi per preservare la topologia degli elettrodi, evitando la distorsione delle mappe di calore rettangolari.

3. Paradigmi Sperimentali:

   • Rilevamento del Picco R (Validazione): Un compito di classificazione binaria che prevede gli artefatti del campo cardiaco (CFA) nell'EEG grezzo. Questo funge da validazione della verità fondamentale poiché la fonte fisiologica (cuore) e la posizione attesa dell'elettrodo (Iz) sono note.
   • PhysioMI L/R (Paradigma Consolidato): Un compito di immaginazione/esecuzione motoria (pugno sinistro vs. destro) utilizzando il dataset PhysioNet. Questo testa la capacità del modello di generalizzare e rivela potenziali apprendimenti scorciatoia.
   • AffectiveVR (Esplorativo): Un paradigma naturalistico che prevede l'arousal e la valenza soggettivi durante un'esperienza di realtà virtuale (VR). Questo compito manca di una chiara verità fondamentale, fungendo da banco di prova per la generazione di ipotesi esplorative.

Contributi Chiave

Il documento apporta tre contributi specifici:

1. Validazione della LRP sugli FM-EEG: Dimostra per la prima volta che la LRP consapevole dell'attenzione produce attribuzioni plausibili sui Transformer EEG fondamentali. Ciò è validato contro il compito di rilevamento del Picco R, dove la rilevanza si concentra correttamente sull'elettrodo Iz, il sito più vicino al cuore.
2. Rilevamento di Comportamenti Spurii: Il metodo identifica con successo il comportamento "Clever Hans" nei modelli di immaginazione motoria. Rivela che i modelli con scarsa generalizzazione fanno affidamento principalmente su artefatti oculari (movimenti degli occhi) piuttosto che su segnali della corteccia motoria, sfruttando probabilmente indizi visivi derivanti dal disegno sperimentale.
3. Esplorazione di Nuove Ipotesi: In assenza di intuizioni consolidate per stati affettivi complessi, gli autori caratterizzano la promessa unica e i limiti della LRP. Identificano un pattern ricorrente e biologicamente plausibile di rilevanza degli elettrodi centrali (C2, Cz, FC2, CP2) nella previsione dell'arousal, suggerendo una nuova firma sensorimotoria dell'arousal distinta dalla valenza.

Risultati

• Prestazioni:
  • Rilevamento del Picco R: Il LaBraM affinato ha raggiunto una precisione bilanciata (BAC) di circa il 75%, confermando che il modello apprende il segnale fisiologico corretto.
  • PhysioMI L/R: Le prestazioni sono state miste. Due su cinque esecuzioni affinate hanno raggiunto una BAC >70%, mentre le altre hanno operato vicino al caso casuale. Crucialmente, le mappe di attribuzione hanno distinto questi gruppi: le esecuzioni di successo hanno mostrato pattern temporo-frontali lateralizzati, mentre quelle di successo si sono concentrate sulle regioni oculari.
  • AffectiveVR: Tutti i modelli (affinati, da zero, congelati) e la baseline CSP-LDA hanno performance simili, con BAC intorno al 55% (leggermente sopra la baseline casuale del 50% per la classificazione binaria basata sulla mediana).
• Pattern di Attribuzione:
  • Inversione del Segno: I pattern sono stati coerenti nella struttura spaziale ma occasionalmente invertiti nel segno (colorazione invertita), il che non influisce sulla magnitudine della rilevanza.
  • Immaginazione Motoria: I modelli di successo hanno mostrato pattern lateralizzati, ma anche questi si sono concentrati su elettrodi temporali più vicini alle regioni dei movimenti oculari rispetto alle regioni motorie della mano, suggerendo un affidamento su movimenti oculari correlati al compito piuttosto che su pure firme neurali motorie.
  • Arousal vs. Valenza: La previsione dell'arousal ha costantemente evidenziato un cluster di elettrodi centrali (corteccia sensorimotoria), potenzialmente legato ai potenziali di prontezza modulati dal contesto emotivo. Questo pattern era assente nella previsione della valenza, supportando l'ipotesi che si tratti di una firma specifica dell'arousal e non di un artefatto generale di decodifica motoria.
  • Previsione della Valenza: I pattern sono stati meno coerenti con la letteratura consolidata e hanno mostrato ambiguità, evidenziando la difficoltà di interpretare le mappe di calore in domini a bassa intuizione dove gli artefatti spurii (ad esempio, EMG dai muscoli facciali) sono difficili da distinguere dai segnali neurali.

Significato e Affermazioni

Il documento posiziona la LRP come strumento a doppio scopo per gli FM-EEG: verifica ed esplorazione.

• Verifica: La LRP può validare che i modelli stiano apprendendo i segnali fisiologici intesi (come osservato nel rilevamento del Picco R) e esporre l'overfitting o l'apprendimento scorciatoia (come osservato nell'affidamento oculare dei modelli di immaginazione motoria falliti). Questo è critico nell'EEG, dove i segnali non sono direttamente interpretabili e l'apprendimento scorciatoia ha storicamente invalidato linee di ricerca.
• Esplorazione: Traducendo le rappresentazioni apprese in ipotesi neuroscientifiche, la LRP può far emergere relazioni nuove e biologicamente plausibili (ad esempio, la firma sensorimotoria centrale nell'arousal). Gli autori affermano che questo sposta la ricerca sugli FM-EEG oltre la pura prestazione predittiva verso la comprensione delle relazioni cervello-comportamento.

Limitazioni e Modestia:
Gli autori riconoscono esplicitamente tre caveat:

1. Interpretabilità: L'interpretazione delle mappe di calore nell'EEG rimane soggettiva e richiede competenza di dominio; strategie insensate sono più difficili da identificare rispetto alle immagini naturali.
2. Base Metodologica: La scelta della LRP si basa su confronti condotti su modelli non Transformer; sono necessarie ulteriori misure di fedeltà (ad esempio, AOPC) sugli FM-EEG.
3. Capacità del Modello: La mancanza di guadagni di prestazioni consistenti rispetto ai modelli "da zero" o specializzati (come CSP-LDA) suggerisce che gli attuali FM-EEG non hanno ancora sfruttato appieno la loro "comprensione sottostante" dell'EEG. Di conseguenza, il potenziale di scoperta della LRP è attualmente limitato dalle capacità dei modelli sottostanti.

Il documento conclude che, sebbene la LRP sia uno strumento potente per la traiettoria dello sviluppo degli FM-EEG, la sua utilità per il dispiegamento clinico o la scoperta definitiva è attualmente limitata dalla maturità degli stessi modelli fondamentali.