What Do EEG Foundation Models Capture from Human Brain Signals?

Riepilogo Tecnico: Cosa Catturano i Modelli Fondamentali EEG dai Segnali del Cervello Umano?

Enunciazione del Problema
L'analisi clinica dell'elettroencefalogramma (EEG) si è storicamente basata su un catalogo di caratteristiche progettato a mano e raffinato nel corso di decenni, comprendente potenza di banda, connettività, complessità e altre proprietà del segnale. Recentemente, sono emersi modelli fondamentali per l'EEG, che utilizzano un preaddestramento auto-supervisionato su segnali grezzi per ottenere prestazioni all'avanguardia su benchmark clinici, aggirando spesso la tradizionale pipeline di ingegneria delle caratteristiche. Rimane una domanda aperta critica: le rappresentazioni ad alta dimensionalità apprese da questi modelli fondamentali sono allineate al lessico consolidato delle caratteristiche cliniche, o si sono discostate per scoprire nuove strutture del segnale? Comprendere questo allineamento è essenziale per validare le decisioni del modello rispetto alla conoscenza umana e per identificare le lacune in cui potrebbero essere necessari nuovi descrittori clinici.

Metodologia
Gli autori propongono un framework di audit in tre parti per scomporre la questione dell'allineamento in: (1) Cosa apprende il modello? (Codifica), (2) Cosa utilizza il modello? (Dipendenza causale) e (3) Quanto può essere spiegato? (Recupero delle prestazioni). Questo audit viene applicato su tre modelli fondamentali (CSBrain, CBraMod, LaBraM), cinque compiti clinici (MDD, Stress, ISRUC-Sleep, TUSL, Siena) e un lessico di 63 caratteristiche progettate a mano raggruppate in sei famiglie (morfologia nel dominio del tempo, potenza/forma spettrale, inviluppo tempo-frequenza, complessità del segnale, accoppiamento cross-frequenza e relazioni cross-canale).

La metodologia impiega tre tecniche distinte di interpretabilità per ogni tripletta (dataset, modello, caratteristica):

1. Sondaggio Ridge a Livello di Strato: Per determinare la codifica, regressioni ridge lineari sondano prevedono ciascuna caratteristica progettata a mano dalle attivazioni del modello a ogni strato. Una caratteristica è considerata "codificata" se un sondaggio ottiene una potenza predittiva significativa ($R^2$) su un set di convalida tenuto da parte, identificando lo strato specifico in cui risiede l'informazione.
2. Cancellazione del Sottospazio di Cross-Covarianza in Stile LEACE: Per determinare l'uso causale, gli autori intervengono sulle attivazioni del modello. Al picco dello strato di codifica, rimuovono il componente linearmente decodificabile di una caratteristica target dal vettore di attivazione utilizzando una cancellazione del sottospazio di cross-covarianza (un'approssimazione scalabile dell'operatore LEACE). Il conseguente calo delle prestazioni del compito su un set di test tenuto da parte indica una dipendenza causale. Ciò è rigorosamente controllato rispetto a tre target nulli (sottospazio casuale, accoppiamento mescolato, rumore gaussiano) e un sondaggio residuo lineare per escludere effetti spurii.
3. Chiusura del Classificatore Trasparente: Per misurare l'esplicabilità, un classificatore di regressione logistica viene addestrato esclusivamente sull'insieme delle caratteristiche confermate come "causali per la rappresentazione". Le sue prestazioni sono confrontate con quelle del modello fondamentale e con una baseline di caratteristiche casuali della stessa dimensione. Il "rapporto di chiusura" quantifica la frazione del vantaggio del modello fondamentale rispetto alla baseline casuale che viene recuperata dalle caratteristiche progettate a mano.

Contributi Chiave

• Framework di Audit Causale: Il documento introduce una pipeline rigorosa che distingue tra le caratteristiche che un modello codifica (ha nella sua rappresentazione) e le caratteristiche che utilizza causalmente per il processo decisionale, affrontando la limitazione dei metodi di interpretabilità basati sulla correlazione.
• Audit Completo del Lessico: Lo studio esamina 945 unità (3 modelli $\times$ 5 compiti $\times$ 63 caratteristiche), fornendo la prima mappa causale su larga scala di come i modelli fondamentali si relazionano al canone delle caratteristiche EEG cliniche.
• Tassonomia delle Caratteristiche: Gli autori categorizzano le caratteristiche in candidati universali (forte supporto attraverso architetture/compiti), specifici per compito, specifici per modello e solo codificati, offrendo una visione strutturata della dipendenza del modello.

Risultati

• Codifica: I modelli fondamentali recuperano ampiamente il lessico clinico. L'89,6% (847/945) delle unità supera il criterio di codifica, con tutte le 63 caratteristiche codificate in almeno una cella (modello, compito). Le caratteristiche nel dominio della frequenza sono codificate con alta forza in tutte le celle.
• Uso Causale: Il 68,6% (648/945) delle unità è "causale per la rappresentazione", il che significa che il modello vi fa affidamento per le decisioni sul compito. Il 21,1% è codificato ma non utilizzato causalmente. Attraverso i compiti, 50 caratteristiche si qualificano come candidati universali con forte supporto in due o più compiti. Sebbene le caratteristiche nel dominio della frequenza dominino, le famiglie tempo-frequenza, cross-canale, complessità, dominio del tempo e cross-frequenza contribuiscono ciascuna con una massa causale sostanziale su almeno quattro dei cinque compiti.
• Recupero delle Prestazioni (Chiusura): Le caratteristiche confermate recuperano, in media, il 79,3% del vantaggio del modello fondamentale rispetto a una baseline di caratteristiche casuali. Esiste un chiaro gradiente di compiti: i compiti vicini al soffitto delle prestazioni (ad es. MDD, chiusura $\approx$ 0,99) sono quasi completamente spiegati dal lessico, mentre i compiti più difficili (ad es. Stress, chiusura $\approx$ 0,56) lasciano un residuo non banale.
• Residui: Il divario di prestazioni non spiegato sui compiti difficili suggerisce l'esistenza di strutture del segnale non catturate dall'attuale lessico di 63 caratteristiche o combinazioni non lineari non catturate dal surrogato lineare.

Significato
Il documento afferma che i modelli fondamentali EEG, nonostante siano addestrati senza un pregiudizio induttivo verso le caratteristiche progettate a mano, recuperano il catalogo delle caratteristiche cliniche su larga scala. Tuttavia, la distinzione tra codifica e utilizzo è critica; i modelli codificano molte caratteristiche ma fanno affidamento causale su un sottoinsieme specifico. I risultati suggeriscono che per i compiti vicini al soffitto delle prestazioni, i descrittori clinici esistenti sono in gran parte sufficienti a spiegare il comportamento del modello. Al contrario, la prestazione residua sui compiti più difficili individua obiettivi concreti per la futura scoperta di concetti, indicando che l'attuale catalogo di descrittori EEG è incompleto. Questo lavoro stabilisce un ciclo di feedback tra le rappresentazioni del modello e la conoscenza umana, fornendo un metodo per validare i descrittori clinici esistenti e identificare dove sono necessari nuovi descrittori per le neuroscienze guidate dall'IA.