Uni-NTFM: A Unified Foundation Model for EEG Signal Representation Learning

Il paper presenta Uni-NTFM, un modello fondazionale unificato per l'apprendimento delle rappresentazioni dei segnali EEG che, ispirandosi ai meccanismi neurobiologici attraverso moduli di proiezione eterogenea, embedding topologico e una rete Transformer a mixture di esperti, supera le prestazioni degli attuali modelli su nove compiti downstream grazie a un addestramento su 28.000 ore di dati.

L'essenziale

🧠 Uni-NTFM: Il "Genio Poliglotta" che impara a leggere la mente

Immagina che il tuo cervello sia una città enorme e complessa, piena di strade, piazze e quartieri. Ogni volta che pensi, provi un'emozione o muovi un dito, è come se in questa città si accendessero milioni di luci e si suonassero milioni di campane in modo sincronizzato.

Per anni, gli scienziati hanno cercato di capire questa città usando mappe un po' vecchie e strumenti inadatti. Il nuovo modello presentato in questo paper, chiamato Uni-NTFM, è come un nuovo architetto super-intelligente che ha finalmente capito come funziona davvero la città del cervello.

Ecco come funziona, spiegato con tre metafore semplici:

1. Ascolta sia il "Ritmo" che la "Melodia" (Il modulo Heterogeneous)

Fino a oggi, i computer guardavano i segnali del cervello come se fossero una semplice foto o una lista di parole. Ma il cervello non è una foto statica! È un film in movimento.

• Il problema: I vecchi modelli guardavano solo il "ritmo" (le onde lente) o solo la "melodia" (i picchi veloci), ma non capivano come lavorassero insieme.
• La soluzione Uni-NTFM: Immagina di avere due orecchie speciali. Una ascolta la forma delle onde (come un'onda del mare che sale e scende) e l'altra ascolta la frequenza (come il tono di una nota musicale).
  • Il modello Uni-NTFM usa due "orecchie" separate per ascoltare queste due cose contemporaneamente e poi le unisce. È come se un musicista potesse sentire sia il battito del tamburo che la melodia del violino allo stesso tempo, capendo meglio l'intera canzone.

2. La Mappa della Città (L'Embedding Topologico)

Immagina di avere due mappe diverse della stessa città: una è una mappa dettagliata con 64 strade, l'altra è una mappa semplificata con solo 19 strade.

• Il problema: I vecchi computer si confondevano. Se cambiavi il numero di sensori (le strade), pensavano che fosse una città completamente diversa. Non capivano che la "Piazza Centrale" era la stessa, anche se sulla mappa piccola era più vicina al "Parco".
• La soluzione Uni-NTFM: Questo modello ha una mappa mentale interna basata sull'anatomia reale del cervello. Sa che certi elettrodi sono nella "zona frontale" (pensieri), altri nella "zona occipitale" (vista).
  • Anche se gli scienziati usano un casco con pochi sensori o uno con molti sensori, il modello sa sempre dove si trova ogni segnale sulla mappa mentale. È come se avesse una bussola interna che non si perde mai, indipendentemente da quanti "punti di vista" hai.

3. L'Ufficio con i Dipendenti Specializzati (Il MoE - Mixture of Experts)

Immagina un grande ufficio dove ogni impiegato deve fare tutto: scrivere, disegnare, contare e cucinare. Sarebbe lento e farebbe errori.

• Il problema: I vecchi modelli di intelligenza artificiale attivavano tutti i loro "neuroni" per ogni compito. Era come avere 1000 dipendenti che lavorano tutti insieme per comprare il pane: uno spreco enorme di energia e tempo.
• La soluzione Uni-NTFM: Questo modello è un ufficio con 16 esperti diversi (come un chirurgo, un architetto, un musicista, ecc.).
  • Quando arriva un segnale, un "capo" (il router) guarda il compito e chiama solo 2 esperti specifici. Se devi riconoscere un'emozione, chiama l'esperto delle emozioni. Se devi rilevare un'epilessia, chiama l'esperto medico.
  • Il vantaggio: Il modello è enorme (ha 1,9 miliardi di parametri, come un'enciclopedia infinita), ma quando lavora ne usa solo una piccola parte. È come avere un genio che può fare tutto, ma che per ogni compito chiama solo il suo specialista, risparmiando energia e diventando velocissimo.

🚀 Perché è importante?

Finora, per ogni nuovo compito (distinguere un'emozione, rilevare un sonno, controllare un robot), bisognava addestrare un computer diverso da zero. Era lento e costoso.

Uni-NTFM è stato addestrato su 28.000 ore di dati cerebrali (come se avesse letto milioni di libri sulla mente umana). Ora è un "modello fondazionale":

• Impara velocemente: Se gli dai un nuovo compito, impara in pochissimo tempo perché ha già capito le regole base del cervello.
• È robusto: Funziona bene anche se i dati sono rumorosi o se mancano alcuni sensori.
• È universale: Funziona su persone diverse, con caschi diversi e per scopi diversi.

In sintesi

Uni-NTFM è come un detective del cervello che ha imparato a:

1. Ascoltare la musica e il ritmo allo stesso tempo.
2. Usare una mappa mentale che non cambia mai, anche se i sensori cambiano.
3. Chiamare solo l'esperto giusto per ogni caso, senza sprecare energie.

Questo ci avvicina molto a creare interfacce cervello-computer che funzionano davvero per tutti, aiutando a curare malattie, controllare robot con il pensiero o semplicemente capire meglio come funziona la nostra mente.

Sommario tecnico

Ecco un riassunto tecnico dettagliato del paper "UNI-NTFM: A UNIFIED FOUNDATION MODEL FOR EEG SIGNAL REPRESENTATION LEARNING", presentato come conferenza all'ICLR 2026.

1. Il Problema

I modelli fondazione (Foundation Models) attuali per l'elettroencefalografia (EEG) adottano prevalentemente architetture ereditate dalla visione artificiale (CNN) o dall'elaborazione del linguaggio naturale (Transformer), trattando i segnali neurali come griglie di pixel o sequenze di token discrete. Questo approccio presenta tre limiti fondamentali rispetto alla fisiologia cerebrale:

1. Incapacità di catturare la codifica neurale disaccoppiata: I modelli standard trattano il segnale come un flusso omogeneo, mescolando le transizioni non stazionarie nel dominio del tempo con i ritmi stazionari nel dominio della frequenza, ignorando che il cervello elabora queste informazioni in modo parallelo e disaccoppiato.
2. Mancata ricostruzione della topografia funzionale unificata: Le attuali architetture trattano gli elettrodi come sequenze invarianti, ignorando la geometria complessa e topologica della corteccia. Questo impedisce l'allineamento di diverse configurazioni di sensori (montaggi) in uno spazio semantico coerente.
3. Mancanza di modularità funzionale ed efficienza sparsa: Le reti biologiche utilizzano la codifica sparsa e la specializzazione funzionale. Al contrario, i Transformer densi attivano tutti i parametri per ogni input, causando interferenze tra compiti diversi e un costo computazionale elevato.

2. Metodologia: Uni-NTFM

Gli autori propongono Uni-NTFM (Unified Neural Topological Foundation Model), un'architettura fondata su tre principi neuroscientifici, progettata per allineare il modello ai meccanismi neurali biologici.

A. Proiezione di Caratteristiche Eterogenee (HFPM)

Per emulare il meccanismo di codifica disaccoppiato del cervello, il modello decompone il segnale EEG in tre flussi paralleli:

• Percorso Temporale (Time Path): Utilizza un encoder convoluzionale 1D per catturare le strutture d'onda locali e gli eventi transitori non stazionari.
• Percorso in Frequenza (Frequency Path): Utilizza la Trasformata di Fourier Discreta (DFT) per estrarre i ritmi stazionari (bande di potenza) e li proietta tramite un MLP.
• Percorso Raw (Standard): Mantiene una rappresentazione del segnale grezzo senza perdita di informazioni per servire come riferimento "ground truth" durante la ricostruzione.
  Un modulo di Cross-Attention Duale (DCM) fonde successivamente le rappresentazioni temporali e frequenziali, permettendo un'interazione bidirezionale tra le due modalità.

B. Embedding Topologico (TE)

Per risolvere l'eterogeneità dei montaggi degli elettrodi, viene introdotto uno schema di Topological Embedding gerarchico che proietta i diversi layout di sensori su un sistema di coordinate neurali standardizzato:

1. Region Embedding: Codifica la funzione del lobo cerebrale (Frontale, Centrale, Temporale, Parietale, Occipitale).
2. Intra-Region Embedding: Codifica la posizione relativa degli elettrodi all'interno di una regione.
3. Global Absolute Embedding: Fornisce un identificatore univoco per gli elettrodi standard.
   Questo permette al modello di generalizzare su dati con diversi numeri di canali e configurazioni senza riaddestramento specifico.

C. Transformer con Mixture-of-Experts (MoE)

Al posto dei Feed-Forward Network (FFN) densi, Uni-NTFM utilizza un'architettura MoE (Mixture-of-Experts) con attivazione sparsa. Un meccanismo di routing dinamico indirizza i diversi pattern di segnale a sottoreti specializzate ("esperti"). Questo simula la specializzazione funzionale biologica, riducendo l'interferenza tra compiti e permettendo di scalare il modello fino a 1.9 miliardi di parametri mantenendo un costo di inferenza basso (solo ~307M parametri attivi).

D. Obiettivo di Pre-addestramento

Il modello viene pre-addestrato su un corpus di 28.000 ore di dati EEG (17.000+ soggetti) utilizzando un obiettivo di ricostruzione auto-encoder mascherato (MAE) su doppio dominio. Il modello deve ricostruire simultaneamente i pattern d'onda mascherati nel dominio del tempo e i ritmi spettrali nel dominio della frequenza, forzando l'apprendimento di rappresentazioni robuste e generalizzabili.

3. Risultati Sperimentali

Uni-NTFM è stato valutato su 9 compiti downstream distinti (rilevamento di anomalie, classificazione di eventi, riconoscimento delle emozioni, BCI, staging del sonno, ecc.) utilizzando sia Linear Probing (senza fine-tuning) che Fine-tuning completo.

• Prestazioni Superiori: Uni-NTFM ha stabilito un nuovo stato dell'arte (SOTA) su tutti i dataset testati. Ad esempio, sul dataset TUAB (rilevamento anomalie), la versione Uni-NTFMlarge ha raggiunto un'accuratezza bilanciata del 78.44% in linear probing, superando i metodi specifici per compito e altri modelli fondazione.
• Generalizzazione: Il modello dimostra una capacità eccezionale di trasferire conoscenze tra compiti diversi, superando modelli come LaBraM, CBraMod e EEGPT.
• Efficienza e Scalabilità: Nonostante i 1.9B parametri totali, l'uso di MoE riduce i parametri attivi durante l'inferenza a 307M, rendendo il modello più efficiente di baseline dense di dimensioni simili.
• Robustezza: Gli esperimenti di ablation mostrano che il modulo Topological Embedding migliora significativamente la robustezza alla perdita di canali (channel dropout) e permette la generalizzazione cross-montaggio (es. da 62 canali a 19 canali) senza riaddestramento.
• Analisi Visiva: Le visualizzazioni t-SNE confermano che Uni-NTFM apprende spazi di caratteristiche molto più separati e compatti rispetto ai metodi tradizionali.

4. Contributi Chiave

1. Codifica Duale Biologicamente Ispirata: Introduzione di un modulo HFPM che disaccoppia e fonde dinamicamente le informazioni temporali e frequenziali, allineandosi alla fisiologia neurale.
2. Unificazione Topologica: Sviluppo di un meccanismo di embedding gerarchico che risolve il problema dell'eterogeneità dei montaggi EEG, creando uno spazio latente unificato per diverse configurazioni di sensori.
3. Scalabilità Efficiente con MoE: Dimostrazione che l'architettura MoE permette di scalare la capacità del modello a miliardi di parametri mantenendo l'efficienza computazionale e riducendo l'interferenza tra compiti.
4. Corpus su Larga Scala: Creazione e pre-addestramento su un dataset massivo di 28.000 ore, che copre una vasta gamma di paradigmi clinici e cognitivi.

5. Significato

Il successo di Uni-NTFM valida l'ipotesi che l'allineamento dell'architettura del modello con i principi neuroscientifici (codifica disaccoppiata, topologia geometrica, modularità sparsa) sia fondamentale per lo sviluppo di modelli fondazione per il cervello. Questo lavoro non solo migliora le prestazioni nella decodifica cerebrale, ma fornisce anche un framework interpretabile e generalizzabile per le future interfacce cervello-computer (BCI) e le applicazioni cliniche, superando i limiti dei modelli basati su paradigmi puramente ingegneristici (visione/testo). Il codice è stato reso disponibile per garantire la riproducibilità.