Leveraging unlabelled data for generalizable neural population decoding
Il documento introduce MOJO, un framework di addestramento che combina l'autoencoding mascherato autosupervisionato con l'apprendimento supervisionato per modelli neurali di spike-tokenizzazione, dimostrando che l'utilizzo di dati non etichettati migliora significativamente le prestazioni di decodifica, la generalizzabilità tra specie e modalità e l'interpretabilità, particolarmente in scenari con dati etichettati limitati.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Immaginate un mondo in cui possiamo leggere i sussurri elettrici della mente per aiutare le persone paralizzate a muovere gli arti o per capire come prendiamo le decisioni. Questo è il regno delle interfacce cervello-computer (BCI), un campo in cui gli scienziati cercano di tradurre i segnali caotici e tremolanti dei neuroni in comandi chiari per i computer. Per molto tempo, il modo migliore per farlo è stato come insegnare dei trucchi a un cane: gli mostri un segnale, gli dici esattamente quale comportamento è avvenuto (come "il braccio si è mosso a sinistra") e lui impara a far corrispondere le due cose. Ma questo metodo ha un enorme difetto: richiede la presenza di un insegnante per ogni singola lezione. Nel mondo reale, abbiamo montagne di dati cerebrali registrati dove l'"insegnante" è assente: abbiamo il chiacchiericcio neurale, ma non l'etichetta che dice cosa stesse facendo l'animale in quel preciso momento. Fino ad ora, la maggior parte dei modelli avanzati di lettura cerebrale poteva imparare solo dai dati "etichettati", lasciando vaste librerie di registrazioni cerebrali "non etichettate" ad accumulare polvere, incapaci di aiutare a migliorare il decoder.
Entra in gioco un nuovo approccio che tratta il cervello come un linguaggio. Proprio come i grandi modelli linguistici (quelli che scrivono storie o rispondono a domande) imparano leggendo miliardi di libri senza che un essere umano debba spiegare ogni singola frase, questa nuova ricerca suggerisce che possiamo insegnare ai modelli di decodifica cerebrale a comprendere la "grammatica" dell'attività neurale da soli. Il documento presenta un metodo chiamato MOJO (Masked autOencoder-based JOint training). Pensatelo come uno studente che studia sia un libro di testo con le risposte (dati etichettati) sia una massiccia biblioteca di romanzi gialli senza chiavi di soluzione (dati non etichettati). Cercando di riempire le pagine mancanti dei romanzi gialli, lo studente impara così bene la struttura sottostante della storia che, quando finalmente affronta l'esame con il libro di testo, ottiene il massimo dei voti. I ricercatori hanno scoperto che, combinando questi due stili di apprendimento, il loro modello è diventato un decoder molto migliore, specialmente quando c'erano pochissimi esempi etichettati per iniziare, e ha funzionato persino su diverse specie e tipi di segnali cerebrali.
Il Probleo: Il Collo di Bottiglia dell' "Etichetta"
Immaginate di stare cercando di imparare una nuova lingua. Avete un dizionario che vi dice che la parola "mela" significa un frutto rosso. Se avete solo questo dizionario (dati etichettati), potete imparare la parola "mela". Ma se volete diventare fluenti, dovete leggere migliaia di libri, articoli e storie (dati non etichettati) per capire come le parole si incastrano tra loro, come scorrono le frasi e come il contesto cambia il significato di una parola.
Per anni, i modelli di decodifica cerebrale più avanzati, noti come modelli di "tokenizzazione degli spike" (come la famiglia POYO), sono stati come studenti che avevano solo il dizionario. Erano incredibilmente bravi a far corrispondere specifici segnali cerebrali a specifici movimenti, ma potevano imparare solo da dati in cui gli scienziati avevano registrato con cura esattamente cosa stesse facendo l'animale in ogni momento. Questo è un limite enorme perché raccogliere dati etichettati è costoso, richiede tempo e spesso è impossibile per certi esperimenti. Nel frattempo, i neuroscienziati hanno raccolto terabyte di dati cerebrali "non etichettati": registrazioni di neuroni che scaricano senza sapere cosa l'animale stesse pensando o facendo in quel secondo esatto. Questi modelli stavano di fatto ignorando questo tesoro nascosto.
La Soluzione: Il Trucco del "Riempimento degli Spazi Vuoti" di MOJO
Gli autori di questo articolo, Ximeng Mao, Nanda H Krishna e il loro team, hanno creato MOJO per risolvere questo problema. Volevano insegnare a questi modelli a imparare dai dati non etichettati, proprio come un modello linguistico impara da un libro.
Per farlo, hanno usato un trucco astuto chiamato autoencoding mascherato (masked autoencoding). Immaginate di avere una frase: "Il gatto si è seduto sul tappeto". Se coprite la parola "seduto", riuscite a indovinare cos'era? Se avete letto abbastanza storie di gatti, probabilmente potrete indovinare "seduto", "in piedi" o "saltato" basandovi sul contesto. MOJO fa questo con i segnali cerebrali. Prende una sequenza di spike neurali (la "frase"), nasconde casualmente (maschera) alcuni dei segnali e chiede al modello di predire quali fossero quei segnali mancanti.
Ecco la magia: il modello deve imparare le regole nascoste di come i neuroni comunicano tra loro per fare queste ipotesi. Impara la "grammatica" del cervello. Ma il modello non si limita a indovinare; continua anche il suo compito originale di predire il comportamento (come il movimento del braccio) usando i dati etichettati. Fa entrambe le cose contemporaneamente. Questo è chiamato addestramento congiunto (joint training). Il modello apprende la struttura profonda del cervello dai dati non etichettati, il che lo aiuta a comprendere molto meglio i dati etichettati.
I Risultati: Più Intelligente, Più Veloce e Più Flessibile
Il team ha testato MOJO su tre tipi molto diversi di dati cerebrali:
- Raggiungimento della scimmia (Monkey Reaching): Scimmie che raggiungono obiettivi su uno schermo.
- Visione del topo (Mouse Vision): Topi che guardano diversi schemi visivi.
- Linguaggio umano (Human Speech): Esseri umani che pronunciano sillabe, registrate da elettrodi sulla superficie del cervello (ECoG).
In ogni singolo test, MOJO ha superato i modelli che utilizzavano solo dati etichettati. Ma la parte più eccitante è stata ciò che è accaduto quando avevano pochissimi dati etichettati.
Il Superpotere del "Few-Shot"
Di solito, se hai pochissimi esempi per insegnare a un modello (uno scenario "few-shot"), questo fatica. Ma MOJO è stato un campione in questo ambito. In un esperimento con le scimmie, il team ha cercato di insegnare al modello a decodificare i movimenti usando solo due prove etichettate (tentativi di calibrazione). Un modello standard è fallito miseramente. MOJO, tuttavia, ha utilizzato i dati non etichettati per comprendere la sensazione generale dell'attività cerebrale. Quando gli sono stati dati solo due tentativi etichettati, ha raggiunto oltre il 60% delle prestazioni di un modello addestrato su un dataset completo. Con soli quattro tentativi etichettati, ha raggiunto il 75%. Era come uno studente che, dopo aver letto mille romanzi gialli, riesce a risolvere un nuovo mistero con solo due indizi.
Cross-Specie e Cross-Modalità
I ricercatori hanno anche testato se MOJO potesse imparare da una specie e applicarlo a un'altra. Hanno pre-addestrato il modello sui dati di raggiungimento della scimmia e poi lo hanno perfezionato (fine-tuning) sui dati di visione del topo. Il modello ha trasferito con successo la sua conoscenza, dimostrando che la "grammatica" del cervello che aveva appreso era abbastanza universale da aiutarlo a comprendere il cervello di un animale diverso.
Ancora più sorprendente, hanno provato MOJO sui dati del linguaggio umano (ECoG), che è un segnale continuo, non "spike" discreti. Anche se MOJO è stato progettato per gli spike, si è adattato e ha performato altrettanto bene dei modelli costruiti specificamente per i segnali continui. Ciò suggerisce che l'idea centrale di imparare dai dati non etichettati è uno strumento potente che funziona attraverso diversi tipi di registrazioni cerebrali.
Gli Approfondimenti "Nascosti"
Uno degli effetti collaterali più affascinanti di MOJO è stato che il modello ha imparato a comprendere la struttura del cervello senza che gli venisse esplicitamente detto. I ricercatori hanno chiesto al modello di indovinare da quale parte del cervello provenisse un neurone (ad esempio, dalla corteccia visiva o dall'ippocampo) guardando semplicemente il suo "embedding" interno (la sua impronta digitale digitale). Il modello ci ha azzeccato il 94% delle volte in alcuni compiti, anche se non era mai stato addestrato per questa classificazione. Ha anche imparato a predire i tassi di scarica dei neuroni con alta precisiono. Questo significa che il modello non stava solo memorizzando risposte; stava effettivamente imparando una mappa ricca e interpretabile di come funziona il cervello.
Perché Questo è Importante
Il documento suggerisce che, combinando l'apprendimento supervisionato (imparare con le risposte) e l'apprendimento auto-supervisionato (imparare dai pattern nei dati), possiamo costruire interfacce cervello-computer molto più flessibili e potenti. Non abbiamo bisogno di gettare via le montagne di dati non etichettati che già possediamo; possiamo usarli per insegnare ai nostri modelli le regole fondamentali del cervello.
Questo approccio rende più facile addestrare modelli per nuovi compiti o nuovi pazienti con tempi di calibrazione minimi. Apre anche la porta ai "modelli di fondazione neuro" (neuro-foundation models): enormi modelli cerebrali general-purpose che possono essere adattati a molti lavori diversi, dal aiutare le persone paralizzate a muoversi al comprendere come prendiamo le decisioni. Gli autori osservano che, sebbene questo sia un passo avanti significativo, i modelli hanno ancora bisogno di molti dati per apprendere la complessa dinamica del cervello, e rimangono sfide su come gestire perfettamente i diversi tipi di segnali. Ma la strada è tracciata: il futuro della decodifica del cervello risiede nell'insegnare a questi modelli a leggere le storie "non etichettate" delle nostre menti.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.