Learning complex temporal dependencies via local synaptic plasticity
Questo articolo dimostra che il codifica predittiva temporale (tPC), un framework biologicamente plausibile che utilizza la plasticità sinaptica locale, può apprendere efficacemente complesse dipendenze temporali e competere con i metodi tradizionali basati sulla backpropagation sfruttando la dinamica del reservoir, le strutture gerarchiche e le tracce di ammissibilità.
Articolo originale sotto licenza CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA di un preprint non sottoposto a revisione paritaria. Non è un consiglio medico. Non prendere decisioni sulla salute basandoti su questo contenuto. Leggi il disclaimer completo
Per navigare nel mondo, i nostri cervelli devono costantemente tracciare come gli eventi si sviluppano nel tempo. Che si tratti di prevedere la parola successiva in una frase, di calcolare il tempo di un colpo di tennis o semplicemente di ricordare dove abbiamo lasciato le chiavi, la capacità di estrarre schemi da una sequenza di momenti è fondamentale per il pensiero umano. Per decenni, gli scienziati che hanno cercato di comprendere questo processo si sono affidati a potenti modelli informatici chiamati reti neurali ricorrenti. Questi sistemi digitali sono eccellenti nell'apprendere sequenze, ma sono spesso costruiti su una base che non corrisponde al modo in cui funzionano i veri cervelli. Il metodo standard per insegnare a queste reti prevede un trucco matematico che richiede al sistema di guardare all'indietro nel tempo, memorizzando ogni stato passato e inviando segnali di errore in senso inverso. Sebbene questo funzioni bene per i computer, è considerato biologicamente impossibile per i neuroni, che possono reagire solo ai segoli che arrivano nella loro posizione immediata e non possono accedere alle informazioni del passato remoto. Questo divario tra l'intelligenza artificiale efficace e la biologia plausibile ha lasciato una domanda fondamentale senza risposta: come fa il cervello ad apprendere effettivamente complesse dipendenze temporali utilizzando solo regole biologiche locali?
Un team di ricercatori dell'Università di Oxford ha compiuto un passo significativo verso la risposta a questa domanda esplorando un quadro chiamato codifica predittiva temporale. Questo approccio suggerisce che il cervello non abbia bisogno di guardare all'indietro per imparare; invece, genera costantemente previsioni su ciò che accadrà dopo e aggiorna il proprio modello interno in base alla differenza tra tali previsioni e la realtà. I ricercatori, Julian Ng-Kee-Kwong, Mufeng Tang, Thomas Akam e Rafal Bogacz, hanno indagato se questo metodo di apprendimento locale potesse gestire i complessi compiti basati sul tempo solitamente riservati ad algoritmi più potenti e biologicamente irrealistici. Hanno scoperto che, perfezionando questo quadro di codifica predittiva, potevano creare reti capaci di imparare a ricordare il contesto, risolvere intricati enigmi che coinvolgono ritardi temporali e rimanere robuste contro le distrazioni, il tutto utilizzando solo le semplici regole locali che i veri neuroni sono noti per seguire.
Il nucleo della loro indagine consisteva nel testare una versione specifica di questo sistema di codifica predittiva contro una versione standard troncata dell'algoritmo di apprendimento all'indietro. Nel metodo standard all'indietro, il computer calcola quanto un errore alla fine di una sequenza sia stato causato da eventi accaduti solo un passo prima. I ricercatori hanno dimostrato che il loro sistema di codifica predittiva produce aggiornamenti matematicamente simili a questo metodo all'indietro di un solo passo, ma con una differenza cruciale nel modo in cui elabora le informazioni. Nel modello di codifica predittiva, il sistema non si limita a trasmettere informazioni in avanti; esso affina attivamente il proprio stato interno in ogni momento confrontando la propria previsione con l'effettivo input sensoriale ricevuto. Ciò crea un flusso di informazioni sottile ma potente dall'osservazione presente verso la memoria della rete, permettendole di correggere la rotta in tempo reale. Quando hanno testato questo compito su un semplice tracciamento della posizione di una particella in movimento, il modello di codifica predittiva ha appreso il compito facilmente, mentre una rete standard che utilizzava il metodo all'indietro di un solo passo falliva, incapace di integrare l'informazione sulla velocità nel tempo senza quel feedback immediato supplementare.
Costruendo su questa base, il team ha esplorato se queste reti potessero gestire sequenze più complesse in cui il momento attuale dipende da eventi avvenuti diversi passi prima, un tipo di problema noto come non-Markoviano. In questi scenari, conoscere il passato immediato non è sufficiente; il sistema deve mantenere in mente un contesto più lungo. I ricercatori hanno dimostrato che le loro reti di codifica predittiva potevano sfruttare la propria dinamica interna per agire come un serbatoio (reservoir), uno spazio di stato ad alta dimensionalità dove gli input passati persistono e influenzano il presente. A differenza dei comuni computer a serbatoio che mantengono fisse le proprie connessioni interne, questo sistema poteva dare forma ai propri percorsi interni attraverso l'apprendimento locale. Regolando le connessioni tra i neuroni in base agli errori locali, la rete riorganizzava il proprio stato interno in modo che diversi schemi diventassero più facili da distinguere. Ciò ha permesso al sistema di apprendere sequenze alternate di zeri e uno che richiedevano di ricordare un blocco di diversi passi, un compito che i serbatoi fissi faticavano a svolgere man mano che gli schemi diventavano più complessi.
Per affrontare sfide temporali ancora più difficili, i ricercatori hanno introdotto una struttura gerarchica, sovrapponendo più strati di queste reti predittive l'uno sull'altro. In questa configurazione, ogni strato riceve informazioni dallo strato sottostante, ma con un leggero ritardo temporale, consentendo a diversi livelli della rete di operare su diverse scale temporali. Questa architettura si è rivelata straordinariamente efficace nel risolvere compiti che richiedevano la combinazione di informazioni provenienti da momenti ampiamente separati, come un controllo di parità in cui il sistema doveva contare il numero totale di segnali specifici su una lunga sequenza per determinare se il conteggio fosse pari o dispari. Mentre una rete a singolo strato falliva quando la sequenza diventava troppo lunga o i divari temporali troppo ampi, il sistema multi-livello aveva successo. Inoltre, questo design gerarchico ha fornito uno scudo contro le interferenze. Quando i ricercatori hanno introdotto segnali di distrazione forti nel flusso di input, la rete a singolo strato ha perso la memoria del segnale originale, ma la rete gerarchica l'ha conservata, integrando selettivamente le informazioni rilevanti e filtrando il rumore.
Infine, il team ha affrontato la sfida di apprendere attraverso ritardi molto lunghi, dove il segnale di ricompensa o di errore arriva molto tempo dopo l'evento iniziale. In biologia, questo è spesso gestito da un meccanismo chiamato traccia di eleggibilità, che agisce come un tag temporaneo su una sinapsi, segnandola come idonea al cambiamento finché un segnale globale non arriva per confermare l'apprendimento. I ricercatori hanno incorporato questo concetto nel loro quadro di codifica predittiva, creando un sistema capace di mantenere una memoria decadente dell'attività passata. Ciò ha permesso alla rete di collegare un evento avvenuto diversi secondi prima con un segnale di apprendimento arrivato molto più tardi. Nei test riguardanti un compito di risposta ritardata, in cui il modello doveva ricordare un segnale presentato all'inizio di una prova e riprodurlo dopo un ritardo variabile, il sistema con queste tracce di eleggibilità ha avuto successo laddove la versione standard falliva. Poteva colmare lacune fino a dieci passi temporali, riproducendo con successo il segnale originale anche dopo il ritardo, dimostrando che le regole di plasticità locale possono effettivamente supportare l'apprendimento su periodi estesi.
I risultati suggeriscono che il cervello potrebbe non aver bisogno della complessa strumentazione non locale della propagazione dell'errore all'indietro per apprendere dal tempo. Invece, reti relativamente semplici governate da regole locali, quando organizzate con dinamiche predittive, strati gerarchici e tracce di eleggibilità, possono supportare un sofisticato apprendimento temporale. Sebbene questi modelli siano ancora simulazioni e non ancora un resoconto completo del cervello umano, offrono un'alternativa convincente agli algoritmi standard utilizzati nell'intelligenza artificiale. Dimostrano che la plausibilità biologica non richiede il sacrificio della capacità di apprendere schemi complessi. Combinando la codifica predittiva con questi meccanismi aggiuntivi, i ricercatori hanno rivelato una via per comprendere come i sistemi biologici possano risolvere il difficile problema dell'assegnazione del credito temporale, imparando dal passato senza la necessità di guardare all'indietro.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.