Metaplasticity as adaptive gradient preconditioning for incremental learning

Il cervello umano possiede una straordinaria capacità di apprendere continuamente. Un bambino può imparare a riconoscere un cane, poi imparare ad andare in bicicletta e poi imparare una nuova lingua, il tutto senza dimenticare come identificare un cane. Questo flusso fluido di nuove conoscenze non sovrascrive i vecchi ricordi. Al contrario, i sistemi di intelligenza artificiale, che sono costruiti su modelli matematici ispirati al cervello, lottano profondamente con questo stesso compito. Quando questi programmi per computer apprendono un nuovo compito, spesso soffrono di "oblio catastrofico", un fenomeno in cui il nuovo apprendimento cancella violentemente il vecchio. Il sistema diventa instabile, incapace di trattenere il proprio passato mentre cerca di afferrare il proprio presente. Gli scienziati cercano da tempo di risolvere questo "dilemma stabilità-plasticità", cercando un modo per rendere le macchine abbastanza flessibili da apprendere cose nuove ma abbastanza stabili da mantenere ciò che già sanno.

Per decenni, i ricercatori hanno cercato di imitare la soluzione del cervello aggiungendo regole extra o salvando vecchi dati da rivedere in seguito. Tuttavia, questi approcci richiedono spesso che il computer sappia esattamente quando un compito finisce e un altro inizia, o esigono enormi quantità di memoria per archiviare vecchi esempi. Questi requisiti sembrano artificiali e non riflettono come funziona l'intelligenza biologica. Un nuovo studio dei ricercatori dell'Università di Sydney propone una strada diversa. Invece di costringere il computer a ricordare i vecchi dati o a fermarsi per calcolare l'importanza dopo la fine di un compito, suggeriscono che il sistema dovrebbe regolare la propria velocità di apprendimento in tempo reale, momento per momento, proprio come fa una sinapsi vivente. Chiamano questo approccio SynGAP, un metodo che tratta il processo di apprendimento non come una serie di passi distinti, ma come un fiume continuo e scorrevole dove la corrente modella naturalmente le sponde.

L'idea centrale trae ispirazione da un concetto biologico noto come metaplasticità. Nel cervello, una sinapsi non è solo un semplice interruttore che si accende o si spegne; essa ha una storia. Lo stato di una sinapsi cambia in base a quanto è stata utilizzata in passato, rendendola più o meno propensa a cambiare di nuovo. Questa è la "plasticità della plasticità". Se una connessione è stata rafforzata nel tempo, il cervello la rende più difficile da alterare, proteggendo quel ricordo. Se una connessione è nuova o inutilizzata, rimane flessibile. I ricercatori si sono resi conto che le reti neurali artificiali potrebbero beneficiare di questo stesso principio. Invece di aspettare la fine di un compito per decidere quali parti della rete siano importanti, il loro metodo permette alla rete di monitorare costantemente la propria storia. Essa mantiene una media mobile di quanto ogni parte della rete abbia contribuito all'apprendimento passato, creando efficacementmente una memoria dell'importanza che si aggiorna con ogni nuovo dato.

Per mettere in pratica questo concetto, il team ha sviluppato un sistema che agisce come una valvola dinamica per il processo di apprendimento. Quando il computer prova a imparare qualcosa di nuovo, calcola le regolazioni standard necessarie per migliorare le proprie prestazioni. Tuttavia, prima che queste regolazioni vengano applicate, esse passano attraverso un filtro. Questo filtro controlla la storia di ogni connessione. Se una connessione è stata critica per i compiti passati, il filtro rallenta delicatamente il cambiamento, impedendo al nuovo apprendimento di distruggere il vecchio. Se la connessione non è critica, il filtro permette al cambiamento di avvenire liberamente. Fondamentalmente, ciò avviene senza che il computer abbia bisogno di sapere quale compito sta svolgendo in quel momento, e senza la necessità di archiviare una grande libreria di vecchi esempi da consultare. Il sistema semplicemente fluisce in avanti, regolando la propria sensibilità in base a ciò che ha già appreso.

I ricercatori hanno testato questo approccio su due benchmark impegnativi in cui un computer deve apprendere a riconoscere diverse categorie di immagini una dopo l'altra. In un test, il sistema doveva apprendere 100 diverse classi di immagini, suddivise in dieci gruppi. I metodi di apprendimento standard, che cercano semplicemente di minimizzare gli errori man mano che procedono, hanno dimenticato quasi interamente i primi gruppi, mantenendo meno del 10% di accuratezza sui vecchi compiti. I metodi che tentavano di salvare i vecchi dati o aggiungere penalità extra al processo di apprendimento hanno ottenuto prestazioni migliori, ma hanno comunque incontrato difficoltà, dimenticando spesso più della metà di quanto avevano appreso. Il nuovo metodo SynGAP, tuttavia, ha raggiunto un livello di successo significativamente più alto. Ha mantenuto un'accuratezza media di quasi il 27% sui vecchi compiti, che è oltre quattro volte superiore al metodo di regolarizzazione standard e quasi il 10% migliore del metodo basato sul salvataggio dei vecchi dati. Ha inoltre ridotto la misura dell'oblio di oltre il 10% rispetto a quelle tecniche consolidate.

In un secondo test che coinvolgeva uno stream continuo di riconoscimento di oggetti, i risultati sono stati altrettanto solidi. Il nuovo metodo ha raggiunto un'accuratezza di circa il 68%, superando i migliori strumenti di apprendimento standard di circa 10 punti percentuali. Forse, cosa più importante, il sistema non è diventato rigido. Alcuni metodi che proteggono troppo bene i vecchi ricordi rendono impossibile per il computer apprendere qualsiasi cosa di nuovo. I ricercatori hanno scoperto che il loro approccio ha trovato un delicato equilibrio: ha protetto il passato senza congelare il futuro. Il sistema è rimasto abbastanza flessibile da adattarsi alle nuove informazioni pur mantenendo intatta la struttura centrale delle sue conoscenze pregresse.

Il successo di questo approccio risiede nel modo in cui cambia la natura dell'aggiornamento dell'apprendimento. I metodi tradizionali spesso cercano di risolvere il problema aggiungendo una penalità all'obiettivo finale, dicendo essenzialmente al computer: "Non allontanarti troppo da dove eri". Ciò può distorcere il percorso di apprendimento e creare conflitti man mano che il numero di compiti cresce. Il nuovo metodo, al contrario, modifica il passo di apprendimento stesso. Agisce come una guida geometrica, indirizzando il computer lontano dalle direzioni che distruggerebbero i vecchi ricordi, pur permettendogli di muoversi liberamente nelle direzioni che non interferiscono. Ciò avviene continuamente, guidato dal flusso dei dati stessi, piuttosto che da segnali esterni o memorie archiviate. I ricercatori hanno dimostrato che, formalizzando matematicamente questo processo biologico, potevano creare un sistema che fosse allo stesso tempo robusto ed efficiente, richiedendo pochissima memoria extra per operare.

Sebbene il sistema sia altamente efficace, i ricercatori osservano che non è una soluzione perfetta per ogni possibile scenario. Attualmente si basa su una visione semplificata della geometria interna della rete, che funziona bene in molti casi ma potrebbe necessitare di affinamenti per problemi estremamente complessi. Richiede inoltre una piccola quantità di dati memorizzati per funzionare, sebbene molto meno rispetto ai metodi precedenti. Nonostante queste limitazioni, il lavoro rappresenta un passo avanti significativo. Dimostra che, guardando da vicino come i sistemi biologici gestiscono la tensione tra stabilità e cambiamento, e traducendo tali principi in un processo continuo e in tempo reale, possiamo costruire un'intelligenza artificiale che impara in modo simile a una mente vivente. Lo studio suggerisce che la chiave per prevenire l'oblio catastrofico non è fermare l'apprendimento o accumulare il passato, ma lasciare che la storia dell'apprendimento modelli il modo stesso in cui il futuro viene appreso.