Cortico-subcortical multi-head self-attention as a substrate for cognitive performance

Immaginate il vostro cervello come l'ultimo supercomputer, ma che funziona grazie a tessuto vivo e morbido invece che su chip di silicio. Per molto tempo, gli scienziati hanno cercato di capire esattamente come questa macchina biologica riesca nell'impresa del "pensare": come comprendiamo il linguaggio, risolviamo problemi e ricordiamo le cose. Da un lato, abbiamo la neocorteccia, lo strato esterno rugoso del cervello che gestisce il nostro pensiero sofisticato. Dall'altro, abbiamo strutture profonde e più antiche come il talamo e i gangli della base, che agiscono come il cablaggio interno e i controllori del traffico del cervello. Recentemente, un nuovo tipo di intelligenza artificiale chiamato "transformer" è diventato famoso per la sua capacità di chiacchierare, scrivere storie e tradurre lingue. Questi sistemi di IA lavorano usando un trucco ingegnoso chiamato "attenzione", che permette loro di concentrarsi sulle parti più importanti di una frase ignorando il resto. La grande domanda nella scienza attuale è: il nostro vero cervello biologico potrebbe usare un trucco di "attenzione" simile per fare le stesse cose? Se riuscissimo a trovare il blueprint biologico di questo, ci aiuterebbe a capire come i mammiferi come noi siano diventati così intelligenti.

Questo articolo suggerisce che la risposta sia un deciso "forse", proponendo un particolare blueprint biologico dove la corteccia e il talamo del cervello collaborano per costruire una versione naturale di queste reti di attenzione artificiali. Gli autori suggeriscono che il cervello non riceve passivamente le informazioni; invece, gestisce un sistema complesso e multistrato in cui diverse parti del cervello agiscono come un motore di ricerca ad alta tecnologia. In questo modello, la neocorteccia (lo strato del pensiero) e il talamo (una stazione di rilancio centrale) lavorano insieme per creare ciò che gli autori chiamano "auto-attenzione cortico-sottocorticale multi-testa".

Ecco come avviene la magia, secondo lo studio. Immaginate che la corteccia cerebrale sia divisa in piccoli quartieri chiamati micro-colonne. In questa teoria, un tipo specifico di cellula cerebrale, la cellula piramidale di tipo 2/3, agisce come una massiccia biblioteca di post-it. Queste cellule conservano una "memoria ricorrente chiave-valore", che è solo un modo elaborato per dire che conservano informazioni che possono essere ricercate in seguito. Poi, un altro tipo di cellula, la cellula piramidale di tipo 5, agisce come un detective. Quando arriva un pezzo di informazione nuova (una "query"), questi detective scansionano la biblioteca per trovare i post-it corrispondenti (le "chiavi" e i "valori") che sono rilevanti per il compito corrente.

L'articolo suggerisce che il talamo sia il servizio di consegna cruciale che rende possibile questa ricerca. Esso invia segnali che fungono da "chiavi", "valori" e "query" necessari per eseguire la ricerca. Questi segnali viaggiano attraverso percorsi specifici, alcuni che collegano il nucleo del talamo alla corteccia e altri che collegano la matrice del talamo alla corteccia. Gli autori propongono che una singola area della corteccia funzioni come una "testa" di una rete di attenzione e, quando si mettono insieme tutte queste aree, l'intera corteccia diventa una "rete di auto-attenzione multi-testa", proprio come i modelli di IA che possono scrivere poesie o codice.

Ma il cervello non si limita a leggere; impara anche. L'articolo suggerisce che questo stesso piccolo circuito aiuti il cervello a capire quando sbaglia. Calcola "errori di predizione sensoriale", che sono fondamentalmente il modo in cui il cervello dice: "Pensavo che avresti detto X, ma hai detto Y!". Questo segnale di errore aiuta il cervello ad aggiornare le sue connessioni attraverso un processo chiamato plasticità sinaptica basata sul gradiente, che è la versione biologica dell'imparare dagli errori. Inoltre, il sistema ha un "guardiano" nei gangli della base. Questo guardiano usa gli "errori di predizione della ricompensa" (un segnale che dice al cervello se qualcosa è buono o cattivo) per decidere se lasciare che l'output della corteccia vada nel mondo o se riattivare le memorie dall'ippocampo (il disco rigido del cervello per la memoria a lungo termine).

Gli autori hanno testato questa idea addestrando una simulazione al computer di questo circuito e confrontando il suo comportamento con dati umani reali. Hanno scoperto che, quando la rete simulata elaborava il parlato, i suoi schemi di attività si allineavano sorprendentemente bene con le registrazioni effettive prese all'interno di cervelli umani durante la percezione del linguaggio. Sebbene l'articolo non sostenga di aver dimostrato che questo sia esattamente il modo in cui il cervello funziona in ogni singolo dettaglio, suggerisce fortemente che questa specifica disposizione di cellule e connessioni potrebbe essere la fondazione fisica delle incredibili capacità cognitive che i mammiferi possiedono. È una mappa convincente che connette i punti tra la biologia umida e disordinata dei nostri cervelli e la logica elegante e potente della moderna IA.