Transformers perform adaptive partial pooling

Immagina di cercare di indovinare cosa dirà un amico durante una conversazione. Se hai sentito dire quella stessa identica frase mille volte, sai esattamente cosa verrà dopo. Ma cosa succede se dice qualcosa di totalmente nuovo? Non puoi limitarti a indovinare casualmente; devi guardare ciò che ha detto prima in situazioni simili. Questo è il cuore del puzzle dell'apprendimento del linguaggio, sia per un bambino umano che per un programma informatico.

Per risolvere questo problema, gli scienziati usano un trucco astuto chiamato "pooling parziale adattivo". Immaginalo come un detective intelligente. Quando il detective vede una scena del crimine rara, non si limita a fissare l'unico indizio davanti a sé (che potrebbe essere fuorviante perché ce n'è pochissimo); invece, guarda altre scene del crimine simili per farsi un'idea migliore di ciò che di solito accade lì. Mescola l'indizio specifico con il modello generale, ma dà più peso all'indizio specifico se questo accade spesso, e al modello generale se l'indizio specifico è un caso isolato. Questo lo aiuta a fare la stima migliore possibile senza confondersi con rari e strani incidenti.

Ora, immagina un cervello informatico super intelligente chiamato "Transformer" (il tipo che alimenta i moderni chatbot). Per molto tempo, le persone si sono chieste: questo cervello informatico usa davvero questo trucco del detective intelligente, o si limita a memorizzare tutto ciò che ha letto? Se si limitasse a memorizzare, potrebbe fallire quando vede qualcosa di nuovo. Ma se usa il "pooling parziale adattivo", può imparare e adattarsi proprio come un essere umano. Questo articolo si chiede: il cervello informatico compie davvero questo lavoro da detective e migliora o peggiora nel farlo mentre studia di più?

Il lavoro da detective di un cervello informatico

In questo studio, l'autore, Vsevolod Kapatsinski, ha allestito un piccolo gioco linguistico artificiale per testare un modello informatico chiamato GPT-2. Ha inventato un linguaggio in cui le frasi terminavano sempre con "A" o "B", ma la scelta dipendeva dalle parole che le precedevano immediatamente. Alcune combinazioni di parole erano molto comuni, mentre altre erano rarissime — proprio come nella vita reale, dove alcune frasi vengono usate quotidianamente e altre solo una volta ogni morte di papa.

Il computer è stato addestrato su questo gioco, e il ricercatore ha osservato come imparava. Ecco la grande scoperta: Sì, il computer usa il pooling parziale adattivo. Quando il computer vedeva una frase rara, non indovinava semplicemente basandosi su quel singolo esempio raro. Inveve, "univa" le sue conoscenze, guardando frasi simili per fare una stima migliore. Si è comportato esattamente come il detective intelligente descritto sopra.

Tuttavia, c'è un colpo di scena. Le abilità da detective del computer cambiano man mano che continua l'addestramento.

• All'inizio: Quando il computer sta iniziando a imparare, si affida pesantemente ai modelli generali. È come un nuovo studente che non ha ancora imparato le regole specifiche, quindi indovina basandosi su ciò che accade di solito. Unisce molta informazione insieme.
• Nel mezzo: Man mano che il computer si addestra un po' di più, raggiunge un "punto ideale". Questo è il momento in cui è più bravo a bilanciare gli indizi specifici rari con i modelli generali. In questa fase, imita il perfetto comportamento da detective umano descritto nella matematica della regressione gerarchica.
• Più avanti: Se il computer continua ad addestrarsi troppo a lungo (oltre questo punto ideale), inizia a cambiare di nuovo. Comincia a fidarsi troppo degli indizi specifici e rari. Smette di guardare i modelli generali e inizia a pensare di conoscere perfettamente la risposta a ogni singolo caso raro. L'autore suggerisce che, con abbastanza addestramento, il computer potrebbe diventare troppo sicuro nelle situazioni rare, perdendo l'utile "pooling parziale" che lo rende simile a un essere umano.

Lo studio ha anche scoperto che il computer si comporta come un essere umano in altri modi. Se un gruppo di frasi è molto diversificato (alcune dicono A, altre dicono B), il computer smette di unirle e le tratta separatamente. Ma se un gruppo di frasi è molto simile, il computer le fonde felicemente. Ha anche notato che se ci sono molti tipi diversi di frasi simili (alta "frequenza di tipo"), il computer è più propenso a unirle insieme, proprio come gli umani sono più propensi a generalizzare una regola se l'hanno vista usata in molti modi diversi.

Perché questo è importante

L'articolo non dice solo "il computer impara". Dimostra come impara. Prova che questi enormi cervelli informatici non sono solo giganteschi depositi di memoria che memorizzano ogni parola. Essi costruiscono effettivamente rappresentazioni interne che diventano sempre più dettagliate nel tempo. Iniziano vedendo categorie ampie (come "tutti gli animali") e lentamente imparano a distinguere gruppi più piccoli (come "pesci vs uccelli"), proprio come fanno i bambini umani.

La scoperta più entusiasmante è il "punto ideale". L'autore suggerisce che esiste un punto specifico nell'addestramento in cui il computer è più simile a un apprendista umano — usando la giusta quantità di generalizzazione per gestire le parole rare senza pensarci troppo. Se addestriamo troppo il computer, potrebbe perdere questa flessibilità tipicamente umana e diventare troppo rigido nelle sue previsioni per i casi rari.

Quindi, la prossima volta che parli con un chatbot, ricorda: non sta solo recitando un copione. Sta compiendo un complesso gioco di equilibrio, pesando ciò che sa del momento specifico rispetto a ciò che sa del mondo, e lo fa meglio quando si trova in quel perfetto equilibrio centrale dell'apprendimento.