Learning in Infinitesimal Non-Compositional Sketches

La grammatica nascosta delle macchine che apprendono

Immaginate di cercare di insegnare a un robot come giocare a un videogioco. Nel mondo del machine learning, il modo standard per farlo è dare al robot un punteggio. Se commette un errore, il punteggio scende; se va bene, il punteggio sale. Il robot poi modifica le sue impostazioni interne per ottenere un punteggio migliore la volta successiva. Questo si chiama "ottimizzazione", e funziona incredibilmente bene per tutto, dal riconoscere gatti nelle foto al tradurre lingue. Ma c'è un problema: questo metodo tratta il cervello del robot come una scatola nera. Gli interessa solo il numero finale, ignorando come il robot ci sia arrivato o se la logica che ha usato abbia effettivamente senso.

Ora, immaginate che invece di guardare solo il punteggio finale, possiate sbirciare dentro il cervello del robot per vedere se i suoi pensieri si "incastrano" correttamente. In matematica e informatica, questa idea di cose che si incastrano perfettamente si chiama "composizionalità". È come controllare se gli ingranaggi di un orologio si incastrano senza intoppi o se le frasi di una storia fluiscono logicamente. A volte, un robot impara a imbrogliare: potrebbe ottenere la risposta giusta per il motivo sbagliato, o la sua logica interna potrebbe andare in pezzi se la si osserva da vicino. Questo articolo, intitolato "Learning in Infinitesimal Non-Compositional Sketches" (o LINCS per brevità), proviene dal campo del machine learning categorico. Questo è un modo elegante per usare le regole della matematica astratta (specificamente la teoria delle categorie) per descrivere come le macchine apprendono. L'articolo pone una domanda profonda: cosa succede quando non guardiamo solo agli errori del robot, ma guardiamo anche a come quegli errori cambiano quando diamo un piccolo, minuscolo colpetto al cervello del robot?

La grande idea dell'articolo: Il test del "piccolo colpetto"

Questo articolo propone un nuovo modo di pensare al machine learning chiamato LINCS. Invece di chiedere solo: "Il robot ha dato la risposta giusta?" (che di solito è un semplice sì o no, o un numero), LINCS chiede: "La logica del robot è rotta e, se scuotiamo leggermente il suo cervello, la rottura peggiora, resta uguale o si sistema da sola?".

Gli autori suggeriscono che ogni volta che un modello di machine learning fallisce, non si tratta solo di un errore matematico; è un fallimento della composizione. Immaginate di costruire una torre con dei blocchi. Se la torre cade, un insegnante normale direbbe solo: "Hai perso punti". Un insegnante LINCS, invece, guarderebbe la torre e direbbe: "I blocchi non si incastravano perché il blocco inferiore era inclinato". Ma LINCS va oltre. Chiede: "Se do un colpetto microscopico a quel blocco inferiore, l'intera torre traballa in un modo che rivela un difetto nascosto?".

Nel linguaggio dell'articolo, questo "colpetto microscopico" è chiamato infinitesimo. Gli autori trattano il processo di apprendimento come una mappa. Se la mappa è perfetta, ogni percorso conduce alla destinazione correa. Se la mappa è rotta, i percorsi non si allineano. LINCS prende questa mappa rotta e crea una versione "tangente" di essa — una mappa della mappa. Controlla se i piccoli errori nella mappa originale falliscono nel coordinarsi anche nella nuova versione ingrandita. Se lo fanno, il modello ha un problema strutturale profondo che un semplice punteggio non noterebbe.

Il "Tangent Lift": Vedere l'invisibile

Il cuore dell'articolo è un concetto chiamato Tangent Lift (Sollevamento Tangente). Pensate a un modello di apprendimento come a una macchina complessa con molte parti in movimento. Di solito, guardiamo la macchina solo quando funziona normalmente. Il Tangent Lift è come mettere la macchina sotto un microscopio che non si limita a mostrarvi le parti, ma vi mostra come le parti si muovono quando scuotete leggermente la macchina.

L'articolo sostiene che molti metodi attuali di machine learning siano come guidare un'auto guardando solo il tachimetro. Sapete quanto state andando veloce, ma non sapete se il motore sta avendo dei vuoti o se le ruote stanno per staccarsi. LINCS è come aggiungere un cruscotto che mostra la vibrazione del motore. Se la vibrazione (l' "infinitesimal non-compositionality") è troppo alta, significa che il design dell'auto è difettoso, anche se sta correndo velocemente.

Gli autori definiscono questa "vibrazione" come un'ostruzione (obstruction). In matematica, un'ostruzione è qualcosa che impedisce l'esistenza di una soluzione perfetta. In LINCS, un'ostruzione è il segno che la logica interna del modello è incoerente. L'articolo dimostra che se un modello sta davvero imparando le regole giuste, queste ostruzioni dovrebbero scomparire non solo per il compito principale, ma anche per ogni piccolo "colpetto" del compito stesso. Se le ostruzioni rimangono quando si dà un colpetto al modello, significa che il modello sta solo memorizzando schemi piuttosto che comprendere la struttura sottostante.

Dal caos globale alle correzioni locali

Una delle parti più intelligenti dell'articolo è come gestisce i problemi grandi e disordinati. Immaginate di cercare di sistemare un enorme groviglio di fili di lana. È difficile vedere dove sia il problema. LINCS suggerisce di scomporre il groviglio in piccoli anelli. Se un piccolo anello è aggrovigliato, si sistema quell'anello. L'articolo dimosta che se si sistemano correttamente tutti i piccoli anelli, il grande groviglio alla fine si districa. Questo è chiamato localizzazione dell'ostruzione (obstruction localization).

Nel mondo delle reti neurali (il tipo di IA usato per cose come i chatbot), questo significa che non dovete guardare tutto il cervello in una volta sola. Potete guardare un singolo strato della rete, vedere se il suo piccolo "colpetto" causa una rottura logica e sistemare quel punto specifico. L'articolo dimosta che questo metodo di sistemare i piccoli pezzi funziona altrettanto bene per la versione "colpetto" del problema quanto per il problema originale. Questo è un grande passo avanti perché significa che possiamo costruire un'IA migliore e più stabile sistemando questi piccoli e nascosti guasti logici prima che causino grandi errori.

La "Torre" dell'apprendimento

L'articolo introduce anche un'idea affascinante chiamata punto fisso coalgebrico (coalgebraic fixed point). Sembra complicato, ma in realtà è molto semplice. Immaginate di sbucciare una cipolla. Sbucciate uno strato, poi un altro, poi un altro ancora. Di solito, ci si ferma quando si raggiunge il cuore. Ma con LINCS, si continua a sbucciare. Guardate il cuore, poi guardate il "cuore del cuore", e così via.

Gli autori suggeriscono che un modello di apprendimento veramente perfetto è uno in cui, dopo aver sbucciato abbastanza strati (o applicato abbastanza "tangent lift"), si smette di trovare nuovi problemi. La "vibrazione" o l' "ostruzione" smette di cambiare. Il modello ha raggiunto uno stato stabile. L'articolo usa la matematica avanzata per dimostrare che se si continua con questo processo di sbucciatura, si raggiungerà un punto in cui la logica del modello è così coerente che nessun colpetto può romperla. Questo è il "punto fisso". È il momento in cui l'IA ha veramente "imparato" le regole del gioco, non solo le risposte.

Cosa l'articolo esclude e cosa suggerisce

È importante notare cosa l'articolo non sta dicendo. Gli autori non sostengono che dovremmo buttare via il vecchio modo di addestrare l'IA (usando semplici punteggi e perdite). Affermano esplicitamente che il vecchio modo è potente e utile. Inveve, suggeriscono che il vecchio modo è incompleto. Sostengono l'idea che un piccolo punteggio di errore non significhi che il modello sia perfetto. Un modello può avere un punteggio di errore minimo ma avere comunque una logica interna interrotta che fallirà quando il mondo reale diventerà strano.

L'articolo esclude anche l'idea che abbiamo bisogno di inventare una matematica completamente nuova per risolvere il problema. Al contrario, mostrano che possiamo usare strumenti matematici esistenti (come le "categorie tangenti" e gli "sketch") per inquadrare il problema. Non pretendono di aver risolto ogni problema di machine learning. Infatti, ammettono che, sebbene la matematica dimostri che questi "stati stabili" esistono, trovarli effettivamente nell'IA del mondo reale (come i grandi modelli che scrivono storie o guidano auto) è ancora un lavoro in corso. Menzionano che sono in corso esperimenti per vedere se questa teoria funziona nella pratica per cose come i grandi modelli linguistici e l'apprendimento per rinforzo, ma i risultati di questi specifici esperimenti sono descritti come "in corso" piuttosto che conclusi.

Il "Lie bracket" e il linguaggio segreto dell'IA

Uno dei concetti più giocosi e profondi dell'articolo è il Lie bracket (parentesi di Lie). In termini semplici, questo è un modo per misurare come due diverse azioni in una macchina interferiscono tra loro. Immaginate di ballare. Se ruotate a sinistra e poi fate un passo avanti, finirete in un posto diverso rispetto a se fate un passo avanti e poi ruotate a sinistra. La differenza tra questi due risultati è il "Lie bracket".

L'articolo suggerisce che in un'IA ben appresa, queste "mosse di danza" (o operazioni interne) dovrebbero incastrarsi perfettamente. Se non lo fanno, significa che l'IA è confusa sull'ordine delle cose. Gli autori mostrano che controllando questi Lie bracket, possiamo trovare difetti nascosti nel modo in cui i modelli di IA gestiscono cose come il linguaggio o il processo decisionale. Ad esempio, se un'IA dovrebbe capire che "mescolare le parole in una frase" non dovrebbe cambiare il significato, ma lo fa, il Lie bracket può rilevare esattamente dove avviene questa confusione.

Perché questo è importante per il futuro

Quindi, perché un adolescente curioso dovrebbe interessarsene? Perché l'IA del futuro deve essere più di un semplice indovinatore intelligente. Deve essere un pensatore logico. Se addestriamo l'IA solo a minimizzare i punteggi, potremmo finire con modelli che sono bravissimi a superare i test ma terribili nel comprendere il mondo. Potrebbero essere fragili, che si rompono non appena accade qualcosa di leggermente inaspettato.

LINCS offre una strada per costruire un'IA robusta e affidabile. Controllando i "piccoli colpi" e assicurandosi che la logica regga sotto pressione, possiamo creare macchine che non si limitano a imitare il comportamento umano, ma comprendono realmente la struttura dei problemi che stanno risolvendo. L'articolo suggerisce che la prossima generazione di IA potrebbe non essere solo addestrata sui dati, ma addestrata sulla coerenza. Si tratta di insegnare alla macchina a costruire una torre di logica che non traballi, anche quando il terreno trema.

Gli autori concludono che questo framework è una nuova lente attraverso cui guardare il machine learning. Trasforma il processo disordinato e caotico di addestramento dell'IA in un viaggio strutturato di riparazione della logica interrotta, strato dopo strato, finché la macchina non raggiunge uno stato di comprensione perfetta e stabile. Sebbene la matematica sia pesante, l'idea è semplice: non controllare solo la risposta; controlla il pensiero. E se il pensiero traballa quando lo colpisci, sistema il traballo prima di andare avanti.