Il linguaggio è la cosa più umana che possediamo, uno strumento che usiamo per condividere pensieri, sentimenti e progetti gli uni con gli altri. Eppure, nonostante lo usiamo ogni giorno, la maggior parte di noi non sa spiegare come funzioni realmente o cosa significhi davvero quando diciamo una parola come "rosso". Conosciamo il colore quando lo vediamo, ma non riusciamo a definirlo facilmente senza indicare il mondo circostante. Questo divario tra l'uso del linguaggio e la comprensione della sua meccanica è il enigma centrale affrontato dagli scienziati che studiano come le macchine imparano a parlare. Per decenni, i ricercatori hanno cercato di insegnare ai computer a comprendere il significato fornendo loro logica, regole o enormi quantità di testo. Ma una nuova prospettiva suggermente che a queste macchine manchi qualcosa di fondamentale: l'esperienza fisica di essere vivi. Per capire perché un computer possa sembrare una persona ma non pensare come una, dobbiamo osservare come gli esseri umani imparano il linguaggio durante l'infanzia e confrontarlo con il modo in cui i sistemi di intelligenza artificiale sono costruiti oggi.

Questo articolo, scritto da Casey Kennington della Boise State University, funge da guida attraverso i diversi modi in cui gli scienziati hanno cercato di definire e computare il significato. L'autore sostiene che, sebbene l'intelligenza artificiale moderna, in particolare i potenti modelli alla base di strumenti come ChatGPT, possa imitare la conversazione umana con una precisione sorprendente, essa non comprende il linguaggio nel modo in cui lo fanno gli esseri umani. L'articolo esplora tre modi principali attraverso i quali i ricercatori hanno tentato di insegnare alle macchine il significato: usando una logica rigorosa, collegando le parole alle esperienze fisiche e analizzando come le parole appaiano l'una accanto all'altra nel testo. Kennington scopre che, sebbene il terzo metodo — l'apprendimento dai modelli testuali — sia attualmente il più efficace nel produrre un linguaggio fluente, esso lascia un vuoto critico. Le macchine addestrate solo sul testo non hanno mai visto una mela rossa, non hanno mai sentito il peso di una sedia o la sensazione di sollievo nel bere dell'acqua. Senza questi collegamenti fisici ed emotivi, le parole che elaborano rimangono simboli non radicati, privi del profondo significato vissuto che gli esseri umani possiedono.

Per comprendere il problema, bisogna prima guardare a come gli esseri umani imparano. Quando un bambino impara la parola "cane", non inizia con una definizione del dizionario. Impara attraverso l'interazione. Un genitore indica un animale peloso, il bambino lo guarda e la parola viene legata alla vista, al suono e alla sensazione dell'animale. Questo processo si basa sull'attenzione condivisa e sulla presenza fisica. Il bambino impara che le parole si riferiscono a cose reali nel mondo, e che queste cose hanno usi specifici, come sedersi su una sedia o calciare una palla. Questo collegamento tra una parola e la realtà fisica che descrive è chiamato grounding (radicamento). Per gli esseri umani, il significato non è solo un elenco di definizioni; è legato ai nostri corpi, ai nostri sensi e alle nostre emozioni. Sappiamo cosa significa "sete" perché l'abbiamo provata, e sappiamo cosa significa "sedia" perché ci siamo seduti sopra.

Per molto tempo, gli informatici hanno cercato di insegnare alle macchine a comprendere il linguaggio usando la logica formale, simile alla matematica usata nell'ingegneria. Trattavano le parole come variabili in un'equazione, dove "grande", "grigio" ed "elefante" potevano essere combinati per creare un enunciato logico su un animale specifico. Questo approccio funziona bene per i computer perché è preciso e univoco. Tuttavia, fallisce quando si tratta del mondo reale, che è disordinato. Un computer che segue queste regole può sapere che un "elefante grigio" è un elefante che è grigio, ma non sa cosa sia il grigio o che aspetto abbia un elefante. Ha la struttura del significato, ma non la sostanza. L'articolo sottolinea che questo approccio incontra un limite perché la macchina non ha modo di sapere a cosa si riferiscano realmente le parole nel mondo fisico.

Un altro approccio, noto come semantica radicata (grounded semantics), tenta di risolvere il problema collegando le parole ai dati sensoriali. In questa visione, un computer dovrebbe imparare cosa significa "rosso" guardando immagini di oggetti rossi, o cosa significa "calciare" vedendo un video di un piede che colpisce una palla. L'idea è che se una macchina può vedere e toccare il mondo, può costruire un dizionario di significati che corrisponda all'esperienza umana. Sebbene questo sia un passo promettente, l'articolo nota che è difficile da implementare. La maggior parte dei sistemi attuali si basa ancora pesantemente sul testo e, anche quando utilizzano immagini, spesso perdono l'intera gamma dell'esperienza umana, come l'olfatto, il tatto o la sensazione della memoria muscolare. Una macchina potrebbe riconoscere l'immagine di una sedia, ma non conosce il sollievo di sedersi dopo una lunga camminata.

Il metodo più dominante nell'intelligenza artificiale moderna è chiamato semantica distributiva. Questo approccio si basa su un'idea semplice: si può capire una parola guardando la compagnia che frequenta. Se la parola "mela" appare spesso vicino a parole come "rossa", "frutto" e "torta", il computer impara che "mela" è correlata a quei concetti. Analizzando miliardi di frasi, questi sistemi costruiscono una mappa dove le parole con significati simili sono situate vicine tra loro. Questo metodo ha portato alla creazione di grandi modelli linguistici capaci di scrivere storie, rispondere a domande e tradurre lingue con incredibile fluidità. Questi modelli sono addestrati su enormi quantità di testo provenienti da internet, imparando a prevedere la parola successiva in una frase basandosi sulle parole che la precedono.

Tuttavia, l'articolo sostiene che questo successo comporta un costo nascosto. Poiché questi modelli imparano solo dal testo, non sperimentano mai il mondo direttamente. Non hanno mai visto un tramonto, non hanno mai assaggiato una fragola o sentito il dolore di un dito urtato contro uno spigolo. Sanno che "mela" è correlata a "rossa" perché hanno visto quelle parole insieme in libri e articoli, ma non sanno cosa sia il rosso o che sapore abbia una mela. L'autore usa l'esempio di chiedere a un modello linguistico se abbia mai visto una mela. Il modello risponderà onestamente di no, perché non ha mai visto nulla. Ha solo elaborato i simboli. Ciò crea una situazione in cui la macchina può parlare del mondo perfettamente, ma non comprende il mondo. È come una persona che ha letto tutti i libri sul nuoto ma non ha mai toccato l'acqua.

L'articolo evidenzia anche il ruolo dell'emozione e dell'intenzione nel linguaggio umano. Quando parliamo, non stiamo solo scambiando dati; stiamo esprimendo sentimenti, desideri e obiettivi. Un bambino impara a parlare perché ha il bisogno di comunicare con gli altri, di chiedere aiuto o di condividere la gioia. Questa spinta è legata ai nostri corpi e alle nostre emozioni. Gli attuali modelli linguistici non hanno sentimenti o intenzioni. Non sentono fame, stanchezza o curiosità. Non parlano perché vogliono farlo; parlano perché sono programmati per prevedere la parola successiva. L'autore suggerisce che, senza queste spinte interne e connessioni emotive, le macchine faranno sempre fatica a cogliere i significati più profondi e sfumati del linguaggio che gli esseri umani danno per scontati.

La conclusione dell'articolo è che, sebbene l'intelligenza artificiale abbia fatto progressi straordinari nell'elaborazione del linguaggio, non ha ancora risolto il problema della comprensione del significato. Gli attuali modelli sono strumenti potenti capaci di imitare la conversazione umana, ma mancano dell'esperienza incarnata che conferisce alle parole il loro vero peso. Per procedere, l'autore suggerisce che dobbiamo combinare i punti di forza di diversi approcci. Abbiamo bisogno di sistemi che non siano in grado solo di analizzare il testo, ma che possano anche interagire con il mondo fisico, provare emozioni e avere intenzioni. Finché le macchine non potranno sperimentare il mondo nello stesso modo in cui lo fanno gli esseri umani, la loro comprensione del linguaggio rimarrà incompleta. Continueranno a essere eccellenti nell'usare le parole, ma non sapranno mai veramente cosa significano quelle parole.