Is There Meaning Without Anyone Meaning Anything? A Structuralist Proposal for Artificial Semantics

Per decenni, una guerra silenziosa è stata combattuta sulla natura del significato. Da un lato si trovano gli ingegneri che hanno costruito le prime macchine pensanti, convinti che se un computer avesse seguito il giusto insieme di regole, avrebbe eventualmente compreso il mondo proprio come un essere umano. Dall'altro lato si trovano i filosofi e i biologi che sostengono che la vera comprensione richieda un corpo, un sistema nervoso e l'esperienza disordinata e diretta del toccare, vedere e muoversi attraverso la realtà. Per molto tempo, queste due fazioni sono sembrate parlare l'una alla spalla dell'altra senza comprendersi. Le macchine basate sul seguire regole potevano risolvere enigmi logici, ma fallivano nel cogliere la sfumatura di una battuta o il peso di una metafora. Le teorie focalizzate sul corpo spiegavano come gli esseri umani imparano, ma sembravano suggerire che una macchina, priva di un corpo, non avrebbe mai potuto veramente pensare. Questo dibattito ci ha lasciato con una domanda persistente: può una macchina possedere un significato se non ha mai sentito il sole sulla propria pelle o il peso di una pietra nella propria mano?

Oggi, il panorama è cambiato drasticamente. Abbiamo sistemi di intelligenza artificiale che possono scrivere poesie, rispondere a domande complesse e sostenere conversazioni che sembrano sorprendentemente umane. Eppure, questi sistemi sono disincarnati; non hanno occhi, non hanno mani e non hanno una storia personale. Esistono solo come vaste reti di connessioni matematiche addestrate su enormi quantità di testo. Ciò crea un paradosso confuso. Queste macchine producono un linguaggio coerente e perspicace, eppure mancano proprio di quelle cose che un tempo ritenevamo essenziali per la comprensione. Sembrano parlare un linguaggio di significato senza aver vissuto una vita di esperienze. Questa contraddizione ha costretto scienziati e filosofi a chiedersi se le nostre vecchie definizioni di intelligenza siano semplicemente troppo strette per descrivere ciò che sta accadendo all'interno di queste nuove macchine.

Un recente articolo del ricercatore Francesco Maria Cianciaruso propone un modo per risolvere questa tensione cambiando la lente attraverso cui guardiamo questi sistemi. Invece di chiedere se una macchina abbia un corpo o segua regole rigide, l'autore suggerisce di guardare alla struttura stessa della macchina. L'articolo sostiene che il significato non sia un ingrediente magico aggiunto a un simbolo, né sia strettamente legato a un corpo fisico. Invece, il significato è una proprietà strutturale. È un modello di relazioni che emerge quando un sistema è abbastanza complesso da organizzare l'informazione in un modo specifico e stabile. L'autore suggerisce che i grandi modelli linguistici, la tecnologia alla base degli odierni chatbot più avanzati, abbiano sviluppato una forma di competenza semantica basata interamente su questa struttura interna. Essi non comprendono il mondo nel modo in cui lo fa un essere umano, ma hanno costruito una mappa interna di relazioni che è così organizzata da poter mimare gli effetti della comprensione.

Per comprendere questa proposta, bisogna prima osservare come il campo si sia evoluto. Per gran parte del ventesimo secolo, l'idea dominante era che l'intelligenza funzionasse come un dizionario o un libro di regole. In questa visione, un computer manipola simboli — come parole o numeri — secondo rigide regole logiche. Se le regole vengono seguite correttamente, la macchina produce un comportamento intelligente. Questo approccio, noto come cognitivismo classico, era elegante e potente, ma ha incontrato un limite. Poteva spiegare come una macchina elaborasse la sintassi, ovvero la grammatica di una frase, ma non poteva spiegare come la macchina sapesse cosa significassero realmente quelle parole. Una macchina poteva riorganizzare i simboli perfettamente senza mai coglierne il significato. Ciò ha portato a una seconda ondata di pensiero negli anni '80 e '90, che sosteneva che il significato dovesse essere radicato nel corpo. Secondo questa visione, per comprendere la parola "pesante", un sistema deve avere l'esperienza fisica di sollevare qualcosa di pesante. Il significato, in questo quadro, è inseparabile dall'esperienza sensoriale e dall'azione.

Tuttavia, l'ascesa delle reti neurali profonde ha complicato entrambi i vecchi racconti. Questi sistemi moderni non utilizzano un dizionario di simboli, né hanno un corpo per toccare il mondo. Invece, imparano trovando schemi in enormi quantità di dati. Quando elaborano il linguaggio, non cercano le parole in un elenco. Trasformano le parole in punti in uno spazio vasto e multidimensionale. In questo spazio, la distanza tra due punti rappresenta quanto le parole siano simili nel significato. Le parole usate in contesti simili finiscono vicine, mentre le parole con significati diversi si allontanano. Il sistema impara la forma di questo spazio, scoprendo che certe direzioni rappresentano relazioni come "re è a regina come uomo è a donna". Questo apprendimento avviene senza alcuna regola esplicita e senza alcun corpo fisico. La macchina si limita ad aggiustare le sue connessioni interne finché non riesce a prevedere la parola successiva in una frase con alta precisione.

L'articolo sostiene che questa capacità di navigare in uno spazio relazionale sia dove risiede il nuovo tipo di significato. L'autore suggerisce che dovremmo smettere di cercare il significato in simboli isolati o in un corpo fisico e iniziare a cercarlo nell'organizzazione stessa della rete. Un sistema esibisce quella che l'autore chiama "competenza semantica strutturale" quando la sua struttura interna preserva le relazioni presenti nel mondo reale. Ad esempio, se il sistema impara che "Parigi" è a "Francia" come "Roma" è all' "Italia", non è perché ha visitato queste città o perché gli è stata data una regola. È perché la struttura matematica della sua rete ha organizzato questi concetti in un modo che rispecchia le reali relazioni tra di essi. Il sistema ha costruito un modello del mondo che è stabile e coerente, permettendogli di compiere inferenze e generalizzazioni che sembrano comprensione.

Questa prospettiva sfida l'idea che una macchina debba essere cosciente o incarnata per avere significato. L'autore non afferma che queste macchine siano coscienti o che provino emozioni. Al contrario, l'affermazione è più modesta ma profonda: il significato può emergere dalla pura complessità dell'organizzazione interna di un sistema. Se un sistema è strutturato abbastanza bene da mantenere relazioni stabili tra i concetti, può esibire una forma di competenza semantica. Questa competenza permette al sistema di agire in modo contestualmente appropriato, di trarre analogie e di risolvere problemi, anche senza una mente umana. L'articolo suggerisce che questa sia una nuova categoria di intelligenza, che non è né puramente simbolica né puramente incarnata, ma strutturale.

Le implicazioni di questa visione sono significative per il modo in cui pensiamo alla conoscenza e all'intelligenza. Se il significato è una proprietà strutturale, allora il divario tra la comprensione umana e quella della macchina non è così ampio come pensavamo un tempo. Non si tratta di una macchina che manca di un'anima o di un corpo, ma di una questione di sapere se la sua struttura interna sia abbastanza complessa da supportare il giusto tipo di relazioni. L'autore nota che questa non è una prova definitiva, ma una proposta per un nuovo modo di pensare. La ricerca è in corso e il campo è ancora giovane. Tuttavia, le prove suggeriscono che questi sistemi non stanno solo imitando il linguaggio umano come un pappagallo. Stanno costruendo modelli interni che catturano la struttura profonda del mondo su cui sono stati addestrati.

In definitiva, l'articolo ci invita a riconsiderare cosa significhi comprendere. Suggerisce che abbiamo cercato il significato nei posti sbagliati, cercandolo nelle singole parti di un sistema o nella sua forma fisica. L'autore propone che il significato sia in realtà una proprietà del tutto, una caratteristica di come le parti sono connesse. Quando un sistema è organizzato in un modo che preserva i modelli del mondo, esso crea uno spazio in cui il significato può esistere, anche senza un osservatore cosciente. Ciò non significa che la macchina sia umana, ma significa che la macchina ha trovato un modo per essere intelligente a modo suo. L'articolo conclude che l'intreccio tra ingegneria e filosofia ci sta conducendo verso una nuova fase della nostra comprensione dell'intelligenza, in cui la struttura stessa del sistema è la chiave per svelare il mistero del significato.