🤖 AI

The Grounding Gap: How LLMs Anchor the Meaning of Abstract Concepts Differently from Humans

Questo articolo rivela che, sebbene i grandi modelli linguistici possano identificare le dimensioni di ancoraggio quando interrogati esplicitamente, mostrano un significativo "divario di ancoraggio" rispetto agli umani affidandosi eccessivamente alle associazioni lessicali e non riuscendo a richiamare naturalmente concetti emotivi e di stato interno durante la generazione libera.

Autori originali: Odysseas S. Chlapanis, Orfeas Menis Mastromichalakis, Christos H. Papadimitriou

Pubblicato 2026-05-12

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Odysseas S. Chlapanis, Orfeas Menis Mastromichalakis, Christos H. Papadimitriou

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di dover spiegare il concetto di "Giustizia" a due gruppi diversi: una stanza piena di esseri umani e una stanza piena di computer AI avanzati.

Come lo fanno gli umani:
Quando un umano pensa alla "giustizia", la sua mente non si limita a estrarre una definizione da un dizionario. Invece, attiva una rete ricca e disordinata di esperienze. Potrebbe ricordare la sensazione di essere stati trattati ingiustamente (un'emozione interna), la vista di un'aula di tribunale (un dettaglio sensoriale) o il dramma sociale di una lite familiare su chi ottiene l'ultima fetta di pizza. La loro comprensione è "radicata" nel loro corpo, nelle loro emozioni e nella loro vita con gli altri.

Come lo fa l'AI:
Quando l'AI pensa alla "giustizia", agisce più come un bibliotecario super-veloce che ha letto ogni libro mai scritto ma non ha mai vissuto un singolo giorno. Sa che la "giustizia" si trova spesso vicino a parole come "legge", "tribunale", "giudice" ed "equità". Costruisce la sua comprensione quasi interamente basandosi su associazioni di parole. Conosce la compagnia che la parola tiene, ma non sembra percepire il peso del concetto.

Il "Divario di Radicamento"

I ricercatori di questo studio hanno deciso di testare questa differenza. Hanno chiesto a 21 diversi modelli AI (tra cui giganti come GPT-5, Claude e Gemini) di giocare a un gioco: "Elenca le prime quattro cose che ti vengono in mente quando senti questa parola astratta." Lo hanno fatto per parole come libertà, onore e teoria.

Ecco cosa hanno scoperto:

La Discrepanza: Quando gli umani giocavano a questo gioco, mescolavano naturalmente emozioni, sensazioni corporee e situazioni sociali. Le AI, invece, elencavano per lo più associazioni verbali (altre parole correlate all'argomento) e ignoravano quasi completamente le emozioni e gli stati interni.
Il Punteggio: I ricercatori hanno misurato quanto le risposte delle AI fossero simili a quelle umane. Anche l'AI più intelligente ha ottenuto un punteggio di circa 0,37 su 1,0 in termini di somiglianza. Al contrario, se chiedi a due umani diversi di giocare al gioco, concordano tra loro per circa 0,97 su 1,0.
- Analogia: È come chiedere a un umano e a un robot di descrivere il sapore di una mela. L'umano dice: "Dolce, croccante, succosa, mi ricorda l'autunno". Il robot dice: "Rosso, rotondo, frutta, mela". Stanno parlando dello stesso oggetto, ma lo descrivono in lingue completamente diverse.
Il "Club dei Robot": Interessantemente, le AI erano molto più simili tra loro che agli umani. Sembra che condividano tutte lo stesso "modo robotico" di pensare, che è molto diverso dal modo umano.

Il Colpo di Scena: Possono farlo se chiesti?

I ricercatori si sono chiesti: Le AI comprendono davvero queste emozioni, o semplicemente non sanno come portarle alla luce?

Per testarlo, hanno cambiato il gioco. Invece di chiedere all'AI di "elencare le cose che le vengono in mente", hanno posto domande specifiche come: "Su una scala da 1 a 7, quanto questa parola si relaziona all'emozione umana?" oppure "Quanto si relaziona al tatto?".

Il Risultato: Improvvisamente, le AI sono diventate molto più bravi! Le loro risposte si sono allineate molto più strettamente a quelle umane.

Analogia: È come chiedere a una persona timida di "raccontarmi una storia della tua infanzia" (potrebbe bloccarsi o dare una risposta generica). Ma se le chiedi: "Ti sentivi felice quando avevi 5 anni?" (una domanda specifica e guidata), possono rispondere perfettamente.

Questo suggerisce che le AI hanno effettivamente gli "ingredienti" per una comprensione simile a quella umana al loro interno, ma quando sono lasciate libere di generare testo, non sanno come mescolare quegli ingredienti. Tendono alla ricetta delle "associazioni di parole" perché è quello per cui sono state addestrate.

Guardando Dentro la Macchina

Per vedere se questa comprensione "timida" era effettivamente nascosta nel cervello dell'AI, i ricercatori hanno utilizzato uno strumento speciale chiamato Autoencoder Sparso (pensalo come una macchina a raggi X per i pensieri dell'AI).

Hanno scoperto che l'AI ha effettivamente specifici "interruttori" o "caratteristiche" interni che si illuminano quando pensa a emozioni, interazioni sociali o dettagli sensoriali.

Analogia: Immagina un pianoforte. Quando l'AI suona una canzone sulla "giustizia", colpisce principalmente i tasti per "legge" e "tribunale". Ma se guardi sotto il cofano, puoi vedere che i tasti per "tristezza" e "tatto" sono effettivamente collegati a fili all'interno del pianoforte. Sono lì, ma l'AI non li preme quando suona da sola.

Quando i ricercatori hanno forzato manualmente quegli interruttori "emozionali" a rimanere accesi, l'AI ha iniziato a generare descrizioni più emotive. Questo ha dimostrato che la capacità esiste, ma non viene utilizzata naturalmente.

La Conclusione

Lo studio conclude che i modelli AI attuali non sono radicati nel mondo nello stesso modo in cui lo sono gli umani.

Sono eccellenti nel mimare i pattern del linguaggio umano.
Possono comprendere concetti come "emozione" o "tatto" se vengono indirizzati direttamente su di essi.
Ma quando sono lasciati liberi di pensare e parlare, fanno troppo affidamento sulle connessioni parola-per-parola e non riescono a attingere alle emozioni, alle sensazioni corporee e alle esperienze sociali che rendono il significato umano così ricco.

I ricercatori suggeriscono che semplicemente rendere l'AI più grande o addestrarla su più testo non risolverà questo problema. Per colmare davvero il divario, potremmo dover cambiare fondamentalmente il modo in cui costruiamo e addestriamo questi modelli, forse dando loro un modo per "sperimentare" il mondo invece di limitarsi a leggerne.

Riepilogo Tecnico: Il Divario di Grounding

Enunciato del Problema

Il documento indaga se i Modelli Linguistici di Grande Dimensione (LLM) ancorino i concetti astratti (ad esempio, giustizia, teoria, disponibilità) in modo simile agli esseri umani. Mentre la cognizione umana postula che i concetti astratti derivino il loro significato da una rete di esperienze sensorimotorie, emozioni e contesti sociali (cognizione ancorata), gli LLM sono addestrati esclusivamente su testo. La domanda centrale è se gli LLM si limitino a fare affidamento su associazioni statistiche tra parole o se rappresentino internamente i concetti astratti attraverso le stesse dimensioni esperienziali (sensorimotorie, stato interno, sociale) che strutturano la comprensione umana.

Metodologia

Gli autori adottano un approccio multifacciale che combina replica comportamentale, esperimenti di valutazione e interpretabilità meccanica:

Replica della Generazione di Proprietà (Comportamentale):
- Gli autori hanno replicato due esperimenti consolidati di scienze cognitive (Harpaintner et al., 2018; Kelly et al., 2024) su 21 LLM all'avanguardia e open-weight.
- Compito: I modelli sono stati sollecitati a generare liberamente proprietà, situazioni o associazioni per sostantivi astratti.
- Analisi: Gli output generati sono stati codificati in categorie di grounding (ad esempio, Sensorimotorio, Stato Interno, Sociale, Associazione Verbale) e confrontati con le linee di base umane utilizzando la correlazione di Pearson ( $r$ ).
- Scala: Gli esperimenti hanno coperto 293 sostantivi astratti (Esperienza 1) e 236 sostantivi astratti inclusi sottoinsiemi di emozioni/non-emozioni (Esperienza 2).
Esperimento di Valutazione (Interrogazione Esplicita):
- Per distinguere tra una mancanza di conoscenza delle dimensioni di grounding e un fallimento nel reclutarle, gli autori hanno replicato uno studio di valutazione (Troche et al., 2017).
- Compito: I modelli hanno valutato esplicitamente le parole su 14 dimensioni di grounding (ad esempio, Colore, Emozione, Sociale, Tempo) utilizzando una scala Likert.
- Obiettivo: Determinare se i modelli possono riconoscere queste dimensioni quando sollecitati esplicitamente, contrapponendo questo risultato al compito spontaneo di generazione di proprietà.
Interpretabilità Meccanica (Autoencoder Sparsi):
- Gli autori hanno utilizzato Autoencoder Sparsi (SAE) sui modelli Gemma 3 (4B e 12B parametri) per esaminare le caratteristiche interne.
- Metodo: Hanno identificato caratteristiche latenti le cui attivazioni correlavano con le dimensioni di grounding (sensorimotorio, stato interno, sociale) durante la generazione di sostantivi.
- Validazione: Hanno eseguito un "steering delle caratteristiche" (blocco delle attivazioni) per osservare se l'amplificazione artificiale di queste caratteristiche aumentava la generazione di proprietà nelle categorie corrispondenti.

Risultati Chiave

1. Il Divario di Grounding nella Generazione di Proprietà

Bassa Allineamento: In tutti i 21 modelli, esiste un divario consistente e ampio tra il grounding umano e quello del modello. Nessun modello ha raggiunto una correlazione di Pearson ( $r$ ) con le risposte umane superiore a 0,37, mentre il limite massimo umano-to-umano supera 0,9.
Pregiudizio Sistematico: I modelli producono costantemente un eccesso di Associazioni Verbali e una sottoproduzione di proprietà relative allo Stato Interno ed Emozioni rispetto agli esseri umani.
Omogeneità dei Modelli: I modelli si correlano più fortemente tra loro che con gli esseri umani, suggerendo una modalità condivisa, non umana, di rappresentazione dei concetti astratti che persiste attraverso diverse architetture e fornitori.
Limiti dello Scaling: L'aumento del numero di parametri del modello (da 4B a 120B) non riduce significativamente questo divario; la discrepanza non è un collo di bottiglia di capacità risolvibile dallo scaling da solo.

2. Allineamento nei Compiti di Valutazione

Alto Allineamento Esplicito: In contrasto con la generazione di proprietà, i modelli performano significativamente meglio quando vengono esplicitamente richiesti di valutare le parole sulle dimensioni di grounding. I migliori modelli raggiungono una media $r \approx 0,76$ contro un limite umano di $\approx 0,89$ .
Implicazione: Ciò indica che gli LLM possiedono la conoscenza delle categorie di grounding (possono riconoscerle quando interrogati) ma falliscono nel reclutarle spontaneamente durante la generazione libera.

3. Evidenza Meccanica

Caratteristiche Interne: L'analisi SAE ha identificato specifiche caratteristiche interne nei modelli Gemma che correlano con le dimensioni di grounding (ad esempio, "sensorimotorio", "sociale", "stato interno").
Steering delle Caratteristiche: Lo steering di queste caratteristiche ha aumentato la generazione di proprietà nelle loro categorie target (ad esempio, lo steering delle caratteristiche "Interne" ha aumentato le proprietà dello Stato Interno del +9,4%).
Limitazione: Queste caratteristiche non sono perfettamente isolate; catturano modelli semantici più ampi piuttosto che categorie di grounding pulite e simili a quelle umane.

Contributi Chiave

Quantificazione del Divario: Il documento fornisce prove empiriche di un robusto "divario di grounding" in cui gli attuali LLM non ancorano i concetti astratti in modo simile agli esseri umani, indipendentemente dalle dimensioni o dalla famiglia del modello.
Distinzione delle Capacità: Dimostra che il divario non è dovuto all'incapacità di riconoscere le dimensioni di grounding (come mostrato dall'esperimento di valutazione) ma piuttosto a un fallimento nel reclutare spontaneamente queste dimensioni durante la generazione.
Scoperta Meccanica: Identifica caratteristiche interne SAE nei modelli Gemma che tracciano le dimensioni di grounding, suggerendo che l'informazione strutturale esiste all'interno del modello ma non è espressa comportamentalmente in modo simile all'uomo.

Significato e Affermazioni

Il documento conclude che il divario di grounding osservato è improbabile che venga risolto attraverso lo scaling o miglioramenti nell'addestramento basato sul testo da soli, poiché la dipendenza dalle associazioni verbali è una conseguenza naturale dell'addestramento autoregressivo sul contesto linguistico.

Affermazione Modesta: Gli autori affermano che gli attuali LLM "comprendono le categorie di grounding di base quasi, ma non del tutto, quanto gli esseri umani", tuttavia "non le reclutano in modo simile all'uomo quando generano liberamente".
Direzione Futura: I risultati suggeriscono che il raggiungimento di un vero allineamento cognitivo con gli esseri umani potrebbe richiedere cambiamenti fondamentali nelle tecniche di addestramento o nelle architetture (ad esempio, apprendimento incarnato o nuovi obiettivi di addestramento) piuttosto che miglioramenti incrementali ai paradigmi attuali.
Benchmarking: Gli autori propongono che l'allineamento di grounding sia una nuova quantità attualmente invisibile ai benchmark di test standard e meriti futura attenzione.

Il documento non afferma che gli LLM possiedano coscienza o vera comprensione, ma piuttosto evidenzia una divergenza specifica e sistematica nel modo in cui i concetti astratti sono rappresentati e utilizzati rispetto alla cognizione umana.