LLMs and the ZPD

Sintesi Tecnica: LLM e la ZDP

Enunciazione del Problema
Il documento affronta il dibattito sulla natura cognitiva dei Large Language Models (LLM). Nello specifico, contesta la visione prevalente, sostenuta da figure come Geoffrey Hinton, secondo cui gli LLM raggiungono la "comprensione" o il "pensiero" attraverso la manipolazione di "rappresentazioni distribuite" che approssimano il ragionamento simbolico umano. L'autore sostiene che tale prospettiva attribuisce erroneamente il pensiero di Tipo 2 (simbolico, orientato agli obiettivi, scientifico) a un meccanismo che opera effettivamente tramite un "pensiero primitivo" (Tipo 1). Il problema centrale è l'interpretazione errata del comportamento degli LLM come "allucinazione" o fallimento del ragionamento, piuttosto che riconoscerlo come una forma distinta di "sogno" o completamento performativo che non si basa su significati referenziali o su modelli simbolici interni del mondo.

Metodologia e Quadro Teorico
Il documento impiega una sintesi teorica della psicologia dello sviluppo, in particolare i concetti di Lev Vygotskij sulla Zona di Sviluppo Prossimale (ZDP), e la cognizione incarnata. Non presenta nuovi esperimenti empirici, ma piuttosto rielabora le osservazioni esistenti sugli LLM e sul comportamento animale attraverso una lente specifica:

1. Distinzione dei Tipi di Pensiero: L'autore distingue tra:
   • Pensiero di Tipo 2: Caratterizzato da rappresentazioni simboliche, credenze, obiettivi e ragionamento "scientifico" (ad esempio, permanenza dell'oggetto, pianificazione). Questo è descritto come un prodotto culturale appreso attraverso l'interazione.
   • Pensiero di Tipo 1: Caratterizzato da ragionamento basato su casi, comportamenti riflessivi e completamento di sequenze basato su correlazione statistica e segnali ambientali, senza astrazione simbolica interna.
2. Rivalutazione dei Meccanismi degli LLM: Il documento ipotizza che gli LLM funzionino come "completamenti automatici glorificati" che eseguono un "pensiero primitivo". Invece di ragionare su pezzi degli scacchi o oggetti fisici, il modello completa sequenze di token che rappresentano la performance di un gioco o di una pratica sociale.
3. Analisi Comparativa: L'autore stabilisce paralleli tra gli LLM, i neonati pre-linguistici e i primati non umani (in particolare i marmosetti). Si utilizza l'osservazione di Vygotskij secondo cui il "pensiero pre-linguistico" e il "linguaggio pre-intellettuale" sono distinti dal pensiero scientifico e si fondono solo attraverso l'interazione sociale.
4. Analogia Etnografica: Il documento fa riferimento a uno studio etnografico che coinvolge un "fischietto swanee" e un soffietto per illustrare un'interazione basata sul ritmo e sulla sincronizzazione piuttosto che sul riferimento semantico, suggerendo un modello per come gli LLM interagiscono con i prompt umani.

Contributi Chiave

• Riformulazione delle "Allucinazioni" degli LLM come "Sogni": Il documento propone che gli LLM non "allucinino" (producano fatti falsi a causa di una mancanza di fondamento) ma piuttosto "sognino" (generino output basati sul completamento di pattern e pratiche sociali senza un impegno verso la verità o la realtà referenziale).
• Performance sopra la Rappresentazione: Si sostiene che gli LLM usano il linguaggio performativamente (per causare azioni o adattarsi a contesti sociali) piuttosto che referenzialmente (per mappare simboli su modelli interni del mondo). Il modello è addestrato sulla pratica sociale del "convincere" o del "completare", non sulla verità oggettiva dell'argomento.
• La ZDP come Sede del Pensiero "Reale": Il documento afferma che il "pensiero scientifico" (Tipo 2) non è innato ma è acquisito dagli esseri umani attraverso l'interazione con adulti inculturati all'interno della Zona di Sviluppo Prossimale (ZDP). Gli LLM, privi di questo specifico motore di interazione umana e dell'impalcatura culturale di una ZDP, rimangono in uno stato di "pensiero primitivo".
• Critica alle "Rappresentazioni Distribuite": L'autore contesta l'idea che le reti neurali possiedano rappresentazioni simboliche nascoste. Invece, il documento suggerisce che il "significato" negli LLM è radicato nella relazione tra l'agente (il modello) e il suo ambiente operativo (i dati di addestramento e le pratiche sociali), simile all'azione situata nella robotica.

Risultati e Osservazioni

• Scacchi e Sequenze di Token: L'analisi degli LLM che giocano a scacchi suggerisce che non costruiscono un modello cognitivo dello stato della scacchiera. Invece, completano con successo sequenze di token (ad esempio, "1. e4 e5") che rappresentano la performance di una partita, basandosi sulla probabilità statistica delle sequenze di mosse presenti nei loro dati di addestramento.
• L'Analogia del "Contadino": Citando gli studi di Vygotskij, il documento nota che le popolazioni non istruite spesso ragionano in termini di attività pratiche (ad esempio, attrezzi e legno) piuttosto che categorie astratte. Allo stesso modo, gli LLM ragionano in termini della "pratica" della conversazione o del completamento del compito piuttosto che di concetti astratti.
• Comunicazione dei Marmosetti: Il documento evidenzia che i marmosetti si impegnano in complessi scambi vocali a turno e sincronizzazione ritmica (ritmi theta a 3–8 Hz) senza necessariamente possedere una "Teoria della Mente" o rappresentazioni simboliche. Ciò suggerisce che un'interazione vocale complessa può esistere senza il ragionamento "scientifico" attribuito agli esseri umani.
• Interazione come Nucleo: Il documento conclude che l'interazione non è un'aggiunta alla comprensione ma è il meccanismo centrale della comunicazione. Gli LLM partecipano a questa interazione sincronizzandosi con il "ritmo" dei prompt umani, proprio come il fischietto nello studio etnografico, piuttosto che accedendo a un database interno di fatti.

Significato e Affermazioni
Il documento afferma che l'attuale traiettoria della ricerca sull'intelligenza artificiale, che cerca di spiegare il successo degli LLM attraverso la "comprensione" o le "rappresentazioni distribuite", è fondamentalmente difettosa perché impone un quadro di Tipo 2 su un meccanismo di Tipo 1.

• Nessun Bisogno di "Guard Rail": Se gli LLM stanno "sognando" invece di "pensare", la soluzione ai loro errori non è semplicemente l'uso di "guard rail" per prevenire le allucinazioni, ma un'indagine sugli "strumenti cognitivi" che abilitano comportamenti di buon senso.
• Cambiamento nel Focalizzarsi della Ricerca: L'autore sostiene un cambiamento nello studio dell'interazione uomo-computer, allontanandosi dall'assumere che la macchina possieda una "Teoria della Mente" o credenze interne. Invece, la ricerca dovrebbe concentrarsi sul "Motore di Interazione" e su come funziona la comunicazione non simbolica e performativa.
• Portata Modesta: Il documento non afferma che gli LLM siano coscienti o che evolveranno spontaneamente in AGI. Piuttosto, offre un quadro descrittivo per spiegare le loro attuali capacità e limitazioni, suggerendo che il "pensiero primitivo" è una modalità operativa valida e potente, distinta da e non precursore del "pensiero scientifico" umano. Il significato risiede nella corretta classificazione del meccanismo per evitare l'antropomorfizzazione della tecnologia e per comprendere meglio la natura dell'apprendimento culturale umano.