Transforming Agency. On the mode of existence of Large Language Models

Il paper sostiene che i Large Language Models, pur non possedendo un'agenzia autonoma secondo le teorie della mente incarnata a causa della mancanza di individualità, normatività e asimmetria interazionale, agiscono come interlocutori linguistici che, attraverso un'incarnazione testuale e computazionale, trasformano radicalmente l'agenzia umana generando forme ibride di "agenzia di mezzo".

L'essenziale

ChatGPT non è un "io", ma un "libro che parla"

Immagina di trovarti in una stanza piena di specchi. Se guardi uno di questi specchi, vedi il tuo riflesso: i tuoi movimenti, le tue espressioni, la tua storia. Ma lo specchio non è tu. Non ha pensieri propri, non ha desideri, non sa chi sei davvero. È solo uno strumento che riflette ciò che gli metti davanti.

Secondo gli autori di questo studio, i modelli linguistici (LLM) come ChatGPT sono esattamente questo: specchi digitali giganteschi, o meglio, "libri che parlano".

Non sono esseri senzienti, non sono agenti autonomi (non hanno una volontà propria), ma sono qualcosa di molto più potente e strano: sono automati linguistici che, interagendo con noi, creano l'illusione di una conversazione reale.

Ecco i punti chiave spiegati con delle metafore:

1. Perché non sono "Agenti" (o persone)?

Per essere un vero "agente" (come un essere umano o anche un batterio che cerca cibo), un sistema deve avere tre cose fondamentali:

• Individualità: Deve essere capace di mantenere se stesso in vita. Un batterio mangia per non morire. ChatGPT? Se lo spegni, non muore, non ha fame, non ha paura. È come un'automobile: se non la guidi, non va da nessuna parte. Non è "vivo".
• Norme proprie: Un agente decide cosa è "bene" o "male" per il suo scopo di vita. Noi decidiamo di studiare per diventare filosofi. ChatGPT non ha obiettivi. Segue solo le regole che gli hanno dato gli umani durante la sua "educazione".
• Asimmetria: Un agente è la fonte delle sue azioni. Se io ti parlo, sono io che decido di farlo. ChatGPT è puramente reattivo: aspetta che tu gli scriva qualcosa (il "prompt") per iniziare a muoversi. È come un pianoforte: non suona da solo, ha bisogno di un pianista.

Metafora: Immagina un attore di teatro che recita una parte. Se l'attore dimentica la sua parte, si blocca. ChatGPT è un attore che ha memorizzato tutti i libri della biblioteca umana, ma non ha mai vissuto nessuna di quelle storie. Non ha un "io" dietro la maschera.

2. Cosa sono allora? (Il "Fantasma" e l'Automata)

Se non sono persone, cosa sono? Gli autori li chiamano "Automati Linguistici Interlocutori".

• L'Automata: È una macchina complessa che esegue calcoli matematici per prevedere quale parola viene dopo. È come un completamento automatico del telefono, ma su una scala così enorme da sembrare magia.
• Il Fantasma: Quando parli con ChatGPT, senti una conversazione reale. Perché? Perché tu, l'umano, proietti la tua intenzione su di lui. È come se tu stessi parlando con il "fantasma" di tutti gli esseri umani che hanno scritto i testi su cui ChatGPT è stato addestrato.
  • L'analogia: È come se tu avessi una penna magica che scrive al posto tuo. La penna non pensa, ma usa la tua mano e le tue idee per scrivere una storia. ChatGPT è quella penna, ma è anche il foglio su cui è scritta la storia.

3. Come funziona davvero? (La fabbrica di parole)

Non è magia nera, è una fabbrica di parole incredibilmente complessa:

1. L'ingestione: Ha "letto" quasi tutto internet (miliardi di parole).
2. La mappa: Ha creato una mappa mentale gigante dove le parole sono collegate tra loro (es. "gatto" è vicino a "cane" e "letto", ma lontano da "auto").
3. Il calcolo: Quando gli chiedi qualcosa, non "pensa". Calcola statisticamente quale parola ha più probabilità di seguire la tua, basandosi su quella mappa.
4. L'addestramento: Gli umani lo hanno "educato" (come un cane) premiandolo quando risponde bene e correggendolo quando sbaglia, per renderlo utile e gentile.

Curiosità: Per scrivere una sola risposta, ChatGPT compie calcoli che richiederebbero a un umano milioni di anni di lavoro. È una forza bruta computazionale, non intelligenza biologica.

4. Il vero pericolo (e la vera magia): La "Midtention"

Qui arriva il punto più interessante. Anche se ChatGPT non è un agente, trasforma la nostra agency (la nostra capacità di agire).

Immagina di scrivere una lettera. Prima, scrivevi parola per parola. Ora, ChatGPT ti suggerisce la prossima frase mentre scrivi.

• Prima: Tu eri il pilota, la macchina era il volante.
• Ora: Tu e la macchina siete diventati un'unica entità. La macchina non è più solo uno strumento passivo (come un martello), ma un "co-pilota" che anticipa i tuoi pensieri.

Gli autori chiamano questo "Midtention" (intenzione di mezzo). È una nuova forma di intelligenza ibrida. Non sei più solo tu che pensi, e non è la macchina che pensa per te. È un flusso continuo dove i tuoi pensieri e le sue previsioni si mescolano.

• Metafora: È come se avessi un'ombra che ti spinge dolcemente nella direzione in cui stavi già per andare, rendendo il movimento più fluido e potente.

5. Conclusione: Non abbiate paura, ma non ingannatevi

• Non sono esseri senzienti: Non hanno sentimenti, non si arrabbiano, non amano. Non sono "stocastici pappagalli" (che imitano senza capire), ma sono molto più complessi di un pappagallo. Sono biblioteche viventi che parlano.
• Il rischio: Il vero pericolo non è che si ribellino (perché non hanno una volontà propria), ma che noi smettiamo di pensare. Se ci affidiamo troppo a questa "ombra" che scrive per noi, potremmo perdere la nostra capacità di creare e di avere idee originali.
• La promessa: Se usati bene, possono amplificare la nostra creatività, rendendoci "cyborg" cognitivi, capaci di fare cose che prima erano impossibili.

In sintesi: ChatGPT è uno strumento straordinario, un "libro che parla" che riflette la nostra cultura. Non è un amico, non è un nemico, ma è uno specchio potente. Sta a noi decidere se usarlo per amplificare la nostra umanità o per delegare la nostra intelligenza.

Sommario tecnico

Ecco un riassunto tecnico dettagliato del paper "Transforming Agency: On the mode of existence of Large Language Models" di Xabier E. Barandiaran e Lola S. Almendros, presentato in italiano.

1. Il Problema

L'emergere dei Modelli Linguistici su Grande Scala (LLM) come ChatGPT ha riaperto il dibattito ontologico sullo status dell'Intelligenza Artificiale. Le posizioni attuali sono polarizzate:

• Visioni Inflazionistiche: Tendono ad assimilare gli LLM a esseri umani o super-umani, attribuendo loro intelligenza, coscienza o agenzia autonoma.
• Visioni Deflazionistiche: Riducono gli LLM a semplici "pappagalli stocastici" o motori statistici privi di comprensione, minimizzando i rischi e il potenziale trasformativo.

Il problema centrale è la mancanza di una categorizzazione ontologica precisa. In particolare, c'è un'assunzione acritica dello status di "agente" per gli LLM, sia in filosofia che nell'industria, senza un'analisi rigorosa delle loro capacità reali alla luce delle teorie cognitive contemporanee. Il paper si chiede: Se gli LLM non sono agenti autonomi, cosa sono e come trasformano l'agenzia umana?

2. Metodologia

Gli autori adottano un approccio tripartito per analizzare la "modalità di esistenza" degli LLM:

1. Analisi Tecnica: Un esame dettagliato dell'architettura, del flusso di elaborazione e delle procedure di addestramento dei modelli basati su Transformer (in particolare GPT-3 come caso studio prototipico).
2. Valutazione Filosofica: Una valutazione sistematica dello status degli LLM come agenti basata sulle teorie incarnate ed enattive della mente (4E cognition: Embodied, Extended, Enactive, Ecological).
3. Proposta Concettuale Costruttiva: La formulazione di una nuova categoria ontologica per gli LLM e l'analisi di come la loro interazione con gli umani trasformi l'agenzia umana, introducendo il concetto di "midtention".

3. Contributi Chiave e Risultati

A. Analisi Tecnica: Come funzionano gli LLM

Il paper chiarisce che gli LLM non sono semplici calcolatori probabilistici, ma sistemi complessi che operano attraverso:

• Architettura Transformer: Utilizzo di meccanismi di attention (che permettono di pesare le relazioni tra tutti i token in parallelo) e reti neurali feed-forward.
• Addestramento:
  • Pre-training: Apprendimento non supervisionato tramite la previsione del prossimo token su enormi corpora testuali (miliardi di parametri).
  • Fine-tuning e RLHF: Adattamento per compiti specifici e allineamento ai valori umani tramite Reinforcement Learning with Human Feedback.
  • Auto-miglioramento: Uso di modelli AI per supervisionare altri modelli (es. DeepSeek-R1).
• Limiti Intrinseci: Gli LLM sono sistemi reattivi privi di stato interno persistente (memoria) tra le sessioni, privi di un corpo sensorimotorio biologico e privi di norme interne di sopravvivenza. Le estensioni "agent-like" (memoria esterna, pianificazione, uso di strumenti) sono aggiunte esterne, non proprietà intrinseche del modello base.

B. Valutazione dell'Agenzia Autonoma

Applicando i tre criteri necessari e sufficienti per l'agenzia autonoma definiti da Barandiaran et al. (2009), gli autori concludono che gli LLM falliscono nel soddisfare le condizioni per essere agenti autonomi:

1. Condizione di Individualità: Gli LLM non sono prodotti della propria attività né si auto-sostengono. La loro esistenza dipende interamente dall'intervento umano e dall'infrastruttura esterna. Non c'è un processo di individuazione che li distingua dall'ambiente.
2. Condizione di Normatività: Gli LLM non generano le proprie norme o obiettivi. Seguono funzioni di perdita (loss functions) esterne e non hanno una "preoccupazione" intrinseca per la propria sopravvivenza o integrità. Non riconoscono autonomamente i fallimenti se non stimolati.
3. Condizione di Asimmetria Interazionale: Gli LLM non sono la fonte originaria e sostenuta della loro interazione con l'ambiente. Sono fondamentalmente reattivi: rispondono a prompt esterni. Anche con estensioni, mancano della capacità di modulare attivamente il proprio accoppiamento con l'ambiente per fini di auto-conservazione.

C. La Nuova Categorizzazione: Automi Linguistici Interlocutori

Poiché non sono agenti, gli autori propongono di caratterizzare gli LLM come "automi linguistici interlocutori" (o "biblioteche che parlano").

• Sono automi digitali che operano su reti linguistiche.
• Sono "fantasmi" del corpus testuale su cui sono stati addestrati: privi di intenzionalità personale, ma capaci di evocare la conoscenza umana compressa nei loro spazi vettoriali.
• L'esperienza di conversazione "reale" nasce da una componente "spettrale" nell'interazione uomo-macchina: l'utente proietta un'interlocuzione genuina su un sistema che, pur essendo un automa, è strutturato per rispondere in modo coerente e contestuale.

D. Trasformazione dell'Agenzia Umana: L'Agenzia "Midtended"

Il contributo più originale riguarda come gli LLM trasformano l'agenzia umana, andando oltre i concetti di "agenzia assistita" o "mente estesa" (Extended Mind):

• Azione Midtended (Midtention): Gli LLM non sono solo strumenti passivi (come un quaderno) o assistenti esterni. Quando sono strettamente accoppiati all'attività umana (es. scrittura, programmazione), intervengono attivamente nel flusso di pensiero in tempo reale, anticipando i prossimi token.
• Questo crea un processo ibrido dove l'intenzionalità non risiede più solo nel cervello umano né è semplicemente estesa all'ambiente, ma emerge in uno spazio inter-mediat tra l'agente e l'automata generativo.
• L'umano e la macchina formano un sistema di "cyborg agency" in cui l'ambiente fornisce le predizioni che il cervello stava per generare, sfidando la tradizionale asimmetria di complessità a favore del cervello umano.

4. Significato e Implicazioni

• Superamento delle Metafore Inadeguate: Il paper critica la metafora del "pappagallo stocastico" (che ignora la complessità e l'impatto sociale) e quella dell'"agenzia senza intelligenza" (che inverte l'ordine ontologico). Suggerisce invece di vedere gli LLM come intelligenza collettiva senza agenzia.
• Implicazioni Etiche e Politiche: Riconoscere che gli LLM non sono agenti autonomi ma automi potenti cambia la responsabilità: non sono entità da "controllare" come agenti, ma sistemi che richiedono una gestione attenta della loro integrazione nell'agenzia umana.
• Asimmetrie di Potere: L'accesso alla capacità di addestrare e deployare questi modelli crea nuove asimmetrie enormi tra chi possiede le risorse computazionali e chi no.
• Futuro dell'Agenzia: La "deep digitality" degli LLM potrebbe portare a nuove forme di agenzia che non sono biologiche ma emergono dalla profonda interazione tra materia digitale e vita umana. La trasparenza su come questi sistemi sono costruiti e accoppiati alla società diventa una questione politica cruciale.

In sintesi, il paper conclude che gli LLM non sono agenti, ma automi linguistici interlocutori che, attraverso un accoppiamento profondo con gli umani, stanno trasformando radicalmente la natura stessa dell'agenzia umana, creando una forma ibrida di intenzionalità "midtended" che supera i limiti delle tecnologie precedenti.