Why Sampling Is Not Choosing: Intentionality, Agency, and Moral Responsibility in Large Language Models

Sintesi Tecnica: Perché il Campionamento non è Scelta

Problema
I recenti progressi nei Large Language Models (LLM), in particolare quelli basati su architetture transformer, hanno scatenato rivendicazioni secondo cui tali sistemi esibirebbero agenzia o qualificherebbero come agenti morali. Sebbene gli output degli LLM possano essere valutati normativamente (valutati per correttezza, appropriatezza o conformità a standard morali), rimane poco chiaro se i modelli stessi siano soggetti appropriati di responsabilità morale. Il problema centrale affrontato è la confusione tra output normativamente valutabili e una reale agenzia. Il documento contesta l'attribuzione di responsabilità morale ai sistemi basati su transformer, sostenendo che i loro meccanismi operativi — specificamente le mappature probabilistiche input-output e il campionamento stocastico — non costituiscono la forma di libero arbitrio o di agenzia capace di assumersi impegni richiesta per la responsabilità morale.

Metodologia e Quadro Concettuale
Il documento impiega un'analisi filosofica fondata sulla filosofia della mente e dell'azione, utilizzando un quadro concettuale specifico per definire le condizioni necessarie per la responsabilità morale:

1. Intenzionalità: Il documento distingue tra intenzionalità intrinseca (significato inerente a un sistema, diretto verso oggetti per il sistema stesso) e intenzionalità derivata (significato attribuito a un sistema da agenti esterni). Esso si avvale di Searle (1980), Harnad (1990) e Brentano (1995) per argomentare che i sistemi computazionali possiedono solo intenzionalità derivata.
2. Responsabilità Morale: Definita non semplicemente come partecipazione causale, ma come "agenzia capace di assumersi impegni" (commitment-bearing agency). Ciò richiede che un agente sia l'autore delle proprie azioni, capace di auto-attribuzione e in grado di approvare o respingere le azioni sulla base di ragioni.
3. Libero Arbitrio: Caratterizzato non come indeterminismo o casualità, ma come la capacità di controllo rispondente alle ragioni e di proprietà dell'azione.
4. Analisi Tecnica dei Transformer: Il documento analizza l'architettura dei modelli basati su transformer, concentrandosi su:
   • Addestramento: Ottimizzazione tramite predizione del prossimo token utilizzando il teacher forcing su corpora generati da esseri umani, apprendendo regolarità statistiche piuttosto che comprensione semantica.
   • Inferenza: Generazione tramite campionamento da una distribuzione di probabilità (utilizzando metodi come la greedy decoding, la scalatura della temperatura, il top-k o il nucleus sampling).
   • Modelli di Ragionamento: Un esame dei sistemi che utilizzano il chain-of-thought (catena di pensiero) o la ricerca basata su alberi, sostenendo che questi rimangano selezioni statistiche piuttosto che una genuina deliberazione.

Argomenti Chiave e Risultati
Il documento costruisce un argomento deduttivo per dimostrare che i sistemi basati su transformer non soddisfano le condizioni per la responsabilità morale:

• Premessa 1: La responsabilità morale richiede un'agenzia capace di assumersi impegni.
• Premessa 2: L'agenzia capace di assumersi impegni richiede intenzionalità intrinseca e la capacità di auto-attribuzione dell'azione.
• Premessa 3: Tale agenzia costituisce la forma di libero arbitrio rilevante per la responsabilità.
• Premessa 4: I sistemi basati su transformer mancano di intenzionalità intrinseca e di auto-attribuzione dell'azione.
  • Evidenza: Il loro funzionamento è una mappatura probabilistica appresa dai dati. L' "intorno a" (aboutness) dei loro output è derivato dall'interpretazione umana, non è interno al modello.
  • Evidenza: La variabilità introdotta dal campionamento stocastico non è "scelta" o "autorialità"; è casualità, che manca della proprietà e della risposta alle ragioni richiesta per il libero arbitrio.
  • Evidenza: Anche i modelli di "ragionamento" (es. chain-of-thought) simulano la deliberazione, ma in ultima analisi selezionano i token in base alla probabilità statistica o a punteggi euristici, non attraverso il riconoscimento delle ragioni come tali.
• Conclusione: Pertanto, i sistemi basati su transformer non sono soggetti appropriati di responsabilità morale.

Il documento affronta e confuta potenziali contro-argomentazioni, tra cui la Posizione Intenzionale (attribuire credenze/desideri per utilità predittiva), il Funzionalismo (definire gli stati mentali tramite la funzione) e il Compatibilismo (riconciliare il determinismo con la responsabilità). Gli autori sostengono che nessuno di questi quadri sia sufficiente per stabilire una genuina agenzia in sistemi privi di intenzionalità intrinseca e auto-attribuzione.

Contributi Chiave

1. Nuovo Approccio Basato sull'Impegno: Il documento sviluppa un account specifico di agenzia che lega l'intenzionalità intrinseca alla responsabilità morale attraverso i concetti di autorialità e libero arbitrio. Chiarisce che la responsabilità non riguarda l'output essendo valutabile, ma il fatto che la fonte sia capace di assumersi impegni.
2. Analisi Tecnico-Filosofica Sistematica: Applica questo quadro filosofico alle contemporanee architetture transformer, dimostrando esplicitamente come i meccanismi di predizione del prossimo token e di campionamento stocastico precludano la necessaria forma di agenzia.
3. Chiarificazione dei Modelli di "Ragionamento": Estende la critica ai modelli di ragionamento avanzati, sostenendo che i passaggi intermedi (come il chain-of-thought) non trasformano la selezione statistica in una genuina deliberazione o autorialità.

Significatività e Rivendicazioni
Il documento sostiene di fornire una spiegazione filosofica e tecnica unificata sul perché attribuire l'agenzia morale agli LLM sia fuorviante. La sua significatività risiede nel:

• Distinguere Valutazione da Agenzia: Separa rigorosamente la capacità di valutare normativamente l'output di un sistema dalla capacità del sistema di essere ritenuto responsabile di tale output.
• Rivisitare le Critiche Classiche: Si confronta con gli argomenti classici riguardanti la distinzione sintassi-semantica e il radicamento dei simboli (symbol grounding) di Searle e Harnad, mostrando la loro continua rilevanza nel contesto dei moderni LLM.
• Implicazioni Pratiche: Il documento conclude che la responsabilità per il comportamento e l'implementazione di questi sistemi deve rimanere in capo ai progettatori umani, agli utilizzatori e ai quadri istituzionali. Gli sforzi per allineare o regolare gli LLM dovrebbero essere visti come l'atto di vincolare strumenti umani entro pratiche normative, non come la trasformazione dei sistemi in agenti morali.

Il documento non propone nuovi protocolli sperimentali o applicazioni future; funge piuttosto da lavoro critico di delimitazione, argomentando contro l'antropomorfizzazione di meccanismi probabilistici di input-output.