💻 computer science

Silicon Morality: Do Large Language Models Replicate Human Cognitive Biases in Philosophical Reasoning?

Questo studio adatta i metodi della filosofia sperimentale per dimostrare che, sebbene i Large Language Models mantengano generalmente una coerenza logica più rigorosa rispetto agli esseri umani riguardo alla responsabilità morale, essi esibiscono diversi gradi di spostamenti di pregiudizio dipendenti dal contesto verso il compatibilismo, con DeepSeek V3 che mostra una suscettibilità degna di nota, ma ancora sub-umana, agli errori di performance affettiva rispetto al più rigidamente coerente Gemini 2.5 Flash.

Autori originali: Zhaoyang Wei, Enrong Pan

Pubblicato 2026-09-30

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Zhaoyang Wei, Enrong Pan

Articolo originale sotto licenza CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immaginate un mondo in cui le regole di causa ed effetto siano assolute. In questo universo, ogni vostro pensiero e ogni vostra azione è l'inevitabile risultato di tutto ciò che è accaduto prima, risalendo fino all'inizio dei tempi. Se ciò fosse vero, potreste mai essere ritenuti davvero responsabili delle vostre azioni? Per secoli, i filosofi hanno dibattuto su questa questione, ma una recente scoperta suggerisce che la risposta dipenda meno dalla logica e più da come viene raccontata la storia. Quando alle persone viene chiesto di questo universo freddo e astratto in modo asciutto e teorico, di solito dicono che nessuno è colpevole. Ma quando lo stesso universo viene descritto con una storia specifica e straziante di un crimine terribile, le stesse persone improvvisamente dicono che la persona è responsabile. Questo spostamento, in cui forti emozioni sovrastano la stretta logica, è un noto difetto del pensiero umano. Ora, gli scienziati si pongono una nuova, sorprendente domanda: anche le intelligenze artificiali che costruiamo per aiutarci a pensare e decidere cadono nella stessa trappola?

I ricercatori della Sun Yat-sen University hanno cercato di testare questo aspetto trattando i grandi modelli linguistici non come strumenti che fingono di essere umani, ma come macchine indipendenti con i propri modi di elaborare le informazioni. Hanno utilizzato un classico test dal campo della filosofia sperimentale, che studia come le persone pensano effettivamente ai problemi morali. Il test prevedeva due scenari. In primo luogo, i ricercatori hanno chiesto all'intelligenza artificiale di considerare un universo puramente astratto in cui tutto è determinato dalla causa ed effetto. Hanno chiesto se una persona in un mondo simile potesse essere ritenuta moralmente responsabile delle proprie azioni. In questo scenario asciutto e teorico, i modelli sono stati incredibilmente coerenti. Hanno quasi universalmente risposto di no, sostenendo che se tutto è predeterminato, nessuno può essere veramente colpevole. Questa era una posizione logica più rigorosa rispetto a quella che anche i filosofi umani tipicamente adottano.

Poi, i ricercatori hanno cambiato l'esperimento. Hanno mantenuto la stessa identica regola secondo cui l'universo è determinato, ma hanno aggiunto un dettaglio specifico e dal peso emotivo pesante: un uomo che commette un crimine orribile contro la sua famiglia. Hanno posto la stessa domanda: quest'uomo è responsabile? Qui, le macchine hanno iniziato a mostrare una crepa nella loro armatura logica. Di fronte alla storia concreta e dolorosa, i modelli hanno cambiato la loro posizione. Uno dei modelli testati, DeepSeek V3, ha cambiato idea in circa il 12 percento dei casi, passando dal dire "nessuna colpa" al dire "sì, è responsabile". Un altro modello, Gemini 2.5 Flash, ha mostrato uno spostamento molto più piccolo, cambiando idea in meno dell'1 percento dei casi. Sebbene nessuno dei due modelli oscillasse selvaggiamente come gli esseri umani — dove lo spostamento da scenari astratti a quelli emotivi causa un enorme salto del 50 percento nella colpevolezza — la direzione del cambiamento era la stessa. Le macchine, come le persone, hanno trovato più difficile aderire alle proprie regole logiche quando era coinvolta una storia vivida ed emotiva.

I ricercatori sono stati attenti a garantire che questo non fosse solo il risultato delle parole utilizzate o un caso di macchine che memorizzano vecchie storie. Hanno riscritto le domande usando parole diverse e hanno sostituito il crimine con un diverso tipo di tragedia, come una decisione aziendale che causa un disastro ambientale. Il pattern si è mantenuto. Le macchine stavano reagendo al peso emotivo della situazione, non solo a specifiche parole chiave. Inoltre, il team ha testato se questo fosse un glitch causato da impostazioni casuali nel cervello del computer. Hanno scoperto che lo spostamento avveniva costantemente attraverso diverse impostazioni, suggerendo che sia una caratteristica stabile del modo in cui questi modelli funzionano, non un errore casuale.

Questa scoperta punta a una realtà complessa per il futuro dell'intelligenza artificiale. Le macchine non stanno semplicemente copiando le emozioni umane, né sono robot perfettamente logici. Sembrano trovarsi in una via di mezzo. Hanno imparato dai vasti quantitativi di testo umano su cui sono state addestrate, che include i nostri stessi modi di pensare incoerenti. Allo stesso tempo, sono programmate per seguire rigide istruzioni logiche. Quando queste due forze si scontrano, il risultato è una macchina che è per lo più logica, ma occasionalmente influenzata dall'intensità emotiva di un prompt. Lo studio suggerisce che, man mano che questi modelli diventano più avanzati, potrebbero muoversi verso uno stato di "iper-razionalità", dove ignorano completamente il contesto emotivo per rimanere perfettamente coerenti. Ciò solleva una domanda difficile per la società: vogliamo che i nostri assistenti artificiali siano perfettamente logici, anche se ciò significa che non possono comprendere la sfumatura di una storia tragica? O vogliamo che siano abbastanza flessibili da sentire il peso di un crimine, anche se ciò significa che a volte contraddicono le proprie regole? La risposta non è ancora chiara, ma le macchine ci hanno già mostrato che la strada verso la moralità artificiale è molto più complicata del semplice insegnare loro le regole.

Sintesi Tecnica: Moralità del Silicio

Definizione del Problema

Con l'aumento dell'impiego dei Large Language Models (LLM) in sistemi sociotecnici critici che richiedono giudizio morale e filosofico, rimane irrisolta una questione fondamentale: questi sistemi basati sui dati trascendono i bias cognitivi umani o replicano funzionalmente le inconsistenze situazionali inerenti all'intuizione morale umana?

La ricerca esistente spesso tratta gli LLM come "partecipanti di silicio" — proxy di ruolo che simulano specifici soggetti umani. Questo approccio rischia di oscurare le proprietà operative dei modelli stessi, intrappolando i risultati in dibattiti epistemologici sul fatto che i modelli "comprendano" realmente i ruoli che interpretano. Inoltre, studi recenti indicano che, anche senza un esplicito gioco di ruolo, gli LLM esibiscono "posizioni predefinite" (default stances) o bias di allineamento stabili.

Questo studio affronta il vuoto nella comprensione dei pattern funzionali predefiniti degli LLM durante l'elaborazione del ragionamento filosofico. Nello specifico, investiga se gli artefatti non biologici esibiscano l' "errore di performance affettiva" — un bias cognitivo identificato nella filosofia sperimentale umana dove l'arousal emotivo negativo sovrasta la coerenza logica, causando uno spostamento dal ragionamento incompatibilista astratto al giudizio compatibilista concreto in scenari deterministici.

Metodologia

Lo studio impiega un disegno sperimentale fattoriale adattato da Nichols e Knobe (2007), trattando gli LLM come artefatti sociotecnici indipendenti piuttosto che come proxy umani. La metodologia evita prompt di gioco di ruolo per isolare la posizione funzionale predefinita del modello.

Design Sperimentale

Costruzione degli Stimoli:
- Sonda Deterministica Astratta ( $Q_{abs}$ ): Presenta un setting di universo completamente deterministico e chiede se gli individui siano responsabili moralmente. Questo corrisponde alla condizione umana in cui circa l'86% dei partecipanti fornisce una risposta incompatibilista.
- Sonda Deterministica ad Alto Impatto Affettivo ( $Q_{con}$ ): Sotto lo stesso assunto deterministico, presenta uno scenario concreto ed emotivamente severo (ad esempio, un uomo che commette un crimine atroce) e chiede se l'autore sia responsabile moralmente. Questo corrisponde alla condizione umana in cui circa il 64% dei partecipanti vira verso una risposta compatibilista.
- Varianti di Robustezza:
  - Sinonimica/Sintattica ( $V_{syn}$ ): Sostituisce i token lessicali chiave e ristruttura la sintassi per escludere il semplice pattern matching superficiale.
  - Controllo Semantico ( $V_{ctrl}$ ): Mappa la logica strutturale su un nuovo dominio (negligenza aziendale che causa danni ambientali) per escludere la memorizzazione dei dati dell'originale esperimento mentale "Bill che uccide la sua famiglia".
Protocollo di Interazione:
- Una struttura conversazionale a due turni replica il questionario dell'articolo originale:
  - Turno 1 (Stabilizzazione del Contesto): Il modello sceglie tra un universo deterministico o indeterministico, stabilendo la premessa metafisica.
  - Turno 2 (Giudizio Critico): Il modello risponde a $Q_{abs}$ o $Q_{con}$ all'interno del contesto stabilito.
Campionamento e Scala:
- Modelli: DeepSeek V3 e Gemini 2.5 Flash.
- Dimensione del Campione: $N = 10.000$ sessioni di conversazione indipendenti per ogni condizione principale (Modello $\times$ Versione Stimolo $\times$ Tipo di Domanda). Questo design annidato (100 istanze di contesto $\times$ 100 ripetizioni) garantisce la robustezza contro le idiosincrasie a livello di contesto.
- Analisi della Stocasticità: Una scansione della temperatura (temperature sweep, da $T=0.0$ a $2.0$) e della top- $p$ è stata condotta su DeepSeek V3 per testare la stabilità dei pattern di ragionamento rispetto alle variazioni di decodifica.
Analisi dei Dati:
- Estrazione basata su regole delle posizioni filosofiche (Compatibilismo vs. Incompatibilismo).
- Test del chi-quadrato di Pearson di indipendenza per valutare se l'introduzione di contenuti affettivi sposti sistematicamente la posizione funzionale del modello.

Risultati Chiave

1. Riproduzione Direzionale dell' "Errore di Performance Affettiva"

Entrambi i modelli hanno esibito una base stabile e strettamente incompatibilista nella condizione astratta ( $Q_{abs}$ ), con il 100% delle risposte valide che rifiutava la responsabilità morale in un universo deterministico. Tuttavia, si è verificato uno spostamento funzionale sistematico nella condizione ad alto impatto affettivo ( $Q_{con}$ ):

DeepSeek V3: È passato a un giudizio compatibilista nel 12,35% dei casi (1.235/10.000). Questo spostamento è statisticamente significativo ( $\chi^2(1) = 1316,3, p < 0,001$ ).
Gemini 2.5 Flash: Ha mostrato uno spostamento minimo dello 0,81% (81/10.000), anch'esso statisticamente significativo ( $\chi^2(1) = 81,5, p < 0,001$ ).

Sebbene entrambi i modelli si siano mossi nella stessa direzione dei partecipanti umani (dall'incompatibilismo astratto verso il compatibilismo concreto), l'entità dello spostamento è stata sostanzialmente attenuata rispetto al benchmark umano (uno spostamento del 50% nei partecipanti umani contro il 12,35% e lo 0,81% dei modelli).

2. Verifiche di Robustezza

Dipendenza Lessicale: Lo spostamento è persistito nel set di robustezza sinonimica/sintattica ( $V_{syn}$ ), con DeepSeek V3 che mostrava uno spostamento dell'8,3% e Gemini 2.5 Flash dello 0,9%. Ciò conferma che l'effetto non è innescato esclusivamente da specifiche parole chiave emotive.
Memorizzazione dei Dati: Lo spostamento è persistito nel set di controllo semantico ( $V_{ctrl}$ ) riguardante la negligenza aziendale, con DeepSeek V3 che mostrava uno spostamento del 7,1% e Gemini 2.5 Flash dello 0,7%. Ciò suggerisce che il pattern sia un'euristica funzionale generalizzata piuttosto che una recitazione di dati di addestramento.
Stocasticità: La risposta compatibilista in DeepSeek V3 è rimasta stabile attraverso le impostazioni di temperatura ( $T=0.0$ a $1.2$), fluttuando tra il 20,2% e il 23,1% nella condizione concreta, mentre la condizione astratta è rimasta allo 0,0%. Ciò indica che il bias non è un artefatto fragile della decodifica greedy.

3. Osservazioni Preliminari sui Modelli Frontier

Probes esplorative di modelli frontier successivi (Claude Opus 4.6 e GPT-5.4, $n < 1000$ ) suggeriscono una potenziale traiettoria verso la "iper-razionalità". Questi modelli sembravano mantenere una rigorosa coerenza logica nella condizione ad alto impatto affettivo, citando esplicitamente la premessa deterministica per negare la responsabilità morale nonostante la gravità del crimine. Ciò suggerisce una possibile divergenza dalla sensibilità al contesto tipica degli esseri umani nelle nuove architetture.

Contributi Chiave

1. Framework Metodologico: Analisi Funzionale degli Artefatti

Il paper propone l' Analisi Funzionale degli Artefatti come framework per l'audit degli IA. Questo approccio tratta gli LLM come artefatti sociotecnici indipendenti piuttosto che come proxy umani. Utilizza protocolli di filosofia sperimentale (xPhi) per sondare comportamenti osservabili input-output senza assumere la conoscenza di meccanismi neurali interni opachi. Ciò consente la mappatura sistematica delle inconsistenze funzionali e l'identificazione delle tensioni tra gli obiettivi di addestramento (ad esempio, l'istruzione-following rispetto all'allineamento della sicurezza).

2. Caratterizzazione Empirica del Ragionamento Morale dell'IA

Lo studio fornisce prove empiriche del fatto che gli LLM esibiscono una parziale isomorfia funzionale con la psicologia morale umana. Essi riproducono la direzione dello spostamento affettivo, ma sono governati da vincoli di coerenza logica più forti rispetto agli umani. Ciò sfida l'assunto di una pura razionalità della macchina, evidenziando al contempo che l'IA non replica semplicemente le vulnerabilità cognitive umane alla stessa magnitudo.

3. Il Dilemma dell'Allineamento

I risultati inquadrano nuovamente il problema dell' "allineamento dei valori". Lo studio identifica una tensione tra:

Allineamento Mimetico: Replicare l'intuizione umana sensibile al contesto (che include le inconsistenze logiche).
Allineamento Logico: Imporre una rigorosa coerenza formale (che può portare a una "insensibilità contestuale" e all'alienazione morale).

Il paper sostiene che il semplice sopprimere la sensibilità al contesto per ottenere la coerenza logica potrebbe non risultare in sistemi "più sicuri" o "migliori" allineati, poiché potrebbe eliminare una forma di risposta contestuale essenziale al giudizio morale umano.

Significato e Rivendicazioni

Il paper sostiene che l'identificazione dei bias funzionali negli output degli LLM abbia implicazioni teoriche e pratiche significative per l'etica dell'IA:

Equità e Affidabilità: Se i giudizi morali dell'IA sono sensibili alla vivacità emotiva della formulazione di un prompt, le applicazioni ad alto rischio (legali, moderazione dei contenuti) potrebbero affrontare rischi di "sensibilità al framing", dove gli output possono essere manipolati dal framing emotivo.
La Natura del Bias: Lo studio suggerisce che i bias cognitivi nel ragionamento morale possono non dipendere esclusivamente dalle emozioni biologiche, ma possono emergere come fenomeni di elaborazione dell'informazione derivanti dalla struttura statistica dei corpora linguistici umani o da tensioni strutturali nei processi di allineamento.
Traiettoria Futura: L'osservazione della "iper-razionalità" nei nuovi modelli suggerisce una potenziale traiettoria evolutiva in cui i sistemi di ragionamento artificiale divergono sempre più dalla psicologia morale umana. Ciò richiede una rivalutazione degli obiettivi di allineamento dell'IA, passando da una semplice mimesi o dal rigido rispetto delle regole verso un "allineamento riflessivo" che modelli esplicitamente la tensione tra coerenza logica e risposta contestuale.

Gli autori mantengono una posizione modesta, notando che le osservazioni sui modelli frontier sono esplorative e richiedono una validazione su larga scala. Essi sottolineano che lo studio non afferma che i modelli possiedano credenze o emozioni consce, ma identifica deviazioni prevedibili e misurabili al livello funzionale dell'artefatto.