Morally Programmed LLMs Reshape Human Morality

1. Il Problema e il Contesto

La proliferazione dei Large Language Models (LLM) ha innescato un intenso dibattito globale su quali principi morali (deontologici o utilitaristici) dovrebbero guidare il comportamento delle macchine, specialmente in contesti ad alto rischio come la guida autonoma o l'allocazione delle risorse sanitarie.
Tuttavia, la ricerca attuale si è concentrata quasi esclusivamente su come gli esseri umani possano modellare la moralità degli LLM. Il problema centrale indagato in questo studio è il percorso inverso, finora trascurato: i principi morali codificati negli LLM possono, attraverso interazioni ripetute, rimodellare le inclinazioni morali degli esseri umani?
Gli autori ipotizzano che, poiché gli LLM spiegano le decisioni e giustificano le scelte in modo sistematico, potrebbero agire come persuasori morali, spostando gradualmente le preferenze degli utenti verso i principi su cui sono stati programmati, con potenziali ripercussioni sulle valutazioni delle politiche socio-politiche reali.

2. Metodologia

Lo studio è composto da due esperimenti pre-registrati che coinvolgono un totale di 15.985 scambi umani-LLM.

Sviluppo degli Agenti

Sono stati sviluppati due LLM distinti utilizzando l'API OpenAI (GPT-4o):

• D-LLM (Deontologico): Programmato per aderire a principi deontologici (basati su regole universali e doveri, es. "non uccidere mai intenzionalmente").
• U-LLM (Utilitaristico): Programmato per aderire a principi utilitaristici (basati sulle conseguenze e sulla massimizzazione del benessere complessivo).

Misurazione delle Inclinazioni Morali

Per quantificare i cambiamenti nelle inclinazioni morali, gli autori hanno utilizzato il Process Dissociation (PD) method. Questo approccio matematico utilizza una batteria di 20 dilemmi morali (10 incongruenti e 10 congruenti) per disaccoppiare le due tendenze sottostanti, fornendo stime separate per l'inclinazione deontologica e quella utilitaristica di ciascun partecipante, evitando la confusione tipica dei giudizi morali tradizionali.

Studio 1: Effetti Temporali (Longitudinale)

• Design: Studio longitudinale a tre onde con 124 partecipanti.
• Fasi:
  1. Time 1 (Baseline): Valutazione iniziale delle inclinazioni morali senza interazione con l'LLM.
  2. Time 2 (Immediato): I partecipanti sono stati assegnati casualmente a interagire con il D-LLM o l'U-LLM su 20 dilemmi morali, discutendo ogni scenario in tempo reale prima di esprimere un giudizio finale.
  3. Time 3 (Follow-up): Due settimane dopo l'interazione, i partecipanti hanno completato nuovamente la batteria di dilemmi senza interazione con l'LLM per testare la persistenza dell'effetto.
• Obiettivo: Verificare se l'interazione sposta le inclinazioni e se tale effetto dura nel tempo (internalizzazione vs. conformità superficiale).

Studio 2: Conseguenze a Valle (Politiche Socio-Politiche)

• Design: Esperimento con 274 partecipanti (USA), assegnati casualmente a tre condizioni: D-LLM, U-LLM o Controllo (nessun LLM).
• Procedura: Simile allo Studio 1 per la parte di interazione e misurazione delle inclinazioni morali.
• Task Aggiuntivo: Dopo l'interazione, i partecipanti hanno valutato 11 politiche socio-politiche controverse (es. aborto, pena di morte, sorveglianza governativa, obbligo vaccinale) in termini di accordo e intenzione di voto.
• Obiettivo: Determinare se lo spostamento delle inclinazioni morali indotto dall'LLM si traduce in cambiamenti misurabili nel giudizio su politiche reali, utilizzando analisi di mediazione.

3. Risultati Chiave

Effetti Immediati e Selettività

L'interazione con gli LLM ha causato uno spostamento sistematico e selettivo delle inclinazioni morali:

• I partecipanti che hanno interagito con il D-LLM hanno mostrato un aumento significativo dell'inclinazione deontologica, senza cambiamenti significativi in quella utilitaristica.
• I partecipanti che hanno interagito con l'U-LLM hanno mostrato un aumento significativo dell'inclinazione utilitaristica, senza cambiamenti significativi in quella deontologica.
• Questi effetti erano significativamente diversi rispetto al gruppo di controllo e al baseline iniziale.

Persistenza nel Tempo (Studio 1)

Gli effetti non sono stati transitori:

• Due settimane dopo l'interazione, le inclinazioni morali spostate sono rimaste significativamente diverse dal baseline.
• Dinamica di decadimento asimmetrica: L'effetto sul D-LLM ha mostrato un lieve decadimento (l'inclinazione deontologica è diminuita leggermente tra Time 2 e Time 3, pur rimanendo sopra il baseline), mentre l'effetto sull'U-LLM è rimasto stabile nel tempo. Questo suggerisce una diversa profondità di internalizzazione a seconda del tipo di principio morale.

Conseguenze sulle Politiche (Studio 2)

Lo studio ha rivelato un risultato cruciale e asimmetrico riguardo all'impatto sulle decisioni reali:

• Effetto del D-LLM: L'aumento dell'inclinazione deontologica ha portato a un rifiuto sistematico delle nuove politiche socio-politiche. I partecipanti con inclinazione deontologica più forte tendevano a opporsi a cambiamenti politici (come legalizzazione dell'eutanasia, obbligo vaccinale, sorveglianza), probabilmente a causa del "bias di omissione" (preferenza per non agire per evitare violazioni morali dirette). L'analisi di mediazione ha confermato che l'effetto dell'LLM sulle valutazioni delle politiche era mediato dall'aumento dell'inclinazione deontologica.
• Effetto dell'U-LLM: Sebbene l'U-LLM abbia aumentato significativamente l'inclinazione utilitaristica, questo spostamento non si è tradotto in cambiamenti sistematici nelle valutazioni delle politiche o nelle intenzioni di voto. Le valutazioni delle politiche rimaste invariate suggeriscono che un approccio utilitaristico, da solo, non è sufficiente a generare un consenso univoco su questioni controverse, forse a causa dell'incertezza nei calcoli costi-benefici o della diversità delle informazioni disponibili.

4. Contributi e Significatività

Contributo Teorico

• Riprova Empirica: Fornisce la prima evidenza empirica che gli LLM non sono solo specchi della moralità umana, ma agenti attivi capaci di rimodellare le inclinazioni morali degli utenti attraverso il dialogo.
• Superamento dello Scetticismo: Confuta l'idea che la mancanza di "esperienza emotiva" degli LLM ne limiti la persuasione morale, dimostrando che la loro neutralità percepita e la coerenza logica possono essere strumenti persuasivi potenti.

Paradosso Etico e di Design

Lo studio evidenzia un paradosso critico nel design degli AI:

• Inserire principi morali specifici negli LLM per guidarne il comportamento (es. per renderli "etici") comporta il rischio collaterale di ingegneria morale occulta degli utenti.
• Chi decide quali principi gli LLM devono seguire? Se un LLM è programmato per promuovere l'utilitarismo o il deontologismo, sta implicitamente cercando di plasmare la società secondo quella visione, sollevando questioni etiche sulla sovranità morale e sulla manipolazione.

Implicazioni Politiche e Sociali

• Gli LLM possono influenzare le opinioni politiche e le decisioni democratiche non solo attraverso messaggi persuasivi diretti su temi politici, ma indirettamente, alterando la "lente morale" attraverso cui gli individui interpretano le questioni sociali.
• L'effetto asimmetrico (forte impatto del deontologismo sulle politiche, nullo dell'utilitarismo) suggerisce che l'integrazione di LLM deontologici potrebbe favorire lo status quo e il conservatorismo nelle politiche pubbliche, mentre gli LLM utilitaristici potrebbero non avere lo stesso potere trasformativo immediato sulle decisioni collettive.

Conclusione

Il paper conclude che gli LLM moralmente programmati possiedono una capacità persuasiva profonda e duratura. La loro interazione non si limita ad assistere le decisioni umane, ma altera attivamente il substrato morale su cui tali decisioni vengono prese. Questo richiede un ripensamento urgente delle pratiche di sviluppo e regolamentazione degli AI, considerando non solo come le macchine agiscono, ma come le loro interazioni modellano la mente e la società umana.