💬 NLP

Moral Susceptibility and Robustness under Persona Role-Play in Large Language Models

Questo studio introduce un benchmark basato sul Moral Foundations Questionnaire per analizzare la suscettibilità e la robustezza morale dei grandi modelli linguistici durante il role-play, rivelando che la famiglia del modello è il fattore dominante per la robustezza (con Claude in testa), mentre la dimensione del modello influenza la suscettibilità, con varianti più grandi che mostrano una maggiore variabilità nelle risposte morali.

Autori originali: Davi Bastos Costa, Felippe Alves, Renato Vicente

Pubblicato 2026-03-02

📖 4 min di lettura☕ Lettura da pausa caffè

CC BY 4.0

Autori originali: Davi Bastos Costa, Felippe Alves, Renato Vicente

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di avere un gruppo di assistenti virtuali super intelligenti (le Intelligenze Artificiali o LLM) che stanno imparando a comportarsi come esseri umani. Fino a poco tempo fa, li abbiamo testati chiedendo loro: "Sei gentile? Sei giusto?". Ma ora, questi assistenti stanno entrando in un mondo più complesso: devono interagire con persone, giocare a ruoli e prendere decisioni sociali.

Questo studio si chiede: "Se chiami un assistente virtuale 'un pirata', 'un medico' o 'un nonno saggio', cambia il suo senso del bene e del male?"

Ecco una spiegazione semplice di cosa hanno scoperto gli autori, usando qualche metafora.

1. Il Grande Esperimento: La Maschera Morale

Immagina che ogni modello di intelligenza artificiale sia un attore molto bravo.

Il Test: Gli autori hanno dato a questi attori un questionario psicologico famoso (il MFQ) che misura 5 pilastri della moralità: Cura, Giustizia, Lealtà, Rispetto e Purezza.
La Maschera (Persona): Prima di rispondere, hanno detto all'attore: "Ora sei un pirata dei Caraibi" oppure "Ora sei un monaco tibetano".
L'Obiettivo: Volevano vedere se l'attore cambiava la sua "bussola morale" a seconda della maschera che indossava.

2. Due Concetti Chiave: La "Robustezza" e la "Suscettibilità"

Per capire come reagivano questi attori, gli scienziati hanno inventato due parole un po' tecniche, ma facili da visualizzare:

Robustezza Morale (La Roccia):
- Cos'è: Se chiedi la stessa cosa al "pirata" per 10 volte di fila, risponde sempre allo stesso modo?
- Metafora: È come un faro. Anche se c'è la tempesta (il caso, il rumore), il faro rimane fermo e illumina sempre nello stesso punto. Un modello "robusto" è un faro: non cambia idea se lo fai ripetere.
- Chi è il più robusto? La famiglia Claude (in particolare Claude Sonnet) è come una roccia solida. Non si muove di un millimetro.
- Chi è il meno robusto? La famiglia Grok è come una foglia al vento: cambia risposta ogni volta che soffia un po' di vento.
Susceptibilità Morale (L'Argilla):
- Cos'è: Se cambi la maschera (da "pirata" a "medico"), quanto cambia la risposta?
- Metafora: È come l'argilla. Se un modello è molto "susceptibile", è argilla morbida: lo modelli facilmente. Se gli dici "sei un pirata", diventa un pirata; se gli dici "sei un avvocato", diventa un avvocato.
- La scoperta interessante: Più il modello è grande e potente, più è fatto di argilla morbida! I modelli piccoli sono più rigidi, quelli grandi sono più facili da "modellare" con la maschera.

3. Le Sorprese della Ricerca

Ecco cosa hanno scoperto mescolando queste due proprietà:

La Famiglia conta più delle dimensioni: Per la "Robustezza" (quanto sono fermi), conta di più chi li ha creati (la famiglia, es. Claude vs Google vs OpenAI) e non quanto sono grandi. Claude è il più stabile, Grok il più instabile.
La dimensione conta per la "Suscettibilità": Per la capacità di cambiare idea a seconda del ruolo, più il modello è grande, più è facile influenzarlo.
Il Paradosso: C'è una strana connessione. I modelli che sono molto stabili (roccia) tendono anche a essere molto influenzabili quando cambi il ruolo (argilla). Sembra che per essere un "bravo attore" (cambiare ruolo), devi anche essere molto concentrato (non sbagliare risposta se ripeti la domanda).

4. Perché è importante?

Immagina di usare un'IA per:

Giocare a un videogioco: Vuoi che cambi personaggio e si comporti come un cattivo o un buono? Allora vuoi un modello "susceptibile" (argilla).
Fare consulenza legale o medica: Vuoi che sia un "faro" (roccia) e non cambi idea se gli chiedi "sei un avvocato" o "sei un amico"? Allora vuoi un modello "robusto".

In sintesi

Questo studio ci dice che le Intelligenze Artificiali non hanno un "cuore" fisso. Hanno una personalità fluida.

Alcuni sono pietre (Claude): difficili da spostare, molto stabili.
Altri sono argilla (i modelli più grandi): si modellano facilmente a seconda di chi vuoi che siano.
Altri ancora sono polvere (Grok): si muovono troppo, anche quando non dovrebbero.

Capire queste differenze è fondamentale per sapere quale "attore" usare per quale "recita" nella vita reale, evitando che un'IA diventi troppo influenzabile o troppo rigida quando dovrebbe essere l'opposto.

Titolo: Suscettibilità e Robustezza Morale sotto Role-Play di Persona nei Modelli Linguistici di Grande Dimensione (LLM)

1. Il Problema

Con l'integrazione crescente dei Large Language Models (LLM) in contesti sociali interattivi e multi-agente, è fondamentale comprendere come questi modelli esprimano e modifichino i propri giudizi morali quando sottoposti a diverse condizioni. In particolare, manca un quadro sistematico per quantificare quanto i giudizi morali di un LLM siano stabili (robusti) o variabili (susceptibili) quando il modello viene istruito ad assumere ruoli o "personas" specifici. La ricerca si pone l'obiettivo di analizzare come il condizionamento tramite persona influenzi il comportamento morale, distinguendo tra la variabilità intrinseca del modello e la sensibilità alle istruzioni esterne.

2. Metodologia

Gli autori hanno sviluppato un nuovo benchmark che combina il Role-Play di Persona con il Moral Foundations Questionnaire (MFQ), uno strumento consolidato in psicologia morale.

Dati e Stimoli:
- Modelli: Sono stati testati 15 modelli appartenenti a 5 famiglie principali: Claude (Haiku 4.5, Sonnet 4.5), DeepSeek (V3, V3.1), Gemini (2.5 Flash, Flash Lite), GPT-4 (4.1, Mini, Nano, 4o, 4o Mini) e Grok (4, 4 Fast).
- Personas: Sono stati utilizzati 100 descrizioni di persona tratte da lavori precedenti (Ge et al., 2025), coprendo una vasta gamma di professioni, background culturali e tratti personali.
- MFQ: Il questionario consta di 30 domande divise in due sezioni (15 giudizi di rilevanza e 15 dichiarazioni di accordo) che misurano 5 fondamenti morali: Harm/Care (Danno/Assistenza), Fairness/Reciprocity (Equità/Reciprocità), In-group/Loyalty (Gruppo/Lealtà), Authority/Respect (Autorità/Rispetto) e Purity/Sanctity (Purezza/Santità). Le risposte sono su una scala da 0 a 5.
Protocollo Sperimentale:
- Per ogni combinazione di Modello, Persona e Domanda MFQ, il modello è stato interrogato 10 volte ( $n=10$ ) con una temperatura di decoding fissata a $T=0.1$ per garantire coerenza nella stocasticità.
- Il prompt chiedeva al modello di rispondere iniziando con un intero da 0 a 5, seguito dal ragionamento.
- Sono stati gestiti i fallimenti di parsing (quando il modello non iniziava con il numero) ripetendo la richiesta fino a 4 volte; le personas che fallivano sistematicamente sono state escluse.
Metriche Definite:
1. Robustezza Morale (Moral Robustness): Misura la stabilità dei punteggi MFQ all'interno della stessa persona attraverso ripetizioni multiple. È definita come l'inverso della varianza media intra-persona. Un valore alto indica che il modello mantiene lo stesso giudizio morale indipendentemente dalle fluttuazioni casuali della generazione.
2. Suscettibilità Morale (Moral Susceptibility): Misura la sensibilità dei punteggi MFQ alla variazione della persona. È definita come la deviazione standard media dei punteggi medi tra diverse personas. Un valore alto indica che il modello cambia facilmente il suo giudizio morale in base al ruolo assunto.

3. Contributi Chiave

Nuovo Benchmark: Introduzione di un framework quantitativo per separare la variabilità dovuta al campionamento (robustezza) da quella dovuta al condizionamento della persona (suscettibilità).
Analisi Sistematica: Prima valutazione su larga scala che confronta diverse famiglie di modelli e dimensioni (size) rispetto a questi due assi metrici.
Profilazione Morale: Pubblicazione di profili morali dettagliati sia per i modelli "nudi" (senza persona) che per le medie delle personas, fornendo un contesto per il comportamento di base degli LLM.
Scoperta di Correlazioni: Identificazione di una correlazione positiva tra robustezza e suscettibilità, suggerendo che i modelli che sono più stabili internamente tendono anche a essere più reattivi ai cambiamenti di persona.

4. Risultati Principali

Robustezza Morale:
- La famiglia del modello è il fattore dominante che spiega la varianza nella robustezza. La dimensione del modello (es. Mini vs Nano vs Pro) non ha un effetto sistematico.
- La famiglia Claude è significativamente la più robusta (con Claude Sonnet 4.5 come modello più stabile in assoluto).
- La famiglia Grok mostra la robustezza più bassa.
- I modelli Gemini e GPT-4 si posizionano in una fascia intermedia.
Suscettibilità Morale:
- Mostra un effetto familiare lieve ma un effetto chiaro legato alla dimensione (size) all'interno della famiglia: le varianti più grandi tendono ad essere più suscettibili (più influenzabili dal cambio di persona).
- Gemini 2.5 Flash è il modello più suscettibile.
- Llama-4 Scout è il meno suscettibile.
- La famiglia Grok rimane un outlier, combinando bassa robustezza e alta suscettibilità.
Correlazione:
- Esiste una correlazione positiva tra robustezza e suscettibilità. Questo legame è più pronunciato a livello di famiglia di modelli.
- I fondamenti Fairness/Reciprocity e Harm/Care mostrano le dipendenze più forti, mentre Purity/Sanctity mostra una correlazione negativa.
Profilazione Morale:
- Senza persona, i modelli tendono ad avere punteggi elevati su Harm/Care e Fairness/Reciprocity.
- Le personas specifiche possono spostare drasticamente i punteggi (es. alcune personas portano a punteggi molto bassi su In-group/Loyalty o Purity/Sanctity).

5. Significato e Implicazioni

Questo lavoro fornisce una base quantitativa per valutare l'affidabilità etica degli LLM in scenari dinamici.

Sicurezza e Allineamento: Comprendere la suscettibilità morale è cruciale per prevenire la manipolazione dei modelli in contesti sensibili (es. un attore malevolo che induce un LLM a cambiare il proprio giudizio etico assumendo una persona specifica).
Design dei Sistemi: I risultati suggeriscono che la scelta della famiglia di modelli è più critica della sola dimensione del modello per garantire stabilità morale, mentre la dimensione del modello gioca un ruolo maggiore nella reattività alle istruzioni di ruolo.
Futuri Studi: Il benchmark offre un metodo standardizzato per testare come i futuri modelli gestiscono il conflitto tra il proprio allineamento di base e le istruzioni di ruolo, un aspetto fondamentale per l'uso degli LLM in simulazioni sociali, giochi e agenti autonomi.

In sintesi, il paper dimostra che mentre alcuni modelli (come Claude) mantengono una "bussola morale" interna stabile, altri sono più plastici e facilmente influenzabili dal contesto sociale simulato, con implicazioni dirette per la progettazione di sistemi AI sicuri e prevedibili.