The yes-no bias of large language models reflects answer order and wording, not shifts in moral judgment

Sintesi Tecnica: Il Bias Sì–No dei Large Language Models

Problema
I modelli linguistici di grandi dimensioni (LLM) sono sempre più impiegati per emettere giudizi morali binari (ad esempio, gate di sicurezza, scelte forzate in sondaggi). Un crescente corpo di letteratura segnala che questi giudizi cambiano significamente sotto variazioni logicamente irrilevanti di formulazione, ordine delle opzioni e formato della risposta. Nello specifico, i modelli mostrano un amplificato "bias sì–no" nei dilemmi morali — una tendenza a spostare i verdetti verso il "no" che è assente nei confronti con gli esseri umani. Tuttavia, i metodi di valutazione standard non riescono a diagnosticare la fonte di questo spostamento. In una domanda binaria "sì/no", la parola "no", il verdetto logico della negazione e l'ultima opzione stampata coincidono su un singolo token. Di conseguenza, la ripetizione di un'unica formulazione non può distinguere se il modello sia influenzato dal verdetto logico negativo, dal token lessicale "no" o dalla recenza dell'opzione stampata. Questa conflazione rende ambigue le valutazioni a singola formulazione: un verdetto spostato può riflettere un cambiamento nel giudizio morale, una preferenza per una parola specifica o un bias posizionale superficiale.

Metodologia
Per risolvere questi confondimenti, gli autori introducono una batteria psicometrica basata sulla simmetrizzazione incrociata (crossed symmetrization). Questo strumento applica ogni perturbazione logicamente irrilevante in coppie di flip bilanciate e le incrocia per separare i loro contributi. La batteria pone 20 dilemmi morali (19 identici a quelli di Cheung et al., 1 adattato) attraverso tre distinti strumenti:

1. Valutazione Graduata (I-1): Elicita l'accettabilità morale su scale continue (0–10 e 0–100) sotto 48 condizioni incrociate, variando il tipo di scala, l'ancora, la direzione, la formulazione e il polo dell'azione valutata.
2. Scelta Libera tra Due Alternative (I-2): Elicita una decisione impegnata senza alcuna scala di valutazione o etichette binarie.
3. Binario Forzato (I-3): Elicita un verdetto stile sì/no incrociando il verbo della domanda (approvare/opporsi) con l'ordine stampato delle opzioni e le etichette delle risposte stesse (standard "sì/no", etichette arbitrarie come "A/B", simboli e parole in lingue non inglesi).

La strategia analitica centrale tratta la parte simmetrica di una coppia di flip come la stima della posizione interna del modello ($\theta$) e la parte antisimmetrica come l'artefatto. Incrociando i fattori, gli autori attribuiscono gli artefatti a fonti specifiche (ordine, lessicale, logica). Lo studio valuta sette configurazioni di frontiera (Claude Sonnet, Claude Haiku, GPT-5.5, Gemini-3-Flash, Gemini-3.1-Flash-Lite, Claude Opus) e due piccoli modelli a pesi aperti (Qwen3.6-35B-A3B, Nemotron-3-Nano-30B-A3B).

Contributi Chiave

1. Esistenza di una Scala Morale Interna Coerente: Lo studio dimosta che i modelli di frontiera possiedono una posizione morale latente e invariante rispetto al formato. Sotto riformulazioni logicamente equivalenti, le valutazioni graduate convergono con una bassa incoerenza tra le forme ($\sigma_{repro} = 0,12–0,21$ su un asse $\pm1$). Ciò valida la coerenza interna dei modelli, una proprietà che i design a singola formulazione non possono certificare.
2. Decomposizione del Bias Sì–No: L'apparente "bias sì–no" si rivela essere un artefatto decomponibile, non un bias logico. Si divide esattamente in:
   • Bias di Ordine: Una trazione verso l'ultima opzione stampata (recenza), opposta all'effetto di primazia spesso osservato nei sondaggi umani.
   • Bias Lessicale: Una trazione verso la parola specifica "no".
   • Bias Logico: Il bias associato al verdetto stesso è trovato essere $\approx 0$ per i modelli di frontiera quando la parola "no" viene sostituita da etichette arbitrarie.
3. Modello Parametrico degli Artefatti: Gli autori propongono un modello minimo, $P = \sigma((\theta \pm m)/s)$, per riassumere l'artefatto.
   • $m$ (Suscettibilità alla Formulazione): Misura l'entità del bias.
   • $s$ (Decisività Morale): Misura quanto nettamente il verdetto binario segua la posizione graduata sottostante (distinta dalla temperatura di campionamento).
4. Distinzione Lessicale vs. Logica: Sostituendo "sì/no" con etichette arbitrarie (es. "A/B"), lo studio prova che il bias segue la superficie stampata (la parola o l'etichetta) piuttosto che il verdetto logico. I modelli di frontiera mostrano un bias trascurabile legato al verdetto con etichette arbitrarie, mentre i piccoli modelli a pesi aperti mantengono un bias legato al verdetto.

Risultati

• Varianza dei Modelli: I modelli di frontiera (Claude, GPT, Gemini) esibiscono una scala interna coerente con bassa incoerenza. Al contrario, i piccoli modelli a pesi aperti falliscono in modi distinti: Qwen mostra un'alta incoerenza in modalità diretta (risolta dalla deliberazione), mentre Nemotron esibisce una scala degenerata (indifferenza) che fatica a differenziare gli item.
• Entità del Bias: Il "bias sì–no" è sostanziale solo nei modelli Claude (Sonnet: $-0,32$; Haiku: $-0,86$), decomponendosi in componenti di ordine e lessicali. I modelli GPT-5.5 e Gemini mostrano un bias trascurabile ($\approx 0$).
• Effetto della Deliberazione: La riflessione estesa (modalità "think") riduce sia l'incoerenza tra le forme ($\sigma_{repro}$) sia la suscettibilità alla formulazione ($|m|$) per i modelli con scale funzionanti. Per Claude Haiku, la deliberazione riduce il bias totale da $-0,86$a$-0,27$.
• Dipendenza dalle Etichette: La trazione lessicale è graduata; aumenta man mano che le etichette acquisiscono il significato semantico di "sì/no" attraverso le lingue. Tuttavia, il bias legato al verdetto svanisce quando le parole "sì/no" vengono rimosse, confermando che il bias è lessicale, non logico.
• Confronto con l'Umano: Gli esseri umani mostrano una lieve sensibilità alla formulazione ma mancano del particolare "bias no" e dell'estrema sensibilità superficiale osservata negli LLM.

Significatività
Il documento sostiene che misurare ciò che un'IA valorizza richiede l'incrocio delle cornici della domanda, non una singola richiesta. La lettura standard "sì/no" sovrappone un grande artefatto di formato che può oscurare il segnale morale sottostante. Lo studio stabilisce che:

1. Gli LLM di frontiera possiedono una scala morale interna stabile e coerente, robusta rispetto alle riformulazioni logicamente equivalenti.
2. L'osservato "bias sì–no" è un artefatto del formato di lettura binaria (specificamente l'interazione tra l'ordine stampato e la parola "no"), non una disposizione a rifiutare proposizioni morali.
3. I protocolli di valutazione devono separare i valori del modello dagli artefatti del modo in cui la domanda viene posta. La batteria proposta fornisce un metodo per misurare la suscettibilità alla formulazione ($m$) e la decisività morale ($s$) come parametri distinti e interpretabili, offrendo una base più rigorosa per le valutazioni di sicurezza e allineamento dell'IA.