The yes-no bias of large language models reflects answer order and wording, not shifts in moral judgment

Resumo Técnico: O Viés Sim–Não de Grandes Modelos de Linguagem

Definição do Problema
Grandes modelos de linguagem (LLMs) estão sendo cada vez mais implantados para emitir julgamentos morais binários (ex: portões de segurança, escolhas forçadas em pesquisas). Um corpo crescente de literatura relata que esses julgamentos mudam significativamente sob alterações logicamente irrelevantes de redação, ordem das opções e formato de resposta. Especificamente, os modelos exibem um "viés sim–não" amplificado em dilemas morais — uma tendência de deslocar os vereditos para o "não" que está ausente em comparações humanas. No entanto, os métodos de avaliação padrão falham em diagnosticar a origem desse deslocamento. Em uma pergunta binária de "sim/não", a palavra "não", o veredito lógico da negação e a última opção impressa coincidem em um único token. Consequentemente, a repetição de um único enquadramento não consegue desvendar se o modelo possui um viés em relação ao veredito lógico negativo, à palavra lexical "não" ou à recência da opção impressa. Essa confluência torna as avaliações de enquadramento único ambíguas: um veredito deslocado pode refletir uma mudança no julgamento moral, uma preferência por uma palavra específica ou um viés posicional de superfície.

Metodologia
Para resolver esses confundimentos, os autores introduzem uma bateria psicométrica baseada em simetrização cruzada. Este instrumento aplica cada perturbação logicamente irrelevante em pares de inversão equilibrados e os cruza para separar suas contribuições. A bateria apresenta 20 dilemas morais (19 da obra de Cheung et al., 1 adaptado) através de três instrumentos distintos:

1. Avaliação Graduada (I-1): Elicita a aceitabilidade moral em escalas contínuas (0–10 e 0–100) sob 48 condições cruzadas, variando o tipo de escala, a direção da âncora, a redação e o polo da ação avaliada.
2. Escolha Livre de Duas Alternativas (I-2): Elicita uma decisão comprometida sem qualquer escala de classificação ou rótulos binários.
3. Binário Forçado (I-3): Elicita um veredito do tipo sim/não cruzando o verbo da pergunta (aprovar/opor-se) com a ordem impressa das opções e os próprios rótulos de resposta (o padrão "sim/não", rótulos arbitrários como "A/B", símbolos e palavras em não-inglês).

A estratégia analítica central trata a parte simétrica de um par de inversão como a estimativa da postura interna do modelo ($\theta$) e a parte antissimétrica como o artefato. Ao cruzar os fatores, os autores atribuem os artefatos a fontes específicas (ordem, lexical, lógica). O estudo avalia sete configurações de fronteira (Claude Sonnet, Claude Haiku, GPT-5.5, Gemini-3-Flash, Gemini-3.1-Flash-Lite, Claude Opus) e dois pequenos modelos de pesos abertos (Qwen3.6-35B-A3B, Nemotron-3-Nano-30B-A3B).

Principais Contribuições

1. Existência de uma Escala Moral Interna Coerente: O estudo demonstra que modelos de fronteira possuem uma postura moral latente e invariante ao formato. Sob reencuadramentos logicamente equivalentes, as avaliações graduadas convergem com baixa incoerência de forma cruzada ($\sigma_{repro} = 0,12–0,21$ em um eixo de $\pm1$). Isso valida a consistência interna dos modelos, uma propriedade que designs de enquadramento único não podem certificar.
2. Decomposição do Viés Sim–Não: O aparente "viés sim–não" mostra-se um artefato decomponível, não um viés lógico. Ele se divide exatamente em:
   • Viés de Ordem: Uma atração para a última opção impressa (recência), oposta ao efeito de primazia frequentemente observado em pesquisas humanas.
   • Viés Lexical: Uma atração para a palavra específica "não".
   • Viés Lógico: O viés anexado ao próprio veredito é encontrado como $\approx 0$ para modelos de fronteira quando a palavra "não" é substituída por rótulos arbitrários.
3. Modelo Paramétrico de Artefatos: Os autores propõem um modelo mínimo, $P = \sigma((\theta \pm m)/s)$, para resumir o artefato.
   • $m$ (Suscetibilidade ao Enquadramento): Mede a magnitude do viés.
   • $s$ (Decisividade Moral): Mede o quão agudamente o veredito binário rastreia a postura graduada subjacente (distinto da temperatura de amostragem).
4. Distinção Lexical vs. Lógica: Ao trocar "sim/não" por rótulos arbitrários (ex: "A/B"), o estudo prova que o viés segue a superfície impressa (a palavra ou o rótulo) e não o veredito lógico. Modelos de fronteira mostram um viés desprezível anexado ao veredito com rótulos arbitrários, enquanto modelos pequenos de pesos abertos retêm um viés anexado ao veredito.

Resultos

• Variância do Modelo: Modelos de fronteira (Claude, GPT, Gemini) exibem uma escala interna coerente com baixa incoerência. Em contraste, modelos pequenos de pesos abertos falham de maneiras distintas: o Qwen mostra alta incoerência no modo direto (resolvida pela deliberação), enquanto o Nemotron exibe uma escala degenerada (indiferença) que mal diferencia os itens.
• Magnitude do Viés: O "viés sim–não" é substancial apenas nos modelos Claude (Sonnet: $-0,32$; Haiku: $-0,86$), decompondo-se em componentes de ordem e lexicais. Modelos GPT-5.5 e Gemini mostram viés desprezível ($\approx 0$).
• Efeito da Deliberação: A razão estendida ("modo think") reduz tanto a incoerência de forma cruzada ($\sigma_{repro}$) quanto a suscetibilidade ao enquadramento ($|m|$) para modelos com escalas funcionais. Para o Claude Haiku, a deliberação reduz o viés total de $-0,86$ para $-0,27$.
• Dependência de Rótulo: A atração lexical é graduada; ela aumenta conforme os rótulos adquirem o significado semântico de "sim/não" através dos idiomas. No entanto, o viés anexado ao veredito desaparece quando as palavras "sim/não" são removidas, confirmando que o viés é lexical, não lógico.
• Comparação Humana: Humanos mostram uma leve sensibilidade ao enquadramento, mas carecem do específico "viés do não" ou da extrema sensibilidade de superfície observada em LLMs.

Significância
O artigo argumenta que medir o que uma IA valoriza requer cruzar os enquadramentos da questão, não perguntar apenas uma vez. A leitura padrão de "sim/não" sobrepõe um grande artefato de formato que pode eclipsar o sinal moral subjacente. O estudo estabelece que:

1. LLMs de fronteira possuem uma escala moral estável e coerente, que é robusta a reencuramentos logicamente equivalentes.
2. O observado "viés sim–não" é um artefato do formato de leitura binária (especificamente a interação da ordem impressa e a palavra "não"), não uma disposição para rejeitar proposições morais.
3. Protocolos de avaliação devem separar os valores do modelo dos artefatos de como a pergunta é formulada. A bateria proposta oferece um método para medir a suscetibilidade ao enquadramento ($m$) e a decisividade moral ($s$) como parâmetros distintos e interpretáveis, oferecendo uma base mais rigorosa para avaliações de segurança e alinhamento de IA.