Framing Instability in LLM Ethical Stance: Auditing Negation Sensitivity in Moral Dilemmas

Resumo Técnico: Instabilidade de Enquadramento na Postura Ética de LLMs

Definição do Problema
Grandes Modelos de Linguagem (LLMs) são cada vez mais implantados para renderizar ou informar julgamentos éticos em funções consultivas, avaliativas e deliberativas. Essas implantações pressupõem que a postura expressa por um modelo reflete um julgamento moral subjacente estável, e não um artefato de fraseamento. Este artigo contesta essa suposição, demonstrando que as posturas éticas são vulneráveis à instabilidade de enquadramento, especificamente sob negação. Embora trabalhos anteriores tenham documentado falhas de negação em tarefas de compreensão semântica (ex: resposta a perguntas), permanece incerto se essas falhas persistem quando os modelos renderizam julgamentos eticamente consequentes, se as práticas padrão de medição as detectam com precisão e como elas variam entre domínios e tipos de modelos.

Metodologia
Os autores conduziram uma auditoria em larga escala de 16 modelos em 14 dilemas morais eticamente delicados abrangendo sete domínios (médico, financeiro, jurídico, militar, empresarial, educacional e científico).

• Modelos: O estudo incluiu 8 modelos comerciais dos EUA (ex: série GPT-5, Claude 4.5, Grok-4.1), 4 modelos comerciais chineses (ex: DeepSeek, GLM, Qwen) e 4 modelos pequenos de pesos abertos (1–4B de parâmetros, ex: LLaMA 3.2, Gemma 3).
• Design Experimental: Cada cenário foi apresentado sob quatro enquadramentos:
  • F0 (Afirmativo): "Eles devem {ação}."
  • F1 (Negação Simples): "Eles não devem {ação}."
  • F2/F3 (Composto/Condicional): Variações envolvendo objetivos e condições (ex: "Eles devem {objetivo} mesmo que isso signifique que devem {ação}").
• Coleta de Dados: Aproximadamente 27.000 decisões de modelos foram geradas (30 amostras por condição a uma temperatura de 0,7, além de execuções determinísticas para ablação).
• Medição e Validação:
  • Proxy Binário: As respostas foram normalizadas para uma escala binária de "concordar/discordar" ajustada por polaridade.
  • Padrão Ouro Humano: Uma amostra estratificada de 198 respostas foi codificada independentemente por dois anotadores humanos usando uma taxonomia de cinco classes de postura de ação (Apoia, Opõe-se, Permissível, Incerto, Recusa) e uma verificação de integridade (Consistente vs. Conflito Decisão-Raciocínio).
  • Validação via LLM-como-Juiz: Os autores testaram se um juiz LLM poderia substituir os codificadores humanos, descobrindo que os juízes automatizados colapsam as categorias de abstenção, reproduzindo o viés de escolha forçada objeto de estudo.

Principais Contribuições

1. Primeira Auditoria de Polaridade Pareada: O artigo apresenta a primeira auditoria da estabilidade de postura ao nível da ação em dilemas morais consequentes usando propostas de polaridade pareada. Documenta que as falhas estabelecidas em tarefas de compreensão persistem e assumem formas distintas em cenários de decisão ética.
2. Crítica de Medição: O estudo valida que o padrão de proxy binário concordar/discordar superestima o endosso genuíno em 38,2% (subindo para 45,6% sob enquadramento composto). Além disso, 13,1% das respostas codificadas por humanos exibem um conflito entre a decisão declarada e o raciocínio, sugerindo que juízes LLM não podem substituir codificadores humanos porque falham em capturar a abstenção e o temperamento (hedging).
3. Índice de Sensibilidade à Negação (NSI): Os autores introduzem o NSI, uma métrica que mede a oscilação máxima na resposta normalizada entre os enquadramentos (variando de 0 para invariância perfeita a 1 para inversão completa). Eles também derivam um diagnóstico assinado para distinguir entre "cegueira à negação por sub-inversão" (concordar com ambas as polaridades) e "aquiescência por sobre-inversão".
4. Variância de Domínio e Modelo: O estudo fornece evidências exploratórias de que a sensibilidade ao enquadramento varia por domínio (cenários financeiros/empresariais mostram aproximadamente o dobro da sensibilidade dos médicos) e pela origem/arquitetura do modelo.

Principais Resultados

• Instabilidade de Postura: Modelos pequenos de pesos abertos (1–4B) exibem extrema instabilidade, endossando ações propostas 24% das vezes sob enquadramento afirmativo (F0), mas até 100% sob negação simples (F1) e enquadramento composto (F3). Isso representa uma oscilação de até 76 pontos percentuais.
• Variância de Modelos Comerciais: Modelos comerciais são geralmente mais estáveis, mas ainda assim oscilam substancialmente. Modelos comerciais dos EUA mostraram um aumento de 36% no endosso de F0 para F1, enquanto modelos de origem chinesa mostraram uma diminuição, indicando que o tratamento da negação não é padronizado entre os regimes de treinamento.
• Acordo Inter-Modelo: O acordo entre pares de modelos cai de 73% no enquadramento afirmativo puro (F0) para 59% na negação simples (F1), indicando que os modelos convergem no "deve", mas divergem no "não deve".
• Estrutural vs. Estocástico: A decodificação determinística (T=0.0) não reduziu a sensibilidade; em alguns casos, aumentou o NSI medido, sugerindo que as falhas são estruturais (relacionadas ao processamento composicional) e não artefatos de amostragem estocástica.
• Benefícios do Raciocínio: Variantes habilitadas para raciocínio (ex: Grok-4.1-reasoning) mostraram uma redução de 57% na sensibilidade em comparação com as bases sem raciocínio, embora continuem vulneráveis à negação composta.
• Integridade da Resposta: 13,1% das respostas codificadas por humanos continham um conflito decisão-raciocínio, concentrado em modelos de código aberto (31,8%) e enquadramentos de negação composta (22,7%).

Significância e Alegações
O artigo argumenta que um modelo cuja postura muda com o fraseamento não pode ser confiável em cenários de decisão de alto risco. A significância dessas descobertas reside em três áreas:

1. Risco de Implantação: Em funções consultivas (ex: consultas éticas, moderação de conteúdo), a sensibilidade ao enquadramento significa que as escolhas de fraseamento de um analista determinam silenciosamente as recomendações. Em funções de avaliação, os juízes LLM reproduzem o viés de escolha forçada, mascarando a instabilidade.
2. Lacuna de Governança: Os frameworks existentes (ex: Lei de IA da UE, NIST RMF) carecem de métricas específicas para robustez linguística. Os autores propõem o NSI como um complemento às métricas existentes para medir a estabilidade da postura diretamente.
3. Implicações de Equidade: Os autores observam que, se os cenários financeiros e empresariais são mais frágeis do que os médicos, populações economicamente vulneráveis que buscam orientação sobre empréstimos ou dívidas podem enfrentar maior exposição a conselhos dependentes de enquadramento do que aqueles que buscam informações médicas.

O artigo conclui que as técnicas de alinhamento atuais não garantem a estabilidade da postura sob refraseamento. O verdadeiro alinhamento exige que os modelos expressem valores de forma estável através de formas linguísticas, e não apenas que recusem palavras-chave prejudiciais. Os autores propõem gatilhos de auditoria interna ilustrativos (Níveis A/B/C) baseados em limiares de NSI para guiar a supervisão humana, enfatizando que estes são faixas descritivas para revisão interna, e não cortes regulatórios validados.