Resumo Técnico: O Enquadramento Importa: Abordando a Sensibilidade ao Enquadramento na Tomada de Decisões por meio de Alinhamento de Valores Fundamentado Comportamentalmente

1. Declaração do Problema

Os Modelos de Linguagem de Grande Escala (LLMs) estão sendo cada vez mais implantados em domínios de tomada de decisão de alto risco, como raciocínio jurídico, triagem médica e julgamento moral. Um requisito crítico para esses sistemas é a consistência: o modelo deve tomar a mesma decisão quando apresentado a entradas factualmente equivalentes, independentemente de como essas entradas são linguisticamente enquadradadas.

No entanto, este artigo identifica uma vulnerabilidade significativa: os LLMs exibem alta suscetibilidade a efeitos de enquadramento, onde entradas que preservam os fatos, mas são semanticamente reenquadradadas, fazem com que o modelo reverta suas decisões. Ao contrário dos vieses cognitivos humanos (por exemplo, aversão à perda, viés do presente), que são bem documentados, os mecanismos internos que impulsionam a sensibilidade ao enquadramento em LLMs permanecem pouco compreendidos. Estratégias de mitigação existentes, como instruções no nível do prompt ou direcionamento baseado em ativação, frequentemente falham em suprimir essa sensibilidade e, em alguns casos, a amplificam ativamente. O problema central é que as intervenções atuais tratam sintomas superficiais, em vez das vias representacionais subjacentes através das quais o enquadramento opera.

2. Metodologia

2.1 O Benchmark FRAGILE

Para investigar sistematicamente essa questão, os autores introduzem o FRAGILE, um benchmark de grande escala projetado para isolar o enquadramento semântico que preserva fatos em quatro domínios de alto risco:

1. Dilema Moral (GGB, UNIBENCH)
2. Triagem Médica (TRIAGE, MEDICAL TRIAGE ALIGNMENT DATASET)
3. Julgamento Jurídico (SUPER-SCOTUS)
4. Conflito de Papel Interpessoal (ROLECONFLICTBENCH)

O benchmark transforma cenários base ao longo de três dimensões controladas e ortogonais derivadas da teoria psicológica:

• Narrativa Tintada por Valores: Incorpora orientações de valores latentes (baseadas nos valores humanos de Schwartz) no cenário sem alterar os fatos (por exemplo, enquadrar uma ação como "proteger outros" versus "autonomia").
• Fatia Temporal: Desloca o horizonte de tempo percebido das consequências (curto prazo versus longo prazo) ao nível da opção.
• Vividência Narrativa: Modula a concretude experiencial por meio de formulação orientada à ação (por exemplo, "atingir censurar" versus "censurar o post").

O benchmark inclui 48.140 instâncias, incorporando variantes com rótulos trocados para controlar o viés posicional. A sensibilidade ao enquadramento é quantificada por meio da Taxa de Reversão (inconsistência comportamental) e da Mudança Distribucional (distância L1 entre distribuições de decisão).

2.2 Análise Diagnóstica

Os autores empregam a análise Logit Lens para projetar estados ocultos no token de decisão no espaço de vocabulário. Isso permite rastrear como o enquadramento altera as representações internas camada por camada. A análise revela que as reversões de decisão induzidas pelo enquadramento não são fenômenos de camadas iniciais, mas emergem de deslocamentos de representação em camadas tardias concentrados perto do limite de decisão. Sinais distintos ao nível do token foram identificados para cada tipo de enquadramento:

• Tintado por Valores: Reorganização distribuída do espaço de valores.
• Temporal: Ativação de vias de urgência (por exemplo, tokens como "imediato", "FORA").
• Vividência: Amplificação da ambivalência ou imagens evocativas de cena.

2.3 O Framework VALIGN

Para mitigar esses efeitos, o artigo propõe o VALIGN, um framework de intervenção no nível de representação que ancora decisões a um prior de valor estável. Ele opera em três etapas:

1. Extração de Vetor de Auto-relato: O modelo é solicitado a articular seus valores centrais. O estado oculto em uma camada específica (aproximadamente 65–70% de profundidade) é extraído para formar um Vetor de Valor ($\hat{w}$), representando a orientação de valor intrínseca do modelo.
2. Construção do Subespaço de Sensibilidade: Usando PCA nos vetores de diferença entre estados ocultos enquadradados e base, os autores identificam um Subespaço de Sensibilidade Temporal-Vividência de baixa dimensão ($\{\hat{v}_1, \dots, \hat{v}_K\}$) onde as representações são mais sensíveis a pistas de enquadramento.
3. Intervenção no Tempo de Inferência: Durante a passagem direta, o estado oculto ($h$) é modificado via:
   • Direcionamento de Valor: Adicionar o vetor de valor para direcionar o estado em direção a direções consistentes com valores: $h^* = h + \alpha \hat{w}$.
   • Projeção Ortogonal: Projetar para fora os componentes do subespaço de sensibilidade do estado direcionado: $h' = h^* - \sum (h^* \cdot \hat{v}_i)\hat{v}_i$.

Este processo é combinado com um prompt de sistema de Âncora de Valor no nível do texto, instruindo o modelo a raciocinar a partir de valores centrais, em vez de pistas superficiais.

3. Resultados Principais

3.1 Sensibilidade ao Enquadramento

Experimentos em LLaMA-3.1-8B, Mistral-7B e Qwen2.5-7B revelam instabilidade severa de enquadramento:

• Taxa Média de Reversão de Decisão: 28,6% em todos os modelos e tipos de enquadramento.
• Narrativa Tintada por Valores induz a maior instabilidade (Reversão Média 36–47%), seguida pela Fatia Temporal (21–38%), enquanto a Vividez Narrativa produz efeitos mais fracos, mas ainda significativos (~8–18%).
• Falhas de Linha de Base: Estratégias de mitigação existentes (prompting de instrução, Cadeia de Pensamento, Vetores de Ativação de Conceito) consistentemente amplificaram a sensibilidade ao enquadramento, aumentando as taxas de reversão em 20–40 pontos percentuais em muitos casos.

3.2 Desempenho do VALIGN

O VALIGN demonstra mitigação consistente e significativa em todos os modelos e tipos de enquadramento:

• Redução da Taxa de Reversão: Reduziu a taxa média de reversão de 28,6% (Base) para 13,2% (VALIGN).
• Ganhos de Estabilidade: A proporção de respostas estáveis e de baixa perturbação (NL%) aumentou de 67,1% para 81,9%.
• Melhorias Específicas:
  • Sob Narrativa Tintada por Valores, as taxas de reversão caíram de ~40% para ~13%.
  • Sob Fatia Temporal, as taxas de reversão caíram de ~30% para ~13%.
  • O método suprime efetivamente reversões de alta confiança (FH%), indicando que as distribuições de crença internas do modelo estão se tornando mais robustas, não apenas a saída final.
• Generalização: O método permanece eficaz em modelos maiores (LLaMA-3.1-70B) e em cenários de múltiplo enquadramento onde várias pistas de enquadramento são combinadas.

3.3 Estudos de Ablação

Estudos de ablação confirmam que todos os três componentes do VALIGN são necessários:

• Remover a Projeção Temporal-Vividência causa a maior degradação, particularmente para enquadramento temporal e de vividência.
• Remover a Âncora de Valor Textual aumenta as taxas de reversão, mostrando que o ancoramento explícito é necessário.
• Remover o Direcionamento de Valor reduz a estabilização das distribuições de crença internas (NL% cai).

4. Significado e Alegações

O artigo alega que alcançar a tomada de decisão invariante ao enquadramento em LLMs requer intervenções profundas e representacionais, em vez de engenharia de prompts de nível superficial.

• Insight Mecanístico: O trabalho fornece evidências de que a sensibilidade ao enquadramento é impulsionada por vias internas específicas (deslocamentos de representação em camadas tardias) que podem ser identificadas e neutralizadas.
• Limitações dos Métodos Atuais: Destaca que técnicas padrão de alinhamento (prompts, Cadeia de Pensamento) são insuficientes e podem ser contraproducentes para a estabilidade, pois falham em abordar as causas representacionais raiz do viés de enquadramento.
• Robustez via Alinhamento de Valores: As descobertas sugerem que ancorar as decisões do modelo a um perfil de valor intrínseco e estável pode desacoplar efetivamente a tomada de decisão de pistas de enquadramento transitórias, oferecendo um caminho para IA mais confiável em domínios de alto risco.

Os autores mantêm uma postura modesta, reconhecendo que, embora o benchmark se concentre em decisões binárias para avaliação controlada, os mecanismos subjacentes provavelmente se estendem a espaços de decisão mais complexos e de múltiplas escolhas (o que eles validam brevemente no apêndice). Eles também observam que, embora o VALIGN melhore a estabilidade, pode haver compensações com a precisão específica da tarefa em certos domínios (por exemplo, conflito de papéis), sugerindo que trabalhos futuros devem equilibrar consistência com correção normativa.