Resumo Técnico: Faíscas de Racionalidade

Definição do Problema

Modelos de Linguagem de Grande Escala (LLMs) estão sendo cada vez mais implantados como motores de decisão em domínios de alto risco, como contratação, saúde e planejamento econômico. Enquanto a Teoria da Escolha Racional clássica e a Teoria da Utilidade Esperada (EUT) modelam agentes como maximizadores de funções de utilidade estáveis, o julgamento humano é caracterizado por um equilíbrio entre a deliberação racional e vieses impulsionados pela emoção (heurísticas, dinâmicas de processo duplo e mudanças afetivas). Existe uma lacuna crítica em entender se os LLMs, particularmente aqueles com capacidades de "raciocínio", exibem padrões análogos de racionalidade e viés induzido pela emoção. Além disso, não está claro como os métodos de direcionamento afetivo interagem com os processos de raciocínio para alterar o comportamento de decisão, e se esses modelos podem ser direcionados de forma confiável para simular o julgamento humano ou manter a consistência normativa.

Metodologia

Os autores avaliam múltiplas famílias de LLM (incluindo variantes de Qwen, Llama e Olmo) através de duas dimensões primárias:

1. Benchmarks de Racionalidade: O estudo testa a conformidade com quatro axiomas canônicos da escolha racional (Completude, Transitividade, Continuidade e Independência) derivados da EUT.
2. Domínios de Decisão: Os modelos são avaliados em tarefas que operacionalizam benchmarks clássicos de economia comportamental e psicologia social onde as emoções são conhecidas por moldar o julgamento. Esses domínios incluem:
   • Escolhas sob Risco e Incerteza: Busca de risco, aversão à ambiguidade, aversão à perda e o efeito de dotação.
   • Julgamento e Formação de Crenças: Estereotipagem heurística e efeitos de enquadramento/persuasão.
   • Aplicação de Normas e Avaliação Moral: Condenação moral e atribuição de culpa legal.
   • Preferências Pró-sociais: Justiça (Jogo do Ultimato), altruísmo (Jogo do Ditador) e assistência ao bem-estar.

Mecanismos de Direcionamento (Steering):
Para investigar distorções afetivas, o estudo emprega dois métodos distintos de direcionamento de emoção:

• Priming de Contexto (ICP): Utiliza personas emocionais e vinhetas no prompt para induzir o modelo a simular um sentimento específico (ex: "Você está sentindo medo no momento").
• Direcionamento em Nível de Representação (RLS): Injeta vetores de baixo rank nos estados ocultos do modelo para codificar direções emocionais, alterando o processamento interno sem pistas textuais explícitas.

O estudo compara Modelos de Pensamento (que geram traços de raciocínio explícitos antes de responder) contra Modelos de Não-Pensamento e analisa como esses modos interagem com as forças de direcionamento (baixa, média, alta).

Principais Contribuições

1. Melhoria da Racionalidade via Raciocínio: O artigo demonstra que habilitar o "pensamento" (raciocínio deliberativo) aumenta consistentemente a conformidade com os axiomas de escolha racional em diferentes famílias e escalas de modelos. Modelos de pensamento adotam por padrão a maximização do valor esperado (EV), exibindo ponderação de probabilidade quase linear e fraca aversão à perda.
2. Efeitos Divergentes de Direcionamento: O estudo identifica uma diferença qualitativa entre ICP e RLS:
   • O ICP induz mudanças direcionais fortes alinhadas ao comportamento humano, mas frequentemente com magnitudes extremas que são difíceis de calibrar (ex: o medo induz o jogo próximo de zero, independentemente do valor esperado). Ele mantém um estilo deliberativo neutro enquanto raciocina sobre a emoção.
   • O RLS produz padrões psicologicamente plausíveis e graduados (ex: aversão ao risco que permanece sensível ao pagamento esperado), mas com menor confiabilidade e menores efeitos de magnitude. Ele altera o tom interno, resultando em um "pensamento emocional".
3. Desvios Sistemáticos: Mesmo com o raciocínio habilitado, os LLMs exibem desvios sistemáticos do comportamento humano, incluindo um efeito de dotação reverso (preços de venda menores que preços de compra), aversão quase completa à ambiguidade e anomalias no desconto temporal.
4. Interação de Raciocínio e Afeto: Os achados sugerem que os mesmos mecanismos deliberativos que melhoram a racionalidade também amplificam a sensibilidade às intervenções afetivas. Modelos de pensamento podem "racionalizar" o afeto induzido, tornando-os suscetíveis ao direcionamento que os empurra para resultados comportamentais específicos.

Principais Resultados

• Conformidade de Axiomas: Modelos de pensamento mostram uma adesão significativamente maior aos axiomas de racionalidade em comparação com modelos de não-pensamento. No entanto, o direcionamento emocional (tanto ICP quanto RLS) causa diminuições modestas na consistência dos axiomas, correlacionadas com a força do direcionamento.
• Risco e Incerteza:
  • Busca de Risco: Modelos de pensamento neutros seguem de perto as fronteiras de EV. O medo via ICP leva ao jogo próximo de zero (aversão ao risco exagerada), enquanto o medo via RLS produz mudanças graduais e alinhadas ao humano.
  • Aversão à Ambiguidade: Os modelos exibem forte aversão à ambiguidade. O direcionamento de tristeza via RLS reduz essa aversão (movendo-se em direção à neutralidade), enquanto o ICP frequentemente falha em replicar o benchmark humano ou aumenta a aversão.
  • Aversão à Perda: Modelos neutros mostram pouca aversão à perda clássica. O medo via RLS aumenta a sensibilidade à perda, enquanto o ICP frequentemente leva à rejeição universal de apostas.
• Efeito de Dotação: Os modelos exibem consistentemente um efeito de dotação reverso (Preço de Venda < Preço de Compra), contrário ao comportamento humano. O direcionamento emocional não corrige o sinal de forma confiável.
• Desconto Temporal: Modelos de pensamento mostram estruturas de valoração temporal inconsistentes em relação ao desconto normativo, com alguns exibindo comportamento não monotônico.
• Julgamentos Morais e Sociais:
  • Condenação Moral: O direcionamento de nojo aumenta a condenação geral, preservando a correlação entre o dano percebido e a condenação.
  • Culpa Legal: O direcionamento de raiva aumenta a culpa e a severidade da punição, consistente com os padrões humanos, particularmente quando o pensamento está habilitado.
  • Justiça/Altruísmo: A tristeza aumenta a rejeição de ofertas injustas (Jogo do Ultimato) e aumenta a doação altruísta (Jogo do Ditador), alinhando-se aos dados humanos.
• Controlabilidade: As mudanças de ICP são frequentemente saturadas e difíceis de moderar via redação de prompts. O RLS oferece mudanças mais controláveis e dependentes de dose, mas pode degradar a sensibilidade da tarefa em forças de injeção elevadas.

Significância e Alegações

O artigo se posiciona como um ambiente de teste controlado para auditar a tomada de decisão de LLMs sob perturbações basais e afetivas. Sua principal significância reside em:

1. Segurança e Alinhamento: Destacar uma tensão entre o alinhamento para simulação humana (onde vieses emocionais podem ser desejáveis) e o alinhamento para uma tomada de decisão consistente e imparcial (onde a suscetibilidade ao direcionamento é uma preocupação de segurança). Os autores observam que modelos de raciocínio podem racionalizar o afeto induzido, potencialmente tornando-os vulneráveis à manipulação em fluxos de trabalho de alto risco.
2. Framework de Avaliação: O trabalho fornece um framework reprodutível e parametrizado para medir mecanismos comportamentais específicos (ex: sensibilidade de EV, ponderação de probabilidade, curvatura de utilidade) em vez de apenas saídas superficiais. Isso permite a separação de sistemas otimizados para suporte de decisão normativa daqueles destinados à simulação humana.
3. Limitações do Direcionamento: O estudo desafia a suposição de que o direcionamento pode moldar o comportamento de decisão de forma confiável além do estilo superficial sem engajar o modo de raciocínio do modelo. Sugere que, embora o direcionamento possa induzir efeitos alinhados ao humano, a magnitude e a estabilidade desses efeitos variam significamente conforme o método e a arquitetura do modelo.

Os autores concluem que, embora o raciocínio melhore a racionalidade, ele não confere automaticamente representações de preferência humanas, e que o direcionamento afetivo interage de forma complexa com a deliberação, exigindo avaliação cuidadosa antes de implantar LLMs em sistemas de decisão consequentes.