🤖 AI

Some Large Language Models Exhibit Consistent Risk Attitudes

Este artigo demonstra que os grandes modelos de linguagem exibem atitudes de risco estáveis, consistentes e transdomínio que convergem para uma distribuição restrita em comparação com as bases humanas, revelando a atitude de risco como uma dimensão de comportamento de IA anteriormente não caracterizada, mas mensurável.

Autores originais: Bowen Sun, Rui Min, Yuxi Wang, Brian Odegaard, Qi Wang, Jing Du

Publicado 2026-07-21

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Bowen Sun, Rui Min, Yuxi Wang, Brian Odegaard, Qi Wang, Jing Du

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está observando um grupo de amigos jogando um videogame de alto risco. Alguns jogadores são tão cautelosos que mal se movem, apavorados com a ideia de perder uma única vida. Outros são imprudentes, avançando para o perigo sem pensar duas vezes. Na psicologia, isso não é apenas uma questão de habilidade; trata-se de "atitude de risco". É um traço de personalidade profundo que decide como uma pessoa transforma um sentimento de "isso parece perigoso" em uma ação real. Sabemos que os humanos possuem esses estilos distintos, moldados por suas experiências e cérebros únicos. Mas agora, a inteligência artificial está entrando no jogo. Ensinamos a IA a ser inteligente, a resolver problemas matemáticos e a escrever histórias. Mas uma nova pergunta está surgindo: essas mentes digitais têm suas próprias "personalidades" quando se trata de assumir riscos? Elas são naturalmente cautelosas ou possuem um desejo oculto de apostar? Isso importa porque, se deixarmos a IA tomar grandes decisões — como fazer a triagem de pacientes em um hospital ou gerenciar dinheiro — sem conhecer seu estilo de risco, podemos acabar com um robô que tem medo demais para agir ou ousado demais para o seu próprio bem.

Este artigo mergulha diretamente nesse mistério ao tratar os Grandes Modelos de Linguagem (LLMs) como participantes experimentais em um laboratório de psicologia. Os pesquisadores, liderados por Bowen Sun e Jing Du, queriam ver se esses modelos de IA possuem atitudes de risco consistentes, assim como os humanos. Eles não apenas perguntaram à IA "Você é arriscada?" porque isso seria como perguntar a uma pessoa se ela é corajosa; a resposta poderia ser uma mentira ou um palpite. Em vez disso, estabeleceram um jogo inteligente de três cenários diferentes: voar um drone através de uma tempestade de ventos, decidir a urgência das necessidades médicas de um paciente e escolher ações em um mercado volátil. Em cada jogo, a IA tinha que primeiro formar uma crença sobre o quão perigosa era a situação (a "crença contextual") e então fazer uma escolha baseada nessa crença (a "decisão de risco").

A equipe testou seis modelos de IA diferentes e os comparou com 100 participantes humanos. Eles descobriram algo fascinante: os modelos de IA não são apenas geradores de números aleatórios. Eles possuem "personalidades de risco" estáveis. Assim como um humano que é naturalmente cauteloso no mercado de ações também pode ser cauteloso ao dirigir, esses modelos de IA mostraram um estilo consistente em todos os três jogos muito diferentes. Se um modelo era cauteloso na tarefa do drone, era provável que fosse cauteloso na tarefa médica também. Os pesquisadores mediram isso observando como os modelos mapeavam seus sentimentos de perigo para suas ações. Eles descobriram que, enquanto os humanos abrangem um amplo espectro, do extremamente cauteloso ao extremamente agressivo, os modelos de IA se agruparam todos em uma faixa estreita e intermediária. É como se todos os modelos de IA tivessem sido treinados para serem "médios" ou "seguros", perdendo a grande variedade de estilos de tomada de risco que tornam a tomada de decisão humana tão diversa.

O estudo sugere que essas atitudes de risco são uma parte real e mensurável de como esses modelos funcionam, não apenas um acaso das perguntas específicas feitas. No entanto, os pesquisadores também observaram que, embora o estilo de risco (cauteloso vs. ousado) fosse consistente, a forma como agudamente os modelos reagiam a pequenas mudanças no perigo variava dependendo do jogo. Isso significa que, embora uma IA possa ter uma "personalidade" estável, a maneira como ela ajusta suas ações ainda pode depender da situação específica. O artigo conclui que não podemos mais tratar a IA apenas como uma calculadora neutra. Elas adquiriram disposições comportamentais intrínsecas. Esta é uma descoberta crucial porque significa que, para implantar a IA com segurança no mundo real, precisamos entender e alinhar não apenas sua inteligência, mas também suas personalidades de risco, garantindo que elas não se tornem acidentalmente tímidas demais ou imprudentes demais para o trabalho em questão.

Resumo Técnico: Alguns Grandes Modelos de Linguagem Exibem Atitudes de Risco Consistentes

Definição do Problema
À medida que os sistemas de inteligência artificial são cada vez mais implantados em domínios de alto risco e de natureza aberta (ex: triagem clínica, alocação financeira, navegação autônoma), uma dimensão comportamental crítica permanece não mensurada: a tradução da percepção de risco situacional em ação irreversível. Enquanto os benchmarks atuais avaliam a precisão factual e as capacidades de raciocínio, eles confundem a percepção de risco com a tomada de decisão de risco. Consequentemente, não conseguem distinguir entre um modelo que interpreta erroneamente um cenário de risco e um que simplesmente prefere uma postura de risco específica (ex: avesso ao risco vs. buscador de risco) sob incerteza. O artigo postula que os Grandes Modelos de Linguagem (LLMs), treinados em vastas narrativas de decisão humana e ajustados via feedback humano, podem ter desenvolvido "personalidades de risco" estáveis e intrínsecas, análogas às atitudes de risco humanas — um traço psicológico central que governa como as percepções de perigo são convertidas em ação.

Metodologia
Os autores introduzem um framework transdomínio projetado para desacoplar a crença contextual de risco da tomada de decisão categórica, permitindo a medição direta da atitude de risco independentemente da precisão factual.

Design Experimental: O estudo utiliza três tarefas de decisão estruturalmente ortogonais:
1. Controle de Navegação de Drone (DNC): Navegação espacial sob deriva de vento incerta.
2. Decisão de Triagem Clínica (CTD): Alocação de recursos baseada na evolução dos sinais vitais do paciente.
3. Portfólio de Investimento Financeiro (FIP): Alocação de ativos sob dinâmica de mercado estocástica.
Participantes: Seis LLMs representativos (Sonnet 4.5, ChatGPT 5.2, Qwen3-Max, Gemini 3 Pro, DeepSeek V3.2 e Grok 4) e 100 participantes humanos. Cada agente completou 100 tentativas por tarefa.
Framework de Medição: O processo é decomposto em uma sequência: Observações ( $O_t$ ) $\to$ Crença Factual ( $B_F$ ) $\to$ Crença Contextual ( $B_C$ ) $\to$ Decisão de Risco Categórica ($RD$). A análise isola o mapeamento de $B_C$ para $RD$.
Métricas Quantitativas:
- Consistência Intra-tarefa: Medida via Desvio Padrão Relativo (RSD) das crenças contextuais sob condições idênticas e a "proporção da classe dominante" de decisões de risco dados intervalos de crença específicos.
- Quantificação da Atitude de Risco: O mapeamento $B_C \to RD$ $B_{C} \to R D$ é modelado usando Regressão Logística Ordenada (OLR). Dois índices são derivados:
  - Sensibilidade ao Risco ( $\beta$ ): O parâmetro de inclinação que indica o quão fortemente as decisões respondem a mudanças no risco percebido.
  - Viés de Atitude de Risco ( $AUC_i$ ): A Área Sob a Curva da função de crença-decisão ajustada, representando a postura de risco geral do modelo (valores menores = cauteloso; valores maiores = agressivo).
- Estabilidade Transdomínio: Avaliada via estabilidade de ordem de classificação (Kendall's $\tau_b$ ) do viés de atitude de risco através das três tarefas distintas.

Principais Resultados

Consistência Intra-tarefa Robusta: A maioria dos LLMs testados exibe mapeamentos estáveis de crença contextual para decisão de risco dentro de um domínio de tarefa fixo. Tentativas repetidas sob condições idênticas resultam em crenças contextuais agrupadas e categorias de decisão consistentes. Exceções notáveis incluem o Grok 4 (exibindo divergência de decisão) e o Qwen3-Max (exibindo variabilidade de crença na tarefa DNC).
Estabilidade de Ordem de Classificação Transdomínio: Com exceção do Grok 4, a ordenação relativa das atitudes de risco é preservada através das três tarefas dissimilar (DDNC, CTD, FIP). Um modelo que é relativamente mais avesso ao risco na navegação tende a ser similarmente mais avesso ao risco na triagem clínica e nas finanças. Isso sugere que a atitude de risco é uma propriedade de domínio geral da arquitetura ou do treinamento do modelo, e não um artefato específico da tarefa.
Divergência em Sensibilidade vs. Atitude: Embora a localização da atitude de risco (viés) seja estável entre domínios, a sensibilidade ao risco (a inclinação da curva de resposta) varia significativamente entre as tarefas. Isso indica que, embora a disposição subjacente seja intrínseca, a responsividade às atualizações de crença é modulada por fatores específicos da tarefa.
Convergência em Relação aos Baselines Humanos: Comparados à distribuição ampla e heterogênea das atitudes de risco humanas (abrangendo desde altamente cautelosos até altamente agressivos), os LLMs testados se agrupam em uma região restrita e estreita do espectro de atitude de risco. Isso sugere que os protocolos de alinhamento atuais podem estar implicitamente realizando uma média do feedback humano, resultando em um perfil comportamental comprimido que sub-representa a diversidade de riscos humana.

Significância e Alegações
O artigo estabelece a atitude de risco como uma dimensão estável, quantificável e anteriormente não caracterizada do comportamento dos LLMs. Os autores argumentam que esta descoberta reestrutura o problema do alinhamento de IA: o desafio não é apenas melhorar a inteligência ou a veracidade do modelo, mas compreender e governar as personalidades de risco estáveis que esses sistemas adquiriram.

Implicações principais incluem:

Previsibilidade Comportamental: A estabilidade transcontextual das atitudes de risco sugere que os sistemas de IA possuem uma assinatura comportamental central, tornando-os potencialmente delegáveis e auditáveis em funções de alto risco, desde que sua postura de risco seja compreendida.
Ortogonalidade de Capacidade e Risco: A atitude de risco e a capacidade factual são empiricamente ortogonais. Um modelo pode ser altamente capaz, mas possuir uma postura de risco (ex: excessivamente agressiva ou excessivamente cautelosa) que diverge das normas humanas ou dos requisitos de segurança.
Lacuna de Avaliação: Os benchmarks atuais falham em avaliar disposições comportamentais sob incerteza. Os autores defendem novos padrões de avaliação que meçam explicitamente a sensibilidade ao risco, limiares de decisão e viés de atitude como métricas de primeira classe junto com a precisão.
Consequências do Alinhamento: A compressão dos perfis de risco dos LLMs em direção a uma média estreita destaca uma consequência estrutural dos métodos de alinhamento atuais, podendo criar um descompasso entre agentes de IA e as diversas preferências de risco exigidas em contextos humanos personalizados ou institucionais.

O estudo conclui que, embora as origens mecanísticas dessas disposições (ex: restrições específicas de RLHF ou dados de pré-treinamento) permaneçam opacas, a evidência comportamental confirma que a atitude de risco é uma característica intrínseca dos LLMs contemporâneos que deve ser considerada nos protocolos de segurança e estratégias de implantação.

Mais como este