One-shot emergency psychiatric triage across 15 frontier AI chatbots

1. Declaração do Problema

A crescente dependência pública de chatbots de Modelos de Linguagem (LLM) para conselhos de saúde torna necessária uma avaliação rigorosa de sua capacidade de realizar triagem psiquiátrica. Diferentemente da medicina geral, onde a urgência é frequentemente ancorada por dados objetivos (sinais vitais, exames laboratoriais), a urgência psiquiátrica deve ser inferida a partir de pensamentos, comportamentos e contextos subjetivos.

• O Risco Central: A principal preocupação é o subtriagem de emergência, onde uma IA classifica incorretamente uma emergência psiquiátrica que ameaça a vida (Nível D) como um nível de menor urgência (por exemplo, rotineiro ou intermediário), potencialmente atrasando cuidados críticos.
• A Lacuna: Embora a triagem médica geral tenha sido estudada, a triagem psiquiátrica permanece pouco caracterizada. Avaliações existentes frequentemente carecem de divulgações realistas em mensagens únicas e não levam em conta os desafios únicos de inferir risco a partir de texto narrativo apenas.

2. Metodologia

O estudo empregou uma abordagem de benchmarking in silico para avaliar 15 chatbots de IA de ponta em 112 vignetas clinicamente construídas.

A. Construção do Conjunto de Dados (112 Vignetas)

• Estrutura: As vignetas foram geradas combinando 9 clusters de apresentação psiquiátrica (por exemplo, suicídio, depressão, psicose) com 9 dimensões de risco focais (por exemplo, automutilação, risco de homicídio, auto-negligência).
• Níveis de Triagem: Cada vigneta recebeu um rótulo de referência de verdade fundamental em uma escala ordinal de 4 pontos:
  • A: Rotineiro/Autocuidado.
  • B: Avaliação dentro de 1 semana.
  • C: Avaliação urgente dentro de 24–48 horas.
  • D: Cuidado de emergência imediatamente.
• Simulação: Um LLM "usuário-modelo" (Claude Opus 4.6) converteu resumos clínicos em consultas realistas de usuário em mensagem única (seja relatos próprios ou relatos colaterais de terceiros), garantindo que o texto contivesse detalhes clínicos suficientes para a triagem sem exigir perguntas de acompanhamento.

B. Protocolo de Avaliação

• Modelos Testados: 15 modelos de ponta de 8 provedores (Anthropic, Google, OpenAI, xAI, DeepSeek, Meta, Mistral, Alibaba), incluindo GPT-5.4, Gemini 3.1 Pro e Claude Opus 4.6.
• Tarefa: Uma tarefa de previsão em uma única interação (one-shot). A IA recebeu uma única mensagem de usuário e foi instruída a emitir um rótulo de triagem (A–D) com raciocínio.
• Prompts de Sistema:
  • Primário: Prompts diretivos enquadrando explicitamente a tarefa como triagem de saúde mental com níveis de urgência definidos.
  • Controle: Prompts não diretivos enquadrando a IA como um "assistente de propósito geral" para testar se o supertriagem era um artefato do prompt ou um viés intrínseco do modelo.
• Validação da Verdade Fundamental: Para garantir robustez, 50 médicos reclassificaram independentemente as vignetas. Os casos foram classificados como "consenso claro" (≥75% de concordância) ou "casos limítrofes" (concordância em níveis adjacentes).

C. Métricas

• Resultado Primário: Taxa de subtriagem de emergência (Nível D classificado como A, B ou C).
• Resultados Secundários:
  • Precisão Exata: Porcentagem de correspondências perfeitas de rótulos.
  • Viés Direcional: Erro ordinal assinado (Positivo = Supertriagem; Negativo = Subtriagem).
  • Imprecisão: Erro ordinal absoluto (dispersão ao redor do rótulo correto).

3. Resultados Principais

A. Subtriagem de Emergência (Segurança)

• Taxa: A subtriagem de emergência foi rara, ocorrendo em apenas 5,6% (23 de 410) dos ensaios de Nível D.
• Severidade do Erro: Crucialmente, 100% das emergências subtriadas foram rebaixadas apenas para o Nível C (24–48 horas), não para níveis rotineiros. Nenhum modelo atribuiu uma verdadeira emergência a uma categoria não urgente.
• Consistência: Essa baixa taxa de subtriagem manteve-se verdadeira mesmo ao usar rótulos de consenso clínico e prompts de sistema não diretivos.

B. Precisão Geral e Calibração

• Desempenho em U: A precisão seguiu uma curva em U baseada na urgência:
  • Mais Alta: Nível D (Emergência) – 94,3% de precisão média.
  • Mais Baixa: Nível B (Intermediário) – 19,7% de precisão média.
  • Intermediária: Níveis A e C mostraram precisão moderada (~46–52%).
• Implicação: Os modelos são excelentes em identificar emergências claras, mas lutam significativamente para distinguir níveis de urgência intermediária.

C. Viés Direcional (Supertriagem)

• Padrão Dominante: Quando os modelos erraram, eles supertriaram esmagadoramente (recomendaram urgência maior do que o necessário).
  • Razão: 753 erros de supertriagem versus 23 erros de subtriagem.
  • Erro Ordinal Assinado Médio: +0,47 níveis de triagem (indicando uma mudança líquida em direção a maior urgência).
• Alvo da Supertriagem: A supertriagem foi mais prevalente para vignetas de Nível B (80,3% dos erros).
• Robustez: Esse viés persistiu mesmo ao usar rótulos de consenso clínico e prompts não diretivos, sugerindo que é uma propriedade intrínseca do treinamento de segurança dos modelos e não um artefato de prompt.

D. Comparações de Modelos

• Melhores Desempenhos: Grok-4 (71,8% de precisão geral) e Gemini 3.1 Pro (68,5%).
• Compromisso: Modelos com a maior precisão geral tendiam a ter taxas de subtriagem de emergência ligeiramente mais altas, sugerindo uma tensão entre precisão geral e aversão extrema ao risco.
• Data de Lançamento: Modelos mais recentes mostraram uma tendência para menor subtriagem, embora não estatisticamente significativa nesta amostra.

4. Contribuições Principais

1. Primeiro Benchmark de Triagem Psiquiátrica em Grande Escala: Introdução de um novo conjunto de dados de 112 vignetas clinicamente rigorosas em mensagem única, cobrindo diversas apresentações psiquiátricas e dimensões de risco.
2. Quantificação de Segurança vs. Precisão: Demonstração de que os modelos de IA de ponta alcançaram um "piso de segurança" para emergências psiquiátricas (subtriagem catastrófica próxima de zero), mas sofrem de um "teto de precisão" em níveis intermediários.
3. Identificação de Viés Sistêmico: Estabelecimento de que os modelos de ponta atuais exibem um viés sistêmico de aversão ao risco, levando a uma supertriagem pervasiva. Isso é provavelmente impulsionado por pós-treinamento orientado à segurança (RLHF) que penaliza a perda de sinais de alto risco.
4. Validação de Viés Intrínseco: Prova, por meio de experimentos de controle (prompts não diretivos), que o padrão de supertriagem não é meramente um resultado do enquadramento do prompt, mas está embutido nas capacidades de raciocínio dos modelos.

5. Significado e Implicações

• Segurança Clínica: As descobertas são tranquilizadoras quanto à segurança de vida imediata; chatbots de IA atuais são improváveis de descartar uma verdadeira emergência psiquiátrica.
• Eficiência Operacional: A supertriagem pervasiva representa um risco de sobrecarga de recursos. Se os usuários forem consistentemente direcionados a departamentos de emergência ou cuidados urgentes para questões rotineiras ou intermediárias, isso poderia sobrecarregar os sistemas de saúde e corroer a confiança do usuário.
• Desenvolvimento de Modelos: Os resultados destacam a necessidade de melhor calibração no "meio" do espectro de urgência. Futuros treinamentos de segurança devem equilibrar a aversão ao risco com a capacidade de distinguir entre "urgente" e "emergência".
• Direções Futuras: O estudo nota limitações relacionadas à natureza "em uma única interação" do teste. Interações do mundo real são multi-turno e fragmentadas. Trabalhos futuros devem avaliar como esses modelos se comportam em configurações dinâmicas e conversacionais onde informações clínicas são reveladas gradualmente.

Conclusão: Os chatbots de IA de ponta são atualmente conservadores na triagem psiquiátrica. Eles identificam efetivamente emergências, mas carecem da nuance para triar com precisão casos não emergenciais, levando a um padrão de cautela excessiva que pode ser clinicamente e economicamente ineficiente.