Resumo Técnico: Safe-Psych, um Benchmark de Avaliação Sequencial para LLMs em Psiquiatria

Definição do Problema

Modelos de Linguagem de Grande Escala (LLMs) estão sendo cada vez mais implantados para suporte à decisão clínica, mas os benchmarks médicos existentes (ex: MedMCQA, PubMedQA) tipicamente assumem que todas as informações estão disponíveis de antemão. Na prática clínica real, particularmente na psiquiatria, a informação é frequentemente incompleta, ambígua ou evolui ao longo do tempo. Quando a evidência é insuficiente, a ação clinicamente segura não é adivinhar, mas sim solicitar esclarecimentos ou abster-se do diagnóstico. Os benchmarks atuais falham em avaliar como os modelos lidam com essa "incerteza diagnóstica evolutiva", muitas vezes negligenciando os riscos do compromisso prematuro (diagnosticar com dados insuficientes) ou da abstenção excessiva (recusar-se a diagnosticar quando os dados são suficientes). Além disso, as avaliações focadas em abstenção existentes costem tratar a incerteza como uma escolha binária, negligenciando a etapa intermediária crítica de buscar esclarecimentos.

Metodologia

O Benchmark Safe-Psych

Os autores introduzem o Safe-Psych, um benchmark de avaliação sequencial composto por 1.048 notas clínicas psiquiátricas do mundo real de um hospital na Romênia. O conjunto de dados foi anonimizado, traduzido para o inglês e segmentado em cinco seções ordenadas para simular a divulgação incremental de evidências clínicas:

1. Sintomas apresentados
2. Histórico psiquiátrico
3. Exame psiquiátrico
4. Exame psicológico
5. Outros diagnósticos (fatores médicos)

Protocolo de Anotação: Dois psiquiatras anotaram independentemente cada caso para determinar:

• Suficiência de Informação: Se o texto disponível suporta um diagnóstico.
• Seção Suficiente Mais Precoce: O ponto específico na sequência onde existe evidência suficiente para o diagnóstico.
• Diagnóstico de Verdade Fundamental (Ground Truth): Um código CID-10 (se suficiente).
  As divergências foram resolvidas por um terceiro psiquiatra sênior. Esses julgamentos foram mapeados para três rótulos de ação sequenciais para cada etapa: DIAGNOSTICAR, ESCLARECER (solicitar mais informações) ou ABSTER-SE (recusar o diagnóstico).

Protocolo de Avaliação

O estudo utiliza um protocolo de avaliação sequencial onde os modelos recebem informações incrementalmente (Seção 1, depois 1+2, etc.). Em cada etapa, o modelo produz uma resposta de texto livre, que é classificada por um juiz LLM independente (GPT-5.4) em um dos três rótulos de ação.

• DIAGNOSTICAR: A trajetória termina; o modelo assume um diagnóstico.
• ESCLARECER: A trajetória continua para a próxima seção.
• ABSTER-SE: O modelo recusa o diagnóstico. Se isso ocorrer antes da seção final, é registrado como "abstenção prematura".

Modelos e Estratégias

Nove LLMs de última geração foram avaliados, incluindo modelos de código fechado (GPT-5.4, Claude-Opus-4.6, Gemini-2.5-Flash), de código aberto (Gemma-3, Mistral-3.1-24B, Qwen-3-32B) e modelos especializados em medicina (MedGemma-27B, Med42-v2-8B).
Quatro estratégias de inferência foram testadas:

1. Estática (Informação Completa): O modelo vê a nota completa.
   • Sem Abstenção: Forçado a diagnosticar.
   • Consciente da Abstenção: Instruído a abster-se se a evidência for insuficiente.
2. Sequencial: O modelo vê as notas incrementalmente.
   • Sem Abstenção: Prompt neutro.
   • Esclarecimento e Abstenção Conscientes: Instruído a esclarecer se estiver incerto e a abster-se se a evidência permanecer insuficiente ao final.

Principais Resultados

1. Capacidade Não Garante Calibração

Mesmo os modelos mais capazes demonstraram má calibração sob informação incompleta.

• Sub-abstenção: A maioria dos modelos diagnosticou casos que especialistas consideraram insuficientes em mais de 60% das vezes, mesmo quando explicitamente autorizados a abster-se. O Gemma-3-27B diagnosticou mais de 90% dos casos insuficientes.
• Sobre-abstenção: Modelos que reduziram a sub-abstenção compensaram abstendo-se em casos suficientes (ex: Mistral-3.1-24B absteve-se em quase 60% dos casos suficientes).
• Conclusão: O prompting atento à segurança desloca os erros de sub-diagnóstico para a sobre-abstenção, em vez de resolver o problema da calibração.

2. Comportamento Limitado de Busca de Esclarecimento

Em configurações sequenciais com prompting neutro, os modelos raramente buscaram esclarecimentos, a menos que fossem explicitamente instruídos.

• As taxas de esclarecimento na primeira etapa (maior incerteza) foram baixas para a maioria dos modelos (ex: <10% para Gemini-Flash-2.5 e Med42-v2-8B).
• Os modelos tenderam a adotar o diagnóstico precoce em vez de solicitar evidências adicionais, indicando que o comportamento de esclarecimento não emerge naturalmente de um prompting neutro.

3. Diagnóstico Prematuro e Trade-offs de Precisão

• Tempo: Sob prompting neutro, a vasta maioria dos diagnósticos foi "prematura" (feita antes que a suficiência do especialista fosse alcançada).
• Precisão: Diagnósticos "no tempo certo" (feitos quando os especialistas consideraram suficiente) foram consistentemente mais precisos do que os prematuros em todas as granularidades de rótulo (CID completo, 3 caracteres, classe de alto nível).
• Sequencial vs. Estático: A precisão diagnóstica caiu significamente ao passar de configurações de informação completa para sequenciais. Embora alguns modelos (ex: Claude-Opus-4.6) tenham mantido robustez relativa, nenhum modelo compensou totalmente a perda de contexto global.
• Efeitos de Prompting: O prompting atento à abstenção reduziu diagnósticos prematuros, mas aumentou os "diagnósticos perdidos" (falha em diagnosticar casos suficientes), destacando um trade-off entre segurança e tempestividade.

4. Impacto da Especialização e Raciocínio

• Especialização Médica: Modelos ajustados para medicina (MedGemma, Med42) não superaram os modelos generalistas; na verdade, exibiram alta sub-abstenção e menor precisão diagnóstica.
• Raciocínio: Aumentar os orçamentos de raciocínio (ex: modo de "pensamento" do Gemini-2.5-Flash) melhorou ligeiramente a precisão, mas não conseguiu resolver o trade-off de abstenção, permanecendo a sub-abstenção instável.

Significância e Alegações

O artigo afirma que o Safe-Psych revela uma limitação fundamental nos LLMs atuais: a incapacidade de reconhecer confiavelmente quando a evidência clínica é incompleta e quando informações adicionais são necessárias.

• Implicações de Segurança: Os autores argumentam que um modelo que assume um diagnóstico psiquiátrico baseado apenas em sintomas apresentados, sem esperar pelo histórico ou pelos achados do exame, é inseguro para implantação clínica. O benchmark mede a habilidade específica de reconhecer lacunas de informação, o que distingue um "assistente clinicamente útil" de um "que soa confiante".
• Contribuição do Benchmark: O Safe-Psych é apresentado como o primeiro benchmark a avaliar o diagnóstico psiquiátrico através de uma lente de evidência sequencial e evolutiva, indo além do questionamento estático para avaliar a tomada de decisão dinâmica (esclarecer, diagnosticar, abster-se).
• Escopo Modesto: Os autores reconhecem que o conjunto de dados é limitado a um hospital romeno e que a tradução pode introduzir ruído. Eles afirmam que, embora a estrutura sequencial reflita fluxos de trabalho psiquiátricos, a questão central de "reconhecer evidência insuficiente" pode se aplicar a outros domos (ex: triagem de emergência), embora isso exija avaliação direta adicional. O artigo conclui que, embora o prompting possa deslocar tipos de erro, ele não resolve atualmente o problema da calibração, deixando a questão de se o treinamento ou o ajuste fino podem melhorar o reconhecimento da incerteza como uma área aberta de pesquisa.