CLEAR: Revealing How Noise and Ambiguity Degrade Reliability in LLMs for Medicine

1. Declaração do Problema

As avaliações atuais de Grandes Modelos de Linguagem (LLMs) Médicos dependem fortemente de benchmarks padronizados, no estilo de exames (por exemplo, MedQA, MedMCQA). Esses benchmarks sofrem de três limitações críticas quando aplicados a cenários clínicos do mundo real:

• Pressuposto de Mundo Fechado: Eles assumem que a resposta correta está sempre presente dentro de um conjunto fixo de opções, falhando em testar a capacidade de um modelo de reconhecer quando a resposta correta está ausente (cenários de mundo aberto).
• Falta de Ambiguidade: Inquéritos médicos do mundo real frequentemente envolvem dados do paciente fragmentados, ruidosos ou incompletos, enquanto os benchmarks fornecem espaços de decisão limpos e bem definidos.
• Fragilidade à Apresentação: O desempenho dos LLMs é altamente sensível à forma como o espaço de decisão é estruturado (por exemplo, o número de distratores) e ao enquadramento semântico das opções (por exemplo, como a "abstenção" é formulada).

Consequentemente, modelos que alcançam alta precisão em benchmarks frequentemente falham em demonstrar humildade epistêmica (a capacidade de admitir incerteza ou recusar-se a responder quando inseguros) em cenários práticos, representando riscos significativos à segurança do paciente.

2. Metodologia: O Framework CLEAR

Os autores introduzem o CLEAR (Avaliação CLínica de Ambiguidade e Confiabilidade), um framework sistemático projetado para perturbar benchmarks existentes a fim de simular ruído e ambiguidade do mundo real.

• Conjuntos de Dados: O framework foi aplicado a três benchmarks distintos:
  1. MedMCQA: Recuperação de conhecimento biomédico fundamental.
  2. MedQA: Vignettes clínicas estruturadas derivadas do USMLE.
  3. JAMA-CC: Desafios clínicos do mundo real, não estruturados e de alta complexidade.
• Estratégias de Perturbação: O CLEAR modifica o espaço de decisão de três maneiras:
  1. Saturação de Distratores: Aumento sistemático do número de opções de resposta plausíveis, mas incorretas ($k=1$ a $k=3/4$).
  2. Remoção da Verdade Terrena (Ground Truth): Substituição da resposta correta por uma opção de abstenção para testar a confiabilidade em mundo aberto.
  3. Enquadramento Semântico da Abstenção: Teste de três maneiras distintas de formular a recusa em responder:
     • NA (Nenhuma das Acima): Rejeição assertiva.
     • IDK (Não Sei): Admissão de incerteza.
     • INA (Preciso de Assistência): Pedido de ajuda.
• Configuração Experimental:
  • Modelos: 17 modelos avaliados (15 famílias de código aberto: Llama, Qwen, Gemma; 2 proprietários: GPT-4o, GPT-5.2) variando de 1B a 72B parâmetros.
  • Modalidades: Testadas tanto estratégias de Resposta Direta (base) quanto de Cadeia de Pensamento (CoT).
  • Métricas: Medida de Precisão (selecionar a verdade terrena) e Taxa de Abstenção (rejeitar corretamente o espaço de resposta).

3. Principais Contribuições

1. O Framework CLEAR: Uma metodologia escalável para testar LLMs sob estresse contra ruído, ambiguidade e condições de mundo aberto, indo além da precisão estática de benchmarks.
2. Formalização do "Déficit de Humildade": Os autores definem uma nova métrica representando a lacuna de desempenho entre a capacidade de um modelo de identificar a resposta correta (precisão) e sua capacidade de abster-se de respostas incorretas (confiabilidade).
3. Descoberta de Inversão da Lei de Escala: O artigo demonstra que aumentar a escala do modelo melhora a precisão, mas frequentemente piora a humildade, contradizendo as leis de escala tradicionais no contexto da segurança médica.
4. Análise de Sensibilidade Semântica: Revela que o comportamento do modelo depende fortemente do enquadramento semântico da incerteza, com modelos mostrando uma hierarquia de preferência que prioriza a rejeição assertiva sobre admitir incerteza.

4. Principais Resultados

A. Impacto dos Distratores (Ruído)

• Degradação da Precisão: À medida que o número de distratores aumenta, a precisão cai para todos os modelos. Embora modelos maiores (por exemplo, GPT-5.2, Qwen-72B) sejam mais resilientes, eles ainda sofrem penalidades significativas.
• Limitações do CoT: O raciocínio de Cadeia de Pensamento melhora a precisão em tarefas estruturadas (MedQA), mas frequentemente prejudica o desempenho em conhecimento fundamental (MedMCQA) e cenários do mundo real (JAMA-CC), às vezes reduzindo a precisão em mais de 10%.

B. O Déficit de Humildade

• Aversão Ativa à Abstenção: Quando a verdade terrena é removida, os modelos não apenas chutam aleatoriamente; eles evitam ativamente abster-se. No JAMA-CC, mesmo modelos de ponta (GPT-5.2) abstenham-se apenas ~50% das vezes, selecionando distratores incorretos nos outros 50%.
• Paradoxo da Escala: À medida que a complexidade do modelo aumenta, o Déficit de Humildade se amplia. Modelos maiores são melhores em encontrar respostas em conjuntos fechados, mas são menos propensos a admitir que não sabem a resposta em conjuntos abertos. Por exemplo, o GPT-5.2 mostrou a maior precisão, mas a menor taxa de abstenção.
• Sensibilidade aos Distratores: As taxas de abstenção degradam-se quase 3 a 4 vezes mais rápido do que as taxas de precisão à medida que os distratores são adicionados.

C. Enquadramento Semântico e Agência

• Hierarquia de Recusa: Os modelos exibem uma hierarquia estrita de preferência para opções de abstenção:
  • NA (Assertiva) > IDK (Incerteza) > INA (Busca de Ajuda).
• O Gatilho "IDK": Meramente adicionar uma opção "Não Sei" ao espaço de resposta causa instabilidade comportamental.
  • A maioria dos modelos (13/17) não mudou logicamente para IDK.
  • Em vez disso, muitos modelos aumentaram sua seleção de respostas incorretas ou aumentaram a rejeição assertiva (NA), ignorando a opção IDK.
  • GPT-5.2 absteve-se 50% das vezes com "NA", mas caiu para 25% com "IDK", mostrando sensibilidade aguda à forma como a incerteza é enquadrada.

D. CoT e Raciocínio

• O raciocínio CoT mitiga parcialmente o déficit de humildade, mas falha em resolver o desalinhamento fundamental. Em alguns casos, o CoT exacerba comportamentos ilógicos (por exemplo, aumentando as taxas de seleção incorreta quando IDK é introduzido).

5. Significado e Implicações

• Crítico para Segurança: As descobertas sugerem que os LLMs médicos atuais são perigosamente excessivamente confiantes. Eles priorizam satisfazer o prompt do usuário (sycophancy) sobre a segurança clínica, fornecendo frequentemente justificações confiantes para respostas factualmente incorretas quando a opção correta está ausente.
• Viés do RLHF: Os autores atribuem essa "sycophancy" e falta de humildade ao Aprendizado por Reforço a partir de Feedback Humano (RLHF), que treina modelos para serem "úteis" e compliantes, ensinando inadvertidamente a chutar em vez de abster-se quando incertos.
• Mudança de Paradigma de Avaliação: Benchmarks padrão são insuficientes para implantação clínica. A avaliação deve mudar de medir "precisão máxima" para medir "confiabilidade sob ambiguidade" e "humildade calibrada".
• Escalar Não é Solução: Simplesmente aumentar os parâmetros do modelo não resolve problemas de confiabilidade; de fato, pode exacerbar a falta de humildade epistêmica em contextos médicos.

Conclusão: O artigo argumenta que, para que os LLMs sejam implantados com segurança na medicina, os frameworks de avaliação devem testar explicitamente a confiabilidade em mundo aberto, a sensibilidade ao enquadramento semântico e a capacidade de reter diagnósticos quando os sinais clínicos são insuficientes. A geração atual de modelos, apesar de altas pontuações em benchmarks, carece da humildade necessária para a tomada de decisão clínica no mundo real.