Resumo Técnico: MedAction: Rumo a LLMs Clínicos de Diagnóstico Ativo Multi-turno

1. Formulação do Problema

Os Modelos de Linguagem de Grande Escala (LLMs) atuais na medicina são predominantemente avaliados em benchmarks estáticos e de turno único (por exemplo, MedQA, MedMCQA), onde registros completos de pacientes — incluindo exames laboratoriais, imagens e sinais vitais — são fornecidos de antemão. Essa configuração simplifica excessivamente a prática clínica do mundo real, onde o diagnóstico é um processo ativo e iterativo. Os clínicos começam com informações incompletas (queixa principal e exame físico), solicitam testes iterativamente para resolver incertezas, interpretam os resultados e estreitam progressivamente o diagnóstico diferencial (DDx) ao longo de múltiplos turnos.

Os autores identificam uma lacuna crítica: os modelos existentes são treinados para raciocinar a partir de informações completas, mas carecem da capacidade de agir sob evidências parciais e em evolução. Um estudo recente (Qiu et al., 2025) destaca uma degradação acentuada no desempenho quando os modelos mais avançados, incluindo modelos agênticos e especialistas, são avaliados em tarefas de diagnóstico ativo. Por meio de análise sistemática, o artigo identifica três modos de falha recorrentes nos LLMs atuais:

1. Solicitação de Testes Desconectada: Os modelos solicitam testes sem uma conexão clara com suas hipóteses declaradas, carecendo de raciocínio clínico específico para o caso.
2. Atualização Diagnóstica Não Confiável: Os modelos falham em atualizar adequadamente seu diagnóstico diferencial com base em novas evidências, seja aderindo rigidamente a uma hipótese inicial apesar de dados contraditórios, seja alterando-se erraticamente entre diagnósticos não relacionados.
3. Coerência Multi-turno Degradada: À medida que as interações se estendem, os modelos perdem o controle dos testes solicitados, dos resultados obtidos e das incertezas não resolvidas, levando a inconsistências em contextos mais longos.

2. Metodologia: O Pipeline MedAction

Para abordar essas deficiências, os autores introduzem o MedAction, um framework para a construção automática de dados de treinamento de alta qualidade, multi-turno e de diagnóstico ativo, a partir de literatura médica publicamente disponível (relatos de casos do PMC). O pipeline consiste em três etapas:

Etapa 1: Construção do Ambiente Clínico

Relatos de casos brutos são transformados em ambientes clínicos interativos ($E$). Um LLM extrai:

• Observação Inicial ($o_1$): Queixa principal, histórico e exame físico.
• Menu de Testes ($M$): O conjunto de testes documentados disponíveis no caso.
• Função Oráculo ($f$): Uma função que retorna os resultados documentados para os testes solicitados ou os marca como NÃO DISPONÍVEL se não estiverem presentes no texto fonte, simulando observabilidade parcial.

Etapa 2: Destilação de Trajetórias Multi-turno de Cadeia de Raciocínio-Ação

LLMs professores de última geração interagem com esses ambientes para gerar trajetórias diagnósticas. Diferentemente da Cadeia de Pensamento (CoT) padrão, que assume informações completas, o MedAction impõe um padrão explícito Raciocínio-Ação em cada turno:

1. Analisar: Gerar um diagnóstico diferencial ranqueado ($b_t$) com estimativas de confiança.
2. Identificar: Declarar a incerteza chave restante ($p_t$) que distingue as principais hipóteses.
3. Selecionar: Escolher um teste ($a_t$) justificado pela incerteza.
4. Observar: Receber o resultado ($r_t$) do oráculo.

Para maximizar a diversidade, o pipeline emprega amostragem estruturada em árvore, lançando expansões ramificadas a partir de estados intermediários de trajetórias existentes para capturar múltiplas estratégias diagnósticas válidas a partir do mesmo estado de evidência.

Etapa 3: Filtragem Fundamentada em Grafos de Conhecimento

Para destilar dados de alta qualidade, os autores propõem duas métricas fundamentadas em grafos de conhecimento médico (PrimeKG e ClinGraph) para filtrar trajetórias:

• Consistência da Trajetória da Doença (DTC): Mede a distância do caminho mais curto no PrimeKG entre a principal hipótese atual do modelo e o diagnóstico de verdade fundamental. As trajetórias são mantidas se mostrarem convergência (DTC decrescente) em direção à resposta correta. Trajetórias parcialmente corretas que eventualmente convergem são mantidas, enquanto as divergentes são podadas.
• Consistência Raciocínio-Ação (RAC): Mede se os testes solicitados provocaram mudanças significativas no diagnóstico diferencial no ClinGraph. Verifica se as atualizações de crença são impulsionadas por evidências. Turnos onde as mudanças de hipótese não estão relacionadas às evidências reunidas são removidos.

Este processo resulta no MedAction-32K, um conjunto de dados de 32.681 trajetórias derivadas de 2.896 casos do PMC.

3. Principais Contribuições

1. Nova Formulação e Análise de Falhas: O artigo reformula o diagnóstico clínico como um cenário ativo multi-turno com solicitação iterativa de testes e identifica três modos de falha específicos (solicitação desconectada, atualizações não confiáveis e degradação de coerência) que explicam as limitações atuais dos modelos.
2. Construção de Conjunto de Dados e Métricas: Os autores introduzem um pipeline de destilação estruturado em árvore e lançam o MedAction-32K (conjunto de treinamento) e o MedAction-300 Hard (um conjunto de teste de 300 casos de doenças raras que exigem trajetórias mais longas). Eles também propõem as métricas DTC e RAC para filtragem rigorosa de dados e avaliação.
3. Modelo Eficiente e Eficaz: O ajuste fino de um modelo de 8 bilhões de parâmetros (II-Medical-8B) no MedAction-32K alcança desempenho de última geração entre modelos de código aberto em benchmarks de diagnóstico ativo, demonstrando que dados de trajetória de alta qualidade geram ganhos maiores do que a escala do modelo isoladamente.

4. Resultados Experimentais

Os autores avaliaram seu modelo de 8 bilhões de parâmetros (II-Medical-8B SFT) contra modelos gerais de código aberto (por exemplo, Qwen-QwQ 32B), modelos de código fechado (por exemplo, GPT-5.4, OpenAI-o3-mini) e modelos de domínio médico (por exemplo, MedGemma 27B, Baichuan-M3 235B).

• Desempenho: Nos benchmarks MedR-Bench e MedAction-300-Hard curados, o modelo de 8 bilhões treinado com MedAction alcançou a maior precisão de diagnóstico entre os modelos de código aberto, superando o modelo professor Baichuan-M3 de 235 bilhões de parâmetros.
• Recomendação de Testes: O modelo demonstrou precisão e recall consistentemente altos na solicitação de testes, abordando o modo de falha de "solicitação de testes desconectada" observado no modelo base.
• Estudos de Ablação:
  • Ouro vs. Destilado: O treinamento apenas em trajetórias "Ouro" (reconstruídas diretamente de relatos de casos) não conseguiu melhorar o raciocínio; a destilação interativa com o ambiente foi essencial.
  • Flexibilidade de Formato: A mistura de uma pequena proporção (10%) de trajetórias de forma livre preveniu o sobreajuste a esquemas de saída rígidos e melhorou a qualidade da recomendação de testes.
  • Diversidade: A diversidade de múltiplos professores (combinando professores GPT e Baichuan) e a amostragem multi-ramo melhoraram significativamente o desempenho, desde que trajetórias de baixa qualidade fossem filtradas.
  • Estratégia de Filtragem: A filtragem proposta DTC+RAC superou a filtragem simples de "apenas correção". Ela recuperou raciocínios intermediários úteis de trajetórias parcialmente corretas e reduziu ações desconectadas, levando a uma melhor eficiência de dados e propriedades de escalabilidade.

5. Significado e Alegações

O artigo alega que o déficit central nos LLMs médicos atuais é a falta de treinamento em agir sob evidências parciais. Ao mudar de QA estático para simulação diagnóstica ativa e multi-turno, o MedAction equipa os modelos com a capacidade de decidir sequencialmente quais informações coletar e como atualizar hipóteses.

Os autores enfatizam que a qualidade e a estrutura dos dados são mais críticas do que a escala bruta do modelo para esta tarefa. Seu modelo de 8 bilhões, treinado em trajetórias multi-turno cuidadosamente destiladas e filtradas, supera modelos significativamente maiores (incluindo modelos de 235 bilhões e 27 bilhões de parâmetros) e aproxima-se do desempenho dos modelos de código aberto de ponta. O trabalho fornece um framework fundamental para o desenvolvimento de ferramentas de suporte à decisão clínica que refletem genuinamente a natureza iterativa do diagnóstico médico, com potencial para extensão em abordagens de pós-treinamento por aprendizado por reforço.