DeepImagine: Learning Biomedical Reasoning via Successive Counterfactual Imagining

Resumo Técnico: DeepImagine

1. O Problema

A previsão de resultados de ensaios clínicos prospectivos é um desafio crítico para modelos de linguagem de grande escala (LLMs). Atualmente, tanto modelos correlacionais tradicionais (como Random Forests) quanto LLMs comerciais de alto desempenho apresentam desempenho limitado nessa tarefa. O problema central é que os resultados de ensaios clínicos são governados por mecanismos causais ocultos e complexas interações entre variáveis (dosagem, demografia, localização, critérios de elegibilidade, etc.), que modelos puramente correlacionais não conseguem capturar de forma mecanística.

2. Metodologia

Os autores propõem o DeepImagine, um framework que treina LLMs para realizar o "Imaginação Contrafactual Sucessiva". Em vez de tentar prever o resultado de um novo ensaio diretamente, o modelo aprende a navegar por uma cadeia de estados contrafatuais, partindo de um ensaio histórico conhecido e alterando uma variável de cada vez até atingir a configuração do ensaio alvo.

A metodologia divide-se em três pilares principais:

• Aprendizado de Contrafatuais Naturais (SFT): Utiliza dados reais onde o "contrafatual" é observável. Isso inclui:

  • Mudança de Medida de Desfecho: Prever um desfecho secundário a partir de um primário no mesmo ensaio.
  • Mudança de Braço de Estudo: Prever o resultado de uma dosagem diferente (estudos de dose-resposta) dentro do mesmo ensaio.
  • O modelo é treinado via Supervised Fine-Tuning (SFT) usando rastros de raciocínio sintéticos gerados por modelos superiores (como GPT-5.4) para fornecer explicações causais plausíveis para cada transição.

• Aproximação de Contrafatuais (RL): Para variáveis onde não existem pares naturais (como geografia ou mecanismo de ação), o framework utiliza um pipeline de recuperação de informação para encontrar ensaios altamente similares. Como os resultados intermediários não são observáveis, utiliza-se Aprendizado por Reforço (RL) através do algoritmo GRPO (Group Relative Policy Optimization). O modelo recebe uma recompensa apenas pela correção do resultado final (recompensa verificável), sendo incentivado a descobrir trajetórias de raciocínio contrafatual que levem à resposta correta.

• Recuperação de Pares Similares: Para construir os pares de treinamento, os autores utilizam embeddings de texto (NV-Embed-v2) para calcular a similaridade de cosseno entre as variáveis de cada ensaio, construindo um grafo de similaridade para identificar "contrafatuais aproximados".

3. Principais Contribuições

• Framework de Raciocínio Mecanístico: Transforma a tarefa de previsão de um problema de correlação estatística para um problema de aproximação de leis causais latentes.
• Abordagem de Decomposição Local: Propõe que é mais fácil para um modelo aprender a transição local ($x_{t-1} \to x_t$) do que o mapeamento global direto, reduzindo a complexidade do aprendizado.
• Integração de SFT e RL: Combina o aprendizado supervisionado com rastros de raciocínio sintéticos e o aprendizado por reforço com recompensas terminais para lidar com a falta de dados contrafatuais perfeitos.

4. Resultados

Os experimentos foram realizados utilizando o modelo Qwen-3.5-9B ajustado via LoRA. Os resultados demonstraram que o DeepImagine supera significativamente o modelo de baseline (o modelo de raciocínio o3-mini da OpenAI) em dois conjuntos de avaliação:

• Perturbação de Medida de Desfecho (Outcome Perturbation): O Macro F1 subiu de 67.10 (baseline) para 75.50 (DeepImagine).
• Perturbação de Braço de Estudo (Arm Perturbation): O Macro F1 subiu de 64.46 (baseline) para 72.25 (DeepImagine).

O modelo treinado mostrou-se capaz de prever como mudanças em parâmetros experimentais afetariam os resultados, validando a eficácia da imaginação contrafatual.

5. Significância

O trabalho é significativo por oferecer um caminho prático para criar modelos de linguagem biomédicos que não apenas "adivinham" resultados, mas que operam de forma mais próxima ao raciocínio científico humano. Ao permitir que o modelo gere trajetórias de raciocínio interpretáveis, o DeepImagine abre portas para a descoberta de hipóteses causais estruturadas, tornando a IA uma ferramenta de apoio à decisão clínica mais confiável e transparente.