Causal Machine Learning Is Not a Panacea: A Roadmap for Observational Causal Inference in Health

Problema
A crescente disponibilidade de dados observacionais de saúde em grande escala e multimodais estimulou o interesse no uso de aprendizado de máquina (ML) causal para identificar relações causais, como efeitos de tratamento, onde ensaios clínicos randomizados (ECRs) são inviáveis devido a restrições éticas ou logísticas. No entanto, a flexibilidade dos modelos de ML introduz riscos significativos: eles são otimizados para desempenho preditivo e podem explorar associações espúrias em vez de mecanismos causais verdadeiros. Tirar conclusões causais de forma inadequada a partir de dados observacionais arrisca produzir resultados enviesados ou enganosos, o que pode impactar negativamente a ciência médica e a segurança do paciente. Existe uma lacuna crítica no conhecimento compartilhado sobre as limitações do ML causal e a necessidade de satisfazer pressupostos específicos de validade.

Metodologia
O artigo não propõe um novo algoritmo, mas apresenta um roteiro conceitual e um quadro de referência para aplicar o ML causal de forma responsável em contextos observacionais. A metodologia estrutura-se em torno de três pilares centrais:

1. Desafios de Identificação: Os autores enfatizam a necessidade de definir um Grafo Acíclico Direcionado (DAG) causal com especialistas do domínio para estabelecer pressupostos de identificabilidade. Eles detalham três pressupostos críticos e como o ML pode obscurecer suas violações:

   • Sobreposição: Garantir que cada paciente tenha uma probabilidade não nula de receber o tratamento. O artigo observa que alto desempenho discriminativo em modelos de escore de propensão pode indicar baixa sobreposição, mas desempenho ruim também pode sinalizar subajuste.
   • Troca Condicional (Sem Confundimento Não Observado): Reconhecer que isso é não verificável em dados observacionais. Os autores aconselham o uso de análises de sensibilidade para quantificar a magnitude de confundidores não observados necessária para alterar as conclusões.
   • SUTVA (Pressuposto de Valor de Tratamento Estável da Unidade): Garantir consistência (sem variações ocultas de tratamento) e não interferência (o tratamento de um paciente não afeta o resultado de outro). O artigo alerta que modelos de ML podem usar inadvertidamente variáveis como IDs de quartos ou concentrações de dose como características preditivas, confundindo interferência ou heterogeneidade de tratamento com fatores causais.

2. Escolhas de Modelagem: Os autores discutem a seleção de covariáveis e abordagens de modelagem. Eles alertam contra a inclusão de mediadores (variáveis intermediárias) ou variáveis irrelevantes, o que pode diluir as estimativas do efeito do tratamento. Eles focam em metaaprendizes, que combinam modelos "base" (por exemplo, florestas aleatórias, redes neurais) para estimar efeitos de tratamento. Estes são categorizados em:

   • Estimadores Indiretos (por exemplo, aprendiz-S, aprendiz-T): Preveem resultados sob cada tratamento separadamente e calculam a diferença. Estes são simples, mas frágeis, pois erros em qualquer previsão são amplificados, e a regularização pode achatar a heterogeneidade do tratamento.
   • Estimadores Diretos (por exemplo, aprendiz-X, aprendiz-R, Aprendizado de Máquina Duplo): Modelam o efeito do tratamento explicitamente em uma segunda etapa usando pseudo-resultados ou ortogonalização. Estes são geralmente mais robustos a erros do modelo base do que os métodos indiretos.

3. Avaliação: O artigo argumenta que a avaliação padrão de ML (conjuntos de teste retidos) é inviável porque o "verdadeiro" efeito do tratamento não é observado. Em vez disso, propõem avaliar hipóteses causais através de:

   • Análise de Nulo Global: Usando tratamentos sintéticos sem efeito real.
   • Análise de Controle Negativo: Testando tratamentos conhecidos por não terem efeito.
   • Verificações de Estabilidade: Comparando resultados entre diferentes abordagens de modelagem para garantir consistência no sinal e na magnitude.

Principais Contribuições

• Um Roteiro para o Rigor: O artigo fornece um modelo estruturado (Figura 3) para orientar equipes interdisciplinares através de pressupostos causais, escolhas de modelagem e estratégias de avaliação.
• Esclarecimento dos Riscos do ML: Detalha explicitamente como a flexibilidade do ML pode obscurecer violações de pressupostos causais (por exemplo, sobreajuste a sinais espúrios, má interpretação de interferência) e oferece estratégias de mitigação envolvendo expertise do domínio.
• Distinção entre Hipótese e Descoberta: Os autores reestruturam a saída do ML causal em dados observacionais não como descobertas definitivas, mas como hipóteses causais que devem ser priorizadas para testes futuros via ECRs ou validação biológica.

Resultados
Como um artigo de perspectiva e roteiro, o trabalho não apresenta resultados experimentais empíricos ou novos conjuntos de dados. Em vez disso, seus "resultados" são a síntese da literatura existente e a articulação de um quadro prático. O artigo demonstra que, sem justificação cuidadosa de pressupostos e escolhas de modelagem, abordagens de ML causal arriscam produzir estimativas enviesadas. Ilustra que estimadores diretos frequentemente oferecem maior robustez do que estimadores indiretos e que a expertise do domínio é não negociável para definir DAGs e interpretar características do modelo.

Significado
O artigo reivindica significado como um corretivo ao entusiasmo em torno do ML causal na saúde. Argumenta que, embora o ML causal seja uma ferramenta poderosa para gerar hipóteses a partir de dados ricos e multimodais, não é uma panaceia. Os autores afirmam que seu roteiro é essencial para fortalecer o rigor e a interpretabilidade das análises causais, prevenindo assim a disseminação de resultados enganosos que poderiam comprometer a pesquisa clínica e o cuidado ao paciente. O trabalho serve como um guia fundamental tanto para especialistas clínicos quanto para praticantes de ML colaborarem efetivamente, garantindo que pressupostos causais sejam satisfeitos e escolhas de modelagem sejam justificadas antes de tirar conclusões.