Causal Machine Learning Is Not a Panacea: A Roadmap for Observational Causal Inference in Health

Problema
La creciente disponibilidad de datos observacionales de salud a gran escala y multimodales ha impulsado el interés en utilizar el aprendizaje automático (ML) causal para identificar relaciones causales, como los efectos de los tratamientos, cuando los ensayos controlados aleatorizados (ECA) son inviables debido a restricciones éticas o logísticas. Sin embargo, la flexibilidad de los modelos de ML introduce riesgos significativos: están optimizados para el rendimiento predictivo y pueden aprovechar asociaciones espurias en lugar de mecanismos causales reales. Extraer conclusiones causales de manera inapropiada a partir de datos observacionales corre el riesgo de producir resultados sesgados o engañosos, lo cual puede afectar negativamente a la ciencia médica y a la seguridad del paciente. Existe una brecha crítica en el conocimiento compartido sobre las limitaciones del ML causal y la necesidad de satisfacer supuestos de validez específicos.

Metodología
El artículo no propone un nuevo algoritmo, sino que presenta una hoja de ruta conceptual y un marco para aplicar el ML causal de manera responsable en entornos observacionales. La metodología se estructura en torno a tres pilares fundamentales:

1. Desafíos de Identificación: Los autores enfatizan la necesidad de definir un Grafo Acíclico Dirigido (DAG) causal con expertos en la materia para establecer supuestos de identificabilidad. Detallan tres supuestos críticos y cómo el ML puede ocultar sus violaciones:

   • Superposición: Garantizar que cada paciente tenga una probabilidad no nula de recibir el tratamiento. El artículo señala que un alto rendimiento discriminativo en los modelos de puntuación de propensión puede indicar una baja superposición, pero un rendimiento deficiente también podría señalar un ajuste insuficiente (underfitting).
   • Intercambiabilidad Condicional (Sin Confusión No Observada): Reconociendo que esto es inverificable en datos observacionales. Los autores aconsejan utilizar análisis de sensibilidad para cuantificar la magnitud de los confusores no observados necesarios para alterar las conclusiones.
   • SUTVA (Supuesto de Valor de Tratamiento Estable para la Unidad): Garantizar la consistencia (sin variaciones ocultas del tratamiento) y la no interferencia (el tratamiento de un paciente no afecta el resultado de otro). El artículo advierte que los modelos de ML pueden utilizar inadvertidamente variables como identificadores de habitaciones o dosis como características predictivas, confundiendo la interferencia o la heterogeneidad del tratamiento con factores causales.

2. Elecciones de Modelado: Los autores discuten la selección de covariables y enfoques de modelado. Advierten contra la inclusión de mediadores (variables intermedias) o variables irrelevantes, lo cual puede diluir las estimaciones del efecto del tratamiento. Se centran en los metaaprendices, que combinan modelos "base" (por ejemplo, bosques aleatorios, redes neuronales) para estimar los efectos del tratamiento. Estos se categorizan en:

   • Estimadores Indirectos (por ejemplo, Aprendiz S, Aprendiz T): Predicen los resultados bajo cada tratamiento por separado y toman la diferencia. Son simples pero frágiles, ya que los errores en cualquiera de las predicciones se magnifican, y la regularización puede aplanar la heterogeneidad del tratamiento.
   • Estimadores Directos (por ejemplo, Aprendiz X, Aprendiz R, Aprendiz Automático Doble): Modelan el efecto del tratamiento explícitamente en una segunda etapa utilizando pseudo-resultados u ortogonalización. Estos son generalmente más robustos frente a errores de los modelos base que los métodos indirectos.

3. Evaluación: El artículo argumenta que la evaluación estándar de ML (conjuntos de prueba retenidos) es inviable porque el "verdadero" efecto del tratamiento no se observa. En su lugar, proponen evaluar las hipótesis causales mediante:

   • Análisis de Nulo Global: Utilizando tratamientos sintéticos sin efecto real.
   • Análisis de Control Negativo: Probando tratamientos conocidos por no tener efecto.
   • Verificaciones de Estabilidad: Comparando resultados entre diferentes enfoques de modelado para garantizar la consistencia en el signo y la magnitud.

Contribuciones Clave

• Una Hoja de Ruta para el Rigor: El artículo proporciona una plantilla estructurada (Figura 3) para guiar a equipos interdisciplinarios a través de los supuestos causales, las elecciones de modelado y las estrategias de evaluación.
• Clarificación de los Riesgos del ML: Detalla explícitamente cómo la flexibilidad del ML puede ocultar violaciones de los supuestos causales (por ejemplo, sobreajuste a señales espurias, malinterpretación de la interferencia) y ofrece estrategias de mitigación que involucran la experiencia en la materia.
• Distinción entre Hipótesis y Hallazgo: Los autores reencuadran la salida del ML causal sobre datos observacionales no como hallazgos definitivos, sino como hipótesis causales que deben priorizarse para futuras pruebas mediante ECA o validación biológica.

Resultados
Al ser un artículo de perspectiva y hoja de ruta, la obra no presenta resultados experimentales empíricos ni nuevos conjuntos de datos. En cambio, sus "resultados" son la síntesis de la literatura existente y la articulación de un marco práctico. El artículo demuestra que, sin una justificación cuidadosa de los supuestos y las elecciones de modelado, los enfoques de ML causal corren el riesgo de producir estimaciones sesgadas. Ilustra que los estimadores directos a menudo ofrecen mayor robustez que los estimadores indirectos y que la experiencia en la materia es innegociable para definir DAGs e interpretar las características del modelo.

Significado
El artículo reclama significado como una corrección al entusiasmo que rodea al ML causal en la salud. Argumenta que, si bien el ML causal es una herramienta poderosa para generar hipótesis a partir de datos ricos y multimodales, no es una panacea. Los autores afirman que su hoja de ruta es esencial para fortalecer el rigor y la interpretabilidad de los análisis causales, evitando así la difusión de resultados engañosos que podrían comprometer la investigación clínica y la atención al paciente. La obra sirve como una guía fundamental tanto para expertos clínicos como para practicantes de ML para colaborar eficazmente, asegurando que los supuestos causales se satisfagan y que las elecciones de modelado estén justificadas antes de extraer conclusiones.