A Closed-Loop Framework for Knowledge-Based Causal Model Refinement Using Process Mining and Human-AI Governance

Resumen Técnico: Un Marco de Ciclo Cerrado para el Refinamiento de Modelos Causales Basados en el Conocimiento

Planteamiento del Problema
En la inferencia causal epidemiológica, los Grafos Acíclicos Dirigidos (DAG) son esenciales para codificar supuestos sobre las relaciones causales y guiar el análisis estadístico. Sin embargo, los DAG basados en el conocimiento tradicional dependen en gran medida de la opinión de expertos y la literatura, careciendo a menudo de validación empírica. Esto genera incertidumbre en las estructuras causales, particularmente en enfermedades crónicas complejas caracterizadas por riesgos competitivos, dinámicas temporales y múltiples condiciones interactivas. Dicha incertidumbre puede sesgar la estimación de efectos, independientemente de la robustez del método estadístico utilizado. Por el contrario, aunque los datos del mundo real (RWD) ofrecen una vasta evidencia longitudinal, la aplicación de algoritmos automatizados de descubrimiento causal (p. ej., PC, FCI) suele fallar debido al incumplimiento de supuestos (fidelidad, suficiencia causal) y a la falta de interpretabilidad clínica. Además, los intentos recientes de utilizar Modelos de Lenguaje de Gran Escala (LLM) para el razonamiento causal plantean preocupaciones sobre las alucinaciones y la incapacidad de distinguir entre afirmaciones asociativas y causales. Existe la necesidad de un marco que integre los patrones de datos empíricos con el conocimiento experto sin reemplazar la autoridad humana sobre la interpretación causal.

Metodología
Los autores proponen un marco gobernado de ciclo cerrado que trata los DAG basados en el conocimiento como hipótesis científicas contrastables, refinadas iterativamente mediante un bucle de colaboración humano-IA basado en la minería de procesos. La metodología consta de cuatro fases distintas:

1. Fase 1: Construcción de Registros de Eventos Basados en el Conocimiento:

   • Se genera un DAG inicial basado en el conocimiento utilizando LLM para sintetizar la literatura y la aportación de expertos. Este sirve como una hipótesis sintáctica, no como una verdad causal.
   • El DAG guía la construcción de un registro de eventos estructurado (secuencias de eventos clínicos con marcas de tiempo, ordenadas longitudinalmente a nivel de paciente), definiendo poblaciones, eventos y covariables.
   • Gobernanza: Los expertos humanos definen eventos clínicamente significativos y criterios de inclusión; la IA asiste en la síntesis de la literatura.

2. Fase 2: Descubrimiento Basado en Datos:

   • Se aplican algoritmos de minería de procesos (específicamente Grafos de Seguimiento Directo o DFG) al registro de eventos para descubrir los patrones reales de transición temporal.
   • El resultado es un DFG que representa las transiciones observadas (p. ej., diagnóstico de ERC $\to$ evento cardiovascular) anotadas con frecuencia y tiempo.
   • Gobernanza: El DFG sirve como una línea base empírica, capturando la sucesión temporal observada en lugar de la causalidad inherente.

3. Fase 3: Refinamiento del DAG (El Bucle Humano-IA):

   • El DFG empírico se compara sistemáticamente con el DAG inicial basado en el conocimiento.
   • Las discrepancias (p. ej., aristas faltantes, transiciones inversas inesperadas o riesgos competitivos de alta frecuencia) activan propuestas de refinamiento candidatas presentadas por la IA.
   • Gobernanza: Un experto humano adjudica cada propuesta. La IA propone cambios (añadir/eliminar aristas/nodos, reestructuración para riesgos competitivos), pero el humano decide basándose en la plausibilidad biológica y la visión clínica. Esta fase rechaza explícitamente los artefactos inducidos por la observación (p. ej., cambios en la codificación post-evento o sesgo de vigilancia) que no reflejan mecanismos biológicos.

4. Fase 4: Selección del Modelo Estadístico:

   • El DAG refinado y basado en evidencia se mapea a modelos estadísticos apropiados utilizando reglas de decisión explícitas (p. ej., modelos de Fine-Gray para riesgos competitivos, análisis de mediación causal para mediadores).
   • El marco recomienda estrategias analíticas específicas (p. ej., balanceo de puntaje de propensión, análisis de sensibilidad) alineadas con la estructura refinada.
   • Gobernanza: Los expertos humanos revisan los supuestos del modelo e interpretan los tamaños del efecto; la IA proporciona recomendaciones estructuradas.

El bucle se cierra alimentando los resultados y el DAG refinado de nuevo en la base de conocimientos para futuras iteraciones, asegurando la transparencia y la trazabilidad.

Contribuciones Clave

• Colaboración Humano-IA Gobernada: El artículo introduce un marco donde la IA actúa como una herramienta de "aumento de puntos de control" en lugar de un tomador de decisiones autónomo. Separa explícitamente el refinamiento exploratorio (descubrimiento de patrones impulsado por IA) de la estimación confirmatoria (interpretación causal adjudicada por humanos).
• La Minería de Procesos como Evaluación Diagnóstica: A diferencia del descubrimiento causal tradicional, este enfoque utiliza la minería de procesos no para probar la causalidad, sino para diagnosticar y desafiar los supuestos causales preespecificados frente a los patrones temporales empíricos.
• Mecanismo de Rechazo de Artefactos: El marco incluye "puertas de plausibilidad" específicas (p. ej., reglas de direccionalidad, reglas de tipo de actividad) para rechazar artefactos como cambios de codificación inversa o bucles de retroalimentación administrativa que imitan vías causales en los datos brutos.
• Implementación de Código Abierto: Los autores desarrollaron una herramienta web interactiva (HealthProcessAI) y un entorno de simulación para demostrar el flujo de trabajo.

Resultados
El marco fue evaluado mediante dos enfoques:

1. Demostración Tutorial (Datos Sintéticos): Utilizando datos calibrados con la cohorte SCREAM (comparando Inhibidores de la Bomba de Protones frente a Bloqueadores de los Receptores H2), el marco logró:

   • Identificar la Muerte como un nodo crítico de riesgo competitivo, el cual faltaba en el DAG inicial basado en la literatura.
   • Validar la progresión de la ERC como un candidato a mediador en la vía de PPI hacia el Evento Cardiovascular Adverso, mientras rechazaba una transición inversa espuria (CVAE $\to$ ERC) que no difería significamente entre grupos.
   • Recomendar modelos estadísticos apropiados (Fine-Gray, análisis de mediación) consistentes con las mejores prácticas epidemiológicas.

2. Estudio de Simulación de Verdad de Campo: Se realizó una simulación controlada con estructuras causales conocidas y artefactos inyectados (un "señuelo de retroalimentación de fármaco" y un "cambio de codificación inversa") probada a través de 50 años de replicaciones.

   • Brazo No Gobernado (Solo IA): Aceptó el 100% de los artefactos inyectados, degradando la precisión.
   • Brazo Gobernado (Bucle Humano-IA): Rechazó el 100% de los artefactos inyectados mientras recuperaba todas las transiciones verdaderas de alto soporte y el nodo de riesgo competitivo.
   • Recuperación del Estimando: El modelo seleccionado por el marco gobernado recuperó el verdadero hazard ratio específico de la causa con un sesgo insignificante y una cobertura de intervalo de confianza casi nominal, mientras que los modelos no ajustados o ajustados fallaron debido al sesgo de vigilancia.

Significancia y Reivindicaciones
El artículo afirma avanzar en la disciplina metodológica en la generación de evidencia del mundo real al proporcionar un enfoque transparente, reproducible y gobernado para integrar la IA en la inferencia causal.

• Aborda la brecha entre la epidemiología causal teórica y el descubrimiento empírico al tratar los DAG como hipótesis falsables.
• Preserva la autoridad humana sobre la interpretación causal, asegurando que la IA sirva como una herramienta de diagnóstico para el refinamiento estructural en lugar de un reemplazo para la experiencia de dominio.
• El alcance del marco es modesto: no pretende descubrir la causalidad de forma autónoma ni eliminar la confusión no medida. En su lugar, ofrece un mecanismo sistemático para identificar y rechazar artefactos inducidos por la observación, mejorando así la robustez de los modelos causales sobre los cuales se basa la estimación estadística.
• Al embeber la evaluación empírica en la construcción del DAG, el marco busca cerrar la brecha entre los modelos conceptuales y los datos observacionales, alineándose con la filosofía científica iterativa de John Snow.