Incorporating Expert Knowledge into Bayesian Causal Discovery of Mixtures of Directed Acyclic Graphs

Aquí se presenta un resumen técnico detallado del artículo "Incorporando Conocimiento Experto en el Descubrimiento Causal Bayesiano de Mezclas de Grafos Acíclicos Dirigidos."

1. Planteamiento del Problema

El descubrimiento causal busca inferir relaciones causales (Grafos Acíclicos Dirigidos o DAGs) a partir de datos observacionales. Si bien los métodos bayesianos son potentes para manejar la incertidumbre e incorporar conocimiento previo, los enfoques existentes enfrentan dos limitaciones críticas:

1. Supuesto de un Solo Grafo: La mayoría de los métodos asumen que un único grafo causal subyacente explica todos los datos. Esto falla en dominios heterogéneos (por ejemplo, biología, medicina) donde los datos surgen de múltiples subpoblaciones distintas con mecanismos causales diferentes (mezclas de DAGs).
2. Falta de Integración de Expertos: Aunque los expertos del dominio poseen conocimiento valioso, las estrategias de elicitación actuales están diseñadas para grafos únicos y no manejan eficazmente las mezclas. Además, los previos existentes a menudo dependen de restricciones "rígidas" (forzando la existencia o no de aristas) en lugar de restricciones probabilísticas "suaves", lo que limita la flexibilidad.

El artículo aborda el desafío de aprender mezclas de Redes Bayesianas Causales (CBN) integrando eficientemente el conocimiento experto mediante una estrategia de consulta fundamentada.

2. Metodología

Los autores proponen un marco unificado que combina el Aprendizaje de Estructura de Mezclas Variacional (VaMSL) con el Diseño Experimental Bayesiano (BED) para la elicitación de expertos.

A. Aprendizaje de Estructura de Mezclas Variacional (VaMSL)

El motor de inferencia central extiende el método de Aprendizaje de Estructura Bayesiana Diferenciable (DiBS) para manejar mezclas.

• Incrustaciones de Grafos Latentes: En lugar de buscar directamente en el espacio discreto de DAGs, el método utiliza un espacio latente continuo $Z = [U, V]$ para representar las estructuras de grafos. Un grafo suave (matriz de probabilidades de aristas) se deriva de $Z$ utilizando una función logística.
• Modelo de Mezcla: Los datos se modelan como una mezcla de $K$ componentes, donde cada componente $k$ tiene su propio grafo $G_k$, parámetros $\Theta_k$ y peso de mezcla $\pi_k$.
• Inferencia Variacional: La posterior se aproxima utilizando Descenso de Gradiente Variacional de Stein (SVGD) para las incrustaciones latentes y los parámetros, y Inferencia Variacional de Ascenso de Coordenadas (CAVI) para los pesos de mezcla y las asignaciones de clúster. Esto permite una optimización basada en gradientes en el espacio de grafos.
• Diferenciabilidad: Al relajar el espacio discreto de grafos a uno continuo y utilizar un regularizador de ciclicidad (que penaliza los ciclos), el método permite un descenso de gradiente eficiente para encontrar DAGs.

B. Elicitación de Expertos mediante Diseño Experimental Bayesiano (BED)

Para incorporar conocimiento experto sin consultar cada arista posible (lo cual es inviable), los autores proponen una estrategia de aprendizaje activo:

• Selección de Consultas: El sistema selecciona las aristas más "informativas" para consultar utilizando la Ganancia de Información Esperada (EIG). La EIG mide cuánto reduciría una respuesta potencial del experto la incertidumbre en la distribución posterior de los grafos.
• Simulador de Expertos: Un simulador modela la respuesta del experto basándose en la posterior actual del grafo latente $p(Z|D)$. La creencia del experto se modela como una distribución Beta, donde la moda corresponde a la probabilidad de la arista consultada.
• Prior Informativo de Grafo:
  • Restricciones Rígidas: Las aristas explícitamente prohibidas o requeridas por el experto se enmascaran (0/1) en el espacio latente.
  • Restricciones Suaves: Para creencias probabilísticas, los autores utilizan el dispositivo de "Observaciones Imaginarias". Mapean la respuesta de probabilidad del experto a un conjunto hipotético de ensayos (éxitos/fracasos) que conducirían a esa creencia. Esto crea un término de verosimilitud que sesga las incrustaciones del grafo latente hacia las creencias del experto sin fijarlas rígidamente.

C. El Bucle Iterativo

El método opera en un bucle iterativo:

1. Inferir la mezcla actual de CBNs.
2. Utilizar BED para seleccionar las $M$ aristas superiores que maximizan la EIG.
3. Consultar al experto sobre las creencias en estas aristas.
4. Actualizar la posterior variacional utilizando el nuevo prior informativo derivado de las respuestas del experto.
5. Repetir hasta que se agote el presupuesto de consultas.

3. Contribuciones Clave

1. Nuevo Prior Informativo de Grafo: Un método para incorporar tanto restricciones rígidas como suaves de expertos en el espacio de grafos latentes de un modelo de mezcla, utilizando el concepto de observaciones imaginarias para traducir creencias probabilísticas en una función de verosimilitud.
2. Estrategia de Elicitación Basada en BED: Un enfoque fundamentado para seleccionar consultas óptimas que maximicen la ganancia de información, reduciendo significativamente el número de consultas necesarias en comparación con consultas aleatorias o exhaustivas.
3. Algoritmo VaMSL: El primer método que realiza inferencia bayesiana conjunta sobre mezclas de CBNs tanto lineales como no lineales mientras incorpora conocimiento experto. Extiende DiBS para manejar estructuras de datos heterogéneas.
4. Manejo de Heterogeneidad: Demuestra que modelar los datos como una mezcla de DAGs produce un mejor aprendizaje de estructura y agrupamiento que asumir un solo grafo, especialmente cuando el conocimiento experto se utiliza para guiar la separación de subpoblaciones.

4. Resultados Experimentales

Los autores evaluaron su método en datos sintéticos y en un conjunto de datos real de cáncer de mama.

• Datos Sintéticos (Lineales y No Lineales):

  • Aprendizaje de Estructura: VaMSL con información de expertos superó significativamente a las líneas base (DiBS estándar, Modelos de Mezcla Gaussianas, Causal k-means) en términos de Distancia de Hamming Estructural Esperada (ESHD).
  • Agrupamiento: El método logró una alta precisión de clasificación al asignar puntos de datos a la subpoblación causal correcta, igualando el rendimiento de un "oráculo" que conocía las etiquetas verdaderas.
  • Eficiencia de Consultas: La estrategia BED superó a la consulta aleatoria, logrando mejores resultados con menos interacciones con expertos.
  • Robustez: El método permaneció efectivo incluso cuando el experto se simuló con fiabilidad imperfecta (por ejemplo, 90% de precisión).

• Aplicación en el Mundo Real (Conjunto de Datos de Cáncer de Mama):

  • Aplicado al conjunto de datos de diagnóstico de cáncer de mama de Wisconsin de la UCI.
  • El método identificó con éxito estructuras causales distintas asociadas con diferentes clases de tumores (malignos vs. benignos) de manera no supervisada.
  • VaMSL + Experto logró la mayor precisión de clasificación y la ESHD más baja en comparación con otros métodos, demostrando la utilidad práctica de incorporar conocimiento del dominio en datos médicos complejos y heterogéneos.

5. Significado e Impacto

• Cerrando la Brecha: Este trabajo cierra la brecha entre escenarios de pocos datos/alta experiencia y el descubrimiento causal moderno. Proporciona un mecanismo formal para aprovechar la intuición humana en entornos complejos y heterogéneos donde los datos por sí solos son insuficientes.
• Escalabilidad a la Heterogeneidad: Al ir más allá del supuesto de un solo grafo, el método aborda una limitación mayor en el modelado causal del mundo real, donde las poblaciones rara vez son homogéneas.
• Eficiencia: El componente de aprendizaje activo asegura que el costo de la interacción con el experto se minimice, haciendo que el enfoque sea viable para expertos del dominio costosos.
• Flexibilidad: La capacidad de manejar tanto relaciones lineales como no lineales, así como restricciones rígidas y suaves, hace que el marco sea ampliamente aplicable en diversos dominios científicos.

En resumen, el artículo presenta un marco robusto, escalable y con experto en el bucle para descubrir estructuras causales en datos heterogéneos, avanzando significativamente el estado del arte en el descubrimiento causal bayesiano.