🤖 machine learning

Joint Causal Structure and Cluster Discovery Using Variational Inference

Este artículo propone un nuevo marco de inferencia variacional que infiere simultáneamente los grupos de variables latentes y sus estructuras causales, abordando la limitación de los métodos existentes que requieren agrupaciones predefinidas, y demuestra su eficacia tanto en conjuntos de datos sintéticos como reales.

Autores originales: Avni Rajpal, Anubhav Kumar, Rishabh Karnad, Mohammad Emtiyaz Khan, P. K. Srijith

Publicado 2026-08-25

📖 4 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Avni Rajpal, Anubhav Kumar, Rishabh Karnad, Mohammad Emtiyaz Khan, P. K. Srijith

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

En el vasto paisaje de la ciencia de datos, los investigadores suelen buscar los hilos ocultos que conectan diferentes piezas de información. Imagine una sala llena de personas hablando; algunas conversaciones ocurren entre individuos, mientras que otras ocurren dentro de grupos muy unidos. Durante décadas, los científicos han desarrollado herramientas para mapear quién habla con quién, tratando a cada persona como una voz única e independiente. Este enfoque, conocido como descubrimiento causal, nos ayuda a comprender cómo una cosa causa otra, yendo más allá de la simple observación para descubrir la verdadera maquinaria del mundo. Sin embargo, en muchos sistemas complejos, desde el disparo de neuronas en un cerebro hasta los patrones cambiantes del clima global, las interacciones más importantes no ocurren entre individuos aislados, sino entre grupos enteros que actan como una sola unidad. Hasta ahora, los científicos han tenido que adivinar dónde comienzan y terminan estos grupos antes de poder estudiar cómo los grupos influyen entre sí, una limitación que a menudo oscurecía el panorama general.

Un equipo de investigadores del Instituto Indio de Tecnología de Hyderabad y el Centro RIKEN para el Proyecto de IA en Tokio ha desarrollado un nuevo método para resolver este rompecabezas. Crearon un sistema que puede determinar simultáneamente cómo agrupar variables y mapear las conexiones causales entre esos grupos, todo sin que se le indiquen los agrupamientos de antemano. En lugar de forzar los datos en cajas predefinidas, su enfoque permite que los datos revelen sus propios grupos naturales y las líneas invisibles de influencia que corren entre ellos. Al utilizar una técnica llamada inferencia variacional, que permite a la computadora aprender de la incertidumbre en lugar de buscar solo una respuesta fija y única, los investigadores construyeron un modelo que trata tanto los agrupamientos como las conexiones como secretos ocultos esperando ser descubiertos.

Los investigadores probaron su método tanto con datos generados por computadora como con conjuntos de datos del mundo real, incluyendo información sobre estructuras de proteínas y patrones climáticos. En estas pruebas, compararon su nuevo enfoque con métodos existentes que asumen que los grupos ya son conocidos o que dependen de formas más simples y menos flexibles de adivinar. Los resultados mostraron que su método era significativamente mejor al reconstruir la verdadera estructura subyacente. Por ejemplo, al analizar un conjunto de datos de proteínas, su modelo identificó correctamente que los datos formaban dos grupos separados y no conectados, sin vínculos causales entre ellos, mientras que los métodos antiguos dibujaban incorrectamente conexiones donde no existían. Del mismo modo, en los datos climáticos, el nuevo enfoque descubrió con éxito las relaciones no lineales entre diferentes variables meteorológicas que otros métodos pasaron por alto, mapeando con precisión tanto los grupos como los bordes que los conectan.

Lo que hace que este trabajo sea particularmente poderoso es su capacidad para manejar la incertidumbre. En lugar de proporcionar un mapa único y rígido, el sistema aprende una distribución de probabilidad, lo que significa que puede expresar qué tan seguro está de cada conexión y de cada agrupación. Esto es crucial en campos de alto riesgo como la medicina o la ciencia climática, donde saber los límites de lo que sabemos es tan importante como los hechos mismos. Los investigadores encontraron que su método funcionaba mejor cuando permitía dependencias complejas dentro de los grupos y entre los bordes, en lugar de asumir que todo era independiente. En el caso de los datos climáticos, una versión de su modelo que tenía en cuenta estas relaciones complejas logró una precisión casi perfecta, lo que sugiere que los mecanismos del mundo real que impulsan los datos son, de hecho, no lineales e intrincados.

Este estudio no pretende haber resuelto todos los problemas del descubrimiento causal, ni afirma funcionar perfectamente en todos los conjuntos de datos posibles. Los investigadores reconocen que su trabajo actual está limitado a tipos específicos de datos y que escalar el método para manejar conjuntos de datos extremadamente grandes y de alta dimensión sigue siendo un desafío para el futuro. Sin embargo, al demostrar que es posible aprender tanto los grupos como las estructuras causales al mismo tiempo, han abierto un nuevo camino para comprender sistemas complejos. Su trabajo sugiere que, al dejar que los datos hablen por sí mismos y al abrazar la incertidumbre inherente a las observaciones del mundo real, podemos construir una imagen más clara y precisa de cómo funciona el mundo, un grupo a la vez.

Resumen Técnico: Descubrimiento Conjunto de Estructura Causal y Clústeres mediante Inferencia Variacional

Planteamiento del Problema

El descubrimiento causal se centra tradicionalmente en inferir relaciones entre variables aleatorias individuales, típicamente representadas como un Grafo Acíclico Dirigido (DAG). Sin embargo, en dominios complejos como la neuroimagen o la modelización climática, las interacciones suelen ocurrir entre grupos de variables en lugar de unidades aisladas. Aunque existen métodos para "DAGs de Clústeres" (C-DAGs) o "DAGs de Grupos", estos generalmente asumen que la agrupación de variables en clústeres es conocida a priori mediante el conocimiento del dominio.

Este artículo aborda la brecha donde tanto los clústeres (particiones de variables) como la estructura causal (el DAG sobre esos clústeres) son latentes y deben inferirse simultáneamente a partir de datos observacionales. Los autores consideran Modelos Causales Estructurales de valores vectoriales (vSCM), que generalizan los SCM clásicos para manejar salidas de valores vectoriales generadas por clústeres de variables, acomodando tanto escenarios de ruido Gaussiano lineal como de ruido aditivo no lineal. Si bien Niu et al. (2022) propusieron previamente un enfoque basado en puntuación para esta estimación conjunta, este trabajo introduce un novedoso marco de inferencia variacional para lograr el mismo objetivo, ofreciendo un tratamiento bayesiano para la cuantificación de la incertidumbre.

Metodología

El enfoque propuesto utiliza la Inferencia Variacional (VI) para aprender una distribución posterior aproximada sobre las asignaciones de clústeres latentes ( $C$ ) y la estructura del grafo de clústeres ( $E_C$ ). El núcleo del método consiste en definir un modelo generativo y optimizar un Límite Inferior de la Evidencia (ELBO).

1. Modelo Generativo

Se asume que los datos $D$ son generados por un vSCM donde cada clúster $X_{C_i}$ es una función de sus clústeres padres $Pa(X_{C_i})$ y un vector de ruido $\epsilon_i$ :
$X_{C_i} := f_{C_i}(Pa(X_{C_i}), \epsilon_i)$
La distribución conjunta se factoriza de acuerdo con la estructura del C-DAG. Los autores consideran dos casos específicos:

vSCM Gaussiano Lineal: La función $f$ es lineal y el ruido es multivariante Gaussiano. La verosimilitud marginal puede computarse en forma cerrada integrando los parámetros.
Modelo de Ruido Aditivo No Lineal: La función $f$ se modela como una red neuronal. Aquí, la marginalización sobre los parámetros es intratable, por lo que se utiliza la estimación puntual de los parámetros junto con la inferencia variacional sobre la estructura.

2. Aproximación Variacional

Dado que el espacio de posibles C-DAGs crece exponencialmente, la inferencia Bayesiana exacta es infactible. Los autores aproximan la verdadera posterior $P(C, E_C | D)$ utilizando una distribución variacional $Q_\phi(C, E_C)$ que se factoriza en distribuciones sobre clústeres y aristas:
$Q_\phi(C, E_C) = Q_T(C) Q_Z(E_C)$

Familias Variacionales para Clústeres ( $C$ ):

Modelo Factorizado: Asume independencia entre las asignaciones de variables, modelada como un producto de distribuciones categóricas.
Modelo Autorregresivo Lineal: Captura dependencias entre las asignaciones de clústeres modelando la posterior como un producto de condicionales, donde los logits para la $m$ -ésima variable dependen de las asignaciones previas mediante un proceso autorregresivo lineal.

Familias Variacionales para Grafos ( $E_C$ ):

Modelo Binario Independiente: Asume que las aristas son variables de Bernoulli independientes.
Modelo Autorregresivo Lineal: Modela las aristas como condicionalmente dependientes de las aristas previas.
Modelo Condicional: Modela explícitamente la dependencia de las aristas respecto a las asignaciones globales de clústeres ( $C$ ).
Modelo Condicional Autorregresivo: Combina dependencias autorregresivas de las aristas con la dependencia de las asignaciones de clústeres.

3. Optimización

Los parámetros de las distribuciones variacionales ( $T$ para clústeres, $Z$ para aristas) y los parámetros del modelo ( $\Theta$ para casos no lineales) se aprenden maximizando el ELBO.

Estimación de Gradiente: Dado que $C$ y $E_C$ son discretos, los autores utilizan el estimador de función de puntuación REINFORCE para aproximar los gradientes. Para mitigar la alta varianza, se utiliza un promedio móvil exponencial como base (baseline).
Entrenamiento: La optimización se realiza mediante métodos basados en gradientes (por ejemplo, Adam, RMSprop) con múltiples reinicios aleatorios para evitar óptimos locales.

Principales Contribuciones

Inferencia Latente Conjunta vía Inferencia Variacional: El artículo propone un novedoso marco de inferencia variacional capaz de inferir simultáneamente los clústeres de variables latentes y el DAG causal sobre dichos clústeres sin conocimiento previo de la agrupación. Esto complementa los enfoques existentes basados en puntuación (ej. Niu et al., 2022) al proporcionar una posterior Bayesiana completa en lugar de estimaciones puntuales.
Familias Variacionales Expresivas: Los autores introducen y evalúan múltiples familias variacionales, destacando específicamente la importancia de los modelos autorregresivos y condicionales. Estos permiten al modelo capturar dependencias complejas entre las asignaciones de clústeres y entre las aristas del grafo, las cuales los modelos factorizados más simples pasan por alto.
Extensión a vSCM No Lineales: El marco se extiende para manejar mecanismos causales no lineales utilizando redes neuronales, permitiendo el descubrimiento de clústeres y estructuras en procesos de generación de datos complejos y no lineales.
Nueva Métrica de Evaluación: Los autores introducen la Distancia de Hamming Estructural de Grafo Expandido Esperada (ExG-SHD). A diferencia de la SHD estándar, esta métrica tiene en cuenta el error de aproximación tanto en las asignaciones de clústeres como en la estructura del grafo, expandiendo el C-DAG en un DAG completo a nivel de variable antes de calcular la distancia.

Resultados Experimentales

El método fue evaluado en conjuntos de datos sintéticos y del mundo real, comparando su rendimiento contra un enfoque de referencia basado en puntuación (Niu et al., 2022) mediante bootstrapping.

Datos Sintéticos (Lineales): El modelo de clúster autorregresivo superó consistentemente a las variantes factorizadas y al modelo de referencia. Por ejemplo, en un conjunto de datos de tipo "fork" de 4 variables, el modelo autorregresivo logró un ExG-SHD de 0.02 y un Índice de Rand Esperado (E-RI) de 0.99, recuperando casi perfectamente la verdad fundamental.
Datos Sintéticos (No lineales): Las formulaciones basadas en redes neuronales superaron significativamente al modelo de referencia. Varias variantes lograron un ExG-SHD perfecto de 0.00 en conjuntos de datos de 4 variables. Los resultados indicaron que capturar las dependencias topológicas en las aristas (mediante modelos autorregresivos o condicionales) era crucial para la precisión estructural.
Datos del Mundo Real:
- Dataset de Proteínas: Los modelos neuronales lograron puntuaciones de ExG-SHD y E-SHD (0.0) casi perfectas, identificando correctamente dos clústeres no conectados, mientras que el modelo de referencia tuvo un error mucho mayor (ExG-SHD = 3.0).
- Dataset Climático: El modelo de aristas condicional neural logró un ExG-SHD de 0.04 y un E-RI perfecto de 1.0, lo que sugiere que los mecanismos causales subyacentes son inherentemente no lineales y que el modelado condicional proporciona mejoras significativas sobre otros métodos.

Significado y Reivindicaciones

El artículo sostiene que su tratamiento Bayesiano del aprendizaje de distribuciones sobre clústeres y estructuras ofrece ventajas distintivas sobre los métodos de estimación puntual:

Cuantificación de la Incertidumbre: Al aprender una distribución posterior, el método proporciona una medida de la incertidumbre sobre los C-DAGs inferidos, lo cual es crítico para aplicaciones de alto riesgo.
Intervenciones Activas: El marco probabilístico facilita estrategias de intervención activa para comprender mejor el modelo causal subycente.
Manejo de Confusión Latente: El enfoque aborda escenarios donde las suposiciones de ruido independiente se violan mediante la agrupación de variables, manejando eficazmente la confusión latente entre variables exógenas.

Los autores concluyen que, si bien su enfoque actual es efectivo para conjuntos de datos de dimensión baja a moderada, el trabajo futuro apunta a escalar el método hacia datos de alta dimensión. Enfatizan que la capacidad de descubrir conjuntamente clústeres latentes y estructuras causales sin sesgos del dominio representa un paso significativo hacia adelante en el descubrimiento causal de sistemas complejos.