Learning a directed acyclic graph with additive heteroscedastic errors

Resumen Técnico: Aprendizaje de un Grafo Acíclico Dirigido con Errores Heterocedásticos Aditivos

Enunciado del Problema
El artículo aborda el desafío del descubrimiento causal de Grafos Acíclicos Dirigidos (DAG) utilizando datos observacionales bajo Modelos de Ecuaciones Estructurales (SEM) con errores heterocedásticos aditivos. Si bien los métodos existentes a menudo se basan en supuestos de homocedasticidad (varianza constante) o distribuciones de error específicas (por ejemplo, modelos lineales no gaussianos como LINGAM), los datos del mundo real frecuentemente exhiben heterocedasticidad donde la varianza del ruido depende de las variables padre. Una brecha significativa en la literatura es la falta de métodos de descubrimiento causal multivariante que aprovechen eficazmente estas señales de varianza, particularmente para variables acotadas donde los resultados de identificabilidad tradicionales a menudo fallan. Además, los métodos basados en verosimilitud en entornos heterocedásticos son propensos a una mala especificación paramétrica, y los métodos de prueba de independencia a menudo luchan en dimensiones altas o requieren división de muestras.

Metodología: RESQUE
Los autores proponen Estimación Cuantil Simultánea de Residuos (RESQUE), un procedimiento iterativo novedoso diseñado para recuperar el orden topológico y la estructura del grafo de un DAG. El método opera bajo un modelo de ruido de escala-ubicación:
$$X_j = f_j(X_{PA(j)}) + g_j(X_{PA(j)})\varepsilon_j$$
donde el término de ruido $\varepsilon_j$ es independiente de los padres, pero su escala $g_j(\cdot)$ puede depender de ellos.

El algoritmo RESQUE procede en dos etapas principales por iteración:

1. Construcción de Residuos: Se realiza una regresión de mínimos cuadrados para estimar la función media $f_j$, obteniendo residuos. Luego se calculan los log-residuos absolutos para transformar el problema en la estimación de la función de escala condicional.
2. Regresión Cuantil Compuesta: Se aplica una regresión cuantil compuesta penalizada a los residuos transformados a través de múltiples niveles cuantiles ($\tau_1, \dots, \tau_K$).
   • Identificación de Nodos Sumidero: La idea central es que para un nodo sumidero (un nodo sin hijos), los coeficientes de escala condicional son invariantes a través de diferentes niveles cuantiles. El algoritmo identifica nodos sumidero verificando si los vectores de coeficientes estimados a través de todos los cuantiles se contraen al mismo valor (utilizando un término de penalización que fomenta la igualdad).
   • Eliminación Iterativa: Los nodos sumidero identificados se eliminan del grafo, y el proceso se repite en el subgrafo restante. Esta eliminación recursiva recupera el orden topológico desde los sumideros hasta las fuentes.
   • Recuperación de la Estructura del Grafo: Una vez establecido el orden, el método utiliza selección de variables (mediante penalidades cóncavas dobladas o umbralización dura) tanto en los componentes de media como de varianza para identificar las aristas dirigidas específicas.

Contribuciones Clave

1. Nuevos Resultados de Identificabilidad: El artículo establece la identificabilidad teórica para DAGs con errores heterocedásticos aditivos. Crucialmente, unifica la teoría tanto para variables continuas acotadas como no acotadas. Los autores demuestran que el descubrimiento causal entre variables acotadas requiere condiciones más suaves que para variables no acotadas, aprovechando las propiedades de los límites para garantizar la identificabilidad sin requerir soporte no acotado.
2. Procedimiento de Estimación Novel (RESQUE): Los autores introducen un marco iterativo que explota la invarianza de los coeficientes de escala condicional a través de los cuantiles para identificar nodos sumidero. Este enfoque evita la necesidad de optimización de verosimilitud (evitando la mala especificación paramétrica) y transforma la prueba de independencia en un problema de selección de características, evitando así las trampas de la división de muestras y las pruebas de independencia de alta dimensión.
3. Garantías Teóricas: El artículo proporciona resultados de consistencia tanto para el orden topológico como para la estructura del grafo. Demuestra que RESQUE recupera consistentemente el DAG verdadero incluso cuando el número de variables diverge con el tamaño de la muestra, siempre que se cumplan las suposiciones de dispersión.

Resultados Empíricos
El rendimiento de RESQUE se evaluó mediante estudios de simulación y puntos de referencia con datos reales:

• Datos Sintéticos: Tanto en configuraciones de baja como de alta dimensión (hasta $p=100$), RESQUE superó a los métodos existentes (CAM, rank-PC, TL, NOTEARS) en términos de Tasa de Falsos Descubrimientos (FDR) y Tasa de Verdaderos Positivos (TPR). Demostró robustez a través de diferentes estructuras de grafos (Aleatorio, Árbol, Libres de Escala) y distribuciones de error (Uniforme, Beta, Gaussiana). Cabe destacar que, aunque NOTEARS mostró un FDR bajo, sufrió una TPR cercana a cero en configuraciones de alta dimensión después de la estandarización, mientras que RESQUE mantuvo una alta precisión.
• Conjunto de Datos de Citometría de Flujo de Sachs: Aplicado a un conjunto de datos de 11 proteínas, RESQUE identificó 13 de las 20 aristas de consenso, logrando la TPR más alta y la menor Distancia de Hamming Estructural (SHD) entre los métodos comparados. El análisis reveló que 4 de las aristas correctamente identificadas se detectaron únicamente a través del componente de varianza, destacando la capacidad del método para extraer información causal codificada en la heterocedasticidad.
• Colección CauseEffectPairs: En una colección de 99 pares univariados, RESQUE logró una precisión del 71.1%, superando significativamente a competidores como CAM (56.7%) y NOTEARS (25.8%). Los autores atribuyen el fallo de los métodos lineales a la no linealidad y la heterocedasticidad presentes en los datos.

Significado y Afirmaciones
El artículo afirma que su mensaje central es doble: en primer lugar, las variables acotadas facilitan la identificabilidad de los SEM heterocedásticos, y en segundo lugar, las señales causales estructuradas incrustadas en patrones heterocedásticos deben explotarse sistemáticamente para el descubrimiento causal multivariante. Al ir más allá del modelado basado en la media, RESQUE proporciona un marco principiado para el descubrimiento causal que es robusto a la mala especificación paramétrica y efectivo en configuraciones de alta dimensión donde la varianza codifica información crítica sobre la dirección causal. Los autores posicionan este trabajo como un paso hacia la construcción de sistemas de aprendizaje y razonamiento automatizados que puedan manejar estructuras de datos complejas y del mundo real donde la varianza no es meramente ruido, sino una fuente de señal causal.