Beyond Local Independence: High-Dimensional Latent Class Graphical Models with Shared Block Structure

Resumen Técnico: Más allá de la independencia local: Modelos gráficos de clases latentes de alta dimensión con estructura de bloques compartida

Planteamiento del problema
Los modelos de clase latente (LCM, por sus siglas en inglés) son herramientas estándar para analizar datos categóricos multivariantes de poblaciones heterogéneas. Sin embargo, los LCM tradicionales dependen del supuesto de independencia local: condicionado a la clase latente, las respuestas observadas son mutuamente independientes. Este supuesto se viola frecuentemente en aplicaciones modernas de alta dimensión, como las encuestas de opinión pública (donde los elementos sobre temas similares mantienen dependencia) y los datos genéticos (donde los SNPs cercanos exhiben desequilibrio de ligamiento). Ignorar dicha dependencia local distorsiona las estimaciones de los parámetros y las asignaciones de las clases latentes.

Los enfoques existentes para relajar la independencia local suelen estar limitados a entornos de baja dimensión, dependen de patrones de dependencia preespecificados o no estructurados, o carecen de garantías estadísticas. Por el contrario, los modelos gráficos de alta dimensión pueden aprender estructuras de dependencia, pero generalmente no logran dar cuenta de clases latentes heterogéneas desconocidas. Existe una brecha en la metodología estadística con principios que permitan aprender conjuntamente la heterogeneidad latente y la dependencia local estructurada a partir de respuestas ordinales de alta dimensión.

Metodología
Los autores proponen un modelo gráfico de clase latente de alta dimensión con una estructura de bloques compartida. El modelo asume que, condicionado a una clase latente $Z_i = k$, las respuestas ordinales se generan mediante una cópula gaussiana latente. La innovación clave es que la matriz de covarianza $\Sigma_k$ del vector gaussiano latente es bloque diagonal tras una permutación compartida de las variables a través de todas las $K$ clases latentes.

• Partición de bloques compartidos: Las variables se particionan en $L$ bloques ($V_1, \dots, V_L$) que son compartidos por todas las clases latentes. Esto captura grupos interpretables de variables con dependencia local (por ejemplo, ítems de una encuesta sobre un tema específico).
• Dependencia específica de la clase: Dentro de cada bloque, la estructura de dependencia condicional (codificada por la matriz de precisión $\Omega_k$) se permite variar entre las clases latentes, capturando la heterogeneidad específica de cada clase.
• Pipeline de estimación de tres pasos: Los autores desarrollan un estimador de tres pasos escalable y no supervisado:
  1. Clustering Espectral: Se recuperan las etiquetas de las clases latentes $Z$ aplicando clustering espectral a una matriz de respuestas binarias "aplanada". Esto aprovecha la estructura de bajo rango de los datos para manejar la naturaleza ordinal de las respuestas.
  2. Recuperación de la estructura de bloques: Dentro de cada clase latente estimada, se estiman las correlaciones policóricas por pares para recuperar las matrices de covarianza $\Sigma_k$ específicas de la clase. Estas se agregan a través de las clases para identificar la partición de bloques compartida. Los autores proponen utilizar algoritmos de detección de comunidades (específicamente Leiden) sobre una matriz de agregación continua de estas correlaciones para recuperar robustamente los bloques.
  3. Estimación de la matriz de precisión: Una vez identificados los bloques, se estiman matrices de precisión $\Omega_k$ dispersas dentro de cada bloque utilizando estimadores de modelos gráficos estándar (por ejemplo, Graphical Lasso o CLIME), condicionados a la estructura de bloques conocida.

Contribuciones clave

1. Formulación del modelo: Un nuevo modelo que cierra la breancia entre los clásicos LCM de independencia local y las mezclas no restringidas de modelos gráficos. Impone una estructura de bloques compartida para asegurar la interpretabilidad y la parsimonia, al tiempo que permite una dependencia flexible y específica de la clase dentro de los bloques.
2. Algoritmo escalable: Un pipeline de tres pasos computacionalmente eficiente que evita la optimización de la verosimilitud completa, la cual es intratable en los LCM con dependencia local no restringida. El método escala a altas dimensiones ($J \gg N$).
3. Garantías teóricas: El artículo establece límites de error en muestras finitas para todas las etapas del pipeline:
   • Precisión del clustering (Proposición 1).
   • Consistencia entrada por entrada para la estimación de la matriz de covarianza y la recuperación de bloques (Proposiciones 3 y 4).
   • Recuperación de soporte y consistencia de signo para la estimación de la matriz de precisión (Proposición 5).
   • Consistencia de extremo a extremo: El Teorema 1 demuestra que todos los componentes del modelo (clases latentes, partición de bloques y matrices de precisión) se estiman de manera consistente bajo un escalamiento de alta dimensión.

Resultos

• Simulaciones: Simulaciones extensas a través de diversas dimensiones ($J \in \{100, 500\}$), números de clases latentes ($K$) y estructuras de bloques ($L$) muestran que el método recupera con precisión las clases latentes, las particiones de bloques compartidos y las matrices de precisión específicas de la clase. El método supera a los baselines de Joint Graphical Lasso (JGL), que tienen dificultades para recuperar la estructura de bloques sin una sintonización oracle. Los estudios de ablación confirman que tanto el paso de clustering (Paso 1) como el paso de recuperación de bloques (Paso 2) son cruciales; omitir cualquiera de ellos conduce a una degradación significativa del rendimiento.
• Aplicaciones con datos reales:
  • Datos de encuestas ANES: Aplicado a datos de la Encuesta de Estudios Nacionales Americanos de Elecciones de 2022 ($N=1511, J=144$). El método identificó tres clases latentes correspondientes a votantes Republicanos, Demócratas e Independientes. Recuperó bloques interpretables (por ejemplo, "Racismo", "Compromiso Político") y reveló patrones de dependencia específicos de la clase, tales como dependencias condicionales divergentes respecto a las ventajas raciales entre los grupos ideológicos.
  • Datos genéticos HapMap3: Aplicado a datos de genotipos de SNP ($N=479, J=500$) de cuatro subpoblaciones. El método recuperó con éxito la estructura poblacional e identificó bloques de SNPs dependientes (bloques de desequilibrio de ligamiento) mientras contabilizaba las subpoblaciones latentes. Omitir el paso de clustering resultó en correlaciones entre bloques infladas, demostrando la necesidad de considerar la heterogeneidad.

Significación y afirmaciones
El artículo afirma proporcionar una metodología con principios, interpretable y teóricamente fundamentada para relajar el supuesto de independencia local en el análisis de clases latentes de alta dimensión. Al introducir una estructura de bloques compartida, el método equilibra la necesidad de parsimonia con la flexibilidad para modelar dependencias complejas. Los autores enfatizan que su enfoque ofrece garantías teóricas de extremo a extremo para todos los componentes del modelo, una característica que suele faltar en muchos modelos de mezcla de alta dimensión. El método se presenta como una herramienta práctica para descubrir estructuras de dependencia local interpretables en presencia de heterogeneidad latente, con utilidad demostrada tanto en ciencias sociales como en genética. Los autores señalan que el código en R está disponible públicamente para facilitar la reproducibilidad.