Beyond Local Independence: High-Dimensional Latent Class Graphical Models with Shared Block Structure

Sintesi Tecnica: Oltre l'Indipendenza Locale: Modelli Grafici a Classi Latenti ad Alta Dimensionalità con Struttura a Blocchi Condivisa

Definizione del Problema
I modelli a classi latenti (Latent Class Models, LCM) sono strumenti standard per l'analisi di dati categorici multivariati provenienti da popolazioni eterogenee. Tuttavia, i tradizionali LCM si basano sull'assunto dell'indipendenza locale: condizionatamente alla classe latente, le risposte osservate sono mutuamente indipendenti. Tale assunto è frequentemente violato in applicazioni moderne ad alta dimensionalità, come i sondaggi sull'opinione pubblica (dove gli item su temi simili rimangono dipendenti) e i dati genetici (dove SNP vicini esibiscono disequilibrio di linkage). Ignorare tale dipendenza locale distorce le stime dei parametri e l'assegnazione delle classi latenti.

Gli approcci esistenti per mitigare l'indipendenza locale sono tipicamente limitati a contesti a bassa dimensionalità, si affidano a schemi di dipendenza predefiniti o non strutturati, oppure mancano di garanzie statistiche. Al contrario, i modelli grafici ad alta dimensionalità possono apprendere strutture di dipendenza, ma generalmente non riescono a tenere conto di classi latenti eterogenee e sconosciute. Esiste una lacuna in una metodologia statistica fondata per apprendere congiuntamente l'eterogeneità latente e la dipendenza locale strutturata da risposte ordinali ad alta dimensionalità.

Metodologia
Gli autori propongono un modello grafico a classi latenti ad alta dimensionalità con una struttura a blocchi condivisa. Il modello assume che, condizionatamente a una classe latente $Z_i = k$, le risposte ordinali siano generate tramite una copula Gaussiana latente. L'innovazione chiave è che la matrice di covarianza $\Sigma_k$ del vettore Gaussiano latente è a blocchi diagonali dopo una permutazione condivisa delle variabili attraverso tutte le $K$ classi latenti.

• Partizione a Blocchi Condivisa: Le variabili sono partizionate in $L$ blocchi ($V_1, \dots, V_L$) che sono condivisi tra tutte le classi latenti. Ciò cattura gruppi interpretabili di variabili localmente dipendenti (ad esempio, item di un sondaggio su un tema specifico).
• Dipendenza Specifica per Classe: All'interno di ogni blocco, la struttura di dipendenza condizionale (codificata dalla matrice di precisione $\Omega_k$) è consentita di variare tra le classi latenti, catturando l'eterogeneità specifica della classe.
• Pipeline di Stima in Tre Fasi: Gli autori sviluppano uno stimatore in tre fasi scalabile e non supervisionato:
  1. Clustering Spettrale: Le etichette delle classi latenti $Z$ vengono recuperate applicando il clustering spettrale a una matrice di risposte binarie "appiattita". Questo sfrutta la struttura a basso rango dei dati per gestire la natura ordinale delle risposte.
  2. Recupero della Struttura a Blocchi: All'interno di ogni classe latente stimata, vengono stimati i coefficienti di correlazione policorica per recuperare le matrici di covarianza $\Sigma_k$ specifiche per classe. Queste vengono aggregate tra le classi per identificare la partizione a blocchi condivisa. Gli autori propongono l'uso di algoritmi di rilevamento delle comunità (specificamente Leiden) su una matrice di aggregazione continua di queste correlazioni per recuperare robustamente i blocchi.
  3. Stima della Matrice di Precisione: Una volta identificati i blocchi, le matrici di precisione sparse $\Omega_k$ vengono stimate all'interno di ogni blocco utilizzando stimatori standard per i modelli grafici (ad esempio, Graphical Lasso o CLIME), condizionati alla struttura a blocchi nota.

Contributi Chiave

1. Formulazione del Modello: Un nuovo modello che colma il divario tra i classici LCM a indipendenza locale e le miscele non ristrette di modelli grafici. Imponendo una struttura a blocchi condivisa, il metodo bilancia la necessità di parsimonia con la flessibilità di modellare dipendenze complesse e specifiche per classe.
2. Algoritmo Scalabile: Una pipeline in tre fasi computazionalmente efficiente che evita l'intratabile ottimizzazione della piena verosimiglianza richiesta dai modelli a classi latenti con dipendenza locale non ristretta. Il metodo scala verso l'alta dimensionalità ($J \gg N$).
3. Garanzie Teoriche: Il documento stabilisce limiti di errore in tempo finito per tutte le fasi della pipeline:
   • Accuratezza del clustering (Proposizione 1).
   • Consistenza entry-wise per la stima della matrice di covarianza e il recupero dei blocchi (Proposizioni 3 e 4).
   • Recupero del supporto e consistenza del segno per la stima della matrice di precisione (Proposizione 5).
   • Consistenza end-to-end: Il Teorema 1 dimostra che tutti i componenti del modello (classi latenti, partizione dei blocchi e matrici di precisione) sono stimati in modo consistente sotto una scalatura ad alta dimensionalità.

Risultati

• Simulazioni: Simulazioni estese con diverse dimensioni ($J \in \{100, 500\}$), numero di classi latenti ($K$) e strutture a blocchi ($L$) mostrano che il metodo recupera accuratamente le classi latenti, le partizioni dei blocchi condivisi e le matrici di precisione specifiche per classe. Il metodo supera i baseline di Joint Graphical Lasso (JGL), che faticano a recuperare la struttura a blocchi senza una sintonizzazione oracle. Gli studi di ablazione confermano che sia la fase di clustering (Fase 1) che la fase di recupero dei blocchi (Fase 2) sono cruciali; omettere una di esse porta a un significativo degrado delle prestazioni.
• Applicazioni su Dati Reali:
  • Dati di Sondaggio ANES: Applicato ai dati del 2022 American National Election Studies ($N=1511, J=144$). Il metodo ha identificato tre classi latenti corrispondenti a elettori Repubblicani, Democratici e Indipendenti. Ha recuperato blocchi interpretabili (ad esempio, "Razzismo", "Impegno Politico") e ha rivelato schemi di dipendenza specifica per classe, come le diverse dipendenze condizionali riguardanti i vantaggi razziali tra i gruppi ideologici.
  • Dati Genetici HapMap3: Applicato ai dati di genotipo SNP ($N=479, J=500$) da quattro sottopopolazioni. Il metodo ha recuperato con successo la struttura della popolazione e ha identificato blocchi di SNP dipendenti (blocchi di disequilibrio di linkage) tenendo conto delle sottopopolazioni latenti. L'omissione della fase di clustering ha portato a correlazioni cross-blocco gonfiate, dimostrando la necessità di tenere conto dell'eterogeneità.

Significatività e Rivendicazioni
Il documento sostiene di fornire una metodologia fondata, interpretabile e teoricamente solida per mitigare l'assunto dell'indipendenza locale nell'analisi delle classi latenti ad alta dimensionalità. Introducendo una struttura a blocchi condivisa, il metodo bilancia la necessità di parsimonia con la flessibilità di modellare dipendenze locali complesse. Gli autori sottolineano che il loro approccio offre garanzie teoriche end-to-end per tutti i componenti del modello, una caratteristica spesso assente nei modelli di miscela ad alta dimensionalità esistenti. Il metodo è presentato come uno strumento pratico per scoprire strutture di dipendenza locale interpretabili in presenza di eterogeneità latente, con utilità dimostrata sia nelle scienze sociali che nella genetica. Gli autori segnalano che il codice R è disponibile pubblicamente per facilitare la riproducibilità.