Beyond Local Independence: High-Dimensional Latent Class Graphical Models with Shared Block Structure

Resumo Técnico: Além da Independência Local: Modelos Gráficos de Classes Latentes de Alta Dimensão com Estrutura de Blocos Compartilhada

Definição do Problema
Modelos de classe latente (LCMs) são ferramentas padrão para analisar dados categóricos multivariados de populações heterogêneas. No entanto, os LCMs tradicionais baseiam-se na premissa de independência local: dado uma classe latente, as respostas observadas são mutuamente independentes. Essa premissa é frequentemente violada em aplicações modernas de alta dimensão, como pesquisas de opinião pública (onde itens sobre tópicos semelhantes permanecem dependentes) e dados genéticos (onde SNPs próximos exibem desequilíbrio de ligação). Ignorar tal dependência local distorce as estimativas de parâmetros e as atribuições de classes latentes.

As abordagens existentes para relaxar a independência local são tipicamente limitadas a cenários de baixa dimensão, dependem de padrões de dependência pré-especificados ou não estruturados, ou carecem de garantias estatísticas. Por outro lado, modelos gráficos de alta dimensão podem aprender estruturas de dependência, mas geralmente falham em considerar classes latentes heterogêneas desconhecidas. Existe uma lacuna em metodologia estatística fundamentada que possa aprender conjuntamente a heterogeneidade latente e a dependência local estruturada a partir de respostas ordinais de alta dimensão.

Metodologia
Os autores propõem um modelo gráfico de classe latente de alta dimensão com uma estrutura de blocos compartilhada. O modelo assume que, condicionada a uma classe latente $Z_i = k$, as respostas ordinais são geradas via uma cópula Gaussiana latente. A inovação principal é que a matriz de covariância $\Sigma_k$ do vetor Gaussiano latente é diagonal por blocos após uma permutação compartilhada de variáveis entre todas as $K$ classes latentes.

• Partição de Blocos Compartilhados: As variáveis são particionadas em $L$ blocos ($V_1, \dots, V_L$) que são compartilhados entre todas as classes latentes. Isso captura grupos interpretáveis de variáveis localmente dependentes (ex: itens de pesquisa sobre um tópico específico).
• Dependência Específica da Classe: Dentro de cada bloco, a estrutura de dependência condicional (codificada pela matriz de precisão $\Omega_k$) é permitida variar entre as classes latentes, capturando a heterogeneidade específica da classe.
• Pipeline de Estimação de Três Etapas: Os autores desenvolvem um estimador de três etapas escalável e não supervisionado:
  1. Agrupamento Espectral (Spectral Clustering): Os rótulos das classes latentes $Z$ são recuperados aplicando agrupamento espectral a uma matriz de resposta binária "achatada". Isso aproveita a estrutura de baixo posto dos dados para lidar com a natureza ordinal das respostas.
  2. Recuperação da Estrutura de Blocos: Dentro de cada classe latente estimada, correlações policóricas pareadas são estimadas para recuperar as matrizes de covariância $\Sigma_k$ específicas da classe. Estas são agregadas entre as classes para identificar a partição de blocos compartilhada. Os autores propõem o uso de algoritmos de detecção de comunidades (especificamente o Leiden) em uma matriz de agregação contínua dessas correlações para recuperar robustamente os blocos.
  3. Estimação da Matriz de Precisão: Uma vez identificados os blocos, matrizes de precisão esparsas $\Omega_k$ são estimadas dentro de cada bloco usando estimadores padrão de modelos gráficos (ex: Graphical Lasso ou CLIME), condicionados à estrutura de blocos conhecida.

Principais Contribuições

1. Formulação do Modelo: Um novo modelo que une o LCM clássico de independência local aos modelos de mistura de modelos gráficos sem restrições. Ele impõe uma estrutura de blocos compartilhados para garantir interpretabilidade e parcimônia, ao mesmo tempo em que permite uma dependência flexível e específica da classe dentro dos blocos.
2. Algoritmo Escalável: Um pipeline de três etapas computacionalmente eficiente que evita a otimização de verossimilhança total intratável exigida por LCMs localmente dependentes sem restrições. O método escala para altas dimensões ($J \gg N$).
3. Garantias Teóricas: O artigo estabelece limites de erro de amostra finita para todos os estágios do pipeline:
   • Acurácia de agrupamento (Proposição 1).
   • Consistência entrada a entrada para estimação de matriz de covariância e recuperação de blocos (Proposições 3 e 4).
   • Recuperação de suporte e consistência de sinal para estimação de matriz de precisão (Proposição 5).
   • Consistência de ponta a ponta: O Teorema 1 demonstra que todos os componentes do modelo (classes latentes, partição de blocos e matrizes de precisão) são estimados de forma consistente sob escalonamento de alta dimensão.

Resultos

• Simulações: Simulações extensas através de diferentes dimensões ($J \in \{100, 500\}$), números de classes latentes ($K$) e estruturas de blocos ($L$) mostram que o método recupera com precisão as classes latentes, as partições de blocos compartilhados e as matrizes de precisão específicas da classe. O método supera os baselines de JGL (Joint Graphical Lasso), que têm dificuldade em recuperar a estrutura de blocos sem ajuste de oráculo. Estudos de ablação confirmam que tanto o passo de agrupamento (Etapa 1) quanto o passo de recuperação de blocos (Etapa 2) são cruciais; omitir qualquer um deles leva a uma degradação significativa do desempenho.
• Aplicações em Dados Reais:
  • Dados de Pesquisa ANES: Aplicado aos dados da American National Election Studies de 2022 ($N=1511, J=144$). O método identificou três classes latentes correspondentes a eleitores Republicanos, Democratas e Independentes. Recuperou blocos interpretáveis (ex: "Racismo", "Engajamento Político") e revelou padrões de dependência específicos da classe, como dependências condicionais divergentes em relação a vantagens raciais entre grupos ideológicos.
  • Dados Genéticos HapMap3: Aplicado a dados de genótipo de SNP ($N=479, J=500$) de quatro subpopulações. O método recuperou com sucesso a estrutura populacional e identificou blocos de SNPs dependentes (blocos de desequilíbrio de ligação) enquanto contabilizava as subpopulações latentes. Omitir o passo de agrupamento resultou em correlações entre blocos infladas, demonstrando a necessidade de considerar a heterogeneidade.

Significância e Alegações
O artigo afirma fornecer uma metodologia fundamentada, interpretável e teoricamente sólida para relaxar a premissa de independência local em análise de classe latente de alta dimensão. Ao introduzir uma estrutura de blocos compartilhados, o método equilibra a necessidade de parcimônia com a flexibilidade para modelar dependências complexas. Os autores enfatizam que sua abordagem oferece garantias teóricas de ponta a ponta para todos os componentes do modelo, uma característica frequentemente ausente em modelos de mistura de alta dimensão. O método é apresentado como uma ferramenta prática para descobrir estruturas de dependência local interpretáveis na presença de heterogeneidade latente, com utilidade demonstrada tanto nas ciências sociais quanto na genética. Os autores observam que o código em R está disponível publicamente para facilitar a reprodutibilidade.