Tree-Embedded Bayesian Factor Models for Multidimensional Categorical Distributions

1. Problema e Motivação

O artigo aborda o desafio de analisar dados coletados de múltiplas fontes onde cada unidade observacional é, em si mesma, uma distribuição de probabilidade (dados categóricos agrupados), e não um escalar ou vetor único. Exemplos comuns nas ciências sociais incluem:

• Distribuições demográficas (idade e gênero) em diferentes localizações geográficas.
• Distribuições de renda entre regiões.
• Respostas agrupadas em grandes pesquisas.

O Desafio Principal: O objetivo não é apenas estimar cada distribuição isoladamente, mas entender como elas variam entre as unidades e resumir essa variação através de uma estrutura de baixa dimensão.

• Limitação dos Modelos de Mistura: Modelos padrão, como misturas de Dirichlet (DPM), assumem que os dados exibem estruturas de agrupamento (clustering) claras. No entanto, em muitos contextos sociais, as distribuições mudam gradualmente (variação contínua) entre localizações, sem clusters distintos. Modelos de mistura tendem a ser ineficientes nesses casos, gerando um número excessivo de clusters.
• Limitação dos Modelos Fatoriais Padrão: Modelos fatoriais bayesianos tradicionais assumem que as observações residem em um espaço euclidiano, enquanto dados de distribuição vivem em um simplex de probabilidade, o que impede a aplicação direta desses modelos.

2. Metodologia Proposta

Os autores propõem um novo Modelo Fatorial Latente Bayesiano para Distribuições, que combina três componentes principais:

A. Decomposição Árvore-Logística (Tree-Embedded)

Para superar a restrição do simplex, o modelo transforma as distribuições discretas em vetores euclidianos sem perda de informação:

1. Estrutura de Árvore: Os dados categóricos são organizados em uma partição de árvore binária (dyadic tree).
2. Probabilidades Condicionais: A distribuição é caracterizada por probabilidades condicionais nos nós internos da árvore ($\theta(A) = P(A_l | A)$).
3. Transformação Logística: Aplica-se uma transformação logit para mapear essas probabilidades (que estão no intervalo [0,1]) para o espaço euclidiano real ($\mathbb{R}$):
   $$\psi(A) = \log\left(\frac{\theta(A)}{1 - \theta(A)}\right)$$
   Isso cria uma bijeção entre a distribuição original e um vetor euclidiano $\psi$, permitindo o uso de modelos hierárquicos gaussianos.

B. Modelo Fatorial no Espaço Transformado

Uma vez que as distribuições são vetores euclidianos ($\psi_i$), aplica-se um modelo fatorial padrão:
$$\psi_i = \mu + \sum_{k=1}^{K} \lambda_{ik} \eta_k$$
Onde:

• $\eta_k$ são distribuições fatoriais latentes (vetores no espaço transformado).
• $\lambda_{ik}$ são cargas fatoriais escalares.
• Diferente de modelos de mistura (onde os pesos somam 1), as cargas aqui são valores reais não restritos, permitindo cobrir densamente o simplex e capturar variações contínuas.

C. Especificação de Priori e Inferência

• Modelo Fatorial Infinito: Utiliza-se a abordagem de Bhattacharya e Dunson (2011) com um processo gama multiplicativo para permitir a seleção automática do número efetivo de fatores ($K^*$) a partir dos dados.
• Dependência Espacial: Para capturar a correlação entre localizações vizinhas, introduz-se uma priori de Autoregressão Simultânea (SAR) nas cargas fatoriais.
• Amostragem Posterior: O modelo utiliza a Aumentação Polya-Gamma (Polson et al., 2013). Isso transforma a verossimilhança binomial (dos dados de contagem na árvore) em uma representação pseudo-linear gaussiana, permitindo a amostragem via MCMC (Gibbs sampler) de forma computacionalmente eficiente.
• Construção da Árvore: Quando uma estrutura de árvore natural não existe, utiliza-se o algoritmo de Balanços Principais (Principal Balances) baseado na geometria Aitchison para construir uma árvore que maximiza a variância explicada entre as distribuições observadas.

3. Contribuições Chave

1. Abordagem "Não Paramétrica": O modelo não impõe suposições paramétricas sobre a forma das distribuições observadas (ao contrário de modelos Log-normal ou Dirichlet), permitindo capturar formas complexas e heterogêneas.
2. Eficiência em Dados sem Clusters Claros: Demonstra que modelos fatoriais são superiores a modelos de mistura quando a variação dos dados é contínua e gradual, evitando a fragmentação excessiva em muitos clusters.
3. Generalização Multidimensional: A estrutura baseada em árvore estende-se naturalmente para dados multidimensionais (ex: idade e gênero simultaneamente) usando a mesma construção recursiva.
4. Tratabilidade Computacional: A combinação da transformação logística com a aumentação Polya-Gamma torna a inferência bayesiana viável e escalável.

4. Resultados Empíricos

O modelo foi aplicado a dados de população de permanência (stay-population) em Tóquio, Japão (dados da NTT Docomo), analisando a composição demográfica (gênero e 8 faixas etárias) em 452 locais.

• Comparação de Desempenho: O modelo proposto foi comparado com:
  1. Mistura de Processo de Dirichlet (DPM).
  2. Modelo Log-normal com priori de diferença em par (Log-normal PWD).
• Métrica: Perda de Previsão Posterior (PPL).
• Desempenho: O modelo proposto obteve PPLs substancialmente menores em todos os pontos temporais analisados (dias úteis, fins de semana, feriados, diferentes horários).
  • O DPM gerou um número excessivo de clusters (ex: >100 clusters para 452 locais), indicando falha em capturar a estrutura de variação contínua.
  • O modelo Log-normal exibiu viés sistemático e alta variância preditiva, falhando em capturar a forma complexa das distribuições de idade/gênero devido às suas suposições paramétricas unimodais.
• Interpretabilidade: A análise dos fatores revelou padrões demográficos claros. Por exemplo, o primeiro fator capturou a concentração de homens de 20-40 anos em distritos comerciais (ex: Shinagawa, Tokyo Station), enquanto o segundo fator destacou áreas de entretenimento com populações mais jovens (ex: Shibuya, Shinjuku).

5. Significado e Conclusão

O artigo estabelece uma ponte importante entre a análise de dados composicionais e a modelagem fatorial bayesiana moderna.

• Significado Teórico: Oferece uma solução robusta para modelar dados que variam continuamente em um simplex, superando as limitações de modelos baseados em clusters ou suposições paramétricas rígidas.
• Aplicabilidade Prática: A ferramenta é altamente relevante para ciências sociais, epidemiologia e demografia, onde a compreensão de como a composição de populações muda espacial e temporalmente é crucial.
• Futuro: Os autores sugerem a extensão do framework para modelos dinâmicos espaço-temporais, permitindo prever sequencialmente a composição demográfica ao longo do tempo.

Em resumo, o modelo proposto fornece uma representação parcimoniosa, expressiva e computacionalmente eficiente para dados de distribuição complexos, superando significativamente os métodos existentes em cenários de variação contínua.