Scalable Dirichlet Process Mixture Models with Unknown Concentration and Adaptive Covariance for High-Dimensional Clustering Applied to Leukemia Transcriptomics

Título: Modelos de Mistura de Processos Dirichlet Escaláveis com Concentração Desconhecida e Covariância Adaptativa para Agrupamento de Alta Dimensão Aplicado a Transcriptômica de Leucemia

1. O Problema

O agrupamento (clustering) de dados biológicos complexos, como dados de transcriptômica (expressão gênica), enfrenta desafios significativos devido à alta dimensionalidade (milhares de genes) e ao tamanho limitado das amostras.

• Limitações dos Métodos Atuais: Técnicas tradicionais (como K-means) e modelos de mistura finitos exigem que o número de clusters ($K$) seja pré-especificado, o que é frequentemente desconhecido na prática.
• Desafios dos Modelos Bayesianos Não Paramétricos (DPMM): Os Modelos de Mistura de Processos Dirichlet (DPMM) oferecem uma solução flexível ao inferir $K$ a partir dos dados. No entanto:
  • Os métodos de Inferência por Cadeia de Markov Monte Carlo (MCMC) são computacionalmente caros, sofrem de convergência lenta e são difíceis de escalar para dados de alta dimensão.
  • A Inferência Variacional (VI) é mais rápida, mas as implementações existentes frequentemente falham em estimar o parâmetro de concentração ($\alpha$) de forma adaptativa (assumindo-o fixo) ou simplificam excessivamente a estrutura de covariância (assumindo independência de campo médio ou covariância conhecida), o que leva a estimativas inconsistentes de $K$ e má adaptação a dados com ruído e correlações complexas.

2. Metodologia Proposta

Os autores propõem uma nova abordagem de Inferência Variacional Colapsada (Collapsed Variational Inference - CVI) para DPMMs, projetada para ser escalável e estatisticamente coerente.

• Inferência Variacional Colapsada:
  • O método integra (colapsa) os parâmetros de "quebra de vara" (stick-breaking) da distribuição de Dirichlet. Isso elimina a dependência direta das proporções de mistura latentes ($\pi_k$) em relação a $\alpha$, permitindo que a distribuição dos vetores de alocação ($z_n$) dependa diretamente de $\alpha$.
  • Isso resolve uma inconsistência comum em VI padrão, onde o número de clusters estimado por $\alpha$ e pelo vetor de alocação $z_n$ divergem.
• Estimação Adaptativa do Parâmetro de Concentração ($\alpha$):
  • O parâmetro $\alpha$ é tratado como uma variável aleatória com uma priori Gamma.
  • Utilizando aproximações de séries de Taylor e a fórmula de Euler-Maclaurin, os autores derivam uma distribuição variacional fechada para $\alpha$, permitindo sua atualização adaptativa baseada nos dados, garantindo consistência na estimativa do número de clusters.
• Modelagem de Covariância Adaptativa e Esparsa:
  • Para lidar com a alta dimensionalidade e evitar a "maldição da dimensionalidade" e o sobreajuste, o modelo introduz covariâncias específicas por cluster ($\Sigma_k$).
  • São testadas várias parametrizações. A abordagem vencedora (Sparse DPMM) utiliza priores elementares na matriz de precisão ($\Sigma^{-1}$):
    • Elementos diagonais seguem uma distribuição Gamma.
    • Elementos fora da diagonal seguem uma distribuição de Laplace (ou Gaussiana com variância muito pequena).
  • A distribuição de Laplace atua como um prior de esparsidade, forçando muitas correlações entre genes a serem zero, o que melhora a interpretabilidade e a estabilidade numérica em dados com poucos samples e muitas características.
• Implementação: O algoritmo é implementado no pacote R vimixr, utilizando um algoritmo de ascensão coordenada para maximizar o Limite Inferior de Evidência (ELBO).

3. Contribuições Principais

1. Escalabilidade e Velocidade: O método CVI proposto é significativamente mais rápido (ordens de magnitude) do que os métodos MCMC de amostragem por fatia (slice sampling) atuais, tornando viável o agrupamento Bayesiano em grandes conjuntos de dados ômicos.
2. Coerência Teórica: A integração de $\alpha$ e da estrutura de covariância dentro de um esquema Bayesiano completo resolve inconsistências entre o número de clusters inferidos e os parâmetros do modelo.
3. Robustez em Alta Dimensão: O uso de priores de esparsidade (Sparse DPMM) mitiga problemas de sobreparametrização e acoplamento variância-covariância, permitindo a recuperação precisa de estruturas de clusters em dados ruidosos e de alta dimensão.
4. Ferramenta de Software: Disponibilização do pacote vimixr na CRAN, facilitando a aplicação prática do método.

4. Resultados

• Simulações:
  • Estudos de simulação sob cenários Gaussianos e Binomiais Negativos demonstraram que o Sparse DPMM (modelo M7) recupera com precisão o número verdadeiro de clusters ($K_{true}$) e obtém os melhores índices de Rand Ajustado (ARI) em comparação com outros modelos de covariância (fixos, globais ou Inverse-Wishart).
  • O método mostrou robustez em diferentes regimes de relação sinal-ruído e tamanhos de clusters.
• Aplicação Real (Leucemia):
  • O modelo foi aplicado a um conjunto de dados de transcriptômica de leucemia (72 amostras, 2.194 genes) contendo subtipos de Leucemia Linfoblástica Aguda (ALL), Leucemia Mieloide Aguda (AML) e Leucemia de Linhagem Mista (MLL).
  • Recuperação de Subtipos: O modelo recuperou com sucesso os subtipos conhecidos (ALL, AML, MLL).
  • Descoberta Biológica: Ao usar hiperparâmetros mais fracos, o modelo identificou um quarto cluster contendo uma amostra de MLL. A análise de heatmap revelou que esta amostra expressava genes característicos tanto de ALL quanto de MLL, mas não de AML. Isso corrobora a plasticidade de linhagem da leucemia MLL rearranjada, um fenômeno biológico conhecido onde as células podem transitar entre fenótipos linfoides e mieloides. O modelo capturou essa heterogeneidade biológica em vez de forçar a amostra em uma categoria rígida.
• Benchmarking:
  • Comparado a técnicas de ponta (K-means, DBSCAN, HDBSCAN, Leiden, HDDC), o Sparse DPMM foi mais lento em termos de tempo de execução absoluto, mas superou todos os outros métodos em precisão de agrupamento (ARI) e na capacidade de inferir o número correto de clusters sem pré-definição.

5. Significado e Conclusão

O trabalho apresenta uma solução teoricamente coerente e computacionalmente eficiente para o desafio do agrupamento Bayesiano não paramétrico em dados de alta dimensão. Ao combinar a inferência variacional colapsada com modelagem de covariância esparsa, os autores superam as limitações de convergência do MCMC e as simplificações excessivas da VI tradicional.

A aplicação em dados de leucemia demonstra não apenas a eficácia estatística do método, mas também seu valor biológico, sendo capaz de revelar nuances na heterogeneidade tumoral (plasticidade de linhagem) que métodos de agrupamento convencionais poderiam perder. O framework proposto oferece uma ferramenta robusta para a análise exploratória de dados biológicos complexos onde o número de grupos é desconhecido e a estrutura de correlação é complexa.