Resumo Técnico: Integração de Codificadores Neurais em Modelos Lineares Generalizados Mistos Bayesianos para Dados Multimodais

Declaração do Problema

Os Modelos Lineares Generalizados Mistos (GLMMs) Bayesianos são ferramentas padrão para analisar dados agrupados e longitudinais em domínios de alto risco, como a medicina clínica, oferecendo uma quantificação rigorosa da incerteza (UQ) tanto para os parâmetros do modelo quanto para as previsões. No entanto, os GLMMs Bayesianos tradicionais são limitados a preditores tabulares de baixa dimensão e não podem acomodar nativamente modalidades complexas e de alta dimensão, como imagens médicas ou texto. As abordagens híbridas existentes que tentam integrar redes neurais frequentemente sacrificam a interpretabilidade ao incorporar efeitos aleatórios dentro de arquiteturas profundas ou ao depender de estimativa de ponto (ex: Máxima Posterior), o que falha em capturar a incerteza epistêmica. Além disso, a inferência Bayesiana escalável para GLMMs com componentes neurais é dificultada por verossimilhanças marginais intratáveis e funções de perda altamente não convexas.

Metodologia

Os autores propõem um framework de Modelo Linear Generalizado Misto (GLMM) Multimodal que integra codificadores neurais específicos por modalidade com inferência Bayesiana escalável via Dinâmica de Langevin de Gradiente Estocástico (SGLD).

1. Arquitetura do Modelo

O framework distingue dois tipos de entrada:

• Dados Não Estruturados de Alta Dimensão ($u_{ij}$): Processados por um codificador neural específico da modalidade $h_\phi(\cdot)$ (ex: CNNs para imagens, Transformers para texto) para produzir um vetor de características latentes de dimensão $K$.
• Dados Tabulares Estruturados ($x_{ij}$): Modelados diretamente via efeitos fixos.

As características latentes são padronizadas para garantir estabilidade numérica. O preditor linear $\eta_{ij}$ combina efeitos fixos para covariáveis estruturadas e um componente de efeitos mistos para as características latentes aprendidas:
$$\eta_{ij} = x_{ij}^\top \alpha + z_{ij}^\top (\beta + \gamma_i)$$
Onde:

• $\alpha$: Efeitos fixos para covariáveis estruturadas.
• $\beta$: Efeitos fixos de nível populacional para características latentes.
• $\gamma_i \sim \mathcal{N}(0, \Sigma)$: Efeitos aleatórios específicos do sujeito, permitindo heterogeneidade tanto no risco basal quanto na sensibilidade a modalidades específicas.

2. Identificabilidade e Interpretação

Como o sistema de coordenadas latente é aprendido, ele sofre de não-identificabilidade de escala e sinal. Os autores abordam isso padronizando as saídas latentes para variância empírica unitária antes da amostragem posterior. Consequentemente, eles focam em resumos padronizados invariantes ao sinal:

• Magnitude do Efeito Populacional: $\delta^{pop}_k = |\beta_k|$
• Magnitude da Heterogeneidade: $\delta^{het}_k = \sqrt{\Sigma_{kk}}$
• Contribuições Relativas: Razões dessas magnitudes para comparar a importância de diferentes modalidades na população e dentro dos sujeitos.

3. Inferência Bayesiana Escalável (Estratégia de Dois Estágios)

Para superar a intratabilidade da verossimilhança marginal e a não-estacionariedade do aprendizado de características durante a amostragem, os autores empregam uma estratégia de otimização de dois estágios:

• Fase 1: Aprendizado de Representação Supervisionado: Os parâmetros do codificador neural $\phi$ e os parâmetros do GLMM $\Theta$ são atualizados conjuntamente usando gradientes estocásticos. O codificador aprende uma representação latente preditiva adaptada ao objetivo do GLMM. As amostras geradas aqui são tratadas como burn-in.
• Fase 2: Amostragem Posterior Condicional Congelada: O codificador $\hat{\phi}$ é congelado. O SGLD é aplicado exclusivamente aos parâmetros do GLMM $\Theta$ condicionados às representações aprendidas e fixas. Isso garante que o alvo da posterior seja estacionário, um requisito para diagnósticos de SGLD válidos e correção de variância.

Correção de Variância: O SGLD padrão produz amostras com variância inflada devido à subamostragem de mini-lote (mini-batch) e ao ruído injetado. Os autores aplicam uma correção de variância post-hoc baseada na equação de Lyapunov para estimar a matriz de precisão da posterior verdadeira e reescalar as amostras, garantindo estimativas de incerteza calibradas.

Principais Contribuições

1. Arquitetura de GLMM com Codificador Neural: Um design inovador que integra codificadores neurais multimodais em um GLMM, permitindo o aprendizado conjunto de representações de alta dimensão e a quantificação de sua importância tanto em nível populacional quanto específico do sujeito.
2. Inferência Escalável via SGLD: Um procedimento de aprendizado de dois estágios que separa o aprendizado de representação da amostragem posterior Bayesiana, permitindo inferência escalável em configurações de alta dimensão enquanto mantém uma UQ rigorosa.
3. Validação Empírica: Estudos de simulação extensos e aplicações no mundo real demonstrando que o método recupera médias e variâncias posteriores comparáveis a benchmarks de MCMC de dados completos, enquanto fornece insights interpretáveis sobre a importância das modalidades.

Resultados

Estudos de Simulação

• Recuperação de Estrutura Latente: Em configurações de Modelo Linear Misto (LMM), o codificador neural recuperou com sucesso estruturas latentes não lineares complexas (funções 1D, paraboloides, superfícies de sela) com correlações superiores a 0,99 com o ground truth.
• Precisão da Posterior: Em configurações de GLMM de alta dimensão com inclinações aleatórias (random slopes), o método recuperou com precisão as médias posteriores e os componentes de variância. A correção de variância post-hoc alinhou com sucesso as variâncias logarítmicas estimadas com os benchmarks do amostrador de Gibbs, corrigindo a típica subestimação de incerteza de métodos aproximados.

Aplicações no Mundo Real

1. Progressão de Glaucoma:

   • Aplicado a imagens de campo visual longitudinais para prever a perda funcional.
   • Descobertas: O modelo identificou a idade avançada como um fator de risco significativo. A característica latente extraída pela CNN (um "índice de saúde") mostrou uma forte associação negativa com o risco de progressão.
   • Heterogeneidade: Foram encontradas variâncias significativas de intercepto e inclinação aleatórios, indicando riscos basais substanciais específicos do paciente e sensibilidades variáveis aos padrões de campo visual.
   • Performance: Alcançou um AUC de 0,764, comparável a um baseline determinístico de CNN (0,761), provando que adicionar UQ Bayesiana e efeitos aleatórios não sacrifica a precisão preditiva.

2. Saúde Mental Adolescente (Estudo ABCD):

   • Predição de status futuro de psicopatologia de alto risco usando dados de múltiplos domínios (ex: sono, neurobiologia, ambiente familiar).
   • Descobertas: O Sono mostrou a associação de nível populacional mais forte com o risco. No entanto, o Contexto de Vizinhança e Socioeconômico exibiu a maior variância de inclinação aleatória, indicando que, embora seu efeito médio fosse pequeno, seu impacto variava significativamente entre indivíduos (mascarando efeitos fortes em subpopulações específicas).
   • Performance: O modelo probabilístico alcançou um AUC de 0,78, igualando um MLP de baseline treinado sem efeitos aleatórios.

Significância e Alegações

O artigo afirma que este framework fornece uma solução principista para analisar dados longitudinais multimodais em configurações de alto risco. Ao combinar aprendizado de representação supervisionado com inferência Bayesiana condicional, o método:

• Preserva a Interpretabilidade: Mantém a capacidade de quantificar a importância relativa de diferentes modalidades tanto em nível populacional quanto específico do sujeito, evitando a natureza de "caixa preta" de abordagens puramente de aprendizagem profunda.
• Garante uma UQ Rigorosa: Fornece estimativas de incerteza calibradas para parâmetros do modelo e previsões, o que é crítico para a tomada de decisão clínica.
• Escala Eficientemente: Supera os gargalos computacionais dos GLMMs Bayesianos tradicionais, tornando-os aplicáveis a conjuntos de dados de alta dimensão e grande escala.

Os autores observam limitações, especificamente a não-identificabilidade inerente de sinal/escala das características latentes (abordada via padronização) e a falta de atribuição de importância a características de entrada brutas específicas (sugerindo integração futura com mapas de saliência ou modelos de gargalo de conceito). No entanto, eles afirmam que o framework equilibra com sucesso o desempenho preditivo, a interpretabilidade e a quantificação de incerteza sem exigir inferência Bayesiana conjunta total sobre todos os pesos neurais.