📊 statistics

Deep Generalised Mixed Models: a Novel Neural Network Structure for Analysing Hierarchical Data

Este artigo propõe uma nova arquitetura de Modelo Misto Generalizado Profundo que integra efeitos mistos ao aprendizado profundo para abordar o viés de seleção proveniente de dados com dados ausentes ao acaso em estudos longitudinais de alta dimensão, como o conjunto de dados de emoção adolescente GrowIt!, embora a abordagem enfrente atualmente desafios com instabilidade do modelo.

Autores originais: Nina van Gerwen, Dimitris Rizopoulos, Manon Hillegers, Loes Keijsers, Sten Willemsen

Publicado 2026-08-07

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Nina van Gerwen, Dimitris Rizopoulos, Manon Hillegers, Loes Keijsers, Sten Willemsen

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está tentando entender como um grupo de amigos se sente todos os dias. Você pede a eles que verifiquem seu humor, níveis de estresse e tédio várias vezes ao dia durante semanas. Isso é chamado de "Amostragem de Experiência", e é como tirar mil pequenos instantâneos da vida de uma pessoa em vez de apenas uma grande foto ao final do ano. O problema é que a vida fica bagunçada. Às vezes, seus amigos esquecem de verificar ou param de verificar porque estão tendo um dia realmente ruim. No mundo da ciência de dados, isso é chamado de "dados ausentes".

Por muito tempo, os estatísticos usaram uma ferramenta chamada "Modelos Mistos" para lidar com isso. Pense nesses modelos como um treinador inteligente que conhece as regras gerais do jogo (como a maioria das pessoas se sente), mas também mantém um caderno especial para cada jogador para lembrar de suas peculiaridades únicas. No entanto, esses treinadores da "velha guarda" ficam sobrecarregados quando os dados se tornam grandes demais ou complexos demais. Por outro lado, os treinadores modernos de "Aprendizado de Máquina" são super rápidos e conseguem lidar com quantidades massivas de dados, mas são facilmente enganados. Se um jogador para de jogar porque está triste, um treinador padrão de Aprendizado de Máquina pode simplesmente ignorar esse fato e supor que o jogador está bem, levando a previsões erradas. A grande questão que os cientistas estão fazendo é: Podemos construir um treinador que seja rápido o suficiente para lidar com dados enormes e inteligente o suficiente para entender por que as pessoas abandonam o processo, para que não tenhamos a resposta errada?

Este artigo apresenta um novo treinador experimental chamado Modelo Misto Generalizado Profundo (DGMM). Os autores, uma equipe de pesquisadores da Holanda, queriam ver se poderiam combinar as melhores partes dos antigos treinadores estatísticos e dos novos treinadores de Aprendizado de Máquina em uma superestrutura. Eles construíram este novo modelo usando um tipo de inteligência artificial chamada "Rede Neural", que é como um cérebro digital feito de camadas de nós conectados. Especificamente, eles usaram um truque inteligente chamado "Autoencoder Variacional". Você pode pensar nisso como uma máquina de duas partes: uma parte (o codificador) tenta comprimir o diário bagunçado e incompleto de uma pessoa em um resumo simples de seu "estado de humor oculto", e a outra parte (o decodificador) tenta expandir esse resumo de volta para prever como serão os seus dias futuros.

Os pesquisadores testaram este novo modelo com dados reais de um aplicativo chamado "GrowIt!", que foi usado por adolescentes durante a pandemia para monitorar suas emoções. Eles também realizaram centenas de simulações de computador para ver como o modelo se comportaria sob diferentes condições, incluindo quando os dados estavam ausentes porque as pessoas estavam se sentindo particularmente negativas.

Os resultados foram uma mistura de promessa e choque de realidade. Mesmo quando os dados eram perfeitos e completos, o novo DGMM não igualou exatamente o desempenho preditivo dos modelos padrão de Aprendizado de Máquina; de fato, mostrou uma precisão ligeiramente inferior à da "Rede Neural Recorrente" (RNN) padrão. No entanto, quando os dados estavam bagunçados e ausentes (que é exatamente o que acontece na vida real), a situação tornou-se mais complexa. No teste do mundo real com os adolescentes, o DGMM apresentou um ajuste geral pior aos dados em comparação com a RNN. No entanto, a RNN foi descrita como "muito instável", produzindo previsões que oscilavam descontroladamente. Em contrapartida, para alguns indivíduos, o DGMM seguiu melhor as tendências reais do que a RNN, que às vezes previa quedas de humor grandes e imprecisas.

Os autores sugerem que essa instabilidade pode ocorrer porque o modelo é muito sensível à forma como é configurado e teve dificuldades com a maneira específica como os dados dos adolescentes estavam ausentes. No entanto, em suas simulações de computador, quando o modelo realmente funcionava corretamente, ele era, de fato, melhor em prever o futuro para pessoas que haviam abandonado o estudo em comparação com os modelos padrão. Ele conseguiu levar em conta o fato de que as pessoas que pararam de verificar provavelmente estavam passando por um momento mais difícil, enquanto os modelos padrão perderam essa pista.

Em última análise, o artigo conclui que, embora o Modelo Misto Generalizado Profundo seja uma ideia nova e fascinante que poderia ser uma ferramenta poderosa para compreender comportamentos humanos complexos, ele ainda não está pronto para substituir as ferramentas antigas. É como um carro protótipo que tem um motor incrível, mas um volante que balança. Os pesquisadores descobriram que, por enquanto, médicos e psicólogos devem provavelmente se ater aos dados que realmente têm em mãos, em vez de confiar nas previsões do modelo sobre o que poderia ter acontecido. Contudo, eles argumentam que, com algum ajuste e truques de estabilidade, esta nova arquitetura poderá um dia tornar-se o padrão ouro para analisar como nos sentimos, pensamos e mudamos ao longo do tempo.

Resumo Técnico: Modelos Mistos Generalizados Profundos (DGMM)

Definição do Problema
O artigo aborda os desafios da análise de dados longitudinais intensivos, especificamente dados de Método de Amostragem de Experiência (ESM), que envolvem medições repetidas frequentes de pensamentos, emoções e comportamentos. As abordagens analíticas atuais enfrentam uma dicotomia:

Técnicas Estatísticas Padrão: Embora os Modelos de Efeitos Mistos (MEMs) lidem bem com dados desbalanceados e abandono (drop-out), eles frequentemente têm dificuldade com as estruturas de correlação complexas e de alta dimensão inerentes aos dados de ESM e dependem de suposições distributivas rígidas.
Aprendizado de Máquina (ML) / Aprendizado Profundo (DL): Técnicas como Redes Neurais Recorrentes (RNNs) podem modelar estruturas de alta dimensão, mas frequentemente falham em fornecer inferência válida quando os dados são de Ausência de Dados ao Acaso (MAR - Missing-At-Random). Em estudos longitudinais, o abandono é frequentemente impulsionado pelo próprio desfecho (ex: participantes parando devido a emoções negativas), criando um viés de seleção. Métodos de imputação de ML padrão (ex: masking, imputação pela média) tipicamente assumem Dados Ausentes Completamente ao Acaso (MCAR), o que leva a resultados enviesados em cenários MAR.

Tentativas existentes de combinar esses campos (ex: Che et al., 2018) baseiam-se em suposições restritivas sobre mecanismos de ausência (ex: valores ausentes decaindo para uma média empírica) que não se sustentam em cenários clínicos complexos.

Metodologia
Os autores propõem o Modelo Misto Generalizado Profundo (DGMM), uma nova arquitetura de rede neural que generaliza os modelos de efeitos mistos para o aprendizado profundo.

Estrutura do Modelo: O DGMM decompõe a predição de desfechos longitudinais $Y_{i,k}$ em dois componentes:
- Efeitos Fixos ( $\mu_1$ ): Modelados por uma rede neural feed-forward padrão ( $h$ ) que recebe como entrada covariáveis de linha de base ( $X_i$ ) e o tempo ( $T_{i,k}$ ). Isso captura tendências ao nível populacional.
- Efeitos Aleatórios ( $\mu_2$ ): Modelados por uma estrutura de Autoencoder Variacional (VAE).
  - Encoder ( $e$ ): Mapeia dados observados ( $Y_i, T_i, X_i$ ) para um espaço latente, estimando a média e a variância de um vetor de efeito aleatório específico do sujeito $b_i$ .
  - Decoder ( $d$ ): Amostra desta distribuição latente para gerar desvios específicos do sujeito ( $\mu_2$ ), que são combinados com os efeitos fixos.
- Distribuição: O modelo acomoda distribuições de desfecho genéricas (Gaussiana, Gamma, Binomial, etc.) via funções de ligação $G_k(\cdot)$ .
Estimação:
- Como a verossimilhança marginal envolve um integral intratável sobre efeitos aleatórios não lineares, os autores utilizam Inferência Variacional.
- Eles maximizam o Limite Inferior de Evidência (ELBO), que consiste em um termo de reconstrução (aproximado via amostragem de Monte Carlo) e um termo de divergência de Kullback-Leibler (KL) que regulariza a distribuição latente contra uma priori normal padrão.
- Tratamento de Dados Ausentes: Para lidar com dados MAR onde os tamanhos de entrada variam, os autores empregam um algoritmo de Expectativa-Maximização (EM) de aproximação estocástica combinado com um processo de Robbins–Monro.
  - Dados ausentes são imputados iterativamente. Em cada época, os parâmetros são atualizados via gradiente descendente estocástico, e os valores ausentes são simulados a partir da distribuição preditiva posterior usando um algoritmo de Metropolis–Hastings de Caminhada Aleatória (RWMH).
  - Isso permite que o encoder utilize o padrão de ausência para a inferência, em vez de simplesmente mascará-lo.
Predição: Predições dinâmicas para novos sujeitos são geradas integrando sobre a distribuição posterior dos efeitos aleatórios e dos parâmetros do modelo, aproximada via amostragem de Monte Carlo.

Principais Contribuições

Arquitetura: O primeiro framework que generaliza modelos de efeitos mistos para o aprendizado profundo ao estimar tanto efeitos fixos quanto aleatórios usando redes neurais, permitindo a modelagem semiparamétrica e flexível da heterogeneidade intra e inter-pessoal.
Inferência MAR: Uma adaptação específica de VAEs e aumento de dados bayesiano que permite inferência válida sob mecanismos de Ausência de Dados ao Acaso (MAR), abordando o viés de seleção frequentemente ignorado em aplicações padrão de aprendizado profundo para dados longitudinais.
Generalização: O modelo suporta diversas distribuições de desfecho e escala para configurações de alta dimensão, superando a rigidez dos MEMs padrão e as limitações de inferência das RNNs comuns.

Resultos
Os autores avaliaram o DGMM no estudo GrowIt! (dados de saúde mental de adolescentes durante a pandemia) e em vários estudos de simulação.

Aplicação GrowIt!:
- O DGMM foi aplicado para prever Afeto Negativo, Solidão e Tédio.
  - Desempenho: O DGMM apresentou um ajuste inferior nos dados observados em comparação com uma RNN padrão, particularmente para desfechos binários.
- Previsão (Forecasting): Ambos os modelos tiveram dificuldade em prever trajetórias futuras com precisão. O DGMM tendeu a colapsar para um modelo linear estável, enquanto a RNN produziu previsões excessivamente flexíveis, porém instáveis.
- Conclusão: Os autores atribuem o desempenho subótimo às características dos dados (correlações sequenciais pequenas, distribuições assimétricas e alta taxa de ausência ~61%) em vez de uma falha fundamental na arquitetura, sugerindo que, para este conjunto de dados específico, decisões clínicas devem basear-se em dados observados em vez de previsões complexas.
Estudos de Simulação:
- Sem Dados Ausentes: O DGMM apresentou um bom ajuste, mas mostrou um desempenho preditivo ligeiramente inferior ao da RNN em conjuntos de teste independentes.
- Dados Ausentes (MAR): O DGMM demonstrou instabilidade do modelo, com alta variância no erro de treinamento e no desempenho preditivo entre as iterações. Isso foi atribuído à interação entre o algoritmo de imputação de dados, a inferência variacional e a inicialização da rede neural.
- Viés: Apesar da instabilidade, quando o DGMM convergia, ele recuperava trajetórias reais com menos viés do que a RNN sob condições MAR, aproveitando com sucesso o mecanismo de ausência.
- Imputação: O algoritmo de aumento de dados imputou valores ausentes com precisão nos dados de treinamento, embora com certa variância.

Significância e Alegações
O artigo afirma modestamente que, embora o DGMM seja uma arquitetura promissora para analisar dados hierárquicos não lineares, ele atualmente sofre de problemas de instabilidade (sensibilidade a hiperparâmetros, colapso da posterior e variância na convergência).

Potencial: O modelo possui potencial para fornecer inferência válida sob condições MAR onde o ML padrão falha, particularmente à medida que mais dados são coletados ao longo do tempo.
Limitações: A implementação atual troca interpretabilidade por flexibilidade. Os autores observam que a representação de variável latente profunda foi tratada como um subproduto neste estudo.
Direções Futuras: Os autores sugerem que futuras iterações poderiam melhorar a estabilidade usando técnicas como KL-annealing, $\beta$ -VAE ou garantindo a identificabilidade. Eles também propõem estender a arquitetura para outros tipos de dados (ex: imagens médicas) e utilizar as dimensões latentes para tarefas não supervisionadas (agrupamento/clustering) ou modelagem conjunta de desfechos de tempo até o evento.

Em resumo, o DGMM representa um avanço teórico na unificação de modelos mistos estatísticos com aprendizado profundo para dados longitudinais, oferecendo um mecanismo para lidar com dados MAR, mas sua utilidade prática é atualmente limitada pela instabilidade do treinamento e pelas características específicas dos conjuntos de dados testados.

Mais como este