Penalized KLIC Model Selection for the Generalized Method of Moments in Longitudinal Data with Time-Dependent Covariates

Resumo Técnico: Seleção de Modelos Penalizados KLIC para GMM em Dados Longitudinais

Enunciação do Problema
A seleção de modelos para modelos de regressão marginal estimados via o Método Geral de Momentos (GMM) na presença de covariáveis dependentes do tempo (CDTs) apresenta um desafio único. Embora o GMM ofereça ganhos de eficiência sobre as Equações de Estimação Generalizadas (GEE) ao explorar condições de momento válidas implicadas pela estrutura temporal das CDTs, o número dessas condições pode crescer rapidamente. O Critério de Informação de Kullback–Leibler (KLIC) existente, adaptado para GMM, carece de uma penalidade explícita para a complexidade do modelo. Consequentemente, o KLIC não penalizado tende a favorecer modelos superparametrizados, particularmente quando o número de condições de momento válidas aumenta com a inclusão de múltiplas CDTs. Este comportamento espelha o coeficiente de determinação ($R^2$), que aumenta automaticamente com preditores adicionados, independentemente da sua verdadeira contribuição, levando a estimativas instáveis e baixa generalizabilidade.

Metodologia
O artigo propõe duas versões penalizadas do KLIC projetadas para equilibrar o ajuste do modelo e a complexidade dentro da estrutura do GMM. A metodologia baseia-se na classificação das CDTs (Tipos I–IV) com base na estrutura de retroalimentação entre os processos de resposta e covariável, o que dita o número de condições de momento válidas ($j$) disponíveis para estimação.

1. Estrutura Teórica: Os autores estendem a divergência de Kullback–Leibler para o cenário baseado em momentos. Eles definem o critério intraamostral com base no viés exponencial (ET) das condições de momento e derivam o otimismo esperado (a diferença entre o ajuste intraamostral e o desempenho extraamostral).
2. Critérios Propostos:
   • Penalidade Produto Momento–Parâmetro KLIC (MPPP–KLIC): Motivado pelo Critério de Informação de Akaike (AIC), este critério introduz um termo de penalidade proporcional ao produto do número de parâmetros de regressão ($k$) e o número de condições de momento válidas ($j$). A forma é $KLIC_{MPPP} = -2N L_N(\hat{\beta}, \hat{\gamma}) + c_{mppp} k j$. A derivação teórica sugere que a principal fonte de otimismo surge da interação entre a dimensão do modelo e a complexidade dos momentos.
   • Penalidade Logarítmica KLIC (LP–KLIC): Motivado pelo Critério de Informação Bayesiano (BIC), este critério incorpora um termo logarítmico dependente do tamanho da amostra ($N$). A forma é $KLIC_{LP} = -2N L_N(\hat{\beta}, \hat{\gamma}) + c_{lp} k j \ln(N)$. Isto é derivado via uma aproximação de Laplace da evidência com viés exponencial, onde a dimensão efetiva da matriz de curvatura escala com $k j$.
3. Calibração da Penalidade: O artigo introduz multiplicadores calibrados ($c_{mppp}$ e $c_{lp}$) para contabilizar efeitos de amostra finita. Experimentação numérica sugere intervalos estáveis de $c_{mppp} \in [0.05, 0.20]$ e $c_{lp} \in [0.005, 0.05]$.

Principais Contribuições

• Justificativa Teórica: O artigo fornece uma derivação rigorosa mostrando que, no GMM com CDTs, a complexidade efetiva do modelo é impulsionada pela interação de parâmetros e condições de momento ($k \times j$), e não apenas pelo número de parâmetros. Isto leva a estruturas de penalidade multiplicativas distintas do AIC/BIC padrão.
• Novas Ferramentas de Seleção: A introdução do MPPP-KLIC e do LP-KLIC preenche uma lacuna na seleção de modelos para modelos longitudinais baseados em GMM, oferecendo um mecanismo principiado para penalizar a inclusão de condições de momento desnecessárias.
• Validação Empírica: O estudo avalia os critérios através de simulações extensivas e uma aplicação no mundo real, demonstrando a sua capacidade de distinguir entre modelos subajustados, corretamente especificados e superajustados.

Resultados

• Estudo de Simulação: Simulações foram conduzidas com respostas binárias e contínuas através de tamanhos de amostra pequenos ($N=500$) e grandes ($N=2500$), envolvendo CDTs dos Tipos I, II e III.
  • Em todos os cenários, o KLIC não penalizado favoreceu modelos superajustados (por exemplo, o Modelo $M_{O2}$ frequentemente apresentou um KLIC bruto menor do que o modelo verdadeiro $M_0$).
  • Tanto o MPPP-KLIC quanto o LP-KLIC identificaram com sucesso o modelo verdadeiro ($M_0$) como tendo o valor mínimo do critério.
  • O LP-KLIC impôs penalidades mais fortes do que o MPPP-KLIC, particularmente à medida que o tamanho da amostra aumentava, proporcionando maior proteção contra o superajuste em amostras grandes.
• Aplicação a Dados Reais: Os métodos foram aplicados ao conjunto de dados de Morbidade Infantil Filipina (370 crianças, 3 pontos temporais) para prever doenças.
  • Para resultados binários, o modelo completo (incluindo Idade, Gênero, IMC e rodadas de pesquisa) foi selecionado por ambos os critérios.
  • Para resultados contínuos (duração da doença transformada), os critérios selecionaram um modelo mais parcimonioso, excluindo o IMC, ilustrando o trade-off entre ajuste e complexidade.
  • Análise de Sensibilidade: Os modelos selecionados permaneceram estáveis através de uma gama de multiplicadores de penalidade. Crucialmente, a "Idade" foi consistentemente identificada como o preditor mais importante em todos os modelos de melhor classificação e em ambos os tipos de resposta.

Significado e Alegações
O artigo alega que os critérios KLIC penalizados propostos oferecem uma solução "prática e teoricamente fundamentada" para a seleção de modelos em análises longitudinais baseadas em GMM. O significado reside em abordar a limitação específica do KLIC padrão, que falha em contabilizar a complexidade introduzida pelo número de condições de momento válidas na presença de CDTs. Ao penalizar explicitamente a interação entre parâmetros e condições de momento, os métodos propostos previnem a seleção de modelos superparametrizados que sofrem de instabilidade numérica e variância inflada. Os autores afirmam que estas ferramentas permitem aos pesquisadores alcançar um trade-off equilibrado entre bondade de ajuste e parcimônia, levando a classificações de modelos mais interpretáveis e robustas em cenários onde critérios tradicionais baseados em verossimilhança (como AIC ou QIC) não são diretamente aplicáveis.