SEMMS with Random Effects: A Mixed-Model Extension for Variable Selection in Clustered and Longitudinal Data

Resumen Técnico: Extensión de SEMMS para Modelos Mixtos

1. Planteamiento del Problema

El procedimiento SEMMS (Scalable Empirical-Bayes Model for Marker Selection) es un método de selección de variables para modelos lineales generalizados (GLM) que utiliza un prior de mezcla normal de tres componentes sobre los coeficientes de regresión. Sin embargo, la versión original de SEMMS asume que todas las observaciones son independientes.

Esta suposición se viola frecuentemente en escenarios del mundo real, como:

• Estudios longitudinales (medidas repetidas en el tiempo).
• Datos agrupados (pacientes en hospitales, estudiantes en escuelas).
• Estudios de gemelos o familiares.

En estos casos, las observaciones dentro del mismo sujeto o grupo están correlacionadas. Ignorar esta correlación infla la varianza residual aparente y degrada severamente el rendimiento de la selección de variables, llevando a:

1. Dificultad para detectar predictores verdaderos (pérdida de potencia).
2. Selección de ruido (falsos positivos) que co-varían con la estructura de agrupación.

El objetivo del artículo es extender SEMMS para acomodar interceptos aleatorios, pendientes aleatorias (o ambas), manteniendo la escalabilidad computacional y la precisión en la selección.

2. Metodología Propuesta

Los autores proponen una extensión de SEMMS basada en un algoritmo de ascenso de coordenadas alternado que desacopla la estimación de efectos fijos y efectos aleatorios.

A. El Modelo Extendido
Para un diseño longitudinal con $m$ sujetos y $n_i$ observaciones por sujeto, el modelo se define como:
$$Y_{ij} = x_{ij}^\top \beta + z_{ij}^\top \alpha + b_{0i} + b_{1i} t_j + \varepsilon_{ij}$$
Donde:

• $\beta$: Efectos fijos de covariables retidas.
• $\alpha$: Coeficientes de los predictores candidatos (seleccionados por SEMMS).
• $b_{0i}, b_{1i}$: Efectos aleatorios (intercepto y pendiente) específicos del sujeto.
• $\varepsilon_{ij}$: Error de observación.

B. El Algoritmo de Ascenso de Coordenadas
La clave de la extensión es un bucle externo que alterna entre dos pasos condicionales:

1. Paso de Efectos Fijos (Selección de Variables):
   • Se calcula una respuesta ajustada: $Y^* = Y - \hat{u}$, donde $\hat{u}$ son los predictores lineales no sesgados óptimos (BLUPs) de los efectos aleatorios estimados en la iteración anterior.
   • Se ejecuta el algoritmo original GAM (Generalized Alternating Maximization) de SEMMS sobre $Y^*$. Dado que $Y^*$ ha eliminado la variación entre sujetos, SEMMS opera bajo la suposición de independencia.
2. Paso de Efectos Aleatorios (Actualización de BLUPs):
   • Con el conjunto de predictores activos fijos ($\hat{S}$), se ajustan los parámetros del modelo mixto (varianzas de efectos aleatorios y residuales) utilizando lmer (Gaussiano) o glmer (no Gaussiano) mediante máxima verosimilitud (ML).
   • Se actualizan los BLUPs ($\hat{u}$) para la siguiente iteración.

C. Adaptación para Familias No Gaussianas (Poisson, Binomial)
Para datos no Gaussianos, el método utiliza una adaptación de Respuesta de Trabajo basada en la Cuasi-Verosimilitud Penalizada (PQL) de Breslow y Clayton (1993):

• En lugar de restar directamente los efectos aleatorios de la respuesta cruda, se construye una respuesta de trabajo en la escala del enlace ($W^*$).
• Esto permite aplicar el paso de efectos fijos de SEMMS asumiendo una distribución normal sobre la respuesta transformada, mientras que el paso de efectos aleatorios utiliza glmer con la familia correcta.

D. Eficiencia Computacional

• La extensión mantiene la complejidad computacional $O(NL^2)$ del SEMMS original gracias a la identidad de Woodbury, evitando la inversión de matrices $N \times N$.
• Se utiliza un "arranque en caliente" (warm-start) inicializando los efectos aleatorios desde un modelo nulo para evitar que SEMMS absorba la variación entre sujetos como falsos positivos en la primera iteración.

3. Contribuciones Clave

1. Marco Unificado: Extensión de un procedimiento de selección de variables empírico-Bayesiano escalable a modelos mixtos lineales y generalizados (GLMM).
2. Algoritmo Alternado: Desarrollo de un esquema de coordenadas que permite utilizar la infraestructura existente de SEMMS (C++/GAM) sin modificar su núcleo, simplemente ajustando la respuesta de entrada.
3. Implementación en R: Integración en el paquete SEMMS (v0.4.0) con funciones como fitSEMMSmixed y runMixedModel, compatibles con lme4.
4. Validación Exhaustiva: Evaluación en escenarios Gaussianos, Poisson y Binomial, cubriendo desde señales fuertes hasta dominancia de efectos aleatorios.

4. Resultados de las Simulaciones

Los autores realizaron seis estudios de simulación comparando SEMMS Mixto contra SEMMS Plano, Lasso Plano y glmmLasso.

• Escenario 1 (Señal Fuerte, Efectos Aleatorios Moderados):
  • Ambos métodos SEMMS (Plano y Mixto) funcionan bien. El Mixto logra recuperación exacta del 100% con 0 falsos positivos.
• Escenario 2 (Señal Débil, Efectos Aleatorios Dominantes):
  • SEMMS Plano falla estrepitosamente (recuperación exacta del 1% en Gaussiano), confundiendo la correlación intra-sujeto con señal.
  • SEMMS Mixto recupera el 93% de los predictores verdaderos con casi cero falsos positivos.
  • glmmLasso también falla (1% de recuperación) debido a que el criterio BIC sobre-penaliza los efectos fijos cuando la varianza aleatoria es alta.
• Escenario 3 (Alta Dimensionalidad $K > N$):
  • El método Mixto supera al Plano (91% vs 80% de recuperación exacta) y elimina casi todos los falsos positivos, demostrando robustez incluso con pocas observaciones por sujeto.
• Escenarios No Gaussianos (Poisson y Binomial):
  • En Poisson, el método Mixto mejora la recuperación exacta del 45% (Plano) al 61%.
  • En Binomial con efectos aleatorios dominantes, el método Mixto logra un 65% de recuperación exacta frente al 39% del método plano.
  • En todos los casos, el método Mixto mantiene tasas de falsos positivos significativamente más bajas que Lasso y glmmLasso.

5. Significado e Impacto

Este trabajo es significativo por varias razones:

• Solución a un problema crítico: Aborda la falla fundamental de los métodos de selección de variables estándar (como Lasso o SEMMS plano) en datos correlacionados, donde la estructura de agrupación suele enmascarar la señal real.
• Superioridad sobre alternativas: Demuestra que los enfoques basados en penalización (Lasso) o selección de modelo (BIC en glmmLasso) a menudo fallan en escenarios de efectos aleatorios dominantes, mientras que el enfoque Empírico-Bayesiano de SEMMS, al corregir la respuesta, es más robusto.
• Aplicabilidad Práctica: Proporciona una herramienta computacionalmente eficiente para campos como la genómica, la farmacología y las ciencias sociales, donde los datos longitudinales y agrupados son la norma.
• Validación en Datos Reales: El ejemplo con el conjunto de datos sleepstudy (tiempo de reacción) confirma que el método recupera la estructura de ruido real y selecciona correctamente las variables sintéticas añadidas, a diferencia de los competidores que seleccionan falsos positivos o no seleccionan nada.

En conclusión, la extensión de SEMMS con efectos aleatorios representa un avance sustancial en la inferencia estadística para datos de alta dimensión y correlacionados, ofreciendo una selección de variables más precisa, parsimoniosa y fiable.