📊 statistics

SEMMS with Random Effects: A Mixed-Model Extension for Variable Selection in Clustered and Longitudinal Data

Cet article propose une extension du modèle SEMMS intégrant des effets aléatoires pour gérer les données corrélées (groupées ou longitudinales), améliorant ainsi considérablement la sélection de variables par rapport à la méthode originale, en particulier lorsque la variance des effets aléatoires est dominante.

Auteurs originaux : Haim Bar, Martin T. Wells

Publié 2026-03-18

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Haim Bar, Martin T. Wells

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

🌟 Le Titre : "Trouver l'aiguille dans la botte de foin, quand la botte bouge"

Imaginez que vous êtes un détective. Votre mission est de trouver 5 indices réels (les vraies causes d'une maladie, d'un comportement, etc.) cachés parmi 100 fausses pistes (du bruit, des coïncidences). C'est ce que fait l'outil original appelé SEMMS.

Mais il y a un problème : dans la vraie vie, les données ne sont pas comme des photos prises une seule fois. Elles ressemblent plutôt à une vidéo où les mêmes personnes sont filmées plusieurs fois.

🚗 L'Analogie du Bus et des Passagers

Pour comprendre le problème que ce papier résout, imaginons un bus qui traverse une ville.

Le Bus (L'Individu/Le Sujet) : Chaque passager du bus est un "sujet" (un patient, un élève, un arbre).
Le Trajet (Le Temps) : On observe chaque passager à plusieurs moments différents (jour 1, jour 2, jour 3...).
Le Conduite du Bus (L'Effet Aléatoire) :
- Le bus a un chauffeur (l'effet aléatoire). Certains chauffeurs conduisent très doucement (bas niveau de stress), d'autres très vite (haut niveau de stress).
- Si vous regardez la vitesse d'un passager à travers la vitre, vous voyez deux choses :
  - La vitesse du passager qui marche dans le bus (c'est le signal réel que vous cherchez).
  - La vitesse du bus lui-même (c'est le bruit ou la corrélation).

Le problème de l'ancienne méthode (SEMMS classique) :
L'ancien détective regardait les passagers et pensait : "Tiens, ce passager bouge vite ! C'est sûrement parce qu'il court !".
En réalité, il ne courait pas. C'est juste que le bus (le chauffeur) roulait vite. L'ancien détective confondait le mouvement du bus avec le mouvement du passager. Il sélectionnait de mauvaises "pistes" (faux positifs) parce qu'il ne comprenait pas que les passagers du même bus étaient liés par le même chauffeur.

La nouvelle méthode (SEMMS à Effets Aléatoires) :
Le nouveau détective (ce papier) dit : "Attends, je vais d'abord calculer la vitesse du bus et la soustraire de l'image."
Une fois le mouvement du bus retiré, il ne reste plus que le mouvement réel du passager. Maintenant, il peut voir clairement qui court vraiment et qui reste assis.

🔍 Comment ça marche ? (Le Secret de l'Algorithme)

Les auteurs ont créé une méthode intelligente qui fait deux choses en boucle, comme un danseur qui ajuste ses pas :

Étape 1 : Nettoyer la scène.
Ils utilisent une technique mathématique (appelée BLUP dans le jargon) pour estimer "la vitesse du bus" (l'effet spécifique à chaque personne) et le retirer des données. C'est comme si on enlevait le tremblement de la caméra pour stabiliser l'image.
Étape 2 : Chasser les indices.
Une fois l'image stabilisée (sans le bruit du bus), ils utilisent leur détective original (SEMMS) pour trouver les 5 vrais indices parmi les faux.
Étape 3 : Répéter.
Ils recommencent. Peut-être qu'en trouvant les vrais indices, on comprend mieux la vitesse du bus ? Alors ils ajustent le bus, nettoient à nouveau, et chassent à nouveau. Cela continue jusqu'à ce que tout soit parfaitement clair.

📊 Les Résultats : Pourquoi c'est génial ?

Les chercheurs ont fait des tests avec des données simulées (des jeux de données inventés) pour voir si leur nouvelle méthode fonctionnait mieux que les anciennes.

Quand le signal est fort : Si le passager court vraiment très vite, l'ancien détective arrive à le voir, même avec le bus qui bouge un peu. Les deux méthodes fonctionnent bien.
Quand le signal est faible (Le vrai test) : Imaginez que le passager ne fait que marcher doucement, mais que le bus secoue énormément.
- L'ancien détective (SEMMS simple) : Il est perdu ! Il pense que le tremblement du bus est du mouvement du passager. Il rate les vrais indices et en invente de faux. Taux de réussite : 1% à 45%.
- Le nouveau détective (SEMMS mixte) : Il enlève le tremblement du bus. Il voit le marcheur. Il trouve les vrais indices. Taux de réussite : 61% à 93%.

C'est une différence énorme ! C'est comme passer de "je devine au hasard" à "je vois clairement".

🌍 Dans la vraie vie

Cette méthode est utile partout où l'on observe des groupes de personnes ou d'objets :

Médecine : Suivre la santé d'un patient sur plusieurs années (le patient est le "bus", les années sont les "arrêts").
Éducation : Suivre les notes d'élèves dans différentes classes (l'école est le "bus").
Génétique : Étudier des jumeaux ou des familles.

💡 En résumé

Ce papier nous dit : "Ne traitez pas chaque observation comme un étranger isolé."

Si vous avez des données où les mêmes personnes sont mesurées plusieurs fois, vous devez d'abord comprendre et retirer la "personnalité" unique de chaque personne (son effet aléatoire) avant de chercher les causes générales. Grâce à cette nouvelle méthode, on peut enfin distinguer le bruit de fond du signal réel, même quand le bruit est très fort.

C'est une amélioration majeure pour la science des données, permettant de prendre de meilleures décisions médicales, sociales et biologiques.

1. Problématique et Contexte

Le papier aborde une limitation majeure de la procédure de sélection de variables SEMMS (Scalable Empirical-Bayes Model for Marker Selection) développée précédemment par Bar et al. [2019].

Limitation actuelle : La version originale de SEMMS suppose que toutes les observations sont indépendantes. Elle utilise un mélange à trois composantes (effet nul, positif, négatif) sur les coefficients de régression dans un cadre de Bayes empirique.
Défi réel : De nombreuses données réelles (études longitudinales, données en grappes, mesures répétées) présentent une corrélation intra-sujet ou intra-grappe (ex: plusieurs mesures par patient, élèves dans une école).
Conséquence de l'ignorance : Ignorer cette corrélation gonfle la variance résiduelle apparente. Cela dégrade sévèrement la performance de sélection de variables, conduisant soit à ne pas détecter les vrais prédicteurs (faux négatifs), soit à sélectionner du bruit (faux positifs) qui co-varie avec les effets aléatoires non modélisés.

L'objectif est d'étendre SEMMS pour gérer les effets aléatoires (intercepts et pentes aléatoires) tout en conservant son efficacité computationnelle et sa capacité de sélection.

2. Méthodologie Proposée

Les auteurs proposent une extension de SEMMS basée sur un algorithme de descente de coordonnées alternées (alternating coordinate-ascent) qui découple l'estimation des effets fixes et des effets aléatoires.

A. Le Modèle Étendu

Pour une observation $(i, j)$ (sujet $i$ , temps $j$ ), le modèle est :
$Y_{ij} = x_{ij}^\top \beta + z_{ij}^\top \alpha + b_{0i} + b_{1i} t_j + \varepsilon_{ij}$
Où :

$\beta$ : Effets fixes de covariables fixes.
$\alpha$ : Coefficients des candidats à sélectionner (via le mélange SEMMS).
$b_{0i}, b_{1i}$ : Intercept et pente aléatoires spécifiques au sujet.
$\varepsilon_{ij}$ : Bruit d'observation.

B. L'Algorithme Alterné (Coordinate Ascent)

L'algorithme itère entre deux étapes conditionnelles jusqu'à convergence :

Étape d'ajustement des effets aléatoires (RE) :
- À partir des effets fixes actuels, on estime les paramètres des effets aléatoires (variance $D$ , variance résiduelle $\sigma_e^2$ ) en utilisant lmer (Gaussien) ou glmer (non-Gaussien) du package R lme4.
- On calcule les BLUP (Best Linear Unbiased Predictors) des effets aléatoires, notés $\hat{u}_{ij}$ .
Étape de sélection des effets fixes (Fixed Effects) :
- On construit une réponse ajustée : $Y^*_{ij} = Y_{ij} - \hat{u}_{ij}$ .
- Cette réponse ajustée est supposée satisfaire l'hypothèse d'indépendance.
- L'algorithme original GAM (Generalized Alternating Maximization) de SEMMS est exécuté sur $Y^*$ pour sélectionner le sous-ensemble optimal de prédicteurs ( $\hat{S}$ ) et mettre à jour les paramètres du mélange.

Initialisation (Warm-start) : L'algorithme démarre par un modèle linéaire mixte nul (intercept seulement) pour initialiser $\hat{u}$ . Cela évite que SEMMS n'absorbe la variation entre sujets dans les premiers prédicteurs sélectionnés, ce qui pourrait figer des faux positifs.

C. Extension aux Familles Non-Gaussiennes (Poisson, Binomial)

Pour les données non-Gaussiennes, l'approche repose sur la Quasi-Vraisemblance Pénalisée (PQL) et l'algorithme IRLS (Iteratively Reweighted Least Squares) de Breslow et Clayton [1993].

Au lieu de soustraire simplement les effets aléatoires, on utilise une réponse de travail ajustée ( $W^*$ ) sur l'échelle du lien (link-scale).
Pour Poisson (lien log) : $W^*_{ij} = \hat{\eta}^{fixed}_{ij} + (Y_{ij} - \hat{\mu}_{ij})/\hat{\mu}_{ij}$ .
Pour Binomial (lien logit) : $W^*_{ij} = \hat{\eta}^{fixed}_{ij} + (Y_{ij} - \hat{\pi}_{ij})/(\hat{\pi}_{ij}(1-\hat{\pi}_{ij}))$ .
L'étape de sélection fixe utilise ensuite SEMMS standard sur cette réponse de travail continue.

D. Efficacité Computationnelle

L'extension conserve la complexité algorithmique originale de SEMMS ( $O(NL^2)$ grâce à l'identité de Woodbury), car l'étape de sélection ne manipule jamais de matrices $N \times N$ complètes, même avec des effets aléatoires.

3. Contributions Clés

Extension Algorithmique : Développement d'un cadre unifié pour la sélection de variables dans les modèles mixtes généralisés (GLMM) utilisant une approche empirique Bayesienne.
Démêlage des Signaux : Mécanisme robuste pour séparer la variation intra-sujet (bruit) de la variation inter-sujet (effets aléatoires) afin d'isoler le signal des effets fixes.
Implémentation Logicielle : Intégration dans le package R SEMMS (v0.4.0) avec des fonctions dédiées (fitSEMMSmixed, runMixedModel) compatibles avec lme4.
Validation Rigoureuse : Évaluation sur des données simulées couvrant divers régimes (signal fort/faible, effets aléatoires dominants, haute dimensionnalité $K > N$ ) et sur des données semi-synthétiques réelles.

4. Résultats des Études de Simulation

Les auteurs comparent la méthode proposée (Mixed SEMMS) avec SEMMS standard, Lasso standard, et glmmLasso.

Cas 1 : Effets aléatoires modérés, Signal fort.
- Les deux versions de SEMMS fonctionnent bien. Mixed SEMMS atteint 100% de récupération exacte (vs 94% pour SEMMS standard).
Cas 2 : Effets aléatoires dominants, Signal faible (Scénario critique).
- SEMMS Standard et Lasso : Échec total. Ils confondent la corrélation intra-sujet avec le signal, menant à un taux de récupération exacte de ~1% (SEMMS) et 0% (Lasso).
- glmmLasso : Échec dû à une pénalisation excessive (BIC) qui empêche la sélection de prédicteurs faibles.
- Mixed SEMMS : Performance exceptionnelle. Récupère exactement les 5 vrais prédicteurs dans 93% des cas (Gaussien), 61% (Poisson) et 65% (Binomial).
Cas 3 : Haute dimensionnalité ( $K > N$ ).
- Mixed SEMMS maintient un taux de faux positifs très faible (0.03) et un taux de récupération de 91%, surpassant SEMMS standard (80%) et Lasso (qui sélectionne ~19 faux positifs).
Données Réelles (SleepStudy) :
- Sur un jeu de données de privation de sommeil augmenté de prédicteurs synthétiques, Mixed SEMMS est la seule méthode à récupérer exactement les deux vrais prédicteurs sans faux positifs.

5. Signification et Conclusion

Ce travail résout un problème fondamental en analyse de données longitudinales et en génomique : la sélection de variables fiables en présence de structures de dépendance complexes.

Robustesse : La méthode est particulièrement cruciale lorsque la variance des effets aléatoires domine la variance résiduelle, une situation où les méthodes classiques échouent systématiquement.
Précision : En "nettoyant" la réponse des effets aléatoires avant la sélection, SEMMS retrouve un rapport signal/bruit élevé, permettant à l'a priori de mélange empirique de fonctionner correctement.
Applicabilité : L'extension aux familles non-Gaussiennes (Poisson, Binomial) élargit considérablement le champ d'application de SEMMS aux données de comptage et aux résultats binaires, courants en épidémiologie et en écologie.

En résumé, l'extension Mixed SEMMS offre une solution scalable, précise et théoriquement fondée pour la sélection de variables dans des données structurées, surpassant nettement les approches existantes (Lasso, glmmLasso) dans les scénarios les plus difficiles.