PliableBVS: A flexible Bayesian variable selection method for modeling interactions with mandatory modifying variables

Résumé technique de « PliableBVS : une méthode de sélection de variables bayésienne flexible pour la modélisation des interactions avec des variables modificatrices obligatoires »

Énoncé du problème
Les modèles d'interaction à haute dimension sont essentiels pour analyser la manière dont de grands ensembles de variables (par exemple, des caractéristiques omiques comme l'expression génique) interagissent avec de plus petits ensembles de variables modificatrices (par exemple, des covariables cliniques). Bien que le « pliable lasso » (Tibshirani et Friedman, 2020) ait été proposé comme une méthode fréquentiste efficace pour le criblage de telles interactions sous une contrainte hiérarchique faible et asymétrique, il opère dans un cadre fréquentiste. Cette limitation empêche la fourniture directe d'une quantification de l'incertitude pour les estimations de paramètres ou l'inclusion de variables. De plus, les méthodes de régression pénalisée standard peinent souvent à maintenir les contraintes hiérarchiques entre les effets principaux et les effets d'interaction tout en offrant une sélection de variables robuste dans des contextes à haute dimension où le nombre de prédicteurs dépasse largement le nombre d'échantillons.

Méthodologie
Les auteurs proposent PliableBVS, une approche de sélection de variables bayésienne qui étend le cadre du pliable lasso. La méthode est conçue pour les contextes de régression linéaire et logistique.

• Structure du modèle : Le modèle suppose une équation de régression où la réponse $y$ dépend des effets principaux de covariables à haute dimension $X$, de variables modificatrices obligatoires à basse dimension $Z$, et de termes d'interaction entre $X$ et $Z$. Le modèle impose une hiérarchie faible asymétrique : un effet d'interaction $\theta_{jk}$ ne peut être non nul que si l'effet principal correspondant $\beta_j$ est non nul.
• Spécification des priors :
  • Priors Spike-and-Slab : Pour induire la parcimonie, les auteurs emploient des priors de mélange à inflation de zéros (spike-and-slab) pour les effets principaux ($\beta_j$) et les effets d'interaction ($\theta_{jk}$).
  • Variables de décision hiérarchiques : Deux paramètres de décision latents, $\rho$ et $\zeta$, régissent l'inclusion des effets principaux et des effets d'interaction. Ils sont modélisés comme des probabilités tirées de distributions Beta.
  • Inclusion conditionnelle : La probabilité d'inclusion d'un terme d'interaction est conditionnée par l'inclusion de son effet principal correspondant. Ceci est réalisé en supposant un prior de mélange à inflation de zéros multivarié pour $\theta_{jk}$ qui n'est actif que si $\beta_j \neq 0$.
  • Rétrécissement (Shrinkage) : La composante de rétrécissement continu des priors suit une distribution de Laplace (équivalente à la variance du lasso bayésien), tandis que la composante spike est une fonction delta de Dirac en zéro.
• Inférence :
  • Régression linéaire : Un échantillonneur de Gibbs est dérivé pour échantillonner la distribution postérieure jointe de tous les paramètres, y compris les coefficients, les composantes de variance et les indicateurs d'inclusion.
  • Régression logistique : Le modèle est étendu aux résultats binaires en utilisant l'augmentation de Pólya-Gamma (Polson et al., 2013). Cette technique introduit des variables latentes pour représenter la vraisemblance logistique comme un mélange de Gaussiennes, permettant l'utilisation de la même structure de priors hiérarchiques et d'échantillonnage de Gibbs que dans le cas linéaire.
  • Estimation des hyperparamètres : Le paramètre de pénalité globale $\lambda$ est estimé via une approche bayésienne empirique utilisant un algorithme EM de Monte Carlo.
• Sélection de modèle : Les auteurs utilisent le Modèle de Probabilité Médiane (MPM) (Barbieri et Berger, 2004) pour sélectionner les variables. Une variable est incluse dans le modèle final si sa probabilité d'inclusion postérieure marginale est supérieure à 0,5.

Principales contributions

1. Extension Bayésienne du Pliable Lasso : L'article introduit un cadre probabiliste cohérent qui reflète le pliable lasso mais fournit des distributions postérieures complètes, permettant la quantification de l'incertitude pour les estimations de paramètres et la sélection de variables.
2. Parcimonie structurée : La méthode impose explicitement des contraintes hiérarchiques faibles asymétriques par le biais d'une structure de variables de décision à deux niveaux, garantissant une plausibilité biologique et statistique là où les interactions ne peuvent exister sans leurs effets principaux.
3. Implémentation algorithmique : Les auteurs fournissent un échantillonneur de Gibbs pour les résultats continus et binaires, ainsi qu'un package R en libre accès (PliableBVS) et une API indépendante du langage pour faciliter l'application.

Résultats
La performance de PliableBVS a été évaluée par rapport au pliable lasso fréquentiste à travers des études de simulation et des applications sur des données réelles.

• Études de simulation :
  • À travers divers scénarios impliquant différents rapports signal sur bruit (SNR) et dimensions (faible et haute dimension), PliableBVS a systématiquement obtenu une erreur quadratique moyenne (MSE) de test plus faible et des taux de faux positifs plus bas par rapport au pliable lasso.
  • Bien que les deux méthodes aient atteint une sensibilité élevée pour identifier les vrais coefficients non nuls, PliableBVS a démontré une spécificité supérieure, réduisant l'inclusion de variables fallacieuses.
  • Dans les contextes de haute dimension avec un SNR élevé, PliableBVS a montré une sensibilité plus élevée que le pliable lasso.
  • L'approche bayésienne a fourni des distributions postérieures marginales unimodales et stables pour les coefficients.
• Applications sur des données réelles :
  • Étude sur l'accouchement : Appliqué à des données protéomiques et métabolomiques pour prédire le temps jusqu'au déclenchement spontané du travail. PliableBVS a identifié des protéines (ex: Angiopoëtine-2, Endostatine, SLPI) et des interactions biologiquement significatives, sélectionnant souvent moins de caractéristiques avec une MSE de test plus faible que le pliable lasso. Il a réussi à identifier des effets d'interaction dépendants du temps pour des protéines spécifiques.
  • Étude sur la prééclampsie : Appliqué à un ensemble de données protéomiques longitudinales pour identifier les biomarqueurs de la prééclampsie tardive (LOPE). Le modèle a identifié des biomarqueurs connus (ex: CRLF1, HTRA1, FLT1) et des candidats nouveaux (ex: FOXM1, CEACAM20). Crucialement, il a détecté des changements de l'association de certaines protéines (ex: CRLF1) avec le risque de LOPE dépendant de l'âge gestationnel, un motif dynamique qui pourrait être manqué en analysant les points temporels séparément.

Signification et affirmations
L'article affirme que PliableBVS offre un outil flexible, interprétable et efficace sur le plan computationnel pour la régression à haute dimension avec des interactions structurées. En combinant le rétrécissement continu du lasso bayésien avec la sélection de variables discrètes des priors spike-and-slab, la méthode améliore la précision de la prédiction et réduit les fausses découvertes par rapport à son homologue fréquentiste.

Les auteurs soulignent que la méthode est particulièrement précieuse pour la médecine personnalisée et la recherche biomédicale où des effets hétérogènes sont modulés par quelques variables obligatoires. Cependant, ils maintiennent une position modeste concernant les découvertes biologiques : les caractéristiques et interactions identifiées dans les applications de données réelles sont présentées comme des éléments de génération d'hypothèses plutôt que causaux. Les auteurs notent que, comme d'autres analyses de découverte à haute dimension, ces résultats nécessitent une validation dans des populations indépendantes avant que leur pertinence clinique ne puisse être établie. Ils reconnaissent également que, comme d'autres modèles de type lasso, PliableBVS a tendance à sélectionner une variable parmi un ensemble de prédicteurs fortement corrélés, suggérant des extensions futures utilisant des priors de type elastic-net.