PliableBVS: A flexible Bayesian variable selection method for modeling interactions with mandatory modifying variables

Sintesi Tecnica di "PliableBVS: Un metodo di selezione bayesiana delle variabili flessibile per la modellazione di interazioni con variabili modificatrici obbligatorie"

Problema
I modelli di interazione ad alta dimensionalità sono essenziali per analizzare come grandi set di variabili (ad esempio, feature omiche come l'espressione genica) interagiscano con piccoli set di variabili modificatrici (ad esempio, covariate cliniche). Sebbene il "pliable lasso" (Tibshirani e Friedman, 2020) sia stato proposto come un efficiente metodo frequentista per lo screening di tali interazioni sotto un vincolo gerarchico debole asimmetrico, esso opera all'interno di un framework frequentista. Questo limite impedisce la fornitura diretta di una quantificazione dell'incertezza per le stime dei parametri o per l'inclusione delle variabili. Inoltre, i metodi standard di regressione penalizzata spesso faticano a mantenere i vincoli gerarchici tra effetti principali ed effetti di interazione, fornendo al contempo una selezione delle variabili robusta in contesti ad alta dimensionalità dove il numero di predittori supera di gran lunga il numero di campioni.

Metodologia
Gli autori propongono PliableBVS, un approccio di selezione bayesiana delle variabili che estende il framework del pliable lasso. Il metodo è progettato sia per la regressione lineare che per quella logistica.

• Struttura del Modello: Il modello assume un'equazione di regressione in cui la risposta $y$ dipende dagli effetti principali di covariate ad alta dimensionalità $X$, da variabili modificatrici a bassa dimensionalità obbligatorie $Z$, e da termini di interazione tra $X$ e $Z$. Il modello impone una gerarchia debole asimmetrica: un effetto di interazione $\theta_{jk}$ può essere diverso da zero solo se il corrispondente effetto principale $\beta_j$ è diverso da zero.
• Specificazione dei Prior:
  • Prior Spike-and-Slab: Per indurre la sparsità, gli autori utilizzano prior di miscela a inflazione di zeri (spike-and-slab) sia per gli effetti principali ($\beta_j$) che per gli effetti di interazione ($\theta_{jk}$).
  • Variabili Decisionali Gerarchiche: Due parametri decisionali latenti, $\rho$ e $\zeta$, governano l'inclusione degli effetti principali e degli effetti di interazione, rispettivamente. Questi sono modellati come probabilità derivate da distribuzioni Beta.
  • Inclusione Condizionale: La probabilità di inclusione di un termine di interazione è condizionata all'inclusione del suo effetto principale corrispondente. Ciò viene ottenuto assumendo un prior di miscela multivariata a inflazione di zeri per $\theta_{jk}$ che è attivo solo se $\beta_j \neq 0$.
  • Shrinkage (Contrazione): La componente di contrazione continua dei prior segue una distribuzione di Laplace (equivalente alla varianza del Bayesian lasso), mentre la componente spike è una funzione delta di Dirac in zero.
• Inferenza:
  • Regressione Lineare: Viene derivato un campionatore di Gibbs per campionare dalla distribuzione congiunta a posteriori di tutti i parametri, inclusi i coefficienti, le componenti di varianza e gli indicatori di inclusione.
  • Regressione Logistica: Il modello è esteso a esiti binari utilizzando l'aumento Pólya-gamma (Polson et al., 2013). Questa tecnica introduce variabili latenti per rappresentare la verosimiglianza logistica come una miscela di Gaussiane, consentendo l'uso dello stesso framework di prior gerarchici e campionamento di Gibbs del caso lineare.
  • Stima degli Iperparametri: Il parametro di penalità globale $\lambda$ è stimato tramite un approccio empirico Bayes (empirical Bayes) utilizzando un algoritmo Monte Carlo EM.
• Selezione del Modello: Gli autori utilizzano il Modello della Probabilità Mediana (MPM) (Barbieri e Berger, 2004) per selezionare le variabili. Una variabile viene inclusa nel modello finale se la sua probabilità marginale a posteriori di inclusione supera lo 0,5.

Contributi Chiave

1. Estensione Bayesiana del Pliable Lasso: Il documento introduce un framework probabilistico coerente che rispecchia il pliable lasso, ma fornisce distribuzioni a posteriori complete, consentendo la quantificazione dell'incertezza sia per le stime dei parametri che per la selezione delle variabili.
2. Sparsità Strutturata: Il metodo impone esplicitamente vincoli gerarchici deboli asimmetrici attraverso una struttura a due livelli di variabili decisionali, garantendo la plausibilità biologica e statistica laddove le interazioni non possono esistere senza i loro effetti principali.
3. Implementazione Algoritmica: Gli autori forniscono un campionatore di Gibbs sia per esiti continui che binari, insieme a un pacchetto R open-source (PliableBVS) e un'API indipendente dal linguaggio per facilitarne l'applicazione.

Risultati
Le prestazioni di PliableBVS sono state valutate rispetto al pliable lasso frequentista attraverso studi di simulazione e applicazioni su dati reali.

• Studi di Simulazione:
  • In vari scenari che coinvolgono diversi rapporti segnale-rumore (SNR) e dimensioni (sia basse che alte), PileableBVS ha costantemente ottenuto un errore quadratico medio (MSE) di test inferiore e tassi di falsi positivi inferiori rispetto al pliable lasso.
  • Sebbene entrambi i metodi abbiano raggiunto un'alta sensibilità nell'identificare i veri coefficienti non nulli, PliableBVS ha dimostrato una specificità superiore, riducendo l'inclusione di variabili spurie.
  • In contesti ad alta dimensionalità con alto SNR, PliableBVS ha mostrato una sensibilità maggiore rispetto al pliable lasso.
  • L'approccio Bayesiano ha fornito distribuzioni a posteriori marginali stabili e unimodali per i coefficienti.
• Applicazioni su Dati Reali:
  • Studio sull'Esordio del Lavoro: Applicato a dati proteomici e metabolomici per predire il tempo fino all'esordio spontaneo del lavoro. PliableBVS ha identificato interazioni e proteine biologicamente significative (ad esempio, Angiopoietina-2, Endostatina, SLPI), selezionando spesso meno feature con un MSE di test inferiore rispetto al pliable lasso. Ha identificato con successo effetti di interazione dipendenti dal tempo per specifiche proteine.
  • Studio sulla Preeclampsia: Applicato a un dataset proteomico longitudinale per identificare biomarcatori per la preeclampsia a esordio tardivo (LOPE). Il modello ha identificato biomarcatori noti (ad esempio, CRLF1, HTRA1, FLT1) e candidati nuovi (ad esempio, FOXM1, CEACAM20). Fondamentalmente, ha rilevato cambiamenti dipendenti dall'età gestazionale nell'associazione di alcune proteine (ad esempio, CRLF1) con il rischio di LOPE, un pattern dinamico che potrebbe essere perso analizzando i singoli punti temporali separatamente.

Significatività e Rivendicazioni
Il documento sostiene che PliableBVS offra uno strumento flessibile, interpretabile ed efficiente dal punto di vista computazionale per la regressione ad alta dimensionalità con interazioni strutturate. Combinando la contrazione continua del Bayesian lasso con i prior spike-and-slab per la selezione delle variabili discrete, il metodo migliora l'accuratezza della predizione e riduce le scoperte errate rispetto al suo controparte frequentista.

Gli autori sottolineano che il metodo è particolarmente prezioso per la medicina personalizzata e la ricerca biomedica, dove effetti eterogenei sono modulati da poche variabili obbligatorie. Tuttavia, mantengono una posizione modesta riguardo ai risultati biologici: le feature e le interazioni identificate nelle applicazioni su dati reali sono presentate come generatrici di ipotesi piuttosto che causali. Gli autori osservano che, come altre analisi di scoperta ad alta dimensionalità, questi risultati richiedono validazione in popolazioni indipendenti prima che la rilevanza clinica possa essere stabilita. Riconoscono inoltre che, similmente ad altri modelli di tipo lasso, PliableBVS tende a selezionare una variabile da un set di predittori altamente correlati, suggerendo potenziali estensioni future utilizzando prior di tipo elastic-net.