PliableBVS: A flexible Bayesian variable selection method for modeling interactions with mandatory modifying variables

Resumo Técnico de "PliableBVS: Um método de seleção de variáveis Bayesiano flexível para modelagem de interações com variáveis modificadoras obrigatórias"

Definição do Problema
Modelos de interação de alta dimensão são essenciais para analisar como grandes conjuntos de variáveis (por exemplo, características ômicas como expressão gênica) interagem com conjuntos menores de variáveis modificadoras (por exemplo, covariáveis clínicas). Embora o "pliable lasso" (Tibshirani e Friedman, 2020) tenha sido proposto como um método frequentista eficiente para triagem de tais interações sob uma restrição hierárquica fraca assimétrica, ele opera dentro de um framework frequentista. Essa limitação impede o fornecimento direto de quantificação de incerteza para estimativas de parâmetros ou inclusão de variáveis. Além disso, métodos padrão de regressão penalizada frequentemente têm dificuldade em manter restrições hierárquicas entre efeitos principais e termos de interação, ao mesmo tempo em que fornecem seleção de variáveis robusta em cenários de alta dimensão onde o número de preditores excede em muito o número de amostras.

Metodologia
Os autores propõem o PliableBVS, uma abordagem de seleção de variáveis Bayesiana que estende o framework do pliable lasso. O método é projetado tanto para regressão linear quanto para logística.

• Estrutura do Modelo: O modelo assume uma equação de regressão onde a resposta $y$ depende de efeitos principais de covariáveis de alta dimensão $X$, variáveis modificadoras de baixa dimensão obrigatórias $Z$, e termos de interação entre $X$ e $Z$. O modelo impõe uma hierarquia fraca assimétrica: um efeito de interação $\theta_{jk}$ só pode ser diferente de zero se o efeito principal correspondente $\beta_j$ também for diferente de zero.
• Especificação de Priors:
  • Priors Spike-and-Slab: Para induzir esparsidade, os autores empregam priors de mistura com inflação de zeros (spike-and-slab) tanto para efeitos principais ($\beta_j$) quanto para efeitos de interação ($\theta_{jk}$).
  • Variáveis de Decisão Hierárquicas: Dois parâmetros de decisão latentes, $\rho$ e $\zeta$, governam a inclusão de efeitos principais e efeitos de interação, respectivamente. Estes são modelados como probabilidades extraídas de distribuições Beta.
  • Inclusão Condicional: A probabilidade de inclusão de um termo de interação é condicional à inclusão de seu efeito principal correspondente. Isso é alcançado assumindo uma prior de mistura multivariada com inflação de zeros para $\theta_{jk}$ que só é ativa se $\beta_j \neq 0$.
  • Shrinkage (Contração): O componente de contração contínua das priors segue uma distribuição Laplace (equivalente à variância do Bayesian lasso), enquanto o componente spike é uma função delta de Dirac em zero.
• Inferência:
  • Regressão Linear: Um amostrador de Gibbs é derivado para amostrar da distribuição posterior conjunta de todos os parâmetros, incluindo coeficientes, componentes de variância e indicadores de inclusão.
  • Regressão Logística: O modelo é estendido para resultados binários usando o aumento Pólya-gamma (Polson et al., 2013). Esta técnica introduz variáveis latentes para representar a verossimilhança logística como uma mistura de Gaussianas, permitindo o uso do mesmo framework de priors hierárquicas e estrutura de amostragem de Gibbs conforme o caso linear.
  • Estimativa de Hiperparâmetros: O parâmetro de penalidade global $\lambda$ é estimado via uma abordagem de Bayes empírico usando um algoritmo EM de Monte Carlo.
• Seleção de Modelo: Os autores utilizam o Modelo de Probabilidade Mediana (MPM) (Barbieri e Berger, 2004) para selecionar variáveis. Uma variável é incluída no modelo final se sua probabilidade de inclusão marginal exceder 0,5.

Principais Contribuições

1. Extensão Bayesiana do Pliable Lasso: O artigo introduz um framework probabilístico coerente que espelha o pliable lasso, mas fornece distribuições posteriores completas, permitindo a quantificação de incerteza tanto para estimativas de parâmetros quanto para seleção de variáveis.
2. Esparsidade Estruturada: O método impõe explicitamente restrições hierárquicas fracas assimétricas através de uma estrutura de duas camadas de variáveis de decisão, garantindo plausibilidade biológica e estatística onde interações não podem existir sem seus efeitos principais.
3. Implementação Algorítmica: Os autores fornecem um amostrador de Gibbs para resultados contínuos e binários, juntamente com um pacote R de código aberto (PlibleBVS) e uma API independente de linguagem para facilitar a aplicação.

Resultados
O desempenho do PliableBVS foi avaliado contra o pliable lasso frequentista através de estudos de simulação e aplicações em dados reais.

• Estudos de Simulação:
  • Em vários cenários envolvendo diferentes razões sinal-ruído (SNR) e dimensões (tanto baixa quanto alta dimensão), o PliableBVS consistentemente alcançou um Erro Quadrático Médio (MSE) de teste menor e taxas de falsos positivos menores em comparação ao pliable lasso.
  • Embora ambos os métodos tenham alcançado alta sensibilidade na identificação de coeficientes verdadeiramente não nulos, o PliableBVS demonstrou especificidade superior, reduzendo a inclusão de variáveis espúrias.
  • Em cenários de alta dimensão com alto SNR, o PliableBVS mostrou maior sensibilidade que o pliable lasso.
  • A abordagem Bayesiana forneceu distribuições marginais posteriores estáveis e unimodais para os coeficientes.
• Aplicações em Dados Reais:
  • Estudo de Início de Trabalho de Parto: Aplicado a dados de proteômica e metabolômica para prever o tempo até o início espontâneo do trabalho de parto. O PliableBVS identificou proteínas (ex: Angiopoietina-2, Endostatina, SLPI) e interações biologicamente significativas, frequentemente selecionando menos características com MSE de teste menor do que o pliable lasso. Ele identificou com sucesso efeitos de interação dependentes do tempo para proteínas específicas.
  • Estudo de Pré-eclâmpsia: Aplicado a um conjunto de dados de proteômica longitudinal para identificar biomarcadores para pré-eclâmpsia de início tardio (LOPE). O modelo identificou biomarcadores conhecidos (ex: CRLF1, HTRA1, FLT1) e candidatos novos (ex: FOXM1, CEACAM20). Crucialmente, detectou mudanças dependentes da idade gestacional na associação de certas proteínas (ex: CRLF1) com o risco de LOPE, um padrão dinâmico que poderia ser perdido ao analisar os pontos temporais separadamente.

Significância e Alegações
O artigo afirma que o PliableBVS oferece uma ferramenta flexível, interpretável e computacionalmente eficiente para regressão de alta dimensão com interações estruturadas. Ao combinar a contração contínua do Bayesian lasso com a seleção de variáveis discretas de priors spike-and-slab, o método melhora a precisão da previsão e reduz as descobertas falsas em comparação com seu contraparte frequentista.

Os autores enfatizam que o método é particularmente valioso para medicina personalizada e pesquisa biomédica, onde efeitos heterogêneos são modulados por algumas variáveis obrigatórias. No entanto, eles mantêm uma postura modesta em relação às descobertas biológicas: as características e interações identificadas nas aplicações de dados reais são apresentadas como geradoras de hipóteses, e não causais. Os autores observam que, como outras análises de descoberta de alta dimensão, esses resultados requerem validação em populações independentes antes que a relevância clínica possa ser estabelecida. Eles também reconhecem que, similar a outros modelos do tipo lasso, o PliableBVS tende a selecionar uma variável de um conjunto de preditores altamente correlacionados, sugerindo potenciais extensões futuras usando priors do tipo elastic-net.