PliableBVS: A flexible Bayesian variable selection method for modeling interactions with mandatory modifying variables

技術的要約：「PliableBVS：強制的な修飾変数を持つ相互作用のモデリングのための柔軟なベイズ変数選択法」

問題提起
高次元の相互作用モデルは、大規模な変数セット（例：遺伝子発現などのオミクス特徴量）が、より小規模な修飾変数セット（例：臨床共変量）とどのように相互作用するかを分析するために不可欠である。非対称な弱い階層制約の下でこのような相互作用をスクリーニングするための効率的な頻度主義的手法として「プリアブル・ラッソ（pliable lasso）」（Tibshirani and Friedman, 2020）が提案されているが、これは頻度主義の枠組み内で動作する。この制限により、パラメータ推定や変数包含に関する不確実性の定量化を直接提供することができない。さらに、標準的な罰則付き回帰手法は、高次元の設定において主効果と相互作用効果の間の階層制約を維持しながら、予測因子数がサンプル数を大幅に上回る状況下で堅牢な変数選択を行うことに苦慮する場合が多い。

手法
著者らは、プリアブル・ラッソの枠組みを拡張したベイズ変数選択アプローチであるPliableBVSを提案している。この手法は、線形回帰およびロジスティック回帰の両方の設定に対して設計されている。

• モデル構造： モデルは、応答変数 $y$ が高次元共変量 $X$ の主効果、低次元の強制的な修飾変数 $Z$、および $X$ と $Z$ の間の相互作用項に依存すると仮定する。モデルは**非対称な弱い階層制（asymmetric weak hierarchy）**を強制する。すなわち、相互作用効果 $\theta_{jk}$ は、対応する主効果 $\beta_j$ が非ゼロである場合にのみ非ゼロとなり得る。
• 事前分布の指定：
  • スパイク・アンド・スラブ事前分布（Spike-and-Slab Priors）： 疎性を誘導するために、著者らは主効果（$\beta_j$）と相互作用効果（$\theta_{jk}$）の両方にゼロ混合事前分布（スパイク・アンド・スラブ）を採用している。
  • 階層的決定変数： 2つの潜在的な決定パラメータ $\rho$ と $\zeta$ が、主効果および相互作用効果の包含を制御する。これらはベータ分布から描かれる確率としてモデル化される。
  • 条件付き包含： 相互作用項の包含確率は、対応する主効果の包含に条件付けられている。これは、$\beta_j \neq 0$ の場合にのみ活性化される多変量ゼロ混合事前分布を $\theta_{jk}$ に対して想定することで実現される。
  • 収縮（Shrinkage）： 事前分布の連続的な収縮成分はラプラス分布（ベイズ・ラッソの分散に相当）に従い、スパイク成分はゼロにおけるディラックのデルタ関数である。
• 推論：
  • 線形回帰： すべての係数、分散成分、および包含インジケータの結合事後分布からサンプリングするために、ギブス・サンプラーが導出される。
  • ロジスティック回帰： ポーリア・ガンマ増強（Pólya-gamma augmentation）（Polson et al., 2013）を用いて、モデルは二値アウトカムへと拡張される。この手法は、ロジスティック尤度をガウス混合として表現する潜在変数を導入し、線形の場合と同じ階層的事前分布とギブス・サンプリング構造の使用を可能にする。
  • ハイパーパラメータ推定： グローバルな罰則パラメータ $\lambda$ は、モンテカルロEMアルゴリズムを用いた経験的ベイズ法によって推定される。
• モデル選択： 著者らは、変数選択のために中央値確率モデル（Median Probability Model; MPM）（Barbieri and Berger, 2004）を利用する。ある変数が最終的なモデルに含まれるのは、その周辺事後包含確率が0.5を超える場合である。

主な貢献

1. プリアブル・ラッソのベイズ的拡張： 本論文は、プリアブル・ラッソを模倣しつつ、パラメータ推定と変数選択の両方に対して完全な事後分布を提供し、不確実性の定量化を可能にする、一貫した確率的枠組みを導入している。
2. 構造化された疎性： 手法は、2層の決定変数構造を通じて非対称な弱い階層制を明示的に強制し、相互作用がその主効果なしには存在し得ないという生物学的および統計的な妥当性を保証する。
3. アルゴリズムの実装： 著者らは、連続的なアウトカムおよび二値のアウトカムのためのギブス・サンプラーを提供するとともに、アプリケーションを容易にするためにオープンソースのRパッケージ（PlibleBVS）および言語に依存しないAPIを提供している。

結果
PliableBVSの性能は、シミュレーション研究および実データへの適用を通じて、頻度主義のプリアブル・ラッソと比較評価された。

• シミュレーション研究：
  • さまざまな信号対雑音比（SNR）および次元（低次元および高次元の両方）を含むシナリオにおいて、PliableBVSはプリアブル・ラッソと比較して、一貫してテスト平均二乗誤差（MSE）が低く、偽陽性率が低い結果を示した。
  • 両手法とも真の非ゼロ係数を特定する高い感度を達成したが、PliableBVSは優れた特異性を示し、偽の変数の包含を減少させた。
  • 高SNRの高次元設定において、PliableBVSはプリアブル・ラッソよりも高い感度を示した。
  • ベイズ的アプローチは、係数に対して安定した単峰性の周辺事後分布を提供した。
• 実データへの適用：
  • 陣痛開始研究（Labor Onset Study）： プロテオミクスおよびメタボロミクスデータに適用し、自然陣痛開始までの時間を予測した。PliableBVSは、生物学的に意味のあるタンパク質（例：Angiopoietin-2, Endostatin, SLPI）とその相互作用を特定し、多くの場合、プリアブル・ラッソよりも少ない特徴量を選択し、より低いテストMSEを実現した。また、特定のタンパク質に関する時間依存的な相互作用効果を特定することに成功した。
  • 子癇前症研究（Preeclampsia Study）： 縦断的なプロテオミクスデータセットに適用し、遅発性子癇前症（LOPE）のバイオマーカーを特定した。モデルは既知のバイオマーカー（例：CRLF1, HTRA1, FLT1）および新規の候補（例：FOXM1, CEACAM20）を特定した。極めて重要な点として、特定のタンパク質（例：CRLF1）とLOPEリスクとの関連における、妊娠週数依存的なシフトを検出した。これは、時点ごとに個別に分析した場合に見逃される可能性のある動的なパターンである。

意義と主張
本論文は、PliableBVSが、構造化された相互作用を伴う高次元回帰のための、柔軟で解釈可能かつ計算効率の高いツールを提供すると主張している。連続的な収縮（continuous shrinkage）とスパイク・アンド・スラブ事前分布による離散的な変数選択を組み合わせることで、本手法は予測精度を向上させ、頻度主義的な対応手法と比較して偽発見を減少させる。

著者らは、PliableBVSが、ヘテロな効果が少数の強制的な変数によって調整される個別化医療や生物医学研究において特に価値があると強調している。しかし、生物学的知見については控えめな立場を維持しており、実データへの適用における特定の特徴量や相互作用は、因果関係ではなく**仮説生成（hypothesis-generating）**として提示されている。著者らは、他の高次元探索分析と同様に、これらの結果が臨床的な関連性を確立する前に、独立した集団での検証が必要であることを述べている。また、ラッソ型のモデルと同様に、PliableBVSは高度に相関した予測子のセットから一つの変数を選択する傾向があることを認めており、将来的なエラスティックネット型の事前分布への拡張を示唆している。