Bayesian Bootstrap Ensembles for Low-Rank Causal Discovery

技術要約：低ランク因果探索のためのベイズ・ブートストラップ・アンサンブル

問題提起
NOTEARSやDAGMAといった微分可能な因果探索手法は、通常、有向非巡回グラフ（DAG）の点推定値のみを生成し、不確実性の定量化を提供しない。DiBS（ディリクレ過程によるベイズ構造学習）のような不確実性を考慮した手法も存在するが、DAG制約を課すための$O(d^3)$の計算量により、次元数 $d \le 50$ という小規模な設定に限定されている。この制限により、日常的に $d \ge 500$ の遺伝子をプロファイリングするゲノミクス研究への適用が困難となっている。さらに、既存の線形非ガウス手法（LiNGAMなど）は不確実性の定量化を欠いている。核心となる課題は、高次元の因果探索（$d \ge 500$）において、較正されたエッジ事後確率を提供するスケーラブルな手法を開発することである。

手法
本論文では、低ランクモデルのベイズ・ブートストラップ・アンサンブルを提案している。このアプローチは、以下の3つの主要なコンポーネントを統合している。

1. 低ランク分解: スケーラビリティに対処するため、隣接行列 $W$ を $W = UV^\top$ （ここで $U, V \in \mathbb{R}^{d \times r}, r \ll d$）としてパラメータ化する。これにより、パラメータ数は $O(d^2)$ から $O(2dr)$に削減され、DAG制約の計算コストは$O(d^3)$から$O(dr^2)$へと低下し、$d=500$へのスケーリングが可能になる。ランク$r$ は、サンプル共分散行列のスペクトル解析を通じて、最大固有値の75%を超える固有値の数を選択することで決定される。
2. ディリクレ重み付きベイズ・ブートストラップ: 標準的な再サンプリング（各反復で約63%の一意なサンプルを使用）の代わりに、各ブートストラップ反復 $b$ において、各サンプルに対して重み $w^{(b)} \sim \text{Dirichlet}(1, \dots, 1)$ を描画する。そして、各反復において再重み付けされた損失関数を用いて低ランクNOTEARSモデルを訓練する。
3. 事後推論: 訓練された $B$ 個の隣接行列からなるアンサンブルが、近似的な事後分布を形成する。事後エッジ確率は、エッジの重みが閾値 $\tau$（0.3に設定）を超えるアンサンブルメンバーの割合として計算される。このフレームワークはディリクレ過程事前分布の下で動作し、低ランク手法の計算量で近似的な事後サンプルを提供する。

主な結果
本手法は、合成的なErdős–Rényi DAGおよび実世界のTCGA BRCA遺伝子発現データ（$d=500, n=1,218$）を用いて評価された。

• スケーラビリティと較正: 合成データ（$d=30$ から $500$）において、期待較正誤差（ECE）は、$d=30$での0.036（DiBSと同等）から、$d=500$ での0.003へと単調に減少した。これはDiBSが適用不可能な領域である。1モデルあたりの実行時間は、消費者向けGPU（NVIDIA RTX 5060）上で30秒未満に維持された。
• エッジ回復: ベイズ・ブートストラップは、困難な構成において標準的なブートストラップを上回った。$d=50$ において、標準的なブートストラップはエッジを全く検出できなかったが（F1 = 0.000）、ベイズ・ブートストラップはエッジを回復した（F1 = 0.025）。$d=200$ において、ベイズ・ブートストラップはF1スコアを2倍以上向上させた（0.080 vs 0.034）。
• 生物学的妥当性: TCGA BRCAデータにおいて、事後確率 $P > 0.1$ のエッジ（250,000個の候補のうち21個）は、STRINGタンパク質相互作用との検証において71.4%の精度を達成した。これは、ベースラインの精度（$P \le 0.1$ のエッジにおける10.6%）と比較して6.7倍の濃縮を示している。

意義と主張
本論文は、このアプローチが $d > 100$ にスケールアップしつつ、較正されたアンサンブル・エッジ確率を提供できる唯一の不確実性を考慮した手法であると主張している。低ランク分解とディリクレ重み付きブートストラップを組み合わせることで、高次元設定における不確実性定量化を妨げていた計算上のボトルネックを取り除いている。

著者は実用的な有用性を強調している。このパイプラインは、標準的なNOTEARSの設定を超えたハイパーパラメータ調整なしに消費者向けハードウェアで動作するため、研究者が実験の優先順位付けのためにエッジを確率によってランク付けすることを可能にする。結果は、ブートストラップの描画を通じて一貫して特定されるエッジが、実在の生物学的相互作用である可能性が大幅に高いことを示唆しており、追跡研究のための段階的な信頼度スケールを提供している。

著者が認める限界
論文では以下の限界を明示的に述べている：

• 線形性: 本手法はNOTEARSから継承された線形構造方程式モデル（SEM）の仮定を継承しており、非線形な因果関係を捉えることはできない。
• 低ランク仮定: 有効性は、真の隣接行列が低ランク構造を持つことに依存するが、これは生物学的には妥当であるが、普遍的ではない。
• 検証の制約: STRINGによる検証はタンパク質相互作用を確認するものであり、因果の方向性は確認していない。濃縮結果は、中程度の信頼度ビンにおける少数のエッジに基づいている。
• 較正のニュアリズム: 高次元において、低いECEは主にモデルの保守性（存在しないエッジに対してほぼゼロの確率を割り当てること）を反映しており、すべてのエッジに対して一様に改善された較正を意味するわけではない。
• 理論的ギャップ: 非凸な低ランクDAG制約下での有限サンプル収束特性については、まだ形式的に特徴付けられていない。