Spectral decomposition-assisted multi-study factor analysis

技術要約：スペクトル分解を用いたマルチスタディ・ファクター解析（BLAST）

問題提起
本論文は、オミクスなどの高次元設定において、研究間の大幅な変動が知見の再現性を阻害する可能性がある、マルチスタディ・データにおける共分散推定の課題に取り組んでいる。目的は、複数の研究（$S$）から得られるデータを共同で解析し、共通（共有）の変動成分と研究固有の変動成分を区別することである。著者らは、以下のファクター解析モデルに焦点を当てている：
$$y_{si} = \Lambda \eta_{si} + \Gamma_s \phi_{si} + e_{si}$$
ここで、$\Lambda$ は共有ローディング、$\Gamma_s$ は研究固有のローディング、$\eta_{si}$ と $\phi_{si}$ は潜在因子、$e_{si}$ は残留ノイズを表す。

既存のアプローチには、以下のような重大な限界がある：

1. 計算上のボトルネック： 最大尤度法（EMアルゴリズム）やベイズ法（ギブスサンプリング）は、変数（$p$）が多い場合に収束や混合の問題に直面し、計算が遅くなる。
2. 変分推論（VI）： 高速ではあるが、VIアルゴリズムは理論的な保証に欠けることが多く、不確実性を過小評価し、推定精度が不十分な結果をもたらす。
3. 識別性とスペクトル法： 従来のスペクトル手法は、不確実性の定量化を提供できないことが多いか、あるいは（直交ローディングや極めて大きな$p$といった）限定的な仮定を必要とする。さらに、モデルは特定の制約なしには識別不可能であり、既存の制約（結合ローディングのフルランク性など）は推定時に強制されないことが多く、パフォーマンスの低下を招いている。

手法：BLAST
著者らは、スペクトル分解によるファクター推定と、推論のためのサロゲート・ベイズ回帰を組み合わせた手法であるBLAST（Bayesian Latent Analysis through Spectral Training）を提案している。この手順は、高価なマルコフ連鎖モンテカルロ（MCMC）サンプリングを回避する。

1. 潜在因子のスペクトル推定：

   • 共有成分と固有成分の分離： 本手法は、各研究のデータ行列に対して特異値分解（SVD）を計算し、支配的な部分空間への射影行列を得る。
   • 射影の平均化： これらの研究固有の射影を平均化する。これにより、共有軸に沿った信号は保持され、研究固有の方向は減衰される。この平均行列の主要な特異ベクトルが、共有部分空間（$\Lambda$）を推定する。
   • 直交射影： 共有部分空間を射影除去することで研究固有の変動を孤立させ、研究固有の因子（$\phi_{si}$）の推定を可能にする。逆に、研究固有の因子を回帰除去することで共有の変動を孤立させ、共有因子（$\eta_{si}$）の推定を行う。
   • 次元選択： 潜在次元（共有成分については $k_0$、固有成分については $q_s$）は、結合情報量基準（JIC）と、平均化された射影行列に対するスペクトルギャップ・ルール（エルボー法）を組み合わせて推定される。

2. サロゲート・ベイズ回帰：

   • 推定された潜在因子を条件付けると、問題はローディング行列（$\Lambda$ および $\Gamma_s$）に関する $p$ 個の独立した回帰問題へと簡略化される。
   • 事前分布： ローディング行列の行および残留分散に対して、共役正規逆ガンマ事前分布を置く。
   • 事後分布の計算： 事後分布は解析的に導出される。事後平均はリッジ回帰の解に対応する。
   • 並列化： 事前分布の仕様における行間の独立性により、事後分布はアウトカム間で分解されるため、大規模な並列化が可能となり、MCMCを回避できる。

3. 不確実性の定量化と較正：

   • 著者らは、サロゲート事後分布からの標準的な信頼区間が、軽微な被覆率の不足（アンダーカバレッジ）を生じることを指摘している。
   • 分散膨張： 頻度論的な漸近的被覆を達成するために、推定されたローディングの信号対雑音比（SNR）に基づき、分散膨張係数（$\rho$）を解析的に導出する。この係数は、信頼区間が正しい漸近的被覆を持つように調整される。
   • 経験的ベイズ： データへの適応性を確保するため、ハイパーパラメータ（事前分散）は経験的ベイズ法を通じて推定される。

主な理論的貢献
本論文は、サンプルサイズ（$n$）と次元（$p$）の両方が発散する二重漸近領域において、強力な頻度論的保証を確立している：

• 一致性： 低ランク成分（$\Lambda\Lambda^\top$ および $\Gamma_s\Gamma_s^\top$）の点推定値は一致性を持つ。
• 収縮率： 事後分布は真のパラメータの周囲に $O(1/\sqrt{n} + 1/\sqrt{p})$ の速度で収縮する。
• 中心極限定理（CLT）： 要素ごとの推定値は漸近的に正規分布に従う。
• ベルンシュタイン＝フォン・ミーゼス（BvM）定理： 低ランク成分に誘導された事後分布は、特定の分散構造を持つ真のパラメータを中心とするガウス分布に収束する。これは、分散膨張係数の使用が妥当な信頼区間をもたらすことを正当化している。
• 次元の恩恵（Blessing of Dimensionality）： 近似誤差がサンプルサイズとデータ次元の両方の増加に伴って減少することを明文化し、このクラスのモデルにおける「次元の恩恵」を定式化した。

実証結果
数値実験では、BL速（BLAST）を、変分推論（SVI, CAVIA）、Ando & Bai (2017) のスペクトル推定法、およびMCMCベースの手法（補足資料）と比較している。

• 精度： BLASTは、低ランク分散成分および潜在因子の両方の推定において、変分手法を大幅に上回る。また、ローディングが厳密に直交していない場合や、$p$ が極端に大きくない場合において、Ando & Bai のスペクトル推定法と同等、あるいはそれ以上の性能を示す。
• 不確実性の定量化： BLASTは、よく較正された95%信頼区間（95%に近い被覆率）を提供する。一方、変分手法は深刻な被覆率の不足（しばしば30-50%未満）に陥る。
• 計算速度： BLASTはMCMCよりも大幅に速く、VIやスペクトル法と同等、あるいはそれ以上の速度で、数千の変数に対して効率的にスケールする。
• 実データへの適用： 本手法は、免疫細胞に関する3つの遺伝子発現研究（ImmGenプロジェクト）を統合するために適用された。BLASTは、数千の遺伝子（2,846および7,870遺伝子）へのスケールに成功し、アウトオブサンプル予測精度（MSE）および対数尤度において競合手法を上回り、信頼できる予測区間を提供した。

意義と主張
著者らは、BLASTが「マルチスタディ・ファクター解析において、正確な点推定および区間推定を得るための高速なアルゴリズム」を提供すると主張している。本研究の意義は以下の通りである：

1. スケーラビリティ： ベイズ法では計算上困難であった高次元マルチスタディ・データ（数千の遺伝子）の解析を可能にした。
2. 理論的厳密性： 共有成分と固有成分を持つベイズ・マルチスタディ・ファクターモデルに対して、強力な頻度論的保証（CLT、BvM、収縮率）を初めて確立し、「次元の恩恵」を定式化した。
3. 実用的有用性： スペクトル分解をベイズ推論と効果的に組み合わせることで、不確実性を過小評価しがちな変分推論に代わる、堅牢な選択肢となることを示した。

結論として、本手法は、ゲノムデータの統合を通じて、遺伝子関連の堅牢な推定を得ることや、臨床データにおける内・間共分散の推論を改善することに特に適している。