Cellwise and Casewise Robust Multivariate Regression with Inference

技術的サマリー：推論を伴うセル単位およびケース単位ロバスト多変量回帰

問題の定義
多変量線形回帰は、$p$ 次元の予測変数と $q$ 次元の応答変数の間の関係をモデル化する基本的な統計ツールである。しかし、最小二乗法（OLS）などの古典的推定量は外れ値に対して極めて敏感である。従来のロバスト統計は主にケース単位外れ値（大多数から逸脱した完全な観測値）に対処しており、データの少なくとも 50% がクリーンである必要がある。しかし、現代の高次元データセットは、予測変数または応答変数行列内の個々のエントリが汚染されるセル単位外れ値に頻繁に悩まされている。高次元では、汚染されたセルの割合がわずかであっても、ケースの大部分を「不良」として扱ってしまう（例：$p=100$、$q=2$ の場合、1% のセル汚染がケースの 64% に影響を与える）ため、ケース単位ロバストな手法は失敗する。さらに、現代の応用では欠損値や $p \geq n$ となる次元が含まれることが多く、古典的な推定において不安定性を引き起こす。最後に、ロバスト推定は確立されているものの、欠損データを伴うセル単位およびケース単位汚染の同時発生下で、信頼区間などの有効な統計的推論を提供することは、依然として未解決の課題である。

手法
著者らは、これらの課題に対処するためにcellMR（セル単位多変量回帰）とcellBoot（セル単位ブートストラップ）を提案する。

1. cellMR 推定量:

   • 基盤: この手法は、Centofanti ら（2025）が開発したセル単位ロバスト共分散推定量（cellCov）に基づいている。
   • メカニズム: 予測変数と応答変数の結合行列 $[X; Y]$ を処理するために、cellPCAと呼ばれるロバスト主成分分析（PCA）アプローチを利用する。この手法は、データを低ランク構造とノイズの和としてモデル化し、有効な $\rho$ 関数（具体的には双曲線正接関数）を用いて、セル単位およびケース単位外れ値の両方の影響を制限する。
   • 正則化: 高次元設定（$p \geq n$）における数値的安定性を確保するため、回帰係数はリッジ正則化を用いて推定される。回帰パラメータは、cellCovからのロバストな位置（$\hat{\mu}$）および散布（$\hat{\Sigma}$）の推定量を標準的なリッジ回帰の式に代入することで導出される。
   • 欠損データ: この枠組みは、cellPCAメカニズムを通じて自然に欠損値に対応する。このメカニズムは、推定中の寄与を重み付けるために欠損指示変数を使用する。
   • 予測: 学習データからのロバストな構造に基づき、新しいデータにおける疑わしいセルをクリーニングし、欠損セルを補完する補完戦略を採用することで、サンプル外予測を行う。

2. cellBoot 推論手順:

   • 課題: セル単位構築によるため推定量の一貫性が保証されないため、cellMR推定量に対する直接のブートストラップ推論は問題がある。
   • 解決策: 著者らは、間接推論（II）に基づくブートストラップ手順であるcellBootを導入する。
   • 補助推定量: cellCovの計算効率が良く、一段階の近似であるFastCellCovを補助推定量として使用する。FastCellCov は一貫性を持たないが、完全な推定量のロバスト性特性を捉える。
   • バイアス補正: II 枠組みは、観測データ上で計算された補助推定量と、パラメトリックモデルから生成されたシミュレーションデータセット上で計算された補助推定量の平均とを一致させることで、一貫性のある推定量を構築する。
   • 実装: アルゴリズムはブートストラップ標本を生成し、FastCellCov 推定量を計算し、位置と散布の一貫性のある推定量を得るために II バイアス補正を適用し、最終的に回帰係数を導出する。信頼区間は、これらの補正されたブートストラップ推定量の経験的分位数を用いて構築される。

主要な貢献

• 統合枠組み: 著者らの知る限り、これはセル単位外れ値、ケース単位外れ値、欠損データ、および高次元性（$p \geq n$）を同時に処理できる最初の変量回帰手法である。
• 理論的性質:
  • 著者らは、ケース単位およびセル単位汚染モデルの両方におけるcellMR回帰推定量の**影響関数（IF）**を導出し、推定量が有界でありしたがってロバストであることを証明した。
  • cellBoot手順の漸近的一貫性を証明した。
  • 結果として得られる信頼区間の中心と長さに対する影響関数を導出し、そのロバスト性を示した。
• 推論の有効性: 本論文は、cellBoot信頼区間が漸近的に正確であることを確立し、標準的なブートストラップやロバストブートストラップ手法（FRB など）が失敗する状況において、有効な不確実性の定量化を提供することを示している。

結果

• シミュレーション: 広範なモンテカルロ実験により、cellMRが、セル単位、ケース単位、混合のさまざまな汚染シナリオおよび次元において、RIDGE、SEST、PENSE、CRM、REGCELL、SHOOT などの競合手法と比較して、優れた予測性能（低い平均二乗誤差）を達成することが示された。競合手法は高次元では失敗するか、セル単位汚染下で性能が劣る。
• 推論性能: cellBoot手法は、顕著な汚染や欠損データ下でも、名义上の被覆確率（例：90%）を維持する。対照的に、OLS ベースの区間は深刻な過小被覆に悩まされ、高速かつロバストなブートストラップ（FRB）は高次元設定では失敗する。
• 実データ応用: この手法は、59 のがん細胞株、50 の遺伝子、3 つのタンパク質を含むゲノミクスデータセットに適用された。分析は、遺伝子とタンパク質発現レベルの間のロバストな関連性を特定することに成功し、外れ値マップとフォレストプロットを通じて可視化された。これにより、潜在的な外れ値と欠損値を効果的に処理しながら、関連性を特定した。

意義と主張
本論文は、現代のデータ分析における「三重の脅威」、すなわちセル単位汚染、ケース単位汚染、および高次元における欠損に対処する統合された手法を提供すると主張している。cellMRは、多変量回帰枠組み内でこれらの課題を共同で解決する最初の手法であると主張されている。さらに、cellBootの導入は、欠損値を伴うセル単位およびケース単位汚染の同時発生下で有効な信頼区間を提供するように特別に設計された最初の推論枠組みであると主張されている。著者らは、彼らのアプローチが予測を超え、ロバストな不確実性の定量化を通じて信頼性の高い科学的解釈を可能にすることを強調している。