Limiting laws and consistent estimation criteria for fixed and diverging number of spiked eigenvalues

1. 問題設定 (Problem)

主成分分析（PCA）や因子分析において、母共分散行列 $\Sigma$ の固有値 $\lambda_1 \ge \dots \ge \lambda_p$ が、大きな「スパイク（信号）」$\lambda_1, \dots, \lambda_k$ と、小さな「バルク（ノイズ）」$\lambda_{k+1}, \dots, \lambda_p$ に分かれていると仮定します。
本研究は以下の 2 つの主要な課題に取り組んでいます。

1. 極限法則の導出: 次元 $p$ とサンプルサイズ $n$ がともに無限大に発散する（$p, n \to \infty$）高次元設定において、スパイクされたサンプル固有値 $d_1, \dots, d_k$ の極限分布を導出すること。特に、スパイクの数 $k$ が固定されている場合だけでなく、$k$ も発散する場合（$k \to \infty$）を扱います。
2. スパイク数 $k$ の一貫した推定: 固定された $p$ および発散する $p$ の両方の設定において、スパイクの数 $k$ を一貫して（consistent）推定できる情報基準（AIC, BIC の拡張など）を提案すること。

既存の研究では、多くの場合 $k$ が固定されている、またはスパイク固有値が有界あるいは無限大に発散するなどの強い仮定が置かれていました。本研究はこれらを緩和し、より一般的なモデルを扱います。

2. 手法と理論的枠組み (Methodology)

モデルと仮定

• 一般スパイク共分散モデル: バルク固有値 $\lambda_{k+1}, \dots, \lambda_p$ が互いに異なり得るモデルを扱います（標準スパイクモデルは $\lambda_{k+1} = \dots = \lambda_p$ という特殊ケースです）。
• 発散するスパイク数: $k$ が $n$ に対して $o(n^{1/3})$（正規分布の場合）または $o(n^{1/4})$（一般分布の場合）のオーダーで発散することを許容します。
• 分布の仮定: 正規分布だけでなく、4 次モーメントが有限である一般分布も扱います。

主要な理論的アプローチ

1. ランダム行列理論の応用:

   • サンプル共分散行列 $S_n$ のスペクトル分布の極限（Marcenko-Pastur 法則の一般化）を利用します。
   • スパイクトル固有値 $d_i$ が、母固有値 $\lambda_i$ と関数 $\psi(\cdot)$ を介して関連することを示します（$\psi(x) = x + c \int \frac{xt}{x-t} dH(t)$）。
   • 行列式方程式 $|dI - K_n(d)| = 0$ を解くことで、$d_i$ の極限値と収束速度を解析します。

2. 極限分布の導出:

   • 定理 1: スパイクトルサンプル固有値 $d_i$ が $\psi_n(\lambda_i)$ に確率収束すること、および $\lambda_i$ の推定量 $-\hat{s}_n^{-1}(d_i)$ が $\lambda_i$ に収束することを示します。
   • 定理 2: $d_i$ の収束速度が $O_p(\sqrt{k/n})$（正規分布）または $O_p(k/\sqrt{n})$（一般分布）であることを示し、$k$ の発散速度の制限を緩和します。
   • 定理 3: スパイクトル固有値の漸近正規性を証明します。これにより、推定量の分布特性が明確になります。

3. 推定基準の提案:

   • 固定 $p$ の場合: 一般化情報基準（GIC）を提案します。ペナルティ項 $C_n$ として、従来の BIC ($C_n = \log n/2$) よりも弱い条件（例：$C_n = \log \log n$）でも一貫性が保証されることを示しました。
   • 発散 $p$ の場合（標準モデル）: 信号対雑音比（SNR）に適応する GIC を提案します。ペナルティ係数 $\gamma$ を適切に設定することで、AIC や BIC を含む一般的な基準として機能し、$k=o(n^{1/3})$ の発散を許容します。
   • 発散 $p$ の場合（一般モデル）: バルク固有値が異なる場合に対応するため、相関行列に基づく「調整済み GIC（AGIC）」を提案します。これは Fan et al. (2022) の調整固有値閾値法を情報基準の枠組みに拡張したものです。

3. 主要な貢献 (Key Contributions)

1. 発散するスパイク数 $k$ に対する極限法則の拡張:

   • 既存の研究（例：Cai et al., 2020 の $k=o(n^{1/6})$）よりも緩い条件（$k=o(n^{1/3})$ または $o(n^{1/4})$）で、スパイク固有値の極限分布と漸近正規性を確立しました。
   • スパイクトル固有値が有界である必要も、無限大に発散する必要もないという、より一般的な条件の下で結果を導出しました。

2. より弱いペナルティ項による一貫性保証:

   • 固定 $p$ において、BIC よりも弱いペナルティ項（例：$\log \log n$）でも一貫した推定が可能であることを理論的に証明しました。これは、低 SNR 環境での過小推定を防ぐために重要です。

3. 一般モデルへの適用可能性:

   • バルク固有値が均一でない「一般スパイク共分散モデル」において、一貫した推定基準（AGIC）を提案しました。これにより、実データに見られるより複雑な構造にも適用可能です。

4. 結果 (Results)

• シミュレーション研究:

  • 標準スパイクモデル（$p$ が小さい・大きい）および一般スパイクモデルにおいて、提案手法（GIC, AGIC）を既存の手法（BIC, AIC, PC3, ON2, KN, DDPA, ACT, BEMA など）と比較しました。
  • 結果: 提案手法は、特に信号が弱い（SNR が低い）場合や、サンプルサイズ $n$ や次元 $p$ が比較的小さい場合に、既存手法よりも高い精度でスパイク数 $k$ を推定しました。
  • 従来の BIC はペナルティが強く過小推定する傾向があり、AIC は過大推定する傾向がありましたが、提案手法はこれらをバランスよく補正しました。

• 実データへの適用:

  • Fama-French 100 ポートフォリオ: 金融データにおいて、理論的に期待される 3 つのファクターを AGIC が正しく検出しました（他の手法は過大または過小推定）。
  • 1000 Genomes Project: 遺伝子データにおいて、5 つの民族グループに対応する 4 つのスパイクを GIC と AGIC が正しく推定しました。
  • PBMC (単一細胞 RNA シーケンシング): 生物データにおいて、6 つの主要な細胞タイプを正しく検出しました。

5. 意義 (Significance)

この論文は、高次元統計推論の分野において以下の点で重要な意義を持ちます。

• 理論的厳密性の向上: スパイクトル固有値の数が発散する場合の理論的基盤を強化し、より現実的な条件（発散する $k$、非一様なバルク固有値）で極限法則を確立しました。
• 実用的な推定手法の提供: 従来の情報基準（AIC/BIC）の限界（特に低 SNR 時の性能低下）を克服し、様々なデータ生成モデル（標準および一般スパイクモデル）に対してロバストで一貫した推定基準を提供しました。
• 実データへの適用可能性: 金融、遺伝学、生物学など多様な分野の実データにおいて、提案手法の有効性を示しました。これにより、高次元データ解析における因子数の決定という重要な課題に対する信頼性の高い解決策を提供しています。

総じて、本研究はランダム行列理論の高度な手法を用いて、高次元 PCA におけるモデル選択問題に対する包括的で堅牢な理論的・実用的枠組みを構築した点に大きな価値があります。