A Robust Framework for Model Order Selection in Correlated Large-Dimensional CES Noise

技術要約：相関のある高次元CESノイズにおけるモデル次数選択のための堅牢なフレームワーク

問題提起
本論文は、ノイズを含む観測データから統計的に有意なソースの数（モデル次数）を推定するという、信号処理における根本的な課題に取り組んでいる。AIC（赤池情報量基準）や部分空間法などの古典的な手法は、白色ガウスノイズに対しては良好に機能するが、以下の2つの特定の複雑性を特徴とする現代の高次元設定においては、信頼性が低くなる。

1. 相関ノイズ： ノイズが既知または未知の相関構造（ここではトプリッツ構造の散布行列としてモデル化）を持つ。
2. 非ガウス性： ノイズが複素楕円対称（CES）分布に従う。これには、ガウス仮定を破る重い裾を持つ分布やインパルス性の挙動（例：K分布やStudent-tテクスチャ）が含まれる。

観測次元 $m$ とサンプルサイズ $N$ が比例して増大する高次元レジーム（$m/N \to c > 0$）において、標本共分散行列（SCM）は一貫した推定を提供できず、標準的な固有値ベースの検出閾値は、相関と重い裾の相互作用により無効となる。

手法
著者らは、3つの異なる推定ブランチに適用可能な、統一された2段階の堅牢なフレームワークを提案している。その核心となる理念は、まずデータを「白濁化（whitening）」して未知の相関構造を除去し、次にランダム行列理論（RMT）を適用して信号固有値とノイズバルクを分離することである。

1. 第1段階：トプリッツ補正による堅牢な白濁化
   フレームワークは、未知のトプリッツ散布行列 $C$ を推定し、それを反転させることで観測データを白濁化する。このステップのために、3つの具体的な推定器が開発されている。

• SCMベース： トプリッツ構造に補正された標本共分散行列を使用する。
• Maronnaベース： トプリッツ構造に補正されたMaronnaのM推定器（堅牢なパラメトリック手法）を使用する。
• Tylerベース： トプリッツ構造に補正されたTylerのM推定器（分布に依存しない手法）を使用する。

このステップにおける重要な理論的革新は、「トプリッツ補正（Toeplitz rectification）」演算子であり、これは推定された散布行列をトプリッツ行列の空間へと投影するものである。著者らは、このステップが信号の低ランク成分を漸近的に抑制し、ソースが存在する場合でも推定器の一貫性を保証することを証明している。

2. 第2段階：RMTベースの固有値閾値設定
   データが白濁化された後、白濁化された観測データから堅牢な散布行列が推定される。モデル次数は、RMTから導出された特定の理論的閾値を超える固有値をカウントすることによって決定される。

• SCMおよびMaronnaブランチの場合： 閾値は、重み関数とテクスチャ分布に依存する $\Phi_\infty$ および $\xi$ を用いた明示的な閉形式の表現 $t = \frac{\Phi_\infty(1 + \sqrt{c})^2}{\xi (1 - c \Phi_\infty)}$ である。
• Tylerブランチの場合： 閾値は、マルチェンコ・パスツール（Marčenko–Pastur）則の上限である $(1 + \sqrt{c})^2$ に簡略化され、分布に依存しないものとなる。

主な貢献
本論文は、以下の理論的および実用的な貢献を確立している。

• ほとんど確実な一貫性（Almost Sure Consistency）： 著者らは、相関のあるCESノイズおよびソースが存在する場合において、トプリッツ補正された推定器（SCM、Maronna、Tyler）が真の散布行列 $C$ を一貫して推定することを証明している（定理1、3、5）。
• 明示的なRMT閾値： 比例成長レジームにおいて、信号とノイズ成分を分離する明示的な閉形式の固有値閾値を導出した。これには、相関のあるノイズ下でのMaronna推定器のための新しい閾値（定理2および4）、およびTyler推定器のためのマルチェンコ・パスツール境界の適応（定理6）が含まれる。
• 3ブランチ・パイプライン： 本フレームワークは、以下の柔軟なパイプラインを提供する。
  • SCMブランチ： ベースラインとなるアプローチ。
  • Maronnaブランチ： テクスチャ分布が既知であるか、あるいは良好に近似できる場合に、優れた有限サンプル性能を提供する堅牢なパラメトリックアプローチ。
  • Tylerブランチ： ノイズのテクスチャ分布に関する事前知識を必要としない、分布に依存しないアプローチであり、普遍的なマルチェンコ・パスツール閾値を利用する。
• データ駆動型のパラメータ推定： 著者らは、未知のスケール因子（$\xi$ やテクスチャの期待値など）を、leave-one-out近似を用いてデータから直接推定するための実用的なアルゴリズムを提供しており、これにより事前分布の知識なしでの適用を可能にしている。

結果
本手法は、広範なシミュレーションおよび実世界のデータ適用を通じて検証された。

• 合成データ： モンテカルロ・シミュレーションにより、提案手法（M1およびM2）が、未白濁化の手法（M3）やAICを大幅に上回ることが示された。これは、特に低SNR領域およびノイズのテクスチャがガウス仮定から逸脱する場合において顕著である。Maronnaブランチは、SCMブランチと比較して、テクスチャのミスマッチに対する優れた堅牢性を示した。
• ハイパースペクトルイメージング： Indian Pines、SalinasA、PaviaU、およびCarsデータセットに適用された。提案手法は一貫して物理的に妥当なソース数を特定したが、AICや未白濁化の手法はモデル次数を過大に推定した（例：約16個のソースに対し、200個以上と推定）。
• EEGソース検出： MAMEM EEG SSVEPデータセット（$m=256, N=500$）において、古典的な基準（AIC、MDL、KN）は失敗し、モデル次数をデータの次元数に近い値（$\approx 255$）と推定した。一方、提案された堅牢なフレームワークは、低い分散を伴いつつ、6.7から7.8の間の安定したソース数を特定した。
• 金融データ： 100のFama–Frenchポートフォリオ（$m=100, N=150$）に適用された。提案された堅牢な手法は、既知の金融ファクター構造と一致する2から5の支配的なファクターを特定したが、AICおよびMDLは再び、ファクター数を大幅に過大評価した。

意義および主張
本論文の主要な意義は、大規模な次元数、未知の相関構造（トプリッツ）、および非ガウス的な重い裾を持つノイズを、ノイズ分布の事前知識を必要とせずに（Tylerブランチにおいて）同時に扱う、最初の厳密なフレームワークを提供することにあると主張している。

著者らは、既存の手法は白色ノイズ、既知の相関、あるいはガウス性を仮定しており、ハイパースペクトルイメージング、EEG解析、あるいは金融ポートフォリオの最適化といった、これらの仮定が日常的に破られる実用的なアプリケーションにおいては効果的ではないことを強調している。ほとんど確実な一貫性を確立し、明示的な閾値を導出することで、本研究は、ランダム行列理論の理論と、堅牢で実用的な信号処理との間の溝を埋め、困難な高次元レジームにおけるファクター選択と共分散推定のための原理的なツールを提供している。