テクニカルサマリー：クロスセクショナルなボラティリティ予測のためのレジーム・ゲーテッド残差混合エキスパート（RG-ResMoE）

問題提起

金融ボラティリティは本質的にレジーム依存的であり、過去の観測値と将来のボラティリティとの関係は、市場の状態（例：平穏時、危機時、回復期）によって変化する。ディープニューラルネットワークは、大規模なクロスセクショナル株式パネルから非線形関係を学習することでボラティリティ予測を向上させてきたが、レジーム情報を組み込むことは依然として困難である。既存のアプローチでは、通常、レジーム変数をモデルの入力に直接付加するか、あるいは市場状態に基づいて異なる予測器を切り替える手法が取られる。しかし、これらの手法は、レジーム情報の「存在」と「統合経路」を混同しており、性能向上が情報そのものによるものなのか、それとも情報の入り方によるものなのかを不明確にしている。さらに、レジーム変数を入力に直接追加することは、コンパクトなニューラルアーキテクチャにおいて学習を不安定にし、予測性能を低下させることがある。

メソドロジー

著者らは、統合経路の効果を分離するために設計された新しいアーキテクチャである RG-ResMoE（Regime-Gated Residual Mixture-of-Experts：レジーム・ゲーテッド残差混合エキスパート）を提案する。本研究では、レジーム変数、モデル容量、ハイパーパラメータ、および評価プロトコルを一定に保ち、統合のポイントのみを変化させるという、厳密な情報一致比較フレームワークを採用している。

データとタスク

• データセット: 主要な米国のパネル（1,027銘柄、2018–2025年）および再現用パネル（日本株1,552銘柄）。
• タスク: クロスセクショナルな株式パネルにおける、5日間の前方実現ボラティリティ（年率換算）の予測。
• 入力:
  • 銘柄特徴量 ($x$): 実現ボラティリティ、リターン、RSI、対数リターンを含む16個の特徴量。
  • レジーム変数 ($z$): 2つの指標。市場ボラティリティ（等金額ウェイトの市場リターンの20日ローリング・ボラティリティ）および個別銘柄ボラティリティ（残差リターンの20日ローリング・ボラティリティ）。

アーキテクチャ設計

核心となる革新は、ベースとなる予測とレジーム依存的な補正を分離することにある：

1. 凍結されたベースネットワーク: 標準的な2層隠れ層のMLPが、銘柄特徴量 ($x$) のみを用いてベースとなるボラティリティ水準 ($\hat{y}_{base}$) を予測する。このネットワークは最初に学習され、その後凍結される。
2. 残差エキスパート: $K=4$ 個のエキスパートネットワーク（いずれもMLP）が、フル予測ではなく「残差補正」($r_k(x)$) を予測する。これらのエキスパートは、モデルがベース予測から開始されるよう、出力層がゼロで初期化されている。
3. レジーム・ゲーテッド・ルーティング: ゲーティングネットワーク ($g$) が、銘柄特徴量 ($x$) とレジーム変数 ($z$) の両方を入力として受け取る。これはエキスパートに対するソフトな確率分布 ($\pi$) を出力する。
4. 最終予測: 最終的な予測は、ベース予測と、エキスパートによる残差の加重平均の和となる：
   $$\hat{y} = \hat{y}_{base} + \sum_{k=1}^{K} \pi_k r_k(x)$$
   決定的なのは、レジーム変数 $z$ は、予測ネットワークへの入力を直接変更するのではなく、ルーティングの重み $\pi$ を通じてのみ予測に影響を与える点である。

学習と正則化

学習は2段階で進行する：

1. ベースネットワークの学習。
2. ベースを凍結し、エキスパートとゲートを共同で学習。
   損失関数には以下が含まれる：

• 最終予測に対する平均二乗誤差 (MSE)。
• 予測値をベースに近づけるための、集計された残差補正の大きさに係る収縮ペナルティ。
• ルーティングの崩壊（単一のエキスパートへの集中）を防ぐためのロードバランシング・ペナルティ。

主な貢献

1. 統合経路の発見: レジーム情報の「位置」が決定的な要因であることを本論文は示している。レジーム変数を入力に直接付加すると精度と安定性が低下するが、残差のゲーティングにのみ使用することで、両方が改善される。
2. 残差MoEアーキテクチャ: コンパクトな金融予測モデルにおいて、Mixture-of-Experts (MoE) の価値は、総モデル容量を増やすことよりも、非定常な情報がいかにして安定したベース予測を残差学習を通じて変調させるかを制御することにあることを示している。
3. ソフト vs ハード・ルーティング: 連続的なソフト・ルーティング（学習された確率分布）は、ハード・ルーティング（学習されたトップ1ゲートや手作りの市場区分に基づく割り当て）を一貫して上回る。
4. 学習の安定性: RG-ResMoEアーキテクチャは、標準的なMoEや直接入力型のMLPと比較して、学習の安定性を大幅に向上させ、モデルが収束しない「崩壊」した学習実行を排除している。

結果

1,027銘柄の米国株を用いた、ローリング・ウォークフォワード・フレームワーク（30個の非重複テストウィンドウ）による評価：

• 予測精度: RG-ResMoEは、すべてのニューラルモデルの中で最も高いインフォメーション係数 (IC: 0.5469)、最低のRMSE (0.2304)、および最高のサンプル外 $R^2$ (0.292) を達成した。これは、容量が一致する大規模MLP (MLP-L) や標準的なMoEを大幅に上回っている。
• 安定性: RG-ResMoEは30回の試行のうち崩壊したシードは0回であったのに対し、標準的なMoEは24/30回、MLP-L(+z)は30/30回で崩壊した。
• リスク較正: RG-ResMoEは、特に高ボラティリティ局面において優れたValue-at-Risk (VaR) 較正を提供し、Kupiecの被覆テストにおいてベースラインよりも低い拒絶率を示した。
• 市場ストレス時のパフォーマンス: RG-ResMoEの優位性は、ボラティリティが高まった時期（例：2020年のコロナ危機において、ICの利得は全サンプル平均の6.7倍）に最も顕著であった。
• クロスマーケットでの再現性: 結果は日本の東証プライム・パネルでも再現され、残差ルーティングの恩恵が市場固有のものではないことが確認された。

意義と主張

本論文は、コンパクトなニューラル・ボラティリティ予測モデルにとって、レジーム認識型MoEモデルの主な価値は、モデル容量を拡大することではなく、非定常なレジーム情報がどのように予測に影響を与えるかを制御することにあると論じている。

著者らは、単純な設計原則を主張している。すなわち、レジーム情報は、通常の予測入力として扱われるよりも、残差ルーティングをガイドする際に最も効果的であるということである。このアプローチにより、モデルは安定したベース予測に対する補正を変調させることで市場状態に適応でき、予測精度と学習の堅牢性の両方を向上させることができる。この研究は、この原則が特定のRG-ResMoEアーキテクチャを超えて、将来のニューラル予測モデルにおける市場状態情報の取り込み方を導くものであることを示唆している。

著者らが指摘する限界事項には、株式市場とコンパクトなMLPバックボーンに焦点を当てている点が含まれており、他の金融タスク、より大きなシーケンスモデル、または代替的な状態定義への汎用性は今後の課題である。