技術的サマリー：機械学習と計量経済学を用いたイールドカーブの予測

問題提起

本論文は、金融時系列の予測において、機械学習（ML）および深層学習（DL）手法が、従来の計量経済学的手法や時系列アプローチと比較してどの程度の有効性を持つかという、 ongoing な議論に焦点を当てています。具体的には、著者らは債券市場（株式市場を上回る規模を有する）の重要な指標であり、経済的後退の予測因子である米国公債イールドカーブに注目しています。ML は自然言語処理（NLP）やコンピュータビジョンなどの分野で革命をもたらしましたが、時系列予測におけるその優位性は依然として争われています。M4 コンペティションなどの先行研究では、純粋な ML モデルは統計的ハイブリッドモデルやナイーブな手法よりも性能が劣ることが示されています。さらに、非定常入力の扱いや、現代のファウンデーションモデルおよびトランスフォーマーの性能に関する観点から、日次イールドカーブデータ上でこれらの手法を包括的に比較した文献は不足しています。

手法

本研究は、FRED データベースから取得した、6 つの満期（1 年、2 年、5 年、7 年、10 年、30 年）の米国公債定 maturity 利回りの日次データ（1977 年～2024 年の 47 年間）を利用しています。このデータセットには、6 つの異なる景気後退期間が含まれています。

実験設定:

• 予測期間: モデルは、15 営業日、20 営業日、60 営業日の予測期間で評価されます。
• 検証戦略: データリークを防ぐために、2 つの交差検証（CV）設定が採用されます。
  1. スライディングウィンドウ: 1,044 営業日（約 4 年）の固定ウィンドウを 5 日ずつ前方にスライドさせます。
  2. 拡張ウィンドウ: 初期ウィンドウを 1,044 日とし、各反復で 5 日ずつ拡張します。
• ハイパーパラメータの時間ブロック: 構造的な経済的変化を考慮するため、データを連続する時間ブロック（例：ブロック 0: 1977 年～1986 年）に分割し、各ブロック内で 1 回だけハイパーパラメータを選択し、そのブロック内のすべてのウィンドウに適用します。
• 定常性: どの入力データが DL アルゴリズムに適しているかを判断するため、定常（差分）入力と非定常（生）入力の両方を明示的にテストします。
• 指標: 性能は、二乗平均平方根誤差（RMSE）と平均絶対パーセント誤差（MAPE）で測定されます。

評価対象モデル:

• ナイーブなベンチマーク: 平均予測、ナイーブ予測（ランダムウォーク）、ナイーブ季節予測。
• 従来の計量経済学: ARIMA（自動選択付き）、DHR-ARIMA（フーリエ項付き ARIMA）、VAR、VECM、diff+VAR。
• 古典的機械学習: ランダムフォレスト、XGBoost、LightGBM（LGBM）。
• 深層学習:
  • 再帰型ニューラルネットワーク（RNN）
  • トランスフォーマー: バニラトランスフォーマー、Informer、PatchTST、Temporal Fusion Transformer（TFT）。
  • ファウンデーションモデル: TimeGPT（事前学習済み、ゼロショット）、NBEATS、NHITS、DeepAR。

主な貢献

本論文は、以下の 4 つの主要な貢献によって他と区別されます。

1. 包括的な比較: 最近のファウンデーションモデル（TimeGPT）や各種トランスフォーマーアーキテクチャを含む幅広いモデルを、イールドカーブデータ上で従来の計量経済学的手法と比較評価しています。
2. データ頻度: 月次データに依存する既存文献の多くとは異なり、本研究は高頻度の日次データを利用しています。
3. 定常性の分析: 深層学習モデルが定常入力と非定常入力のどちらでより良い性能を発揮するかを体系的に調査しており、これは先行研究が乏しいテーマです。
4. 時間的頑健性: 複数の予測期間および異なる経済的タイムブロックにわたる性能を分析し、時間経過に伴うモデルの安定性を評価しています。

結果

実証分析により、以下の知見が得られました。

• 伝統的手法の優位性: 全体として、ナイーブ予測およびARIMAモデル（スライディングおよび拡張ウィンドウの両方の設定）は、47 年間の全サンプルにおいて他のすべての手法を上回りました。最良の ARIMA 変種とナイーブ予測との間の MAPE の差は、無視できるほど小さく（しばしば 0.01% 未満）、実質的に同等でした。
• 機械学習の性能:
  • 古典的 ML 手法の中では、拡張ウィンドウ設定のLGBMが最も良好な性能を示しましたが、それでも ARIMA やナイーブなベンチマークを上回ることはありませんでした。
  • 深層学習手法の中では、ファウンデーションモデルであるTimeGPTが最も優れた性能を達成し、次いで定常スライディング入力を用いたRNNが続きました。
• 定常性対非定常性: 普遍的なパターンはなく、最適な入力タイプは特定のモデルに依存します。例えば、RNN は定常スライディング入力の方が良好に機能しましたが、PatchTST や TFT は非定常拡張入力の方が良好に機能しました。
• 時間的変動性: 伝統的手法が集計平均において優位性を示す一方で、特定の深層学習モデル（例：拡張非定常データを用いた PatchTST や TFT）は、最も最近のタイムブロック（ブロック 8、2017 年～2023 年）においてベンチマークを上回りましたが、その差は小さく（例：0.03%～0.05%）、限定的でした。
• 予測期間: ナイーブおよび ARIMA 手法の優位性は、20 日および 60 日の予測期間においても一貫して維持されました。

意義と主張

本論文は、米国公債イールドカーブの予測においては、従来の計量経済学的手法（特に ARIMA）およびナイーブなベンチマークが、依然として最も効果的なアプローチであると結論付けています。

著者らは、高度なトランスフォーマーやファウンデーションモデルを含む深層学習モデルは、この特定のタスクにおいて一般的にこれらの単純な手法を上回ることができないと主張しています。彼らは、日次イールドカーブのプロセスはマルティンゲールに近い（日ごとの安定性と、時折の急激なジャンプを特徴とする）であり、この特性はナイーブおよび線形モデルによってよく捉えられると示唆しています。深層学習の性能不足は、過学習の可能性や、他の分野でファウンデーションモデルに使用される大規模なコーパスと比較して、限定的でノイズの多い金融データから学習することの難しさに起因すると考えられます。

本研究は、深層学習が特定のタイムブロックや特定の構成において有望であることを認めつつも、この応用においては、単純性、頑健性、コスト効率の観点から、従来の計量経済学的手法が好ましい選択であると強調しています。本論文は、ML が金融に対して無用であると主張するものではなく、むしろイールドカーブ予測においては、確立された統計的ベースラインに対して一貫した優位性をまだ示していないと述べています。