技術要約：期待値 vs. 現実：条件付き不確実性下におけるMSE最適予測のコスト

1. 問題提起

多段階時系列予測（MSF）は、伝統的に点別誤差指標、特に平均二乗誤差（MSE）を用いて評価されてきた。この評価パラダイムは、条件付き期待値 $E[Y_h | X]$ を十分かつ望ましい予測対象として暗黙のうちに扱っている。しかし、著者らは、予測ホライゾン（期間）が長くなるにつれて、この仮定が脆弱になることを主張している。多くの現実世界のシステムでは、時間の経過とともに不確かな要素が蓄積され、将来の出力に関する条件付き分布が次第に分散していく。

高い**条件付き不成立（Conditional Uncertainty）**の下では、条件付き期待値（MSE最適ターゲット）は、実際に実現される典型的な結果から大きく乖離する場合がある。その結果、厳密にMSEを最適化するように設計されたモデルは、「過小分散（under-dispersed）」な予測を生み出す傾向がある。つまり、点別の精度としては正確であるが、真の将来分布の周辺的な変動性を捉えることに失敗するのである。本論文は、これが単なるモデル容量や最適化の失敗ではなく、条件付き不確実性がゼロでない場合の決定論的予測における構造的な限界であることを示唆している。

2. メソドロジーと理論的枠組み

2.1 理論的定式化

著者らは、**全分散の法則（Law of Total Variance）**を用いて問題を定式化している：
$$\text{Var}(Y_h) = \text{Var}(E[Y_h | X]) + E[\text{Var}(Y_h | X)]$$
彼らは、条件付き不確実性ギャップ（Conditional Uncertainty Gap） ($\text{Gap}_h$) を、過去のデータから与えられる不可避な不確実性に起因する全変動の割合として定義する：
$$\text{Gap}_h = \frac{E[\text{Var}(Y_h | X)]}{\text{Var}(E[Y_h | X]) + E[\text{Var}(Y_h | X)]}$$
$\text{Gap}_h > 0$ のとき、条件付き平均は実現された将来の分散の100%を説明できない。

2.2 正確性とリアリズムのトレードオフ（定理1）

核心となる理論的貢献は定理1であり、これは任意の決定論的予測器 $f_h$ に対して以下を証明している：

1. もし $\text{Gap}_h > 0$ ならば、MSEを最小化しつつ、同時に実現された将来の周辺分布 ($L(Y_h)$) と一致させることができる予測器は存在しない。
2. 唯一のMSE最小化器は、条件付き期待値 $f^*_h(X) = E[Y_h | X]$ である。
3. $\text{Gap}_h > 0$ であるとき、常に $\text{Var}(f^*_h(X)) < \text{Var}(Y_h)$ となるため、MSE最適予測器の周辺分布は、真の周辺分布とは厳密に異なる。
4. これにより、点別精度（MSE）と周辺的なリアリズム（Wasserstein距離 $W_1$ で測定）の間に、避けられない**パレート・フロント（Pareto frontier）**が生じる。

2.3 実証的特性化

このトレードオフを定量化するために、著者らは以下の手法を用いている：

• 制御された合成システム： ノイズレベル ($\sigma_s$) とホライゾン ($h$) を調整することで、条件付き不確実性ギャップを制御できる、確率的なMackey–Glassシステム。
• 実世界のベンチマーク： エネルギー、交通、天候、空気質、金融にわたる9つのデータセット（例：METR-LA, Electricity, ExchangeRate）。
• 評価された戦略：
  • 直接法 (MIMO)： ホライゾン全体を一度に予測する。
  • 再帰法 (REC)： 一歩先の予測を反復的に行う。
  • 推論ルール： 確率モデルの場合、平均ベースの推論（予測平均）とサンプルベースの推論（単一サンプルのロールアウト）を比較する。
• 指標： 正確性のためのMSE、および周辺的なリアリズムのための $W_1$（Wasserstein-1距離）。また、堅牢性のチェックとして軌跡レベルの指標（DTW、ベクトル $W_1$ など）も報告している。

3. 主な結果

3.1 トレードオフの幾何学

• 低不確実性領域： 条件付き不確実性ギャップが小さい場合、パレート・フロントは退化しており、手法はMSEを最小化することとリアリズムを高めることが両立する単一の動作点に集まる。
• 高不確実性領域： ギャップが増大する（長いホライゾンや高いノイズ）につれ、到達可能な性能の集合は明確なパレート・フロントへと拡大する。これにより、MSE最適予測器（過小分散なもの）と、点別精度を犠牲にして周辺的な変動性を一致させる手法が分離される。
• 相関関係： パレート・フロントの長さは、推定された条件付き不確実性ギャップに伴って単調に増加する。

3.2 厳密なMSE選択のコスト

• 機会損失： 著者らは、「成功したトレード」を、MSEのわずかな緩和がリアリズムのより大きな相対的向上をもたらすシナリオと定義している。
• 実証的知見： 合成および実世界のベンチマーク全体において、MSEの制約をわずか**5%**緩和するだけで、周辺的なリアリズムにおいて不釣り合いなほどの利得が得られることが多い。
  • 中央値の改善： すべてのデータセットにおいて、周辺的なリアリズム（$W_1$）が中央値で17.3%向上した。
  • 成功率： 全体平均で84.1%のケースにおいて、小さなMSEの緩和が純増となるリアリズムのトレードをもたらした。
  • データセット固有の特性： 天候（Weather）や為替レート（ExchangeRate）などのデータセットでは、高い成功率を伴いつつ、中央値で22%を超えるリアリズムの改善を示した。

3.3 戦略と推論によるコントロール・ノブ

本研究は、異なる予測戦略がパレート・フロントの異なる領域を系統的に占有していることを示している：

• MSE最適極限： 直接法 (MIMO) 戦略および平均ベースの推論によって支配される。これらは条件付き期待値の推定に適合し、平滑化された過小分散な予測を生む。
• リアリズム最適極限： 再帰法 (REC) 戦略およびサンプルベースの推論によって支配される。これらは時間を経て変動を伝播させ、点別精度を犠牲にしながらも、実現された将来の周辺分布によく一致させる。
• 確率モデル： 確率モデルであっても、このトレードオフを排除するのではなく、単にそれをナビゲートするに過ぎない。予測平均を選択すればMSEの極限に位置し、サンプリングを行えばリアリズムの極限に位置することになる。

4. 貢献

本論文は主に3つの貢献を行っている：

1. 理論的説明： 長期予測における過度な平滑化（Over-smoothing）は、決定論的予測における条件付き不確実性の下での構造的な特性であり、モデルの誤設定エラーではないことを証明した。条件付き不確実性ギャップがゼロでない限り、いかなる決定論的予測器も、MSEを最小化すると同時に周辺分布と一致させることはできない。
2. 実証的定量化： 正確性とリアリズムのパレート・フロントを特性化し、厳密なMSEベースのモデル選択が、周辺的なリアリズムに対して相当かつ回避可能なコストを課していることを示した。MSEのわずかな緩和が、しばしば大きなリアリズムの利得をもたらす。
3. 実践的プロトコル： 戦略の選択（直接法 vs 再帰法）および推論の選択（平均 vs サンプル）を、単一の指標を最適化するのではなく、この多目的空間をナビゲートするためのメカニズムとして再定義した。

5. 意義と推奨事項

本論文は、点別精度と分布的リアリズムの間の不適合性は、モデルのクラスに依存せず、条件付き不確実性下における多段階予測の固有の性質であると主張している。

実践的な推奨事項：
著者らは、モデル選択のための許容帯（Tolerance-band）選択ルールを提案している：

1. 検証データ上でMSE最適となるモデルを特定する。
2. MSEが最適値の範囲内の、アプリケーションに応じた小さな許容誤差 $\epsilon$（例：5%）内に収まるすべての候補を保持する。
3. これらの「ほぼ同等」の候補の中から、周辺的なリアリズム（$W_1$ などの指標を使用）を最大化するモデル、あるいは確率モデルの場合は較正性とシャープネスの診断を用いるモデルを選択する。

意義：
本研究は、特に長期予測において、モデルのランキングをMSEのみで行う標準的な慣行に異議を唱えている。単一の指標による評価は構造的に誤解を招く可能性があり、実現された将来をより適切に反映している予測を系統的に排除してしまう可能性がある。長期予測を制約付き多目的選択問題として扱うことで、実務者はMSEのみの最適化に伴う「コスト」を回避し、データ生成プロセスに内在する不確実性をより良く反映するモデルを選択できるようになる。