Hierarchical Bayes meets hierarchical forecasting: A flexible framework for level-focused forecasts

技術要約：階層的ベイズ法と階層的予測の融合

問題提起
階層的予測は、下位レベルの予測が上位レベルに対して整合性を保たなければならない（例：地域的な需要が国家総計に集約される）複雑なシステムにおける意思決定において不可欠である。Minimum Trace (MinT) 再構築といった現在の最先端の手法は、通常、事後処理ステップとして機能する。これらは独立したベース予測を生成し、その後、整合性を確保するためにそれらを再構築する。このアプローチにはいくつかの限界がある：

1. 推定と整合性の分離： 整合性の要件が基礎となるパラメータ推定に組み込まれていないため、モデルは学習プロセス中に階層構造から情報を学ぶことができない。
2. 共分散推定の課題： 確率的な再構築（MinTを分布へと拡張する場合など）には、予測誤差の共分散行列の推定が必要となるが、これは多段階のホライゾンに対して計算が困難であり、不安定になりやすい。
3. 意思決定への焦点の欠如： 既存の手法は一般にすべてのレベルを等しく扱うか、あるいはグローバルな誤差減少を最適化するものであり、特定のレベルが意思決定の結果により重要であったり、特定のレベルにおける精度よりも厳格な整合性の方が重要性が低いシナリオを考慮できていない。
4. 較正の問題： 事後的な再構築は、整合性を強制するあまり、ベースモデルが適切に指定されている場合であっても、予測の較正（キャリブレーション）を損なう可能性がある。

手法
著者らは、情報共有、整合性制約、および意思決定に焦点を当てた重み付けをモデルの学習プロセスに直接統合した、完全ベイズ階層的予測フレームワークを提案している。この手法は、以下の3つのコアコンポーネントで構成される：

1. ベイズ階層事前分布：
   各時系列に対して個別にパラメータを推定する代わりに、著者らは、個々の時系列のパラメータ ($\theta_i$) がハイパーパラメータ ($\phi$) によって定義される母集団分布から抽出される、階層的な事前分布構造を採用している。これにより、**部分的な情報の集約（information pooling）**が促進され、同じレベル内、および異なるレベル間（親ノードと子ノード）の時系列が情報を共有することが可能になる。これは、ノイズが多い、あるいは不完全なデータを持つ時系列にとって特に有益であり、関連する時系列によって情報が補完される。

2. ソフト整合性ペナルティ：
   硬い制約を課す代わりに、本フレームワークは尤度関数内に不整合に対するソフトなペナルティを導入する。下位レベルの時系列の合計と対応する上位レベルの時系列との差 ($d_t$) は、ガウス分布 $N(0, \sigma^2_{coh})$ としてモデル化される。

• 尤度はこのペナルティ項 $p(d|\sigma^2_{coh}I_T)$ によって乗じられる。
• パラメータ $\sigma_{coh}$ はペナルティの厳格さを制御する。$\sigma_{coh}$ が小さいほど、より厳格な整合性が強制される。
• この「ソフト」なアプローチにより、モデルは精度と整合性のバランスを取ることができ、モデルが誤設定されている場合に非現実的な予測を避けることができる。これにより、MinTで必要とされる複雑な多段階共分散行列の推定を回避できる。

3. レベル重み付け（パワー・ポステリア）：
   意思決定における各レベルの重要性の違いに対処するため、著者らは特定の時系列やレベルの尤度に重み付け係数 $\lambda_i$ を適用する。

• $\lambda_i > 1$ と設定することで、モデルは特定のレベル（例：国家総計や特定の旅行目的）における精度を優先させる。
• これはパワー・ポステリア（power posterior）アプローチを用いて実装され、焦点となるレベルのデータを他のレベルに対して実質的にアップウェイトする。
• これにより、グローバルなモデルを特定の意思決定結果に向けて最適化しつつ、ソフトな整合性制約を維持することができる。

完全な事後分布は、階層的事前分布、重み付けされた尤度、および整合性ペナルティを組み合わせたものである。

主な貢献

• 統合されたフレームワーク： パラメータ推定、情報の集約、および整合性の強制を、事後の修正としてではなく、同時に行う統一されたベイズフレームワークを導入した。
• ソフト整合性： 分布的な制約を提案し、モデルの適合度と集計制約との間の柔軟なトレードオフを提供する。これにより、多段階ホライゾンにおける共分散行列の推定を必要とせずに整合性をペナルティ化できる。
• 意思決定に配慮したフォーカシング： 意思決定の結果に関連するレベルに応じて階層を差別的に重み付けるメカニズムを導入し、関心のある特定のレベルにおける精度を最適化する。
• 診断能力： 本アプローチは診断ツールとしても機能する。非常に厳しいペナルティを課してもモデルが整合性を達成できない場合、それは単なる再構築の失敗ではなく、モデルの誤設定を示唆している。

結果
本フレームワークは、シミュレーションデータ（適切に指定された、および誤設定されたARMA/ETSモデル）と、実世界のオーストラリア国内観光データ（地域、ゾーン、州、旅行目的の5レベル階層）の両方で評価された。

• 整合性： ベイズ階層アプローチは、独立したモデルと比較して、ペナルティを適用する前であっても、平均および分布的な不整合を本質的に減少させた。ソフトなペナルティを適用することで、不整合はさらに大幅に減少した。
• 精度（シミュレーションデータ）：
  • 適切に指定されたモデルでは、独立したベイズモデルが最も優れた性能を示した。これは、階層的な収縮（shrinkage）が真のパラメータから推定値をわずかにバイアスさせるためである。しかし、整合性ペナルティを伴うベイズアプローチは、確率的被覆率（probabilistic coverage）においてMinTを上回った。
  • 誤設定されたモデルでは、階層的アプローチは、特にデータの質の高いレベル（例：ボトムレベル）に重み付けを行った場合に恩恵を示した。誤設定されたシナリオでトップレベルに重み付けを行うと、全体的なパフォーマンスが悪化し、データの質やモデルの質が焦点となるレベルにおいて重要であることを浮き彫りにした。
• 精度（オーストラリア観光データ）：
  • 階層的ベイズモデルは、ほとんどの指標（RMSSE, ES, CRPS）において、独立したベイズモデルおよびMinT再構築を上回った。
  • レベル重み付け： 特定のレベル（例：「合計」や「目的」）に向けて重み付けされたモデルは、その特定のレベルにおいて最高の性能を達成し、多くの場合、重み付けのないモデルと比較して隣接するレベルの性能も向上させた。
  • 較正： MinT再構築は、上位レベルにおいて顕著なアンダーカバレッジ（不適切な較正）をもたらした。提案されたベイズアプローチは、より良い較正を維持したが、レベル重み付けモデルは、信頼度が高まったことにより、焦点となるレベルでわずかなアンダーカバレッジを示した（ただし、95%の目標値から5%以内の範囲内に収まっている）。
  • 誤設定の検出： 観光データに対して非常に厳しい整合性ペナルティを課してもモデルが収束できなかったことは、モデルの誤設定（おそらくETSモデルにおける未モデル化の共変量によるもの）を示唆しており、本フレームワークの診断的有用性を証明した。

意義と主張
本論文の主な意義は、階層的予測を事後の再構築タスクから、統合されたモデリングプロセスへと転換させたことにある。整合性と意思決定の優先順位をベイズのパラメータ推定に直接組み込むことで、以下のことが実現される：

1. 情報の共有を階層内のレベル間およびレベル間で促進し、特にデータが乏しい、あるいはノイズの多いシナリオにおいて、より優れたパラメータ推定を実現する。
2. 精度と整合性のトレードオフに対する柔軟な制御を提供し、予測の質を低下させるような硬直的な整合性を強制することなく、意思決定に関連する特定のレベルを優先させることを可能にする。
3. 確率的な多段階ホライゾンにおける共分散行列の推定に伴う計算的および統計的な落とし穴を回避する。
4. 診断的な視点を提供する。ソフトなペナルティを用いても整合性が達成できない場合、それはモデルの誤設定をシグナルとして送り、単なる不適切な再構築ではなく、モデル自体の再評価を促す。

著者らは、本アプローチは精度と整合性のバランスを取ることに優れているものの、基礎となるモデルが合理的に適切に指定されている場合、あるいは高品質なデータを持つレベルに焦点を当てる場合に最も効果的であると結論付けている。サンプルサイズが小さい場合、重み付けアプローチが多少の事後的な誤較正を招く可能性があることを認めているが、焦点となる予測性能の向上による利益がそのコストを上回ると主張している。