Bayesian Deep Gaussian Processes for Correlated Functional Data: A Case Study in Cosmological Matter Power Spectra

技術要約：相関のある関数データのためのベイズ深層ガウス過程

問題提起
本論文は、宇宙論的コンピュータ・シミュレーションから、基礎となる「無限体積」物質パワースペクトル $P_\infty(k)$ を推定するという課題に取り組んでいる。著者らは特に、与えられた宇宙論パラメータ（「宇宙論」）に対して、異なる忠実度を持つ複数の応答曲線を提供する Mira-Titan シミュレーション・スイートに焦点を当てている。これらの出力には以下が含まれる：

1. 摂動論スペクトル ($P_p$): 解析的に導出されたもので、大きな空間スケール（低波数、$k < 0.04$）においてのみ正確である。
2. 低解像度シミュレーション ($P_{\ell r}$): 各宇宙論に対して16個の相関のある実現例を提供し、中間スケール（$0.04 \le k \le 0.25$）において正確であるが、初期化のランダム性の影響を受ける。
3. 高解像度シミュレーション ($P_h$): 各宇宙論に対して単一の実現例を提供し、より広い範囲（$0.04 \le k \le 5$）において正確であるが、依然として低 $k$ における有限体積効果の影響を受ける。

核心となる困難は、これらの異種混合で、相関があり、かつノイズを含む関数的な出力を統合して、滑らかで非ランダムな $P_\infty(k)$ を推定することである。既存の手法は、これらの出力を独立したスカラー観測値として扱うか、あるいは波数にわたる関数曲線の内在的な空間依存性を考慮できていない。さらに、著者らは、高価な新しいシミュレーションを実行することなく、未観測の宇宙論に対してスペクトルを予測するためのサロゲートモデル（エミュレータ）の構築を目指している。

手法
著者らは、相関のある関数的出力のために特別に設計された、DGP.FCO と呼ばれる ベイズ階層深層ガウス過程 (Deep Gaussian Process: DGP) モデルを提案している。

1. 階層構造:

   • 観測層: 観測された重み付き平均シミュレーション出力 ($\bar{Y}$) は、基礎となるスペクトル $S$ のノイズを含む実現例としてモデル化される。従来の、対角ノイズ共分散を仮定するアプローチとは異なり、本モデルはマテーン・カーネルに基づく密な共分散行列 $\Sigma_\epsilon$ を採用し、波数にわたる滑らかな空間依存性と相関を捉える。
   • 潜在スペクトル層: 基礎となるスペクトル $S$ は、平均 0 のガウス過程としてモデル化される：$S \sim \text{GP}(0, \Sigma_S(W))$。
   • 深層潜在層: 非定常性（具体的には $-1.4 \le \log_{10}(k) \le -0.8$ の範囲におけるバリオン音響振動）を扱うため、入力空間 $X$（波数）は、潜在的な単調ガウス過程 $W \sim \text{monoGP}$ によってワープ（歪曲）される。このワープにより、モデルは異なるスケールにわたってスペクトルの実現の滑らかさを適応させることができる。

2. 推論:

   • 著者らは、潜在的なワープ関数 $W$ を推論するために 楕円スライス・サンプリング (Elliptical Slice Sampling: ESS) を使用し、カーネルのハイパーパラメータ ($\theta_S, \theta_W$) を更新するためにギブス・フレームワーク内での メトロポリス・ヘイスティングス ステップを使用する。
   • 潜在変数が与えられたとき、スペクトル $S$ の事後分布は閉じた形式で導出されるため、事後平均と 95% 信頼区間を計算するための直接的なサンプリングが可能となる。

3. 未観測の宇宙論のためのエミュレーション:

   • 新しい宇宙論に対してスペクトルを予測するために、著者らは二段階のアプローチを採用している。まず、DGP.FCO モデルを使用して、訓練された宇宙論のスペクトルを推定する。
   • 次に、これらの推定されたスペクトルを 主成分分析 (PCA) を用いて分解する。
   • その後、8つの宇宙論パラメータの関数として、主成分の重みに対する独立したガウス過程エミュレータを訓練する。このサロゲートモデルにより、未観測の宇宙論構成に対してスペクトルを迅速に予測することが可能となる。

主な貢献

• ベイズ DGP の拡張: 本論文は、ベイズ深層ガウス過程を、スカラー応答から相関のある関数的出力へと拡張している。これは、コンピュータ実験における DGP の新規な応用である。
• マルチフィデリティ・データの統合: 摂動論、低解像度、および高解像度のシミュレーション・データを、各データソースがバイアスを持たない特定の波数範囲を尊重しながら、効果的に統合する。
• ドメイン知識の組み込み: モデルは、精度行列を介した異なるデータソースの信頼性に関する専門知識や、スペクトルの非定常な性質（単調な潜在 GP による）を明示的に組み込んでいる。
• ベンチマーク: 本手法は、既知の「無限体積」の真の基底を与える CAMB (Cosmic Anisotropies, CMB and Baryon Acoustic Oscillations) モデルを用いた合成データおよび実験によって検証されている。また、Mira-Titan データセットを用いて、最先端の Cosmic Emu（深層プロセス畳み込みアプローチ）と比較されている。

結果

• 合成および CAMB 実験: 真の基礎となる曲線が既知であるシミュレーション研究において、DGP.FCO モデルは、精度と不確実性の較正の両方を評価する適切なスコアリング・ルールである ログ・スコア (log score) において、競合する手法（標準的な DGP、ヘテロスケダスティック GP、および深層プロセス畳み込み）よりも優れた性能を示した。著者らは、観測間の空間依存性を考慮することが、より効果的な不確実性定量化 (UQ) につながると指摘している。
• Mira-Titan エミュレーション: 未観測の宇宙論に対してスペクトルを予測する場合、提案手法（DGP.FCO + PCA + GP エミュレータ）は、既存の Cosmic Emu と比較して良好な性能を示す。
• 不確実性定量化 (UQ): 階層モデルは、単純な加重平均では十分に捉えきれない、有限のシミュレーション体積や初期化のランダム性に由来する不確実性を反映した信頼区間を、正常に提供している。

意義と主張
著者らは、複雑なマルチフィデリティ・シミュレーション・スイートから、無限体積の物質パワースペクトルを推定するための堅牢なフレームワークを提供していると主張している。相関のある関数的出力へと、スカラー応答を超えて移行することで、本手法は他のエミュレータが見落としている、宇宙論的スペクトルの本質的な滑らかさと依存性を捉えることができる。本論文は、本手法を、宇宙論パラメータを制約するために正確かつ高速なスペクトル予測が不可ントとなる大規模宇宙論サーベイ（Euclid や LSST など）の効率的な分析に向けた重要なステップとして位置づけている。著者らは、このベイズ DGP モデルの採用を促進するために、データ、再現可能なコード、および R パッケージを提供している。