技術要約：ベイズ最適実験計画における期待情報利得のマルチフィデリティ推定器

問題定義

最適実験計画（OED）は、モデルパラメータに関する情報利得を最大化する実験条件を特定することを目的としている。ベイズの枠組みにおいて、標準的な目的関数は、モデルパラメータと観測データの間の相互情報量として定義される期待情報利得（EIG）である。線形モデルかつガウス事前分布の場合は解析的に扱いやすいが、非線形モデルの場合、EIGは計算困難（intractable）となる。その結果、通常は入れ子状モンテカルロ（Nested Monte Carlo: NMC）サンプリングを用いて数値的に推定する必要がある。

主な課題は、これらの推定における計算コストである。EIGの評価には、様々なパラメータおよびノイズの実現下で、データモデル（支配的な物理方程式の求解）を繰り返し評価する必要がある。複雑な流体力学を伴うような高忠実度（high-fidelity）モデルの場合、このプロセスは計算量的に極めて困難となる。サロゲートモデルや低次元モデルを用いることで計算を加速させることは可能だが、単にそれらに置き換えるだけではバイアスが生じる。Multilevel Monte Carlo（MLMC）などの既存のマルチフィデリティ手法は分散減少を実現するが、コストと精度の関係や「真のモデル」への収束に関する厳格な仮定に依存しており、柔軟性に欠ける。

手法

著者らは、近似制御変数（Approximate Control Variate: ACV）の枠組みに基づいた、新しいマルチフィデリティ期待情報利得（MF-EIG）推定器を提案している。この手法は、EIGの定式化とACVの要件との不整合、およびバイアスを導入せずに分散を減少させる必要性という、2つの重要な障壁に対処するものである。

1. EIGの再パラメータ化

ACVフレームワークの基本的な要件は、推定器の入力サンプルが、高価なモデル評価とは独立して生成できることである。標準的なNMC推定器は観測データ $Y$ を直接サンプリングするが、これではすべてのサンプルに対して順モデル $Y = h(E; \Theta, \xi)$ を解く必要がある。

これを解決するために、著者らは観測データ $Y$ から基礎となるランダムなデータノイズ $E$ へと積分変数を変更することで、EIGを再パラメータ化している。データモデル $h$ が単射であり、連続的に可逆であると仮定すると、尤度項とエビデンス項は $E$ と逆写像のヤコビアンを用いて書き換えられる。この変換により、期待値は $Z = \{E, \Theta\}$ 上で取ることが可能となり、$E$ と $\Theta$ のサンプルは順モデルを評価することなく直接描画できる。その結果、効用関数は $u_E(\xi, E, \Theta)$ として定式化され、ACVとの互換性が確保される。

2. MF-EIG推定器

この推定器は、高忠実度効用モデル ($u_0$) と、$M$ 個の低忠実度効用モデル ($u_1, \dots, u_M$) のアンサンブルを組み合わせるものである。これらのモデルは、以下の点で異なる場合がある：

• データモデルの忠実度： 異なる順モデルの使用（例：より粗い格子、簡略化された物理現象）。
• 数値近似： 扱いにくいエビデンス項を推定するための、異なる内側ループのサンプルサイズや求積則の使用。

MF-EIG推定器は次のように定義される：
$$\tilde{U}(\xi, z; \alpha, A) := \hat{U}_0(\xi, z_0) + \sum_{m=1}^M \alpha_m \left( \hat{U}_m(\xi, z^*_m) - \hat{U}_m(\xi, z_m) \right)$$
ここで、$\hat{U}_m$ は各忠実度レベルにおける標準的なモンテカルロ推定器であり、$z$ は割り当てられたサンプル集合を表し、$\alpha$ は制御変数の重みである。この推定器は高忠実度の平均 ($u_0$) に対して不偏であり、サンプル割り当て $A$ と重み $\alpha$ を最適化することで、与えられた計算予算の下で分散を最小化する。

3. 実用的な強化策

本論文では、加法的およびスケーリングされたノイズを持つデータモデルに対する具体的な実装について詳述している。さらに、以下の2つの実用的な強化策を導入している：

• 内側ループのサンプルサイズの最適化： 相関と計算コストのバランスを取るために、低忠実度モデルの内側ループ・サンプル数 ($N_{in,m}$) を最適化する。サンプル数が少なすぎると相関が低下し、多すぎると収益が逓減する。
• サンプルの再利用： 効用モデル間の相関を高めるために、異なる忠実度レベル間でパラメータ $\Theta$ の内側ループ・サンプルを再利用することを提案している。この戦略は、効果的な分散減少に必要な相関構造を大幅に強化する。

主な貢献

1. 新規なMF-EIG推定器： 特定のコスト・精度収束の仮定を必要とせず、一般的なモデルのアンサンブルに対応可能な、ACVフレームワーク下での不偏なマルチフィデリティEIG推定器の導出。
2. 再パラメータ化戦略： 期待値をデータモデルから切り離す数学的な再定式化を行い、ACV技術をOED問題に適用することを可能にした。
3. 最適化技術： 内側ループのサンプルサイズを最適化し、サンプル再利用を実施することで、分散減少を最大化する戦略の開発。
4. 実装： 推定器を MXMCPy ツールボックスに統合し、既存のMFMCおよびMLMC手法を特殊なケースとして包含する柔軟な割り当て戦略を可能にした。

数値結果

著者らは、2つの数値例を用いてMF-EみEIG推定器を検証した。

ケース1：非線形ベンチマーク

加的およびスケーリングされたノイズを持つ1次元非線形問題。

• 分散減少： MF-EIG推定器は、ナイーブなアプローチを用いた単一忠実度のNMCと比較して、6〜8倍の分散減少を達成した。
• 最適化の影響： 内側ループのサンプルサイズを最適化することで、さらに**6〜12%**の改善が得られた。
• サンプルの再利用： サンプル再利用の実装は最も顕著な効果を示し、17〜23倍の分散減少（非再利用の場合の改善幅の約2倍）を達成した。

ケース2：乱流モデルのキャリブレーション

レイノルズ平均ナビエ・ストークス（RANS）の枠組みにおける、せん断応力輸送（SST）乱流閉鎖モデルのパラメータのキャリブレーションを含む多次元問題。異なる格子解像度を持つ4つのソルバーが忠実度のレベルとして使用された。

• 分散減少： MF-EIG推定器は、設計空間全体において、単一忠実度のNMCと比較して1〜2桁（19〜71倍）の分散減少を達成した。
• 最適設計の性能： 特定の最適設計位置においては、分散減少はさらに顕著になり、94〜234倍に達した。
• 物理的洞察： 結果は、最も情報量の多い設計が、ソルバー間の相関が高く、かつ物理的感度が最大となる平板のリーディングエッジ付近にあることを示した。推定器は、単一忠実度の推定器が大きな分散のために苦戦した一方で、高い信頼度で最適設計を識別することに成功した。

意義と主張

本論文は、MF-EIG推定器が、従来の単一忠実度EIG推定に対する、堅牢で不偏かつ非常に効率的な代替手段を提供すると主張している。ACVフレームワークを活用することで、MLMCが必要とする制限的な収束仮定を課すことなく、固定された計算予算の下で分散を最小化できる。

著者らは、この推定器が高忠実度の平均に対して不偏であることを強調しており、これによりマルチフィデリティ近似によって実験計画の最適化が歪められることがないことを保証している。結果は、精度を維持しながら計算コストを1〜2桁削減できることを示している。結論として、内側ループのサンプル再利用がマルチフィデリティ・アプローチの恩恵を最大化するための極めて重要なテクニックであり、内側ループのサンプルサイズを最適化することは、中程度ではあるが価値のある追加的な利点をもたらすと述べている。

本研究は、高忠実度のシミュレーションが高価であり、効率的な実験設計が不可欠な、複雑な工学応用（乱流モデルなど）において、MF-EIGを実用的なツールとして位置づけている。