Robust Surrogate-Based Bayesian Inference via Sampling-Based Adaptive Active Learning (SALE)

技術要約：サンプリングに基づく適応的能動学習（SALE）による、ロバストなサロゲート・ベースのベイズ推論

問題提起
標準的なベイズ推論手法（マルコフ連鎖モンテカルロ法（MCMC）など）は、尤度または対数事後確率の評価が高コストになる場合、計算量的に実行不可能となる。この高コスト性は、シミュレータ、パラメータ依存の正規化定数、潜在構造に対する繰り返しの積分、あるいは逆問題の数値解を伴うシナリオにおいて発生する。限られた評価予算の下では、既存のサロゲート・ベースのアプローチは、根本的なジレンマに直面する。すなわち、高確率領域を**局在化（localisation）することと、その領域におけるサロゲート・モデルの精度を較正（calibration）**することを同時に達成しなければならない。

既存の手法は、高確率領域を見つけるためにベイズ最適化（BO）のみに依存するか、あるいはサロゲートを精緻化するために不確実性低減（UR）のみに依存することが多い。しかし、純粋なBO戦略は対数事後確率をブラックボックスの目的関数として扱うことが多く、対数密度の構造を活用できず、無関係な領域を探索してしまう可能性がある。逆に、事後確率で重み付けされたUR戦略は、学習の初期段階における高い不確実性に惑わされ、真の事後確率が無視できるほど小さい領域で評価を浪費してしまう可能性がある。さらに、逐次的な事後確率重み付きUR設計に関する理論的保証、特に最終的なサロゲート事後確率の近似誤差に関する明示的な予算依存の境界については、一般に欠如している。

手法：サンプリングに基づく適応的能動学習（SALE）
著者は、共通の逐次的設計測度である期待事後分布（Expected Posterior: EP）、$\bar{\pi}_t$ を通じて、局在化と較正を統合するガウス過程（GP）ベースの能動学習フレームワークであるSALEを提案する。

1. 期待事後分布（EP）：
   $\bar{\pi}_t$ は、GPのサンプルパスによって誘導される事後分布の平均として定義される：$\bar{\pi}_t(A) = \int \pi(A|g) P_t(dg)$。理論的に、$\bar{\pi}_t$ は現在の情報に基づいた推定量のなかで、条件付き期待カルバック・ライブラー（KL）損失を最小化する。極めて重要な点は、SALEが $\bar{\pi}_t$ を単なる推論の出力としてだけでなく、逐次的設計の導出法則としても利用している点である。

2. 状態依存型アロケーション（State-Dependent Allocation）：
   SALEは、潜在的な状態 $S_t$ に基づいて、評価予算を2つのブランチに動的に配分する：

   • 局在化（BO）： 現在の最大値付近の設計解像度が低い場合、アルゴリズムは高事後確率領域を特定するためにBOを優先する。
   • 較正（UR）： 解像度が向上するにつれ、アルゴリズムは推論に重要な領域における近似精度を確保するためにURへと移行する。
     未解決の値の発見確率のプロキシ（代理指標）を用いてアロケーションを決定し、URが漸近的に正の割合の評価を受けられるように保証する。

3. アニールド目的関数（AO）によるBO：
   局在化ブランチのために、SALEはGPのサンプルパスによって誘導される $\tau$-テンパリングされた事後分布を平均化するアニールド目的関数（AO）を導入する。

   • $\tau=1$ のとき、AOはEP ($\bar{\pi}_t$) と一致する。
   • $\tau \to 0$ のとき、AOはトンプソン・サンプリング（TS）に近づく。
   • 正の $\tau$-テンパリングは、クエリ分布をサロゲート・パスの摂動に対して正則化し、サロゲートが非常に不確実な場合（例：人工的な鋭いスパイクを含む場合）にTSが抱える不安定性を解消する。
   • AOからのサンプリングは、補助的な描画を導入することで、扱いにくい正規化定数を処理する**交換シミュレーテッド・アニーリング（ESA）**を通じて行われる。

4. EP重み付き較正（UR）：
   較正ブランチにおいて、SALEは、EPと真の事後分布の間の全変動（TV）距離を制御する分散汎関数における期待減少量を最大化する、理想的なURルールを定義する。

   • 理想的なルールは計算コストが高い。SALEは、候補を現在のEPサンプルに限定し、状態依存の重みテンパリング（局在化中はGPの平均が高い方へ傾斜させる）を用い、GPの不確実性と事後平均に基づくローカルなランキング・プロキシを採用する実用的なプロキシを実装する。

主な貢献

1. 統一された設計測度： SALEは、領域の制限（局在化）と較正の両方において、共通の逐次的設計測度として期待事後分布（$\bar{\pi}_t$）を初めて使用するフレームワークである。
2. 安定性と最適化のトレードオフ： 本論文は、アニールド目的関数（AO）のトレードオフを特性化している。正の $\tau$-テンパリングが、$W_{1,\infty}$-to-TV 連続性境界を介してクエリ分布をサロゲートの摂動に対して安定化させることを証明すると同時に、それに伴う最適化のペナルティをベイズ・レグレット境界を通じて定量化している。
3. URに関する理論的保証： 著者は、理想的な逐次的事後確率重み付きUR設計の下での、最終的なEPの期待TV誤差に関する明示的な予算依存の境界を導出した。さらに、実装されたURプロキシの期待TVレートを確立し、それが対数因子を除いて理想的なルールの多項式次数と一致することを示した。
4. 堅牢性： 本フレームワークは、局在化と較正を適応的に切り替えることで、外部のベースラインで見られる深刻な失敗を回避するように設計されている。

結果および実証的性能
著者は、解析的なベンチマーク（例：Quartic-tail Gaussian, Neal's Funnel, Rosenbrock, Bimodal Mixture）、シミュレーションされた尤度（Spatial Matérn GRF, Lotka–Volterra 逆問題）、および2つの実世界への応用（バス・エンジンの更新に関する動的離散選択モデル、および超拡散銀河（UDG）の検出）を用いてSALEを評価している。

• 堅牢性： 単一の手法がすべての問題において中央値の収束率で支配的となることはないが、SALEは優れた堅牢性を示す。SALEはすべての設定において全変動（TV）誤差を一貫して減少させ、いくつかの外部ベースライン（GP-UCB, log-GP entropyなど）で見られる深刻な失敗（高いTV誤差）を回避している。
• 局在化 vs. 較正： アブレーション研究により、$\bar{\pi}_t$ に導かれた制限、状態依存型のアロケーション、およびアニールド目的関数の組み合わせが極めて重要であることが確認された。局在化フェーズ（URのみ）または制限（制限なし）を取り除くと、誤差と変動性が大幅に増大する。
• 応用事例：
  • バス・エンジン更新モデルにおいて、SALEは、参照となるMCMCチェイン（SALEのモードで初期化）と同等の事後分布近似を、わずか520回の尤度評価のみで達成した。これは、参照モデルの40,000回と比較して、約77倍の削減である。
  • 超拡散銀河（UDG）検出において、SALEは、GP-UCBサロゲートや反復線形化アプローチ（inlabru）と比較して、非線形パラメータに関するより信頼性の高い事後周辺分布と、より正確な残差強度マップを生成した。

意義と主張
本論文は、尤度評価が高コストである場合の、原理に基づいた堅牢なベイズ推論のフレームワークとしてSALEを提示している。期待事後分布を統一的な設計法則として活用することで、SALEは高確率領域の発見と、その領域におけるサロゲートの較正との間の溝を効果的に埋めている。理論的貢献は、逐次的事後確率重み付きUR設計に関する初の明示的な予算依存の境界を提供し、理論と有限予算の実践との間のギャップに対処している。実証結果は、逐次的設計が、事後構造（EPおよびAOを介したもの）の原理的な活用と組み合わされることで、従来のメソッドが失敗するか、あるいは過大な計算リソースを必要とする場面においても、信頼できるベイズ推論をサポートできることを示唆している。