A Unified Framework for Entropy Search and Expected Improvement in Bayesian Optimization

技術的サマリー：ベイズ最適化におけるエントロピー探索と期待改善の統合フレームワーク

問題定義
ベイズ最適化（BO）は、高価なブラックボックス関数の最適化における標準的な手法であり、探索と活用のバランスを取るために獲得関数（AF）に依存する。2 つの支配的なパラダイムが存在する：

1. 期待改善（EI）： 現在の最良の観測値を超える期待改善を最大化するヒューリスティックに基づく AF である。計算効率が良く広く使用されているが、情報理論的手法とは本質的に異なるものと見なされることが多い。
2. 情報理論的 AF（例：最大値エントロピー探索 - MES）： これらの手法は、エントロピーベースの指標を用いて、大域的最適解の位置または値に関する不確実性を低減することを目的としている。理論的に裏付けられているが、異なる基盤哲学に起因し、EI とは明確に区別されると考えられることが多い。

BO 界における支配的な見解は、EI と情報理論的 AF を別個の手法として扱っている。本論文はこの見解に異議を唱え、以前は認識されていなかった、それらの間に深い理論的つながりが存在すると主張する。

手法：変分エントロピー探索（VES）
著者は、情報理論的な最大値エントロピー探索（MES）を EI が変分推論近似として解釈される統合的な理論フレームワークである「変分エントロピー探索（VES）」を導入する。

• 理論的統合： このフレームワークは、Barber-Agakov（BA）境界を用いて MES 獲得関数の下限を確立する。大域的最適値 $y^*$ に対する条件付き密度 $p(y^* | D_t, y_x)$ を近似する変分族 $Q$ を定義することで、著者はエントロピー探索下限（ESLBO）を導出する。
• EI の回復： 変分族 $Q$ を指数分布に制限すると、ESLBO の最大化は標準的な期待改善（EI）と同一の解をもたらす。これは、EI が特定の変分近似の下での MES の特殊な場合であることを証明する。
• VES-Gamma： 指数分布は、$p(y^* | D_t, y_x)$（多くの場合非単調）の真の構造を捉えるには硬直しすぎていると認識し、著者はVES-Gammaを提案する。この新しい AF は、変分族としてガンマ分布を使用する。ガンマ分布は指数分布を一般化しており、密度の形状をよりよく捉える柔軟な近似を可能にする。
• 最適化： VES-Gamma アルゴリズムは、期待最大化（EM）スタイルのアプローチを採用する。それは反復的に以下の処理を行う：
  1. 固定された候補点 $x$ に対して ESLBO を最大化するガンマ分布のパラメータ（$k, \beta$）を推定する。
  2. 現在のパラメータを前提として ESLBO を最大化するように候補点 $x$ を更新する。
     パラメータ $k$ と $\beta$ は、微分解析と正則化を通じて自動的に決定され、目的関数の構成要素を動的にバランスさせる。

主な貢献

1. 統合フレームワーク： EI が MES の変分近似であることを示す VES フレームワークの導入により、以前は別個であった 2 つの獲得関数のパラダイムを統合する。
2. 新規獲得関数： より柔軟なガンマ変分近似を通じて情報理論的原理を取り入れつつ、EI の性能上の強みを継承する AF であるVES-Gammaの提案。
3. 包括的な評価： 低次元および高次元の合成ベンチマーク、ガウス過程（GP）サンプル、および実世界の問題にわたる広範な実証評価。

結果
本論文は、VES-Gamma を EI、MES、および他の最先端手法（UCB や LogEI など）と、多様なベンチマークで比較評価する：

• 合成ベンチマーク： Branin、Levy、Hartmann、Griewank などの関数において、VES-Gamma は一貫して競争力のある性能を発揮する。Branin と Hartmann では最良の性能を達成し、Levy と Griewank では EI と同等かわずかに上回る性能を示す。
• GP サンプル： 100 次元の GP 事前分布を用いた実験において、VES-Gamma は、EI と MES が最適解に収束する傾向にある小さな長さスケール（$\ell = 0.05, 0.1, 0.25$）において、EI および MES を大幅に上回る。
• 実世界ベンチマーク： 高次元の問題（60 次元 Rover、124 次元 Mopta08、180 次元 Lasso-DNA、388 次元 SVM）において、VES-Gamma は堅牢な性能を示す。SVM ベンチマークでは他のすべての手法を大幅に上回り、Mopta08 および Lasso-DNA では上位の性能を記録する。
• 理論的検証： コルモゴロフ・スミルノフ検定により、VES-Exp（指数変種）と EI の間の実証的な同等性が確認され、各種ベンチマークで 90% を超える合格率が得られた。

意義と主張
本論文は、VES フレームワークが新たな理論的洞察を提供すると主張する：最も人気のある獲得関数（EI）は、情報理論的手法とは本質的に異なるものではなく、むしろそれらの特定の変分近似である。

これらの視点を架橋することで、著者は、EI の強み（性能と単純さ）と MES の強み（不確実性の低減）を効果的にバランスさせる堅牢で多用途な獲得関数として VES-Gamma を提示する。結果は、VES-Gamma が、特に従来の手法が困難に直面する高次元設定において、多様な最適化問題に対する有力な候補であることを示唆している。著者は、VES-Gamma は EI や MES よりも反復ごとの計算コストが高いが、これは実世界の高価なブラックボックス関数の評価コストに比べればしばしば無視できると指摘している。今後の課題として、代替の変分分布の探索や、ノイズのある設定へのフレームワークの拡張が挙げられている。