Accelerating Multi-Objective Bayesian Optimisation via Predictive-Gradient Catalysts

技術要約：予測勾配触媒による多目的ベイズ最適化の加速

問題提起
多目的ベイズ最適化（MOBO）は、ガウス過程（GP）などの確率的代理モデルを用いて、探索と活用をバランスさせながら、高コスト、ノイズを含む、あるいはブラックボックスな目的関数を最適化するためのフレームワークである。これは非常に効果的であるが、評価予算が限られている場合、特にパレート集合を近似するために必要なトレードオフのナビゲーションにおいて課題に直面することが多い。勾配ベースの定常性概念は決定論的な多目的最適化においては確立されているが、これをMOBOに統合する試みはほとんど未開拓のままである。既存の勾配ベースの加速手法は、単一目的の設定に限定されていたり、特定の獲得関数に密結合していたりすることが多く、汎用性に欠ける。

手法
著者らは、ガウス過程の予測勾配を補助的な「触媒（catalyst）」信号として活用する、一般的な加速メカニズムを提案している。このフレームワークは、既存のパレート適合的な獲得関数を置き換えるのではなく、代理モデルの勾配から得られる局所的な定常性情報によってそれらを拡張するものである。

コアとなる手法は以下の通りである：

1. 代理モデル化： このアプローチは、各目的が個別のGPによってモデリングされ、目的間の条件付き独立性を仮定している。予測平均（$\mu_i$）と分散（$\sigma^2_i$）が計算され、予測平均の期待勾配が解析的に導出される。
2. 触媒フレームワーク： 次の評価点を決定するために、二目的決定問題を定式化する：
   • グローバル基準 ($g_1$): 標準的なパレート適合的獲得関数 $\alpha(x)$（例：EHVI、AugTch）を最大化する。
   • ローカル基準 ($g_2$): 重み付き予測勾配の大きさ $\|\gamma \cdot \nabla \hat{f}(x)\|$ を最小化する。ここで $\gamma$ は、パレート定常性のためのFritz–John（FJ）条件を満たす凸結合係数を表す。
   • スカラー化: これら2つの基準は、拡張チェビシェフ・スカラー化を用いて単一の獲得関数 $\alpha_{CAT}(x)$ に統合される。これにより、グローバルな性能またはローカルな定常性のいずれかにおいて劣る候補に対してペナルティを課す。

調査された具体的な2つの触媒のインスタンスは以下の通りである：

• MGDAベースの触媒: Multiple-Gradient Descent Algorithm (MGDA) を使用して、各点 $x$ において重みベクトル $\gamma$ を適応的に決定する。これは、局所的にFJ条件を満たす、ユークリッドノルムが最小となる勾配の凸結合を見出すものである。
• 事前定義重み (W) 触媒: 事前定義された重みベクトル（最小最大正規化後）を使用して、探索方向を離散化する。このアプローチは、厳密なFJ条件の充足を犠牲にする代わりに、堅牢性と焦点を絞った探索を実現しており、これは評価予算が厳しい状況において有益である。

主な貢献

• 触媒フレームワーク: 標準的な獲得関数の基礎構造を変更することなく、GP予測勾配を利用してMOBOの収束を加速させる新しいフレームワーク。
• 二つのインスタンス: 適応的なMGDAベースのアプローチ（パレート定常性理論に基づく）と、焦点の絞られたトレードオフ探索のための事前定義重みアプローチという、2つの触媒戦略の導入。
• 原理的な統合: 拡張チェビシェツ・スカラー化を介して、触媒信号を標準的な獲得関数と統合するための形式的な手法。
• 実証的評価: DTLZベンチマーク・スイート（2目的、10決定変数）を用いた、提案手法とベースライン（EHVI、AugTch、tMPoI、SAF）との広範な実験比較。

結果と分析
実験は、予算 $30n$ 回の評価を用いて、DTLZ1–DTLZ7 ベンチマーク問題に対して行われた。主な知見は以下の通りである：

• 代理モデルの精度への依存性: 加速の効果は、代理モデルの精度に強く依存する。代理モデルが正確であるとき（低い標準化ログ損失（SLL）によって示される）、触媒アプローチは大幅な改善をもたらす。
• 定常性との相関: 本フレームワークは、定常的な挙動（局所的な摂動が目的空間において同様の変化を引き起こす性質）を示す問題において最も高い性能を発揮する。
  • DTLZ2 および DTLZ5: これらの問題は強い定常性と高い代理モデル精度を示した。触媒手法は、有意性マップにおいて（緑色のセル）、一貫してベースラインを上回った。
  • DTLZ1 および DTLZ3: これらの問題は非定常性と不整合な代理モデルの質を示した。触媒アプローチは、ベースラインと比較して改善がほとんど、あるいは全く見られなかった（灰色のセル）。
  • DTLZ4 および DTLZ6: 混合または劣悪な代理モデルの質により、いくつかのケースで性能低下が見られた（赤色のセル）。これは、代理モデルが信頼できない場合に勾配を使用することのリスクを浮き彫りにしている。
• MGDA vs. 事前定義重み: ペアワイズ比較を通じて、事前定義重み (W) バリアントが一般的に適応的なMGDAバリアントよりも優れた性能を示した。著者らは、高コストな最適化において限られた予算がある場合、適応的な局所方向を用いてグローバルなパレート集合全体を精緻に近似しようとするよりも、有望な粗い有限集合の方向に探索を集中させる方が効果的であると示唆している。

意義と主張
本論文は、基礎となる代理モデルが正確であり、かつ問題が近似的な定常性を示す場合に、予測勾配の触媒が、高コストな多目的最適化の効率を向上させるための実用的なメカニメントを提供すると主張している。著者らは、このアプローチは既存の獲得関数を置き換えるものではなく、局所的な情報によってそれらを強化し、グローバルなパレート集合へのより迅速な収束を可能にするものであると強調している。

その意義は、勾配ベースの定常性理論とMOBOの間の溝を埋めたことにあり、限られた予算であっても、GP予測勾配の滑らかさを利用することで、標準的な獲得関数単独よりも効果的に探索を導けることを示した点にある。著者らは、現在の評価が2目的・10次元のDTLZスイートに限定されていることを認めつつも、本フレームワークは、勾配の解析的な導出とMGDAソルバーの計算効率により、高次元へとスケールするように設計されていると述べている。制約付き設定、ノイズ環境、および高次元問題への適用が今後の課題として示唆されている。