技術的サマリー：疑似観測バッチベイズ最適化における効率的な条件付け

1. 問題定義

並列ベイズ最適化（BO）は、壁時計時間を短縮するために、$q > 1$ の点を同時に選択することを目的としています。バッチ選択において広く採用されている戦略は、疑似観測（例：Constant Liar、Kriging Believer）を用いるものであり、各候補 $x_j$ が選択された後に、代理モデルを合成データ点 $(x_j, \tilde{y}_j)$ で逐次的に更新し、その後、獲得関数を再最適化します。

ガウス過程（GP）を代理モデルとする場合には効果的ですが、これらの手法はパラメトリックモデル（ニューラルネットワーク、ランダムフォレストなど）ではしばしば失敗し、バッチ点が同一の位置に収束してしまいます。本論文は、以下の点について統一的な理論の欠如を指摘しています：

1. なぜ疑似観測戦略は GP では信頼性高く機能するが、他の代理モデルでは失敗するのか。
2. どのような条件下でこれらの手法が多様なバッチを生成するのか。
3. 異なる戦略（CL、KB、Fantasy）が互いに、および Local Penalization (LP) のような明示的な多様性ペナルティとどのように関連しているのか。

2. 手法と理論的枠組み

2.1 中核概念：効率的な条件付け

著者らは、成功する疑似観測バッチ選択のための重要な代理モデルの性質として効率的な条件付けを特定しました。データセット $D$ に新しい点 $(x^*, \tilde{y})$ を追加した際、反復的なパラメータ再最適化なしに、閉形式または高速な線形代数を通じて更新された予測 $\mu'(x)$ と $\sigma'(x)$ を計算できる場合、その代理モデルは効率的な条件付けをサポートすると定義されます。

• ガウス過程： この性質を自然に満たします。点を追加することは、ランク 1 のコレスキー更新（式 1 および 2）を通じて平均と分散を更新することを意味します。分散の減少は局所的であり、カーネルの長さスケール $\ell$ によって支配されます。
• パラメトリックモデル（NN、RF）： この性質を満たしません。再トレーニングなしに点を追加しても予測は変化しません（$x_1 = \dots = x_q$）。再トレーニングは計算的に禁止的（バッチあたり $q$ 回の完全なトレーニングサイクル）であり、さらに重要なのは、多様性に必要な構造化された局所的な不確実性の減少を保証しないことです。

2.2 戦略の統合

本論文は、Constant Liar (CL)、Kriging Believer (KB)、およびFantasy Modelsを、偽値 $\tilde{y}$ の選択のみが異なる単一の条件付け機構のインスタンスとして統合しています：

• CL： $\tilde{y}$ は固定された定数（最小値、最大値、または平均値）です。
• KB： $\tilde{y} = \mu_D(x_j)$（現在の事後平均）です。
• Fantasy： $\tilde{y} \sim \mathcal{N}(\mu_D(x_j), \sigma^2_D(x_j) + \sigma^2_n)$ です。

著者らは、分散の更新（式 2）が $\tilde{y}$ に依存しないことを証明しています。したがって、この 3 つの戦略はすべて、選択された点の周囲の獲得値が減少する領域である「抑制幾何学」を同一に生成し、平均のシフトのみが異なります。

2.3 構造的多様性診断（SDD）

モデルの構造とオプティマイザのランダム性を分離するために、著者らは**構造的多様性診断（SDD）**を導入しました。この手法は、バッチ反復全体で固定された開始点を用いた決定論的オプティマイザ（L-BFGS-B）を使用します。多様性が観測される場合、それは代理モデルの構造的性質であり、点が収束する場合、その代理モデルは効率的な条件付けを欠いています。

3. 主要な理論的貢献

• 命題 1（重複なし保証）： 厳密に正定値カーネルを持つ GP と、事後不確実性に対して単調非減少である獲得関数（EI、UCB、PI など）に対して、アルゴリズム 1 は異なるバッチ点（$x_i \neq x_j$）を生成します。
• 命題 2（分離スケール）： バッチ点は、オーダー $\Omega(\ell)$（カーネルの長さスケール）の距離で分離されます。「抑制ゾーン」の半径は明示的に導出され、分散の減少が暗黙的な反発を生み出すことを示しています。
• 命題 3（獲得関数非依存性）： 多様性メカニズムは、固定された $\mu$ に対して $\sigma$ について非減少である任意の獲得関数に対して成立し、EI、UCB、PI を網羅します。
• Local Penalization (LP) との関連： 著者らは、KB（および CL）が暗黙的な局所ペナルティ化を実装することを示しています。KB において、更新された期待改善と元の期待改善の比率は、ペナルティ関数 $\psi(x; x^*) \approx \sigma'(x)/\sigma(x)$ として作用し、明示的な LP と同様に距離とともに減衰しますが、リプシッツ定数を必要とせずにカーネルから自動的に導出されます。
• 決定論的点過程（DPPs）との関連： カーネルスケーリングされた CL/KB の反発と、DPP ベースの反発との間に質的な架け橋が描かれ、これらは反発に基づく多様性の共有された概念スペクトラム上に位置づけられます。

4. 実験結果

実験は、合成ベンチマーク（Hartmann-6D、Ackley-8D、Levy-10D）および実世界の SVM ハイパーパラメータ調整タスクで行われました。

• 代理モデルの互換性（SDD 検証）：
  • 多様性あり： GP とデータ依存中心を持つマルチクアドリック RBF（MQ-RBF）ネットワークは、多様なバッチを生成しました。
  • 退化あり： ニューラルネットワーク（NN）とランダムフォレスト（RF）は、決定論的オプティマイザを用いても同一の点に収束し（距離=0）、退化しました。
  • 再トレーニングコスト： 再トレーニングした NN は多様性を回復しましたが、GP 条件付けの壁時計コストの約 15 倍を要しました。再構築された RF は、疑似観測を希釈するブートストラップサンプリングにより、依然として退化したままでした。
• 代替手法との性能比較：
  • Local Penalization 対比： CL-min および KB は、ペナルティ形状やリプシッツ定数の手動調整を必要とすることなく、収束性と多様性において明示的な LP と同等かそれ以上の性能を示しました。
  • Joint q-EI 対比： Greedy 条件付け（KB）は、Hartmann-6D において、Joint q-EI（BoTorch）と区別できない性能を達成し、同程度の多様性を示しましたが、実装は著しく単純でした。
  • Random Batch 対比： CL/KB は、ランダムバッチ選択を大幅に上回りました。
• ロバスト性： 観測ノイズ（$\sigma_{noise} = 0.1 \cdot \text{std}(y)$）および複数の初期データセットにおいても、これらの手法は効果的でした。
• スケーラビリティ： 多様性メカニズムはより大きなバッチサイズ（$q=10$）にスケールしましたが、理論的予測と一致し、後続のバッチメンバーについては収束効率に逓減が見られました。

5. 意義と主張

本論文は、疑似観測バッチ選択に対する代理モデルの要件について、初めて形式的な特徴付けを提供すると主張しています。その主な意義は以下の点にあります：

1. 効率的な条件付けの特定： 閉形式で予測を更新する能力がバッチ多様性を可能にする根本的な性質であることを確立し、なぜ GP が機能し、パラメトリックモデルがしばしば失敗するのかを説明します。
2. 統合理論： CL、KB、Fantasy モデルを説明する単一の理論的枠組みを提供し、これらを明示的な多様性手法（LP）および確率的部分集合選択（DPPs）と関連付けます。
3. 実用的診断： オプティマイザのランダム性という交絡因子を排除し、代理モデルの互換性をテストするための再利用可能で堅牢な手法として SDD を導入します。
4. Greedy 手法の検証： 単純な Greedy 条件付け戦略（CL/KB）が、複雑な結合最適化（q-EI）と競合し、多くの設定において明示的なペナルティ化を上回り、かつ計算効率的であることを実証します。

著者らは、バッチ構築中の固定ハイパーパラメータという仮定や、MQ-RBF に対するヒューリスティックな不確実性推定値の使用といった限界を指摘していますが、効率的な条件付けがバッチベイズ最適化のための基本的な組織原理であると主張しています。