Space-Filling One-Factor-At-A-Time Designs

技術要約：空間充填型一因子変化（One-Factor-At-a-Time）設計

問題提起
決定論的なコンピュータ実験において、空間充填設計（ラテン超立方体設計など）は、ロバストなサロゲートモデル（ガウス過程（GP）など）を構築するための入力空間の探索において標準的である。しかし、これらの設計はすべての因子を同時に変化させるため、少数の入力のみが影響を持つ場合（「効果の疎性」仮定）に因果効果を分離することが困難である。対照的に、一因子変化（OFAT）設計はスクリーニングには効果的であるが、歴史的に空間充填性が乏しく、入力空間にギャップが生じてサロゲートモデリングの精度を低下させるという課題がある。既存のスクリーニング設計（Morris設計や最近提案されたMaximum One-Factor-At-a-Time (MOFAT) 設計など）はスクリーニング能力を向上させているものの、入力空間の内部を十分にカバーできず、点が境界付近に集中したり、広大な未探索領域を残したりすることが多い。

手法
著者らは、**空間充填型一因子変化（Space-filling One-Factor-at-a-Time: SOFT）**設計と呼ばれる新しい設計クラスを提案する。これらの設計は、OFAT設計のスクリーニング構造を維持しつつ、空間充填特性を最適化することを目指している。本手法は、以下の3つの主要なコンポーネントで構成される。

1. 最適化基準： GPモデルにおける外挿誤差を考慮しない単純な距離ベースの指標（ミニマックス距離など）に依存する代わりに、著者らはGPサロゲートの**最大平均二乗誤差（MMSE）**に基づく基準を最適化する。具体的には、二次形式 $Q(D; \alpha, \theta) = \min_{x \in E} \{r(x)'R^{-1}r(x)\}$ を最大化する。ここで、$E$ は一様モンテカルロ・サンプルと入力ハイパーキューブの代表的な頂点からなる評価セットである。これにより、マルチプライカティブ・インバース・マルチクアドラティック（MIM）カーネルの下で、最悪の予測誤差を最小化する設計を実現する。
2. 因子水準とペアリング： スクリーニング能力を維持するため、設計では各因子に対して $2l$ 個の等間隔な水準を使用する。著者らは、全総変動量を最大化するように水準をペアリングする最適なペアリング戦略（命題1）を導出し、これにより全Sobol'指数の正確な推定を保証する。また、様々な相関構造に対して良好に機能するロバストな開始オフセット（$a = 0.125/l$）を特定している。
3. 構造的最適化： 本論文では、2つのOFAT構造を扱う。
   • 標準構造（Standard Structure）： すべてのOFAT軌跡が共通のベース実行行列 $A^{(0)}$ から派生する。
   • 厳密構造（Strict Structure）： 軌跡が逐次的に連鎖する。
     厳密構造においては、すべての置換を評価することは計算量的に不可能なため、空間充填基準を最大化する因子の変化のシーケンスを構築するための**貪欲アルゴリズム（Greedy Algorithm）**が提案されている。両方の構造において、行の入れ替えによってベース実行（$A^{(0)}$）を最適化し、$Q$ 基準を改善するための決定論的な局所探索アルゴoranズムが使用される。

主な貢献

• 新しい設計クラス： コンピュータ実験の文脈において、強い空間充填特性とOFAT設計のスクリーニング能力を明示的に統合した、初の設計クラスであるSOFT設計を導入した。
• 最適化フレームワーク： スクリーニング（OFAT構造と摂動量による）と、グローバルな予測精度（MMSEベースの空間充填基準による）のバランスを取る特定の最適化フレームワークを開発した。
• アルゴリズムの効率性： これらの設計を生成するための効率的なアルゴリズム（貪欲法および局所探索）を提示した。これらは最適化を必要とするものの、MaxProのような高次元空間充填設計を生成するよりも計算効率が高い。

結果
次元 $p=2$ から $20$ におけるベンチマーク関数（g-function, Levy, Ackley）を用いた、MmLHD、MaxPro、およびMOFAT設計との比較による数値研究から、以下の知見が得られた。

• 空間充填特性： SOFT設計は、古典的な空間充填設計（MmLHDおよびMaxPro）と同等の空間充填性能（基準 $Q$ および $\Phi$ で測定）を達成し、特に高次元設定においてMOFAT設計よりも大幅に優れた性能を示す。一般に、厳密構造は次元が増加するにつれて標準構造よりも優れた空間充填性を提供する。
• サロゲートモデリングの精度： ベンチマーク関数のアウトオブサンプル平均二乗誤差（MSE）に関して：
  • SOFT設計は、効果の疎性（不活性因子）を含むほとんどのシナリオにおいて、一貫して最も低いMSEを達成する。
  • 純粋な空間充填設計（MmLHD, MaxPro）は多くの因子が不活性な場合に苦戦し、MOFAT設計は因子が活性である場合や高次元の場合に苦戦するが、SOFT設計はいずれの領域においてもロバストである。
  • SOFT設計の標準構造は、最も安定した予測性能を提供することが多い。
• 計算コスト： SOFT設計は、最適化ステップがあるためMOFAT設計よりはわずかにコストがかかるものの、MmLHDおよびMaxPro設計よりも大幅に高速に生成される。

意義と主張
本論文は、SOFT設計がスクリーニングと応答曲面モデリングの間のトレードオフを解決することにより、既存の手法に対して「明確な優位性」を提供すると主張している。著者らは、空間充填がコンピュータ実験において極めて重要であるという従来の常識に反して、SOFT設計が従来の空間充填設計よりもロバストなサロゲートモデリングを実現するという結果を「驚くべきこと」であると述べている。著者らは、SOFTを、スクリーニング能力と応答曲面モデリング能力を成功裏に統合した、コンピュータ実験におけるこの種のデザインとして初めての位置付け、因子の疎性が存在する複雑なシステムの探索とモデリングに影響を与える可能性があるとしている。本研究は米国国立科学財団（NSF）の支援を受けている。