Bayesian Optimization of Genetic Algorithm Hyperparameters in a Multi-Fidelity Framework for Efficient Lattice Material Design

技術要約：マルチフィデリティ・フレームワークにおける格子材料設計のための遺伝的アルゴリズム・ハイパーパラメータのベイズ最適化

問題提起
周期構造または非周期的なストラットベースのセルで構成される格子材料は、バイオメディカルデバイスから航空宇宙分野に至るまで、軽量化エンジニアリング用途において極めて重要である。アディティブ・マニュファクチャリング（積層造形）がその製造を容易にした一方で、これらの構造の計算設計は、主に2つの課題に直面している。一つは、不均質な設計空間の組合せ爆発であり、もう一つは、高精度な特性評価（ホモジナイゼーションや有限要素法によるもの）に伴う高い計算コストである。さらに、これらの空間を探索するために用いられる遺伝的アルゴリズム（GA）のような進化計算の効率は、ハイパーパラメータ（個体数、突然変異率など）の選択に大きく依存する。これらのハイパーパラメータのチューニング自体も、各構成において反復的かつリソース集約的な最適化実行を必要とするため、計算コストの高いブラックボックス最適化問題となる。

手法
著者らは、格子構造の比弾性率を最大化するためのGAハイパーパラメータの自動チューニングを目的とした、3レベルのマルチフィデリティ・フレームワークを提案している。このフレームワークは、以下の3つの異なるフィデリティ（忠実度）レベルを統合している。

1. 高フィデリティ・レベル： FFT（高速フーリエ変換）ホモジナイゼーション（FFTMADコードを使用）により、正確な機械的特性の評価を行う。このレベルは計算コストが高いため、最終的な検証および初期訓練データの生成用に限定して使用される。
2. 中フィデリティ・レベル： デンスネット（DenseNet）アーキテクチャに基づく3D畳み込みニューラルネットワーク（3DCNN）サロゲートモデルが、格子構造の比弾性率を予測する。このモデルは、最適化プロセス中のほとんどのFFT評価を置き換えることで、GAの探索を加速させる。
3. 低フィデリティ・レベル： ベイズ最適化（BO）がガウス過程（GP）サロゲートを用いて、最適なGAハイパーパラメータの探索を誘導する。GPは、GAの最適化実行をノイズを含む観測値として扱い、ハイパーパラメータ構成と結果となる性能との関係をモデル化する。

ワークフローは階層的に動作する。BOがハイパーパラメータ構成を提案し、それらは3DCNNサロゲートによって支援されたGAによって評価される。結果はGPモデルを更新し、モデルは反復的に探索を洗練させる。プロセスは、最良の構成に対する高フィデリティFFT検証をもって完了する。

主な手法構成要素は以下の通りである：

• 遺伝的アルゴリズム： 格子は $4 \times 4 \times 4$ のユニットセル型の行列として表現される。GAは、選択、交叉（3つの主方向へのスライシングおよび結合）、および突然変異を用いる。
• 獲得関数： ノイズの多いGA環境において、探索（exploration）と開発（exploitation）のバランスを取るために、4つの獲得関数が評価された：Upper Confidence Bound (UCB)、Expected Improvement (EI)、Noisy Expected Improvement (NEI)、およびその対数形式であるlogNEIである。
• ペナルティ付き目的関数： 機械的性能と、1世代あたりの親構造の必要数（$n_{par}$）とのバランスを取るために、修正された目的関数が導入された。これは実験的な製作における実用的な制約に対処するためのものである。ペナルティ付き目的関数は $F_{pen}(x) = F(x) / (1 + \alpha \times \tilde{n}_{par})$ と定義される。

主な貢献

1. フレームワークの開発： 本研究は、FFTホモジナイゼーション、CNNサロゲート、およびGPベースのBOを組み合わせた、GAハイパーパラメータ自動チューニングのための3レベル・マルチフィデリティ・フレームワークを確立した。
2. 獲得関数の評価： ノイズの多いGA最適化の文脈において獲得関数を体系的に評価し、評価ノイズを扱う上でlogNEIが最も効果的な戦略であることを特定した。
3. トレードオフ分析： ペナルティ付き目的関数の定式化の導入により、機械的性能と、評価に必要な親の数とのバランスを取る実用的な手法が示された。これは、実験的な実装における重要な要因である。

結果

• ハイパーパラメータの効率性： BOフレームワーク（特にlogNEI獲得関数を使用した場合）は、25世代のGA実行のみで7.158 GPaの比弾性率を達成できるハイパーパラメータ構成を特定した。この性能は、以前の研究における75世代のフル最適化によって達成された7.119 GPaに匹敵するものであり、必要な世代数を実質的に3分の2削減した。
• 獲得性能： logNEIは、UCB、NEI、およびqNEIよりも優れた性能を示した。UCBは初期のSobolサンプリングを上回ることができず、一方でlogNEIはグローバルな最適解を見つけるために探索空間を効果的に探索した。
• 計算コストの削減： 最適化されたアプローチは、機械的性能を維持しつつ、総計算コストを約24%（225時間から171時間へ）削減した。
• ペナルティ付き目的関数の成果： 親の数（$n_{par}$）に対するペナルティを導入することで、絶対的な比弾性率のわずかな低下（例：7.158 GPaから6.982 GPa）のみで、必要な親の個体数をほぼ2倍削減することに成功した（例：165から60へ）。
• 突然変異の排除： 最適化された構成では、しばしば突然変意の必要性が排除された（$f_{mut} \approx 0$）。これは、この特定の設計空間においては、高性能な親同士の交叉だけで十分であったことを示唆している。これにより、収束の高速化と実験的な製作コストの削減が実現した。

意義および主張
本論文は、マルチフィデリティ最適化が、格子材料設計におけるGAハイパーパラメータのチューニングのための実用的かつ効率的なアプローチを提供することを主張している。サロゲートモデルを活用することで、本フレームワークは最終的な設計の品質を損なうことなく、計算オーバーヘッドを大幅に削減できる。本研究は、剛性の最大化のみを目的として最適化を行うと、過剰な製作を必要とする非効率な実験ワークフローを招く可能性があることを強調しており、提案されたペナルティ付き目的関数は、性能とリソース制約の間のトレードオフをナビゲートするためのメカニズムを提供する。

著者らは、これらの結果が、特に3Dプリントや機械試験が高価である将来の実験的な格子設計研究に対して、本フレームワークの潜在的な有用性を示していると断言している。彼らは、最適化されたハイパーパラメータは使用された特定の格子システムおよびサロゲートモデルに対して信頼できるものであるが、これらが大幅に異なる最適化問題に対してどの程度転移可能であるかを評価することは、今後の調査課題であると述べている。本研究は、格子設計全般の問題を解決したと主張するものではなく、マルチフィデリティの文脈におけるハイパーパラメータ・チューニングという特定のタスクに対する堅牢な手法を提供している。