技術要約：意味論を考慮した二層共進化（STABLE）

問題定義

本論文は、**自動マルチコンポーネント・アルゴリズム設計（AMAD）**の課題、特に複数の相互作用するコンポーネントからなる複雑な進化計算アルゴリズム（例：多目的進化アルゴリズム（MOEA））の自動設計に焦点を当てている。大規模言語モデル（LLM）を用いた進化型探索（LES）は有望であることを示しているが、既存の手法はAMADに適用する場合、以下の2つの決定的な限界に直面する：

1. 探索形式の不一致（Search-Formulation Mismatch）： 現在のLES手法は、通常、アルゴリズムをモノリシック（単一的）でフラットなオブジェクトとして扱う。これにより、アルゴリズム全体を修正して高品質なコンポーネントを破棄してしまう粗粒度な探索か、あるいは限定された既定の構成内での微細な最適化かという選択を強いることになる。この不一致は、複雑なアルゴリズムが持つ本質的な階層的かつ構成的な性質と整合していない。
2. 不十分な意味論的モデリング（Insufficient Semantic Modeling）： 既存の手法は、アルゴリズムの意味論（semantics）、すなわちコンポーネントの深い行動ロジック、機能的役割、および相互依存性を明示的にモデル化できていない。その結果、LLMは機能的な帰結について推論するのではなく、統計的な模倣に基づいた表面的な構文的修正に制限される。これは、意味論的に制約が不十分な探索、非効率な評価リソースの割り当て、そして有望な設計領域への優先順位付けの不能を招く。

手法：STABLEフレームワーク

これらの限界を克服するため、著者らは、構造化されたアルゴリズム定式化と意味論駆動型の進化を統合した統一フレームワークであるSTABLE（Semantics-Aware Bilevel Co-Evolution）を提案する。

1. 構造化アルゴリズム定式化

STABLEは、ドメイン固有の専門知識に基づく階層的かつモジュール式のアーキテクチャに基づいて複雑なアルゴリズムを再定義することで、AMADタスクを再定義する。アルゴリズム $A$ は、$n$ 個のコンポーネントのタプルとして定式化される：$A = (M_1, \dots, M_n)^\top$。これにより、探索空間をアルゴリズムの本質的な構成的特性に適合させる。

2. 二層共進化フレームワーク

STABLEは、協調的に動作する二層の探索戦略を採用する：

• 上層探索（グローバル）： アルゴリズム全体の空間を探索し、多様で構造的に一貫性のある完全なアルゴリズムを生成する。このレベルは集団の多様性を維持し、局所解への早期収束を防ぐ。
• 下層探索（ローカル）： 個々のコンポーネント空間内を同時に探索し、高性能なコンポーネントを洗練させる。このレベルは、ローカルな設計知識を活用し、優れたコンポーネントを異なる構成間で再利用し、収束を加速させる。

3. 5次元意味モデル

LLMを導くために、各アルゴリズムコンポーネントは5次元の意味モデルによって特徴付けられる：

• Code（コード）： 具体的な実装。
• Idea（アイデア）： 背後にある設計理念と動作メカニッチズム。
• Strength（強み）： 比較上の優位性。
• Drawback（弱点）： 本来的な限界。
• Fitness Value（適応度値）： 実証的なパフォーマンス。
  このモデルにより、LLMは構造的相関、機能的適合性、および固有の合理性を捉えることが可能となり、探索を「構文的なトークンの並べ替え」から「意味論的な構成性」へと昇華させる。

4. コアコンポーネント

• 意味論を考慮した複合遺伝オペレータ：

  • クラスタリング： Code-BLEUを使用して、コードの構造的類似性に基づいて親アルゴリズムをクラスタリングする。
  • 交叉（Crossover）： クラスタ内（ローカルな活用）およびクラスタ間（グローバルな探索）の確率的な交叉を行う。LLMは、親のメリットを統合しつつ弱点を軽減する子を生成するために、設計アイデア、強み、および弱点について推論するようにプロンプトされる。
  • 突然変異（Mutation）： 特定の親の限界を緩和する、意味論的に一貫した革新を生み出すようLLMに指示する。
  • 下層レベルの推奨： 下層レベルでは、LLMは新しいオフスプリングコンポーネントと組み合わせるのに最も互換性の高い完全なアルゴリズムをアーカイブから推奨し、機能的一貫性を確保する。

• 意味論を考慮したパフォーマンス評価器：

  • アルゴリズム性能評価（APE）の高い計算コストに対処するため、STABLEは**真の評価（True Evaluation）と適応度継承（Fitness Inheritance）**を適応的に選択する。
  • 制御確率（$Control\_Pro$）は、親と子（オフスプリング）の間のコード構造的類似性と現在のAPE消費量に基づいて計算される。類似度が高い場合や探索の初期段階では適応度継承（リソース節約）が優先され、類似度が低い場合や活用（exploitation）の後半段階では真の評価（正確性の確保）が優先される。

主な貢献

本論文は、主に2つの貢献を主張している：

1. STABLEフレームワーク： 効果的なAMADのために特別に設計された最初のLES手法である。これは、構造化された定式化と二層共進化を用いて複雑なアルゴリズムを整理・進化させる、原理に基づいた拡張可能なフレームワークを提供し、従来のフラットな手法における探索形式の不一致に対処する。
2. 新しいAMADタスクと検証： 2つの特定のAMADタスク、すなわち制約付きMOEA設計とサロゲート支援型MOEA設計の導入と実験的検証。著者らは、STABLEがこれらのタスクを効果的に解決し、人間が設計したベースラインおよび最新のSOTA（State-of-the-Art）のLES手法を凌駕することを実証している。

実験結果

著者らは、DeepSeek-V3.2 LLMを用いて、2つのAMADタスクに対して広範な実験を行った。

• LES手法との比較： STABLEは、制約付きおよびサロゲート支援型MOEA設計タスクの両方において、収束速度および最終的な解の品質（負の平均ハイパーボリューム（NAHV）で測定）の面で、既存のLES手法（EoHおよびParEvo）を大幅に上回った。アブレーション研究により、二層フレームワークと5次元意味モデルの両方が性能に不可欠であることが確認された。
• 人間が設計したアルゴリズムとの比較： STABLEによって生成された最良のアルゴリズム（CMOEA-STABLEおよびSAMOEA-STABLE）は、標準的なベンチマークスイート（MW, CTP, DTLZ, UF）を用いて、最新の人間設計アルゴリズムと比較された。
  • CMOEA-STABLEは、MWおよびCTPスイートの大部分のテスト問題において、最高または2番目に優れた結果を達成し、ほとんどの場合で競合他社を統計的に上回った。
  • SAMOEA-STABLEは、DTLZおよびUFテストスイートにおいて優れた性能を示し、しばしば1位または2位にランクインし、他のサロゲート支援型アルゴリズムを大幅に上回った。

意義と主張

本論文は、STABLEを自動アルゴリズム設計の分野における重要な進歩として位置づけている。その意義は以下の通りである：

• ギャップの解消： 現在のLES手法のフラットな探索パラダイムと、複雑なアルゴリズム設計の階層的な現実との間の溝を、見事に埋めている。
• 意味論への意識： アルゴリズムの意味論（強み、弱点、アイデア）を明示的にモデル化することで、STABLEはLLMが単に構文を模倣するのではなく、機能的な帰結について推論することを可能にし、より原理的で効果的なアルゴリズム生成を実現している。
• 効率性： 二層の共進化と適応的な評価戦略により、限られた計算リソースで広大かつ複雑な設計空間を効率的に探索できる。
• 知識の活性化： 本フレームワークは、事前学習済みLLMに組み込まれたドメイン固有の知識を効果的に掘り起こし、それらを実用的で高性能なアルゴリズムアーキテクチャへと転換するよう導く。

著者らは、STABLEがAMADのための堅牢かつ効果的なアプローチであり、複雑な最適化シナリオにおいて人間が設計したカウンターパートに匹敵、あるいはそれを凌駕するアルゴリズムを生成できると結論付けている。