技術要約：CoAction – クロスタスク相関を考慮したパレート集合学習

1. 問題提起

多目的最適化（MOO）は、相反する目的間のトレードオフ解（パレート集合、PS）を見出すことを目的としている。従来の進化計算アルゴリズム（NSGA-II、MOEA/Dなど）は、実行ごとに有限の解集合を生成するが、好みが動的に変化するリアルタイムの意思決定においては課題がある。パレート集合学習（PSL）は、ニューラルネットワークを訓練することで、選好ベクトルからパレート最適解へのマッピングをリアルタイムで行う手法である。

しかし、既存のPSL手法には根本的な限界がある。それらは一度に単一のMOO問題のみを解くように設計されている。関連する複数の最適化問題（マルチタスク学習、MTL）が関わるシナリオにおいて、このパラダイムは各タスクに対して個別のモデルを訓練することを要求する。このアプローチは、計算コストを線形に増大させ、関連するタスク間で潜在的な構造的類似性や共有知識を活用することができない。本論文は、複数のタスクのパレート集合を単一のモデル内で同時に学習しつつ、タスク間の相関をモデリングすることで、効率性と汎化性能を向上させる統一されたフレームワークの必要性を指摘している。

2. 手法：CoActionフレームワーク

著者らは、単一のモデル内で複数の最適化問題にわたるパレート最適解集合を学習するように設計されたフレームワークであるCoAction（Cross-task Correlation-aware Pareto Set Learning）を提案する。この手法は、以下の3つのコアコンポーネントを統合している。

2.1 タスク埋め込みメカニズム

単一のモデルがパラメータを共有しながら異なるタスクを識別できるようにするために、CoActionはタスク埋め込みスキームを採用している。タスク数が増えると拡張性が低くなり、未知のタスク数への汎化に失敗する可能性がある学習可能な埋め込みベクトルとは異なり、CoActionはTransformerアーキテクチャに着想を得た**正弦波位置エンコーディング（sinusoidal positional encoding）**を利用する。

• 各タスク $t$ には、一意の $d$ 次元埋め込みベクトル $e_t$ が割り当てられる。
• 埋め込みは、タスクインデックス $t$ の正弦関数と余弦関数を用いて構築され、タスクが近いインデックスを持つ場合には類似した埋め込みを持ち（滑らかさ）、かつ識別可能である（単射性）ことを保証する。
• この埋め込みは、選好ベクトル $\lambda(\theta)$ と結合され、ゼロパディングされてネットワークの入力となることで、モデルがタスク固有の決定変数を生成することを可能にする。

2.2 Transformerバックボーン

本フレームワークは、バックボーンアーキテクチャとしてTransformerエンコーダを利用する。

• 自己注意（Self-Attention）: 自己注意メカニズムは、タスク間の複雑なグローバル依存関係を捉えるために採用されている。これにより、モデルは訓練中に異なるタスクの影響を動的に重み付けすることができ、タスク間の関係性のモデリングを容易にする。
• アーキテクチャ: ネットワークは、線形投影層、位置エンコーディング、単層のエンコーダブロック（4つのアテンションヘッド、128次元の隠れ層）、加重プーリングモジュール、およびタスク固有の出力ヘッドで構成される。
• パラメータ共有: バックボンドのパラメータはすべてのタスク間で共有されるが、タスク固有の出力ヘッドによって必要な調整が可能となり、破滅的忘却を軽減する。

2.3 マルチタスク協調訓練

訓練プロセスは、以下の要素を含む協調アルゴリズム（Algorithm 1）で行われる。

• タスクは各イテレーション中にランダムにサンプリングされる。
• 選好ベクトルは、単位ハイパースフィアの正の部分空間から一様にサンプリングされる。
• モデルは、**ハイパーボリューム最大化に基づく損失関数（PSL-HV1）**を用いて最適化される。この損失関数は、ハイパーボリューム（HV）指標のサロゲート形式を最大化し、モデルがパレートフロント全体を近似するように促す。
• 訓練の安定性を確保するために、勾配クリッピングが適用される。

3. 主な貢献

本論文は、以下の主要な貢献を述べている。

1. 統一されたフレームワーク: タスク埋め込み、共有ネットワークパラメータ、およびTransformerバックボーンを活用してタスク間の関係をモデル化するCoActionフレームワークの提案。これにより、単一のモデルで複数の問題のパレート集合を同時に学習することが可能になる。
2. 効率性と表現力: 各タスクに対して個別のモデルを用意する必要性を排除することで計算コストを削減し、自己注意メカニズムを通じてモデルの表現力を高める。
3. 包括的な評価: ベンチマーク問題（ZDT, VLMOP）および実世界のエンジニアリングアプリケーション（トラス、ハッチカバー、ロケットインジェクター設計）を含むマルチタスクテストスイートを用いた広範な実験。

4. 実験結果

著者らは、3つの指標（ハイパーボリューム（HV）、レンジ、スパース性）を用いて、CoActionを単一タスクPSLベースラインおよびMLPベースのマルチタスクベースラインと比較評価した。

• 単一タスクベースラインに対する性能:

  • CoActionは、ほとんどの問題（例：ZDT1, ZDT2, RE21, RE24）において、HVおよびRangeで競争力のある、あるいは優れた性能を達成した。
  • 3目的問題であるRE37において、HVの差はわずかであったものの、フレームワークは堅牢性を示した。
  • 計算効率: CoActionは、7つのタスクを同時に訓練しているにもかかわらず、単一タスクベースラインと比較して訓練時間を**27%**削減した（370.25秒に対し270.13秒）。
  • 安定性: フレームワークは実行間でのHVの分散が低く、安定した収束と顕著な破滅的忘却の欠如を示した。

• アブレーション研究（Transformer vs. MLP）:

  • Transformerバックボーンは、特に複雑な3目的問題であるRE37において、MLPバックボーンを大幅に上回った。
  • RE37において、TransformerはMLPと比較して12.6%高いHVと314%高いRangeを達成した。
  • 自己注意メカニズムがグローバルな依存関係を捉えることに寄与し、複雑なパレートフロントのより良いカバレッジにつながった。

• 拡張評価:

  • bbob-biobjテストスイートにおいて、CoActionは5つの異なるタスクペアリングにわたり一貫して高いHV値を達成し、強固な汎化性能を示した。

• 統計分析:

  • ウィルコクソンの符号付順位検定により、いくつかの問題（ZDT1, ZDT2, RE24）において、CoActionが単一タスクベースラインに対してHVおよびRangeで統計的に有意な改善を示すことが確認された。
  • Transformerバックボーンは、RE37およびZDT1/2において、MLPバックボーンに対して有意な優位性を示した。

5. 重要性と主張

本論文は、CoActionがマルチタスク設定における既存のPSL手法の拡張性と効率性のボトルネックに対処することを主張している。タスク埋め込みとTransformerエンコーダを統合することで、フレームワークは以下を実現した。

• クロスタスク知識の活用: 関連する最適化問題間の共有構造を利用することで、汎化性能と解の多様性を向上させた。
• 計算オーバーヘッドの削減: 各タスクに対して個別のモデルを訓練することに伴う計算コストの線形スケーリングを排除した。
• 複雑な幾何学的形状への対応: 自己注意メカニズムは、従来のMLPバックボーンが解の分布を維持するのに苦労するような、複雑で高次元のパレートフロント幾何学（例：RE37）を持つ問題に対して特に効果的であることが証明された。

著者らは、CoActionがマルチオブジェクティブ・マルチタスク最適化に対する理にかなった効果的なアプローチを提供し、ベンチマークおよび実世界のエンジニアリングアプリケーションの両方を通じてその有用性を検証したと結論付けている。