LAMP: LLM-Augmented Multi-Task Spectral Prediction for Au-GaN Metasurfaces

技術要約：LAMP – Au–GaN メタサーフェスのための LLM 拡張マルチタスク分光予測

問題提起
メタサーフェスの正確なフォワードモデリングは、性能評価、設計空間の探索、および構造最適化において極めて重要である。しかし、構造パラメータからスペクトル応答へのマッピングは高度に非線形かつ暗黙的である。これには、広範な波長範囲にわたる複数の光学応答（透過/反射振幅、位相、透過率、反射率）の同時予測が必要となる。従来の数値ソルバー（FDTD、FEM、RCCAなど）は正確ではあるが、大規模な設計空間に対しては計算コストが高い。従来のニューラルサロゲートモデル（MLP、CNN、RNNなど）は、構造とスペクトルの定量的マッピングを学習するための効率的な代替手段を提供し、また大規模言語モデル（LLM）は、構造構成をテキストとして表現するために近年探索されているが、これら二つのパラダイムはこれまで主に独立して調査されてきた。既存のLLMベースのアプローチは、通常、スタンドアロンのスペクトル生成器または逆設計コントローラとして機能しており、LLM由来のコンテキスト表現を用いて従来の数値予測器を強化する可能性は、依然としてほとんど開拓されていない。

手法
著者らは、周期的なAu–GaNメタサーフェスのマルチレスポンス分光予測のために、従来のニューラルネットワークとLLMの強みを統合するように設計されたデュアルブランチ・フレームワークであるLAMP（LLM-Augmented Multi-Task Spectral Prediction）を提案する。

1. デュアルブランチ表現学習:

   • スペクトルシーケンスエンコーディング・ブランチ: このブランチは、波長依存の数値的特徴を学習する。構造パラメータ（偏光、周期、層の高さ、デューティ比）は潜在表現へとマッピングされ、学習可能な埋め込みを用いて波長次元に沿って拡張され、スペクトルの依存関係を捉えるためにシーケンスバックボーン（例：BiLSTM、GRU、TCN）によって処理される。
   • LLM駆動型プロンプトエンコーディング・ブランチ: 構造パラメータは、固定されたテンプレートを用いて自然言語プロンプトに変換される。これらのプロンプトは、凍結された学習済み言語エンコーダ（例：GPT-2、MiniLM、MPNet、Qwen3）によって処理され、構造構成のグローバルなコンテキスト表現を抽出する。これらのプロンプト表現は、トレーニング中の繰り返しのLLMフォワードパスを避けるために、事前計算およびキャッシュされる。

2. Align-then-Fuse (ATF) モジュール:
   ヘテロジニアスな（異種混合の）スペクトル（波長依存）表現とプロンプト（グローバルコンテキスト）表現を効果的に結合するために、著者らはATFモジュールを導入している。

   • インタラクティブな整列（Interactive Alignment）: グローバルなプロンプト表現は潜在トークンへと投影される。マルチヘッドアテンション機構により、波長依存のスペクトル特徴（クエリ）が、プロンプトトークン（キー/バリュー）から情報を選択的に取得することが可能になる。これにより、学習可能なスカラーゲートによって制御された、波長を意識した相互作用が確立される。
   • 残留融合（Residual Fusion）: 整列されたプロンプト特徴は、学習可能なチャネルごとのゲートを介して、元のスペクトル特徴と融合される。この残留融合は、プロンプト情報による補完的な情報を組み込みつつ、スペクトルブランチで学習された数値的特徴を保持する。

3. 物理制約付きマルチタスク出力:
   融合された表現は、透過/反射振幅、サイン/コサイン位相成分、透過率、および反射率に対応する8つの出力チャネルへとデコードされる。モデルは特定の制約を採用している。すなわち、振幅/パワー出力には値が[0, 1]の範囲内に留まることを保証するためのシグモイド関数を、位相成分には周期性を扱うための単位円への正規化を使用する。学習目的関数は、すべての6つの光学応答に対して、振幅/パワーに対する平均二乗誤差（MSE）および位相に対するコサイン距離を最小化する。

主な貢献

• フレームワークの提案: 凍結されたLLMを利用して、従来のニューラル分光予測器に対して補完的なコンテキスト構造表現を提供する、統一されたデュアルブランチ・フレームワークであるLAMPの導入。
• ATFメカニズム: インタラクティブな整列と学習可能な残留融合を利用して、ヘテロジニアスなスペクトル表現とプロンプト表現を効果的に統合するAlign-then-Fuseモジュールの開発。
• 統一マルチタスクモデリング: 6つの相互に関連する光学応答（振幅、位相、透過率、反射率）の同時予測タスクの定式化。これは、物理制約付きの出力を用いて、一貫したマルチレスポンスモデリングにおけるギャップに対処するものである。
• 堅牢性と柔軟性: 本フレームワークが、異なるシーケンスバックボーン（BiLSTM、TCN、GRU）および様々な学習済み言語エンコーダに対して有効であることを実証。

実験結果
実験は、400 nmから600 nmの範囲でサンプリングされたスペクトル応答を持つ、56,576個のAu–GaNメタサーフェス構成のデータセットを用いて行われた。

• 性能向上: LAMPは、従来のシーケンスベースの予測器および直接的なLLM予測器の両方を一貫して上回った。具体的には、BiLSTMバックボーンとGPT-2エンコーダを用いたLAMPは、スタンドアロンのBiLSTM予測器と比較して、6つの光学応答全体でMSEを1.09–1.74 dB減少させた。
• ベースラインとの比較: 直接的なGPT-2予測器（スペクトルブランチなし）は著しく高い誤差を示し、この領域における精密な定量的回帰にはLLM単体では不十分であることを裏付けた。しかし、補完的な表現源として使用した場合、性能を大幅に向上させた。
• アブレーション研究: インタラクティブな整列または残留融合のいずれかのコンポーネントを取り除くと、性能が低下した。これは、ATFモジュールの両方のステップの必要性を検証しており、特にインタラクティブな整列はBiLSTMバックボーンにとって極めて重要であった。
• エンコーダの多様性: フレームワークは異なる言語エンコーダ（MiniLM、MPNet、Qwen3）に対しても有効であり、MiniLMはすべてのバックボーンにおいてGPT-2よりも一貫した改善を示した。
• 可視化: 定性的分析により、LAMPが、スタンドアロンモデルが偏差しやすい鋭いスペクトル特徴や急速な位相遷移の領域において、グラウンドトゥルース（真値）に近い予測を生成していることが示された。

意義
本論文は、LLM由来のコンテキスト表現が、従来のニューラル予測器に対して価値のある補完的情報を提供できることを主張している。シーケンスレベルのセマンティックな理解（LLM）と定量的スペクトル回帰（ニューラルネットワーク）の間の溝を埋めることで、LAMPは、フォワード解析のためのより正確で効率的なアプローチを提供する。著者らは、この方向性がメタサーフェスの逆設計や構造最適化への拡張、およびより複雑な材料システムやスペクトル範囲への適用可能性において、将来の展望を保持していると示唆している。