技術概要：非侵襲的低次元モデルのための機械学習に基づく二次閉鎖項

問題提起

低次元モデル（ROM）は、設計最適化や制御など、高速な予測を必要とする応用分野において、計算流体力学（CFD）シミュレーションを加速するために不可欠である。固有直交分解（POD）は標準的な線形低次元化手法であるが、保持されるモード数が複雑なシステムダイナミクスを捉えるのに不十分な、解像度が不足している領域や限界解像度領域では、不正確な近似をもたらすことが多い。

これらの不正確さを補正するための既存のデータ駆動型アプローチは、通常、最小二乗法最適化（Quad-LS）を通じて二次演算子を学習する二次閉鎖モデルに依存している。しかし、これらの最先端の手法には、主に 2 つの限界が存在する：

1. 過学習と汎化性能の低下： 最小二乗法アプローチは過学習を起こしやすい。特に、学習多様体が高精度モデルの完全な複雑さを反映していない場合、または問題が不良条件である場合に顕著である。
2. 離散化への依存： 従来の演算子は離散的であり、学習に使用された特定のメッシュに紐付いている。したがって、これらは異なる空間離散化に自然に汎化できず、連続的な場補正を提供することはできない。

手法

著者らは、静的な最小二乗演算子を学習可能な連続的なニューラル演算子に置き換える、新規かつ完全なデータ駆動型の非侵襲的フレームワークを提案する。中核的な戦略は、標準的な POD 展開に二次補正項 $\tau(\hat{x}; \mu)$ を追加することである：
$$u(\hat{x}, \mu) \simeq \sum_{i=1}^r a_i(\mu)\phi_i(\hat{x}) + \tau(\hat{x}; \mu)$$
ここで、$\phi_i$ は POD モード、$a_i$ は低次元係数、$\tau$ は補正項である。

本論文では、POD 係数に作用する二次演算子をパラメータ化する 2 つの特定のニューラルアーキテクチャを導入する：

1. QuadNet（DeepONet 着想）： このモデルは、補正を $\tau(x; \mu) = a^T(\mu)C(\Phi_r, x)a(\mu)$ として近似する。これは Deep Operator Network（DeepONet）アーキテクチャを利用しており、以下の構成を持つ：

   • POD モード（$\Phi_r$）を処理するブランチネットワーク。
   • 空間座標（$x$）を処理するトランクネットワーク。
   • 出力を結合して連続的な二次演算子を生成する第 3 のサブネットワーク。
   • 主要な特徴： 演算子は空間的に連続であり、学習メッシュに依存せずに任意の配置点で評価可能である。

2. QuadNet-$\mu$（MIONet 着想）： これは、マルチ入力演算子ネットワーク（MIONet）構造を介して問題パラメータ（$\mu$）を追加入力として取り込むことで QuadNet を拡張したものである。

   • パラメータ専用の 2 つ目のブランチネットワークを含む。
   • 主要な特徴： 演算子は空間とパラメータ空間の両方で連続であり、モデルはパラメータ領域において「局所的」であり、学習中に使用された特定のパラメータインスタンスに依存しない。

学習戦略：

• モデルは、補正項のスケール変動を処理するために相対誤差損失関数を最小化するように学習される。
• 著者らは、ニューラルネットワークがメッシュノードのサブセットで学習される「部分的データ」領域を調査する。均一なランダムサンプリングではなく、補正項が大きく急速に変化する領域を優先する、ボルツマン分布に似た確率分布を用いてノードをサンプリングすることを提案する。

主要な貢献

1. ニューラル演算子閉鎖項： 非侵襲的 ROM に対する二次閉鎖項を学習するために、DeepONet および MIONet アーキテクチャを導入し、従来の最小二乗法最適化を超えたアプローチを確立した。
2. 連続性と汎化： 空間座標とパラメータ空間の両方で連続的なモデルを開発した。これにより、モデルはドメイン離散化に依存せず、未見のパラメータ構成に対して効果的に汎化できる。
3. 効率的なデータ利用： これらの連続モデルが、空間配置点の削減されたセット（部分的データ）と、より少ないパラメータインスタンス（希少データ）で学習可能であり、線形および従来の二次ベースラインと比較して精度を維持または向上させることを実証した。
4. パラメータ効率： 学習コストの増加にもかかわらず、テストされた問題において、ニューラルモデルはテンソルベースの Quad-LS 手法よりも少ないパラメータ数を利用する。

結果

この手法は、2 つの標準的な流体力学ベンチマーク、すなわち後向きステップ（定常状態、入口流速変動）とリッド駆動キャビティ（時間依存、レイノルズ数変動）で検証された。

• 精度： QuadNet および QuadNet-$\mu$ の両方は、ベースラインの POD-RBF（線形）および最先端の Quad-LS（二次最小二乗）モデルを大幅に上回った。
  • QuadNet-$\mu$ は最高精度を達成し、特定のテスト構成において POD-RBF に対して最大90%、Quad-LS に対して最大**80%**の誤差削減を実現した。
  • 改善は、パラメータ範囲全体で流れの挙動が著しく変化する後向きステップのケースで最も顕著であり、QuadNet-$\mu$ のパラメータ局所性の利点を浮き彫りにした。
• 希少データにおける頑健性： 学習スナップショットが非常に少ない領域（例：$N_\mu < 30$）かつ高次元の POD モード数において、Quad-LS は過学習により失敗するか、線形ベースラインよりも性能が低下することが多かった。QuadNet-$\mu$ はより頑健であったが、補正項が無視できるようになった場合（すなわち、線形 POD 近似がすでに非常に精密であった場合）、その性能も低下した。
• 部分的データ： 学習サンプリング戦略が高補正領域を優先する限り、QuadNet-$\mu$ をメッシュノードの 10% から 50% のみで学習しても、全メッシュで学習した場合と同等の誤差が得られた。これにより、テストされた設定においてオフライン学習時間が約 10% 削減された。
• 計算コスト： ニューラルモデルのオフライン学習時間（8〜25 分）は、Quad-LS のほぼ瞬時の学習（<10 ms）よりも著しく長かったが、著者らは、単一の完全次元シミュレーションのコスト（例：3 分）が学習オーバーヘッドを大幅に上回る多くのクエリを必要とする産業応用において、このコストは償却されると主張している。

意義と主張

本論文は、提案された「補正済み-ROM」が、既存の二次閉鎖戦略と比較して、精度、汎化、データ効率の面で優れたバランスを提供すると主張している。ニューラル演算子を活用することで、著者らは以下の点を示した：

• 解釈可能性と非線形性の共存： 二次構造はモード間の相互作用という物理的な解釈可能性を維持しつつ、深層学習の非線形近似能力を活用する。
• 離散化からの独立性： 学習された演算子の連続性は、特定のメッシュ解像度への依存性を排除する。これは、メッシュの細分化や変更が一般的な実用的な工学応用において重要な利点である。
• 限られたデータでの実現可能性： このアプローチは、高精度データが不足しているか、生成にコストがかかるシナリオに特に価値がある。なぜなら、モデルは限られた空間的およびパラメトリックなサンプルから効果的な補正を学習できるからである。

著者らは、オフライン学習コストは高いものの、結果として得られるモデルは未見の構成に対してはるかに正確な予測を提供し、実世界の応用における CFD シミュレーションの加速のための実用的かつ効果的なツールとなると結論づけている。今後の課題として、高次補正の検討や、POD-NN などのより洗練されたベースモデルとの統合が提案されている。