Neural network-enhanced $hr$-adaptive finite element algorithm for parabolic equations

技術要約：放物型方程式に対するニューラルネットワーク強化型 $hr$ 適応有限要素アルゴリズム

問題提起
本論文は、移動する特異点やマルチスケールな特徴を持つ放物型方程式に対して、適応有限要素法（AFEM）を適用する際に内在する計算上の課題に対処している。$hr$適応法（メッシュ細分化$h$と節点の移動$r$ の組み合わせ）は理論的な利点を提供するものの、放物型問題への実用的な実装においては、主に以下の3つのボトルネックに直面している。

1. 非効率な細分化: 従来の $h$ 適応戦略では、層ごとの二分法（bisection）により、収束させるために1タイムステップあたり30〜40回の過剰な反復が必要になることが多い。
2. 補間における課題: 前のタイムステップのメッシュから、新しく細分化された非入れ子（non-nested）のメッシュへと解を転送するには、複雑で計算コストの高い点位置特定アルゴリズムや補間演算子（$\Pi_h^n$）を必要とする。
3. 冗長な初期化: 標準的な手法では、前のタイムステップの最終的な高精細メッシュを次のステップの開始点として継承するため、自由度（DOF）が膨大になり、計算コストを削減するための別途の複雑な粗視化（coarsening）ステップが必要となる。

手法
著者らは、これら3つの制限を克服するために設計された、新しいニューラルネットワーク強化型 $hr$ 適応有限要素アルゴリズムを提案している。このアルゴリズムは、以下の3つの統合されたメカニズムを通じて機能する。

1. ニューラルネットワークによるメッシュフリー・サロゲート（補間の代替）:
   非入れ子のメッシュ間での幾何学的な補間を行う代わりに、本手法ではニューラルネットワーク（NN）を用いて、前のタイムステップの有限要素解（$u_{h}^{n-1}$）の連続的なメッシュフリー・サロゲートを構築する。

   • NNは、前のメッシュの頂点と解の値を用いて学習される。
   • ディリクレ境界条件を厳密に強制するため、サロゲートは $u_{\theta}^{n-1}(x) = d(x)u_{\theta}(x) + \tilde{g}(x, t_{n-1})$ として構成される。ここで、$d(x)$ は境界でゼロとなり、$\tilde{g}(x)$ は境界データを拡張するものである。
   • ウォームスタート戦略: NNのパラメータは、前のタイムステップで収束した最小値を用いて初期化されるため、各ステップでフル再学習を行う必要はなく、わずかな微調整（数エポック）のみで済む。
   • このサロゲートは、完全離散スキームにおける補間演算子を置き換え、新しいメッシュ上の任意の空間点における直接的な関数評価を可能にする。

2. 制御されたメッシュ生成（$h$ 適応性）:
   アルゴリズムは、ユーザー定義のメッシュサイズ場（SIZE）に基づいてメッシュを生成するために Gmsh ライブラリを利用する。

   • メッシュサイズ場は、誤差評価器に基づき、誤差の高い領域に高密度となるよう計算される。
   • このアプローチは標準的な二分法とは異なり、一度のステップで劇的に解像度を高めることができる、非入れ子の非構造格子メッシュの生成を可能にする。

3. 予測的反復戦略（$r$ 適応性とループ制御）:
   アルゴリズムは、予測的なワークフローを通じて、適応ループを1タイムステップあたり最大7回の反復に制限する。

   • 反復 1–2: 解を安定させるための「スタートアップ」フェーズ。
   • 反復 3–5: 誤差評価器と頂点数（NOV）の関係を示すべき冪乗則モデル（$\eta_h \approx cN^{-p}$）を適合させるためのデータ収集フェーズ。
   • 反復 6: 適合されたモデルを用いて、目標を満たすために必要なNOVを予測する。新しいメッシュは、このターゲットに合わせて生成される。
   • 反復 7: 指定された許容誤差が満たされていることを確認する最終検証ステップ。
   • 結合誤差評価器: 誤差指標は、現在の解（$u_h^n$）と前の解のNNサロゲート（$u_{\theta}^{n-1}$）の両方の情報を取り入れ、効果的なメッシュ生成を導く。

主な貢献

• 補間コストの排除: メッシュ依存の補間演算子をメッシュフリーのニューラルネットワーク・サロゲートに置き換えることで、非入れ子のメッシュ間でのデータ転送に伴うアルゴリズムの複雑さと計算コストを回避する。
• 反復回数の劇的な削減: 予測的メッシュ生成戦略により、典型的な30〜40回の適応反復を、1タイムステップあたり最大7回へと削減する。
• 効率的なメッシュのリセット: 各タイムステップの開始時に、メッシュを粗い一様状態に再初期化する（精細なメッシュを継承しない）。これにより、別途の粗視化ステップを不要にし、不必要な自由度の蓄積を防ぐ。
• 次元非依存性: 本フレームワークは次元非依存に設計されており、アルゴリズムの構造的変更なしに2Dおよび3Dの両方への適用が成功したことが示されている。

数値結果
本論文は、2Dおよび3Dにおける移動特異点（回転、拡散、分裂）を持つ放物型方程式、および非線形アレン・カーン方程式やL字型領域の問題を用いた広範な数値実験を通じて、アルゴリズムを検証している。

• 効率性: 提案手法は、1タイムステップあたり最大7回の空間適応反復以内で、所望の精度を達成する。
• 学習オーバーヘッド: 初期のタイムステップでは大幅な学習（例：約2000エポック）を必要とするが、後続のステップではウォームスタート戦略を活用することで、最小限の微調整（100エポック未満）で済む。
• 性能向上: 従来の $h$ 適応法との比較において、総CPU実行時間の substantial な削減（例：2D回転の例で818秒から132秒へ減少）と、シミュレーション全体を通じた総自由度の大幅な削減を示している。
• 精度: 動的な特異性の変化を捉えることに成功し、勾配誤差に対して準最適（quasi-optimal）な収束率を達成している。

意義と主張
本論文は、提案されたアルゴリズムが、放物型問題に対する従来のAFEMの根本的なボトルネックに対処することで、包括的な効率向上をもたらすと主張している。ニューラルネットワークを単独のソルバーとしてではなく、データ転送と関数表現のための専門的なデータ駆動型モジュールとして統合することで、堅牢かつ効率的なワークフローを実現している。著者らは、このアプローチによって節点の挿入と移動がより容易になり、繰り返しの細分化に要する時間を大幅に短縮し、制御された自由度で高い精度を達成できることを強調している。研究と応用を促進するため、コードは公開されている。