FPINN: A proper orthogonal decomposition-assisted fourier-gradient physics-informed neural network for navier-stokes equations and flow reconstruction

川が岩の周りをどのように流れるか、あるいは風が超高層ビルの周りでどのように渦巻くかを予測することを想像してみてください。何十年もの間、科学者たちは強力なコンピュータを使用して、「ナビエ・ストークス方程式」と呼ばれる、水や空気のような流体がどのように動くかを記述する一連の複雑な数学的規則を解いてきました。これらの方程式を、流体の動きに関する究極のルールブックだと考えてください。しかし、これらを解くことは、潮が満ちてくる中でビーチにある砂粒を一つ一つ数えようとするようなものであり、非常に時間がかかり、コストがかかり、膨大なコンピュータ・パワーを必要とします。

そこで、より新しく、華やかなツールである「物理情報に基づくニューラルネットワーク（Physics-Informed Neural Networks）」、通称PINNsが登場しました。従来のコンピュータが、すべての数字を細かくチェックする几帳面な会計士だとすれば、PINNsはゲームのルールを完璧に学習しているため、すべてのステップを確認することなく答えを推測できる非常に賢い学生のようなものです。しかし、この賢い学生でさえ困難に直面することがあります。彼らは時として「スペクトル・バイアス（spectral bias）」に陥ります。これは、大きなゆっくりとした波を見るのは得意ですが、小さくて速いさざ波や急な流れの変化を見逃してしまうという、専門的な現象です。また、彼らは時として「質量の漏れ（leak mass）」を起こすこともあります。つまり、水がどこからか突然現れたり、消えてなくなったりすると予測してしまうことで、物理法則を破ってしまうのです。

この論文は、アップグレードされた新しい学生である「FPINN」を紹介しています。これは「フーリエ・グラディエント物理情報に基づくニューラルネットワーク（Fourier-gradient Physics-Informed Neural Network）」であり、特別な「眼鏡」と「記憶補助装置」を与えられた存在です。「フーリエ特徴量（Fourier features）」という眼鏡は、それらの小さく速いさざ波を鮮明に見ることを助けます。「固有直交分解（Proper Orthogonal Decomposition: POD）」という技術は、記憶補助装置として、退屈で繰り返しの多い流れの部分を無視し、最も重要なエネルギーパターンだけに集中することを助けます。研究者たちは、回転する円柱のそばを流れる水や、動く蓋のある箱の中を渦巻く空気といった、古典的な流体のパズルを用いてこの新しい手法をテストしました。その結果、FPINNは、特に水が速く、かつ混沌とした状態で動いているときにおいて、物理法則を厳格に守り、予測の正確性を保ちながら、これらの流れをより正確に予測できることが分かりました。

問題点：「ぼやけた眼鏡」と「漏れるバケツ」

長い間、科学者は流体の流れをシミュレートするために伝統的な手法に頼ってきました。これらの手法は、川の上に小さな箱の巨大な格子（グリッド）を作り、それぞれの箱の中の水速を計算するようなものです。正確ではありますが、非常に時間がかかり、スーパーコンピュータを必要とします。近年、PINNsと呼ばれる新しいアプローチが登場しました。グリッドを使う代わりに、PINNsは人工知能の一種であるニューラルネットワークを使用して流れを学習します。これは、ロボットにすべての水滴を数えさせるのではなく、物理のルールを教えることで、ロボットに川を理解させるようなものです。

しかし、標準的なPINNsには2つの大きな欠陥があります。第一に、彼らは「スペクトル・バイアス」に苦しみます。嵐の絵を描こうとしている場面を想像してください。標準的なPINNは、大きな暗い雲は完璧に描けるかもしれませんが、小さくて速い雨粒や、稲妻の鋭いエッジを見逃してしまいます。つまり、高周波の詳細を描くのが苦手なのです。第二に、彼らは時として「質量保存の法則」に違反します。実際の川では、水が突然消えたり現れたりすることはありません。水はある場所から別の場所へと流れます。しかし、標準的なPINNsは時として「漏れ」を起こし、水がある場所で消え、別の場所で現れたと予測してしまい、物理的に不可能なシミュレーションになってしまいます。

解決策：専門家チーム

著者であるQiancheng Tan氏とそのチームは、より優れたバージョンのAIを作ることに決めました。彼らはFPINN（Fourier-gradient Physics-Informed Neural Network）と呼ぶフレームワークを作成しましたが、それだけでは終わりませんでした。彼らは、POD（Proper Orthogonal Decomposition）という強力な助手を与えました。

流体の流れを、混沌としたダンスパーティーだと考えてみてください。そこには、複雑なパターンで動く何千人もの人々（流体粒子）がいます。

• PODは、パーティーを見守るダンスインストラクターのようなものです。そしてこう言います。「一人一人の個別の回転には注目しないでください。全員が行っている3つの主要な動きだけに集中しましょう」。PODはノイズを取り除き、最も重要な「支配的なエネルギーモード」、つまり動きの最も重要なパターンだけを残します。これにより、AIにとって問題は非常に単純になります。
• **フーリエ特徴量マッピング（Fourier Feature Mapping）**は、AIに「高精細な眼鏡」を与えるようなものです。標準的なAIはしばしば低解像度で世界を見ており、鋭い詳細を見逃してしまいます。データを特別な数学的フィルター（フーリエ特徴量）を通して入力することで、AIは、以前は見逃していた小さく速いさざ波や鋭い勾配を突然、鮮明に見ることができるようになります。
• **勾配ペナルティ（Gradient Penalties）**は、厳格なレフェリーとして機能します。もしAIが、水が漏れたり、あるいは空中に突然現れたりすると予測し始めたら、レフェリーは笛を鳴らし、AIに即座に間違いを修正させ、物理法則が決して破られないように強制します。

トレーニング：間違いからの学習

この新しいAIのトレーニングは、単にデータを入力することではありませんでした。それは、どのように学ぶかを教えることでした。研究者たちは、SoftAdaptと呼ばれる巧妙な戦略を用いました。あなたがテストに向けて勉強している場面を想像してください。あなたには数学、歴史、科学の3つの科目があります。もしあなたが数学の成績が悪く、歴史の成績が良いなら、あなたの先生（AIのトレーニングシステム）は、数学により多くの時間を割くべきです。

FPINNシステムにおいて、「損失（loss）」とは、AIがどれほど間違っているかを示すスコアです。もしAIが圧力の予測において大きな間違いを犯した場合、SoftAdaptシステムは「数学のスコア」が低いことに気づきます。すると、自動的に重みを増やし、AIに対して「おい、この部分にもっと注意を払え！」と指示を出します。この動的なバランス調整によって、AIが停滞したり、問題の難しい部分を無視したりすることを防ぎます。

彼らはまた、**ラテン超格子のサンプリング（Latin Hypercube Sampling）**にひねりを加えたサンプリング戦略も使用しました。流体内の点を単にランダムに選ぶのではなく、流れが最も劇的に変化する壁や境界のすぐ近くに、追加の点を確実に配置するようにしました。これは、最も重要な手がかりは通常、事件現場のすぐ近くにあることを知っている探偵が、そのエリアを特に注意深く調査するようなものです。

結果：穏やかな池から激しい嵐へ

チームは、新しいFPINNが実際に機能するかどうかを確認するために、3つの有名な流体問題でテストを行いました。

1. コヴァスナイ・フロー（穏やかなテスト）
まず、既知の正確な解（答えの付いている数学の問題のようなもの）を持つ流れをテストしました。異なる速度（レイノルズ数 Re = 20, 40, 100）でシミュレーションを実行しました。結果は目覚ましいものでした。FPINNモデルは、誤差がほとんど目に見えないほど小さいレベル（約$10^{-7}$）で流れを予測しました。従来の標準的なPINNと比較すると、新しいモデルは、特に流れが速くなるにつれて、圧倒的に優れていました。これは、「高精細な眼鏡」（フーリエ特徴量）が詳細を明確に見るのに役立ったことを証明しています。

2. 円柱の背後の流れ（渦のテスト）
次に、回転する円柱のそばを流れる水をシミュレートしました。これは円柱の後方に「後流（ウェイク）」を作り出し、そこでは水が複雑な渦を巻きます。

• 低速時 (Re = 100): FPINNは驚異的な精度を示し、時間の経過とともに参照データとほぼ完全に一致しました。
• 高速時 (Re = 3900): ここが難所です。流れは乱流となり、混沌としたものになります。論文によれば、FPINNは高い精度で開始したものの、時間の経過とともに、特に渦が最も強い後流領域において誤差が増大し始めました。例えば、圧力の誤差は、数秒後に非常に小さな値（$4.848 \times 10^{-2}$）から、より大きな値（$1.314 \times 10^{0}$）へと跳ね上がりました。これは、このモデルが大幅な改善である一方で、高度に混沌とした高速の流れを長期間予測することは依然として課題であることを示唆しています。しかし、それでも従来のPINNより優れた性能を発揮しました。

3. リッド駆動キャビティ（箱のテスト）
最後に、上の蓋が前後にスライドして、中の流体を引きずる箱の中の流体を調べました。これを、ゆっくりとした這い寄り（Re = 100）から、非常に速い滑走（Re = 5000）までの速度でテストしました。

• FPINNは、これらすべての速度における流れのパターンを正常に予測しました。
• 流れが非常に乱流となる最高速度（Re = 5000）においても、FPINNは標準的なPINNよりも誤差をるべく低く抑えました。例えば、Re = 5000において、垂直方向の速度の誤差は、従来のPINNが $1.883 \times 10^{-1}$ であったのに対し、FPINNは $1.018 \times 10^{-2}$ でした。これは、このモデルが高速で複雑な流れを以前よりもはるかに上手く扱えることを示しています。

結論：力強い前進

本論文は、問題を単純化するためのPODと、詳細を見極め物理法則に従うためのFPINNを組み合わせることが、流体力学における強力なツールを生み出すと結論付けています。これは、学習が速く、より正確で、物理的に一貫しています。

しかし、著者たちはその限界についても正直に述べています。このモデルは優れていますが、まだ完璧ではありません。最も混沌とした高速シナリオ（Re = 3900の円柱後流など）では、時間の経過とともに小さな誤差が蓄積する傾向があります。また、このモデルは、PODの「ダンスの動き」を作成するために使用される初期データの品質に大きく依存しています。もし初期のスナップショットが悪ければ、予測全体が影響を受けてしまいます。

こうした小さな制限はあるものの、FPINNフレームワークは大きな飛躍を意味しています。これは、巨大な格子やスーパーコンピュータを必要とせずに複雑な流体の流れをシミュレートする方法を提供しており、より良い航空機の設計から海洋流の理解に至るまで、将来の工学的応用への有望なツールとなります。研究者たちは、このアプローチが、これまで計算が困難であった効率的な高速流体シミュレーションを解き明す鍵となる可能性を示唆しています。