技術要約：フロー・マッチング・モデルの物理制約付きファインチューニング

問題提起

拡散モデルやフロー・マッチング（FM）ネットワークなどの深層生成モデルは、複雑な時空間物理系の表現において成功を収めている。しかし、標準的な生成モデルは、物理法則（保存則や境界条件など）を厳密に遵守できないことが多く、特に、支配的なパラメータ（材料特性やソース項など）が未知または観測されていない観測データを用いて学習する場合にその傾向が顕著である。

既存のアプローチには、以下のような重大な限界がある：

1. 物理情報ニューラルネットワーク (PINNs): 正・逆問題に対しては有効であるが、通常は単一の解を回帰するものであり、生成タスクに求められる「起こりうる結果の分布」を捉えることはできない。
2. 物理損失による事前学習: 物理制約を事前学習時に統合する手法（例：Physics-Based Flow Matching）は、解とそれに対応する物理パラメータのペアデータが必要となるが、そのようなデータは入手困難であったり、高価であったり、あるいは高次元であったりすることが多い。
3. 推論時の制約: 推論時に制約を強制する手法（例：投影ベースのサンプリング）は、不連続性を導入したり、再学習なしでは境界条件のような局所的な制約に対処するのが困難であったりする。

本研究が取り組む核心的な課題は、正解のパラメータ（ground-truth parameters）を持たない低忠実度または観測データで事前学習されたフロー・マッチング・モデルを、いかにしてパラメータ依存の偏微分方程式（PDE）制約を強制し、かつ潜在的な物理パラメータを共同で推論するようにファインチューニングするか、という点である。これらは、パラメータと解の結合学習データを必要とせずに実現される。

手法

著者らは、**随伴マッチング（Adjoint Matching）と状態・パラメータ共同進化（Joint State-Parameter Evolution）**戦略を組み合わせた、**物理制約付きファインチューニング（PCFT）**のフレームワークを提案している。

1. 弱形式残差による報酬定義

強形式のPDE残差（高次の微分を含み、ノイズの多いデータに対して不安定になる）の代わりに、本手法では**弱形式残差（weak-form residuals）**を採用する。生成されたサンプル $x$ と推論されたパラメータ $\alpha$ に対して、残差は次のように定義される：
$$R_{weak}(x, \alpha) = \frac{1}{N_{test}} \sum_{i=1}^{N_{test}} |\langle L_\alpha x, \psi^{(i)} \rangle_{L^2(\Omega)}|^2$$
ここで、$L_\alpha x = 0$ は支配的なPDEを表し、$\psi^{(i)}$ はランダムにサンプリングされたコンパクトな台を持つテスト関数（ウェンドランド多項式）である。この定式化は、物理法則および境界条件からの逸脱を罰する、安定した低分散の学習シグナルを提供する。

2. 状態とパラメータの共同進化

ベースモデルはパラメータ $\alpha$ を伴わない状態 $x$ のみを生成するため、著者らは潜在パラメータ予測器 $\phi$ を導入し、状態 $x$ とパラメータ $\alpha$ を共同で進化させる。

• 逆予測器 (Inverse Predictor): ネットワーク $\phi(x_1) = \alpha_1$ は、ベースモデルからの完全なデノイズ済みサンプルに対してPDE残差を最小化するように事前学習される。
• サロゲート・ベース・フロー: ベースモデルにおける $\alpha$ の真のフローは未知であるため、逆予測器を用いてサロゲート・フローを構築する。任意の状態 $(x_t, \alpha_t)$ において、予測される最終パラメータ $\hat{\alpha}_1 = \phi(\hat{x}_1)$ （ここで $\hat{x}_1$ は予測される最終状態）が、パラメータ進化の目標方向を定義する。
• 正則化: ファインチューニングされたパラメータの軌跡をベースモデルの推定パラメータへと引き寄せ、サンプル固有の詳細を保持し、過剰な正則化を防ぐための追加のベクトル場 $v_{reg}$ が導入される。

3. 随伴マッチング・ファインチューニング

ファインチューニングのプロセスは、確率的最適制御問題として定式化される。目標は、ベースの生成プロセス $v_{base}$ を、報酬によって傾斜した分布 $p_r(x) \propto e^{\lambda r(x)}p(x)$ へと導くことである（ここで報酬 $r$ は負のPDE残差である）。

• 制御問題: ファインチューニングされたベクトル場 $v_{ft}$ は、ベースのドリフトに制御項 $u_t$ を加えることで導出される。
• リーン随伴状態 (Lean Adjoint State): 制御を効率的に最適化するために、逆方向に進化する「リーン随伴状態」を用いる。これにより、バックワードパスの際に全生成軌跡を通じて勾配を計算する必要がなくなり、計算コストが削減される。
• 損失関数: 学習された制御 $u_t$ と随伴状態 $a_t$ の間の整合性損失として定義される：
  $$\mathcal{L} = \frac{1}{2} \int_0^1 \| u_t(\tilde{X}_t) + \sigma(t) a_t \|^2 dt$$
• ノイズ・スケジュール: 学習を安定させ、$t=0$ 付近での数値的な爆発を軽減するために、スケーリングされたメモリレス・ノイズ・スケジュール $\sigma^2(t) = (1-\kappa)2\eta_t$ を導入している。これは標準的な随伴マッチング・フレームワークへの新しい拡張である。

主な貢献

1. 事後的な物理的強制: 弱形式残差を用いて生成分布をPDEに整合したサンプルへと傾斜させる戦略により、元のモデルの多様性を維持しつつ、物理的な妥当性を向上させる。
2. 結合逆問題の解決: ベクトル場を介して状態と潜在パラメータを共同で進化させる原理的な定式化により、パラメータと解のペアデータなしで、隠れた物理パラメータ（浸透率、弾性率など）の推論を可能にする。
3. 理論的裏付け: 随伴マッチングにスケーリングされたノイズ・スケジュールを統合し、報酬ベースのフロー・マッチング・モデルのファインチューニングのための、安定した低分散の最適化フレームワークを提供する。
4. クロスドメインの有用性: 本フレームワークが自然画像生成にも拡張可能であることを示し、そこでは「物理的制約」が、好みのスコアによって導かれるパラメータ化されたカラー変換に置き換えられている。

実験結果

本手法は、4つの典型的なPDEファミリーと1つの自然画像タスクで評価された：

1. ダルシー流 (Darcy Flow): モデルは圧力場をデノイズし、浸透率マップを回収することに成功した。ファインチューニングによりPDE残差が大幅に減少した。著者らは、ハイパーパラメータ（$\lambda_x, \lambda_f$）の調整を通じて、残差の減少と分布の忠実度（MMDおよびSSIMによる多様性で測定）の間の制御可能なトレードオフを実証した。
2. 線形弾性 (Linear Elasticity): 境界条件の誤設定下において、本手法は、分布のシフトを適度に抑えつつ、低い境界誤差と弱形式・強形式の残差を達成し、PBFMおよびECI（Extrapolation-Correction-Interpolation）のベースラインを上回った。
3. ヘルムホルツ方程式 (Helmholtz Equation): モデルのミスマッチ（減衰あり vs 無損失）の設定において、結合随伴マッチングモデルは、PBFMおよびアブレーションされた随伴マッチング・バリアントを含むすべてのテスト手法の中で、最も低い残差と最高の分布忠実度（最低のMMD）を達成した。
4. ストークス・リッド駆動空洞 (Stokes Lid-Driven Cavity): 本手法は深刻なモデル・ミスマッチ（非ゼロの強制力 vs ゼロの強制力）を扱った。残差レベルは随伴マッチングの各バリアント間で同程度であったが、結合モデルのみが、低いパラメータ分布の不一致（MMD$_\alpha$）を達成し、正しいパラメータ分布を学習する能力を際立たせた。
5. 自然画像: クラス条件付き生成（マカック猿）のための潜在フロー・マッチング・モデルに適用し、テキストプロンプト（"Pop Art"）に一致するようにパラメータ化されたカラー変換を行うことに成功した。これは、本フレームワークが生成モデリングと好みに基づく推論を橋渡しできることを示している。

意義と主張

本論文は、生成モデリングと科学的推論の間の溝を埋めるものである。パラメータ依存の複雑な物理制約を、解とパラメータのペアデータなしで、事前学習済みモデルに強制するためのファインチューニングを可能にすることで、本アプローチは以下のためのデータ効率の高い経路を提供する：

• シミュレーション拡張による発見: 物理的に妥当な解を生成し、仮説的なシナリオを探索する。
• 逆問題: 疎またはノイズの多い観測から、潜在的な物理パラメータを推論する。
• 堅牢性: 物理法則に従いつつサンプルの多様性を維持し、制約付き最適化でよく見られるモード崩壊を回避する。

著者らは、本研究を「物理学を意識した生成モデリング」への一歩として位置づけている。これにより、モデルを事後的に特定の物理的領域や制約に適応させることが可能となり、科学的発見やエンジニアリングへの応用において、より汎用性の高いツールとなる。コードは再現性を確保するために公開されている。