技術要約：物理制約付き生成における正しい測度

問題提起

拡散モデルやフロー・マッチング（flow-matching）アーキテクチャに代表される生成モデルは、偏微分方程式（PDE）の逆問題を解くためにますます採用されている。標準的なワークフローでは、生成的な事前分布 $\pi(x)$ を学習した後、投影（projection）やガイダンスを通じて、物理的制約（支配方程式、境界条件、またはデータの一致性）をハード制約（$c(x)=0$）として課す。その後、これらの手法は、不確実性定量化（UQ）を行うために、制約を満たしたサンプルをベイズ事後分布からの抽形式として報告する。

本論文は、この広く採用されているレシピにおける根本的な欠陥を指摘している：ハード制約を課すことは、正しいベイズ事後分布からサンプリングすることにはならない。

核心となる問題は、**ボレル・コルモゴロフのパラドックス（Borel–Kolmogorov paradox）**として知られる測度論的な曖昧さである。連続分布を測度ゼロの多様体（$c(x)=0$ となる集合）上で条件付けることは、ゼロ測度の極限をどのように取るかを指定しない限り、定義不可能である。

1. 物理的極限： 物理的に正しい極限は、PDEが微小な残留ノイズ（$c(x) \sim \mathcal{N}(0, \gamma^2 I)$、ただし $\gamma \to 0$）まで成立すると仮定するものである。コーエリア公式（co-area formula）によれば、この極限は多様体 $M$ 上の事後密度を生成し、そこにはフィックスマン（co-area）ヤコビアン因子が含まれる：
   $$p^\star(x) \propto \pi(x) \ell(y|x) [\det(J(x)J(x)^\top)]^{-1/2}, \quad x \in M$$
   ここで $J = \nabla c$ は制約のヤコビ行列である。
2. ユークリッド極限： 標準的な投影法やガイダンス法は、幾何学的な「チューブ」（多様体へのユークリッド距離）上で条件付けることを暗黙的に仮定している。この極限は、ヤコビアン因子 $[\det(JJ^\top)]^{-1/2}$ を欠落させた多様体上の測度 $p_E \propto \pi(x)$ に収束する。

これら2つの極限は、$\det(JJ^\top)$ が $M$ 上で一定である場合にのみ一致する。PDEの逆問題において、制約の感度は本質的に不均一（heterogeneous）であるため、欠落した因子は些細な詳細ではなく、系統的かつ無視できないバイアスの原因となる。

手法

理論的分析

著者らは、コーエリア公式を用いてこのバイアスを定式化している。彼らは、投影ベースの手法（例：PCFM）や残差ガイダンス法が用いる「ハード制約」の極限が、ユークリッド極限 $p_E$ をターゲットとする一方で、真の物理的事後分布はコーエリア事後分布 $p^\star$ であることを示している。真の事後分布とバイアスのある事後分布の比は、まさに欠落しているフィックスマン因子である：
$$\frac{dp^\star}{dp_E}(x) \propto [\det(J(x)J(x)^\top)]^{-1/2}$$
さらに、このバイアスは、投影されたサンプルに対して単純なスカラーの再重み付けを行っても修正できないことを示している。なぜなら、投影写像自体が、曲率に依存した非スカラーな形で事前分布を歪めてしまうからである。

CoCoS: 測度を考慮した制約付きサンプラー

正しい事後分布 $p^\star$ からサンプリングするために、著者らはCoCoS（Co-area Constrained Sampler）を導入する。これは、正しいコーエリア事後分布を直接ターゲットとするように設計された厳密なMCMCサンプラーである。

1. 接平面プロポーザル（Tangent Proposal）： 点 $x \in M$ において、等方的なガウス分布を用いて多様体の接空間内で提案ステップ $v$ を生成する。
2. 再投影（Re-projection）： 候補となる $x+v$ を、法線方向に沿って多様体 $M$ 上へ再投影する（小さなニュートンステップを解く）。
3. メトロポリス受理（Metropolis Acceptance）： 提案を、フィックスマン・ポテンシャル項（$\frac{1}{2}\log \det(JJ^\top)$）を含む比率、および不変分布が正確に $p^\star$ であることを保証するための可逆性チェックとともに受理する。

CoCo-Flow: 償還（Amortized）による補正

MCMCが高次元の問題において計算コストが高いことを認識し、著者らは、正確なCoCoSサンプラーを模倣するように条件付きフロー・マッチングモデルを訓練するCoCo-Flowを提案する。

• 学習： 正確なCoCoSアルゴリズムを使用して「教師」サンプルを生成する（または、フォワードシミュレータから結合ペア $(\theta, y)$ を直接描画する。これは本質的に正しい測度を持つ）。
• 推論： 学習用モデル（student flow model）を訓練し、これらの教師サンプルを再現させる。
• 結果： テスト時の推論は単一のODEソルブとなり、毎クエリのヤコビアン計算やMCMCステップを必要とせずに、訓練データから継承された正しい測度を保持したまま実行できる。

主な結果

著者らは、MCMCの混合の病理に影響されないグラウンドトゥルースのゴールドスタンダードとして機能する、i.i.d. 再拒否判定器（residual-band rejection sampling）を用いて、自らの主張を検証している。

制御されたベンチマーク

• 因子の必要性： 制御された4次元問題において、フィックスマン因子を省略（ハウスドルフ測量をサンプリング）した場合、事後分布誤差はサンプリングノイズフロアの21倍となった。
• 投影のバイアス： 標準的な最小変位投影（PCFM）は、ノイズフロアの9倍のバイアスを持っていた。
• スカラー再重み付けの失敗： 投影されたサンプルをスカラーのヤコビアン項でナイーブに再重み付けしても、バイアスの修正には至らず、むしろ誤差を悪化させた（16倍のフロア）。これは、歪みがスケーリングの問題ではなく、構造的な問題であることを裏付けている。
• CoCoSの精度： CoCoSサンプラーは、ゴールドスタンダードの判定器に対し、ノイズフロアの2.5倍以内の精度で一致し、真の事後分布を効果的に復元した。

PDE逆問題（Darcy Flow）

不均一な感度を持つ1次元および2次元のDarcy flow逆問題で評価を行った：

• スケーリング： バイアスは次元と感度の不均一性に比例して増大する。2次元の場に関する問題（$d=64$）では、制約の感度は $2.6 \times 10^5$ まで変動した。単純な平均値は小さなバイアスを示唆していたが、尤度に基づいた部分空間に限定して分析すると、PCFMはノイズフロアの21.7倍のバイアスを有していた。
• 不確実性定量化： バイアスは深刻なキャリブレーションの失敗として現れる。PCFMが報告した事後標準偏差は**96%誤っており、偽相関（共分散誤差122%）を導入していた。一方、CoCoSは事後分布の広がりを1%**の誤差で復元し、信頼区間を正しく較正した。
• 償還（Amortization）： CoCo-Flowは、1次元および2次元の設定の両方において、保持された観測値に対して補正を正常に一般化し、推論時間をオーダー単位で短縮しつつ、ノイズフロアの数倍以内の精度を達成した。

バイアスが無視できる場合

本論文は、感度の不均一性が緩やかな問題（例：1次元の定常粘性Burgers方程式）では、バイアスは小さく、投影法が補正されたサンプラーと同等の性能を示すことを指摘している。これは、$\det(JJ^\top)$ が一定である場合にバイアスが消失するという理論と一致している。

意義と主張

本論文は、具体的かつ控えめながらも極めて重要な主張を行っている：「物理を満たすこと」は「事後分布をサンプリングすること」と同じではない。

• 系統的誤差の修正： 著者らは、主要な物理制約付き生成モデル（投影およびガイダンス）が、正しいコーエリア・ヤコビアンを欠いているために、系統的に誤った分布をサンプリングしていることを証明した。これは実装上のバグではなく、ゼロ測度の多様体上で制約を課す際に、正しい測度論的極限を取っていないことに起因する。
• 科学的UQへの影響： 不確実性を考慮した科学的推論にとって、このバイアスは些細な問題ではない。それは、不正確な分散や偽相関をもたらし、報告される信頼区間の信頼性を損なう。
• 原理的な解決策： 本論文は、原理的な補正（フィックスマン因子）と、それをターゲットとする実用的なサンプラー（CoCoS）および償還された生成器（CoCo-Flow）を提供している。
• 適用範囲： 本批判は、固定された事前分布をハード制約でポストプロセスする手法を対象としている。フォワードシミュレータから結合ペアを直接学習する手法や、正しい事後分布を提示すると主張していない手法を否定するものではない。

結論として、本論文は、厳密な科学的推論のためには、「正しい測度」（コーエリア補正）はオプションではなく、それを欠くことは提供される不確実性定量化を根本的に無効にするものであると論じている。