技術要約：データ希薄な領域におけるオペレーター学習のための摂動ベースの共形予測

1. 問題定式化

本論文は、2次元非圧縮ナビエ・ストークス方程式を学習するニューラルオペレーターにおける**不確実性定量化（UQ）**の課題に取り組んでいる。フーリエニューラルオペレーター（FNO）などのニューラルオペレーターは、高価なPDEソルバーの効率的なサロゲートを提供するが、その点予測には時空間場に対する較正された不確実性推定が欠けている。これは、誤差が空間および時間によって変化する、安全性に関わる文脈や意思決定の文脈において極めて重要である。

具体的な問題は、入力履歴である渦度場 $\mathbf{a}$ から将来の軌跡 $\mathbf{u}$ への写像 $G: \mathbf{a} \to \mathbf{u}$ を学習する解オペレーターの学習として定式化される。目標は、少なくとも $1-\alpha$ の確率で、全時空間グリッドにわたって**同時被覆（simultaneous coverage）を満たす予測集合 $C(\mathbf{a})$ を構築することである：
$$P(\mathbf{u}_{new} \in C(\mathbf{a}_{new})) \geq 1 - \alpha$$
著者らは、総ラベル予算が固定されているデータ希薄な領域（data-scarce regime）**に焦点を当てている。この設定では、別の不確実性ネットワークを必要とする手法（UQNOなど）は、限られたデータを予測モデルと補助的な不確実性モデルの間で分割しなければならず、その結果、両方の性能が低下する可能性がある。

2. 手法：摂動ベースの非適合度スコア

提案手法は、学習済みニューラルオペレーターを分割共形予測（Split Conformal Prediction; CP）でラップするものである。核心となるイノベーションは、別途の不確実性ネットワークや不連続なデータ分割を必要とせずに、適応的かつ空間的に変化する不確実性スケールを生成する摂動ベースの非適合度スコアの構築にある。

2.1 コアメカニズム

この手法は、学習されたオペレーターのラベルに対する微小な摂動への感度が、予測の不確実性と相関しているという原理に基づいている。

1. 二重学習（Dual Training）: 同一のアーキテクチャを持つ2つのニューラルオペレーターを、同じ適切な訓練セット上で学習させる：
   • $\hat{G}$: 元のラベル $\mathbf{u}_i$ で学習。
   • $\hat{G}_\epsilon$: 摂動を加えたラベル $\tilde{\mathbf{u}}_i = \mathbf{u}_i + \boldsymbol{\epsilon}_i$ （ここで $\boldsymbol{\epsilon}_i \sim \mathcal{N}(0, \sigma_\epsilon^2)$）で学習。
2. 生の不一致（Raw Disagreement）: 新しい入力 $\mathbf{a}$ に対する座標 $k$ での生の不確実性尺度は、点ごとの絶対差である：
   $$d(\mathbf{a})_k = | \hat{G}(\mathbf{a})_k - \hat{G}_\epsilon(\mathbf{a})_k |$$
3. 安定化（Stabilization）: 数値的不安定性（ゼロに近い値による除算）を防ぎ、堅牢性を確保するために、生の不一致に対して以下の2ステップを行う：
   • 空間平滑化（Spatial Smoothing）: ローカルなノイズを平均化するために、不一致マップを $K \times K$ の空間ウィンドウ（例：$15 \times 15$）を用いて平滑化する。
   • フロア安定化（Floor Stabilization）: 訓練セットにおける中央値の不一致の割合として定義される、データ依存のフロア $\tau_0$ を課す。最終的なスケールは $\sigma(\mathbf{a})_k = \max(\bar{d}(\mathbf{a})_k, \tau_0)$ となる。
4. 非適合度スコア: 校正サンプルに対する共形スコアは、全出力座標における最大正規化残差として定義される：
   $$S(\mathbf{a}, \mathbf{u}) = \max_k \frac{| u_k - \hat{G}(\mathbf{a})_k |}{\sigma(\mathbf{a})_k}$$
   このmax型スコアは、グリッド全体にわたる同時被覆をターゲットとしている。

2.2 校正と予測

分割共形プロトコルを用いて、校正セット上でスコア $S$ を計算する。スコアの分位点 $\hat{Q}_{1-\alpha}$ が予測バンドの幅を決定する。新しい入力に対する座標 $k$ での予測バンドは以下の通りである：
$$C(\mathbf{a})_k = \left[ \hat{G}(\mathbf{a})_k - \hat{Q}_{1-\alpha}\sigma(\mathbf{a})_k, \quad \hat{G}(\mathbf{a})_k + \hat{Q}_{1-\alpha}\sigma(\mathbf{a})_k \right]$$
交換可能性の下で、高次元の時空間出力全体が確率 $\geq 1-\alpha$ で同時に被覆されることが理論的に保証されている。

3. 主な貢献

• 摂動ベースのスケール: 基礎となるモデルと、摂動を加えたラベルで学習したモデルとの間の不一致から、適応的な不確実性スケールを直接導出する手法の導入。これにより、補助的な不確実性ネットワークを必要とせずに済む。
• データ効率性: 本手法はデータ希薄な領域向けに特別に設計されている。UQNOのように訓練データを分割する手法とは異なり、摂動法はベースモデルと摂動モデルの両方に適切な訓練セットの全容を使用するため、オペレーターの学習に利用可能な情報を最大化できる。
• 同時被覆: max型の非適合度スコアを使用することで、個々の点における周辺的な被覆ではなく、高次元の時空間出力全体にわたる有効な同時被覆を提供することを保証する。
• 安定化技術: 空間平滑化とフロア安定化の導入が、効率的な共形バンドを実現するために不可欠であることを示しており、孤立したゼロに近い不一致による不確実性推定の膨張を防いでいる。

4. 実験結果

実験は、固定された総ラベル予算1200軌跡を用いた2次元ナビエ・ストークス渦度ベンチマーク（$64 \times 64$ グリッド、10タイムステップ）に対して行われた。提案手法を以下の手法と比較した：

• MC Dropout: 分散推定のために推論時にドロップアウトを使用。
• Laplace Approximation: 対角成分の最終層近似。
• UQNO: 互いに素なデータの部分集合で学習された補助的な分位ネットワーク。
• Unscaled: 定数幅のバンド（$\sigma \equiv 1$）を持つベースライン。

知見:

• 効率性: 摂動ベースの手法は、ターゲットとする同時被覆を維持しながら、すべてのベースラインよりも大幅に狭い共形バンドを生成した。
  • $\alpha=0.04$ において、摂動法は平均半径 3.786 を達成した。これに対し、Unscaledは 4.192、Laplaceは 4.403、MC Dropoutは 8.530、UQNOは 16.784 であった。
  • UQNOに対する改善は特に顕著であり（半径を77.4%削減）、これは、別の不器用なネットワークを学習するためのデータ分割に伴うペナルティに起因する。
• アブレーション研究:
  • 空間平滑化: パフォーマンスに極めて重要である。平滑化を除去すると、平均半径は約3.8から約83.6へと増加した。
  • フロア安定化: 効率性の面では平滑化ほど重要ではないが、安定性のために必要である。これ単独での除去は、半径への影響は軽微であった。
• 感度: 手法は、摂動ノイズの大きさ（$c \in [0.02, 0.10]$）に対して頑健であり、この範囲内で被覆は公称ターゲットに近かった。
• 定性的分析: 得られた不確実性バンドは、物理的に複雑な領域（渦核、せん断層）で広がり、より滑らかな層流領域で収縮するという、予測タスクの難易度と一致する挙動を示した。

5. 意義と主張

本論文は、摂動感度が、共形化されたニューラルオペレーターにおける不確実性の実用的かつサンプル効率の高いプロキシ（代理指標）として機能することを主張している。主な意義は、不確実性の較正を補助的なモデリングから切り離したことにある。ほぼ同一のデータを用いて2つのモデルを学習させることで、二次的なネットワークに訓練データを犠牲にすることなく、適応的かつ同時的な被覆を実現している。

著者らは、これを、適切な訓練データを用いてほぼ同一の2つのモデルを学習できるのであれば、PDE以外の回帰問題にも適用可能な一般的なメカニズムとして位置づけている。このアプローチは、データが限られており、補助モデルの学習コストが高い場合に特に価値のある、データ効率の高い共形回帰の代替案を提供する。結果は、データが乏しい領域におけるオペレーター学習において、摂当ベースのスケーリングが、厳密な統計的保証を維持しつつ、既存の適応的手法（MC Dropout、Laplace、UQNO）よりもバンドのタイトさにおいて優れていることを示唆している。