技術的概要：フローベースのコンフォーマル予測分布

問題定義

コンフォーマル予測は、保証された有限サンプルのカバレッジを持つ予測集合 $C_\alpha(x)$ を生成することにより、不確実性定量化（UQ）のための分布フリーな枠組みを提供する。低次元空間（集合を区間で表現可能）では効果的であるが、コンフォーマル手法は、画像、場、演算子などの高次元または構造化された出力空間において重大な課題に直面する。これらの領域では、予測集合は非適合スコアの副レベル集合として暗黙的に定義されるため、表現、可視化、あるいは確率予測、リスク推定、シミュレーションなどの下流タスクでの利用が困難である。

これらの集合を表現したり、分布へと持ち上げたりする既存の試み（予測バンド、生成モデル、または最適輸送（OT）マップなど）は、データの非効率性、高い計算コスト、次元に対するスケーラビリティの欠如、あるいは強力な単純化仮定への依存といった制限を有する。さらに、標準的なコンフォーマル手法は、期待値の計算や稀な事象のシミュレーションなどのタスクで頻繁に必要とされる単一の予測分布を本質的に提供しない。

手法

本論文は、決定論的フローを用いてコンフォーマル予測集合を扱いやすい予測分布に変換する構築法である**フローベースのコンフォーマル予測分布（CPDs）**を提案する。

1. 非適合フロー

中核的な革新は、微分可能な非適合スコア $S(x, y)$ によって誘導される連続時間力学系である非適合フローの定義にある。目標とするカバレッジ外れレベル $\alpha$ と対応するコンフォーマル閾値 $\tau_\alpha$ が与えられたとき、この手法は出力空間 $Y$ 上の常微分方程式（ODE）を定義する：
$$y'(t) = v_\alpha(y(t))$$
ベクトル場 $v_\alpha$ は、「スコアコントローラー」方程式を満たすように導出される：
$$S'(y(t)) = -\lambda(S(y(t)) - \tau_\alpha)$$
これにより、軌道のスコアが目標閾値 $\tau_\alpha$ に向かって線形に進化することが保証される。ベクトル場に対して最小ノルム解を選択することで、フローは明示的に以下のように定義される：
$$v_\alpha(y(t)) = -\lambda(S(y(t)) - \tau_\alpha) \frac{\nabla S(y(t))}{\|\nabla S(y(t))\|_2^2}$$
このフローはトレーニングフリーであり、追加のモデリング、生成トレーニング、または輸送マップの学習を必要としない。これは、既存の非適合スコアの勾配のみに依存する。

収束特性：
著者らは、緩やかな正則性条件（微分可能性と非消滅勾配）の下で、フロー軌道がコンフォーマル境界 $\partial C_\alpha(x) = \{y : S(x, y) = \tau_\alpha\}$ へ大域的かつ指数関数的に高速に収束することを証明した。収束率は次元に依存せず、勾配の大きさとフロー速度パラメータ $\lambda$ のみによって決まる。

2. コンフォーマル予測分布（CPDs）

集合から分布へ移行するために、著者らは信頼度レベル間での混合を提案する。コンフォーマル予測分布 $P_x^{CPD}$ は、以下の手順で構築される：

1. 混合測度 $\pi$（通常は Uniform(0,1)）から信頼度レベル $\alpha$ をサンプリングする。
2. 基底測度 $\mu_x$（例：較正データ）から初期点 $y_0$ をサンプリングする。
3. 非適合フロー $\Phi_\alpha$ を用いて $y_0$ を進化させ、境界 $\partial C_\alpha(x)$ に到達するまで進行させる。

この構成により、すべての経験的コンフォーマル集合 $C_{\alpha_k}(x)$ が正確な量子領域となる分布が得られる。この手法は $\pi$-許容であり、尤度モデルやパラメトリック仮定を必要とせずにコンフォーマル濾過を尊重する。

3. 理論的 bound

本論文は、真の条件付き分布と CPD 間の Wasserstein-2 距離（$W_2$）に対する近似 bound を提供する。誤差は以下の 3 つの成分に分解される：

1. スコア誘起歪み： 真の分布をコンフォーマル濾過へ輸送するコスト（スコアのレベル集合がデータ密度とどの程度整合するかに依存）。
2. 基底測度の質： 初期化分布 $\mu_x$ と真の条件付き分布との距離。
3. 勾配フロー誘起歪み： 直接の直交射影ではなく勾配フロー経路を追跡することによって導入される誤差。これはスコア勾配経路の曲率によって制御される。

主要な貢献

• スケーラブルな境界サンプリング： 勾配フローを用いて任意の次元におけるコンフォーマル予測集合の境界をサンプリングするための、計算効率が高くトレーニングフリーなメカニズム。
• 構築的 CPDs： 生成トレーニングや最適輸送を必要とせず、正確な量子領域として保証されたコンフォーマル集合を予測分布へ持ち上げる手法。
• 理論的保証： コンフォーマル境界への指数関数的収束の証明と、予測誤差を解釈可能な幾何学的項に分解する近似 bound。
• 制御された稀な事象サンプリング： 混合測度 $\pi$ を調整することで特定の信頼度レベル（極端な尾部を含む）をターゲットにでき、稀な事象の制御されたシミュレーションを可能にする能力。

実験結果

著者らは、多様な構造化回帰タスクにおいてこのアプローチを評価した：

• タスク： 2 次元ガウス過程回帰、楕円型偏微分方程式の逆問題、ナビエ - ストークス方程式の解の近似、降水のダウンスケーリング、気候モデルのバイアス除去、およびハリケーン経路予測。
• ベースライン： MC ドロップアウト、ディープアンサンブル、平均分散ネットワーク、条件付きフローマッチング、混合密度ネットワーク、および Implicit Quantile Networks と比較。
• 指標： エネルギー距離（ED）、対数スペクトル距離（LSD）、および局所最大平均不一致（MMD）を用いて評価。

知見：

• 収束： 非適合フローは、すべての次元において滑らかなスコア（例：$\ell_2$、Huber、ガウス尤度）に対して許容範囲内で目標レベル集合へ収束した。非滑らかなスコア（例：$\ell_1$、kNN）は収束の問題を示した。
• 分布の質： CPDs は、ベースラインと比較して競争力のある ED スコアを達成し、LSD および MMD スコアを大幅に低減した。これは、大規模な構造と微細な変動の両方とのより良い整合性を示している。
• スペクトル忠実度： しばしば過度に平滑化するか高周波ノイズを注入するベースラインとは異なり、CPDs はターゲットプロセスのスペクトル形状を保持した。
• 稀な事象： ハリケーン経路予測において、CPDs は低い信頼度レベルをターゲットにすることで、妥当な極端な経路を生成し、制御可能な稀な事象シミュレーターとしての有用性を示した。スコア関数の選択（例：幾何学的対数距離対ユークリッド距離）は、これらの極端なサンプルの物理的な妥当性に大きな影響を与えた。

意義と主張

本論文は、非適合フローが、コンフォーマル予測集合の表現と予測分布の生成に関する既存の手法に対するスケーラブルでトレーニングフリー、かつ計算効率の高い代替手段を提供すると主張している。非適合スコアの幾何学を利用することで、この手法は最適輸送の計算ボトルネックと生成アンサンブルのデータ制限を回避する。

著者らは、CPDs を、正確な有限サンプルのカバレッジ保証を維持しつつ、下流の統計タスクに必要な柔軟性を提供する、厳密な分布フリーな確率予測アプローチとして位置づけている。彼らは限界を認め、この手法は完全な境界探索を保証しない（許容されるサンプルの一部を見逃す可能性がある）こと、およびスコアの微分可能性に依存することを指摘している。しかし、データ多様体への準拠が望まれる予測タスクにおいては、フローベースのアプローチが堅牢で実用的な解決策を提供すると論じている。