Geometry-Aware Uncertainty Quantification via Conformal Prediction on Manifolds

技術要約：多様体上の共形予測による幾何学的認識型不確実性定量化

問題提起
共形予測（Conformal Prediction, CP）は、回帰タスクに対して有限サンプルかつ分布に依存しない被覆保証を提供する。しかし、標準的なCPの構成はユークリッド出力空間を対象として設計されており、ユークリッド残差と座標ベースの領域を利用している。応答変数 $Y$ がリーマン多様体（例：地磁気方向のための単位球面 $S^2$、タンパク質の角度のためのトーラス、宇宙機の姿勢のための回転群など）上に存在する場合、これらの標準的なアプローチは、応答空間の固有の幾何学を尊重できず失敗する。

これには主に2つの問題がある：

1. 幾何学的ミスマッチ： 標準的な残差はしばしば座標ベースの距離（例：緯度・経度）に依存する。曲がった空間では、これらの距離は応答間の本質的な差異ではなく、選択されたチャート（座標近傍）に依存する。例えば、球面上の固定幅の座標長方形は、緯度によって面積が変化する（極付近で縮小する）が、固定された固有半径を持つ測地線キャップは、場所に関わらず一定の面積を維持する。
2. 不等分散性（ヘテロセダスティシティ）： 予測の困難さは、入力空間全体で一定であることは稀である。地磁気予測のようなタスクでは、地域によって変動率が大きく異なる。一定幅の予測集合は、「容易な」領域では過剰に被覆し、「困難な」領域では不足する傾向がある。ユークリッド回帰では、局所的な困難さの推定値を用いて残差を正規化することでこれに対処するが、既存の多様体値CP手法は、この概念を固有の幾何学へと明示的に適応させてこなかった。

手法
著者らは、分割共形予測（split-conformal prediction）の設定内で、固有の幾何学と局所的な適応性を統合したフレームワークである**適応型測地線共形予測（Adaptive Geodesic Conformal Prediction）**を提案する。

• 設定： データは、訓練セット ($D_{tr}$)、較正セット ($D_{cal}$)、およびテストセットに分割される。基底点予測器 $\hat{y}: \mathcal{X} \to \mathcal{M}$ と困難さ推定器 $\hat{\sigma}: \mathcal{X} \to \mathbb{R}^+$ は、$D_{tr}$ のみを使用して訓練される。
• 非適合度スコア（Nonconformity Scores）： 本手法は3つのスコアリング戦略を比較する：
  1. ナイーブ座標（Naive Coordinate）： 球面座標における $L_\infty$ 距離を使用し、軸に平行な長方形を生成する。
  2. 標準測地線（Standard Geodesic）： 未正規化の測地線距離 $s_{geo}(x, y) = d_{geo}(\hat{y}(x), y)$ を使用し、一定半径の測地線球（球面キャップ）を生成する。
  3. 適応型測地線（Adaptive Geodesic - 提案手法）： スコアを $s_{adapt}(x, y) = d_{geo}(\hat{y}(x), y) / \hat{\sigma}(x)$ と定義する。
• 困難さの推定： 推定器 $\hat{\sigma}(x)$ は、$D_{tr}$ 上の5分割交差検証を通じて、基底モデルの測地線残差を予測するように訓練される。これは、有効な共形保証を確保するために、較正ラベルへのアクセスなしで訓練される。
• 予測領域： テスト点 $x$ に対して、予測集合は $\hat{y}(x)$ を中心とし、共形分位点 $\hat{q}_\alpha$ によって局所的な困難さでスケールされた半径を持つ測地線球となる：$C(x) = B_{geo}(\hat{y}(x), \hat{q}_\alpha \cdot \hat{\sigma}(x))$。これにより、予測領域は困難な領域では拡大し、容易な領域では縮小しながら、測地線キャップの形状を維持することができる。

主な貢献

1. 幾何学を認識した領域： 本手法は測地線距離を用いて予測集合を構築するため、予測集合の面積が多様体の計量と一致することを保証し、座標ベースのアプローチに内在する歪みを回避する。
2. 局所適応型較正： 適切な訓練データのみから訓練された共変量依存の困難さ推定値で残差をスケーリングすることにより、較正ラベルをモデル適合に使用することなく、局所的な予測の困難さに合わせて領域サイズを適応させる。
3. 実証的検証： 本手法は、合成球面データおよび実世界の地磁気予測タスクによって検証され、条件付き被覆の均一性と最悪ケースの被覆率を向上させつつ、周辺被覆保証を維持することを実証している。

実験結果
本論文では、2つのベンチマークを用いて手法を評価している：不均一なノイズを持つ合成球面、および IGRF-14 地磁気予測タスク。

• 合成球面 ($S^2$)：
  • すべての手法が、公称の 0.90 レベル付近で有効な周辺被覆を達成した。
  • 適応型測地線法は、標準測地線法と比較して、条件付き被覆の標準偏差を 19% 低減させた。
  • 最悪ビン被覆率は、0.814（標準）から 0.839（適応型）へと改善した。
  • ナイーブ座標法は、測地線法と同等の被覆率を得るために、約 26% 多くの面積を必要とした。これは座標歪みのコストを浮き彫りにしている。
• IGRF-14 地磁気予測：
  • このタスクは、$S^2$ 上の地磁気ベクトルを 352 の地点で予測するものであり、自然な不均一な秒変化（困難さが 274 倍の範囲で変動）を伴う。
  • 困難さ推定器は、実際の残差との間でピアソン相関係数 $r=0.516$ を示した。
  • 適応型測地線法は、条件付き被覆の標準偏差を大幅に減少させた（標準測地線法の 0.107 に対し、適応型は 0.031）。
  • 最悪ビン被覆率は、0.689（標準）から 0.855（適応型）へと大幅に増加した。
  • 標準測地線法は、磁場の進化が最も速い赤道付近の領域で被覆不足になることが判明したが、適応型は緯度に関わらず公称目標に近い被覆を維持した。

意義と主張
本論文は、提案手法が多様体値回帰における不確実性定量化のための実用的な解決策を提供すると主張している。その意義は、2つの補完的な選択の組み合わせにある：

1. 適応性： $\hat{\sigma}(x)$ によるスケーリングにより、困難さが異なる領域間でも適合度スコアを比較可能にする。
2. 幾何学： 測地線キャップを使用することで、予測集合の面積が多様体の計量と一致することを保証し、座標ベースのアプローチに内在する歪みを回避する。

著者らは、適応型手法の有効性が困難さ推定器の質と相関していることを指摘している。IGRF-14 の実験では、$r=0.516$ という相関が大幅な改善をもたらした。彼らは、推定された困難さと実際の誤差との相関が弱い場合（例：0.15 未満）、標準的な測地線法の方が好ましい可能性があると示唆している。本研究は、すべての多様体回帰問題を解決することを目的としているのではなく、応答空間が曲がっており、予測の困難さが空間的に変化するケースに対する堅牢なフレームワークを提供することを目指している。今後の方向性として、非交換型データへの拡張や、方向依存の不確実性のための異方性領域の探索が挙げられている。