技術要約：オペレーターモデルのための局所適応型コンフォーマル推論

問題提起

オペレーターモデルは、バナッハ空間の関数間の写像（$\Gamma: \mathcal{F} \to \mathcal{G}$）を行う回帰アルゴリズムであり、時空間予測、物理エミュレーション、および偏微分方程式（PDE）近似において広く用いられている。これらのアプリケーションにおける重要な課題は、**不確実性の定量化（UQ）**である。スカラー回帰とは異なり、オペレーターモデルにはスカラー区間ではなく、関数値の予測集合が必要となる。

標準的なコンフォーマル予測（CP）は、データのグローバルな交換可能性（global exchangeability）を前提としている。しかし、現実世界の関数データ（例：気候、エネルギー需要、天候）においては、この仮定が非定常性、季節的なドリフト、および入力構造の変化によって頻繁に破られる。既存の適応型CP手法は、重み付きのキャリブレーション・スコアや分位数の修正によって非定常性に対処しているが、これらは通常、グローバルなスコアの幾何学（例：残差ノルム）を仮定している。このアプローチは、関数的な残差に対しては、不確実性が異方的かつ構造的であるため、失敗する。ノルムに基づくスコアは、真の残差の変動の形状と一致しない球状の予測領域を生成してしまう。

手法：局所スライス型コンフォーマル推論（LSCI）

著者らは、局所適応型の関数値予測集合を生成する分布フリーの枠組みである局所スライス型コンフォーマル推論（LSCI）を提案している。分位数を局所化する従来のメソッドとは異なり、LSCIはコンフォーミティ・スコアの分布自体を局所化する。

コア構成要素

1. 局所交換可能性フレームワーク:
   本手法は、残差プロセスが局所的に交換可能である（Campbell et al., 2019）と仮定する。これは、グローバルな分布はドリフトする可能性があるものの、類似した入力（前距離空間における）に関連する残差は、近似的に交換可能な分布を共有することを意味する。

2. $\Phi$-深さ（$\Phi$-Depth）スコア:
   LSCIは、スカラーノルムの代わりに、関数データ深さ（functional data depth）を用いて残差の中心性を測定する。具体的には、投影ベースの深さである$\Phi$-深さ（Mosler & Polyakova, 2012）を使用する。

   • 残差 $r$ は、一連の線形汎関数 $\Phi$（例：ランダムなガウス・スライス）上に投影される。
   • 深さは、これらの投影における単変量深さ（例：Tukeyの半空間深さ）のインフィマム（下限）として定義される：
     $$D_\Phi(r | P) = \inf_{\phi \in \Phi} D(\phi(r) | \phi(P))$$
   • これにより、スコアは等方的な（球状の）幾何学を強制することなく、局所的な残差クラウドの異方的な形状に適応できる。

3. 局所スコアの構築:
   テスト入力 $f_{n+1}$ に対して、LSCIは類似性重みに基づいてテスト固有の経験的残差分布を構築する。

   • ノックオフ局所化（Knockoff Localization）: 有限標本の保証を維持するために、重みはテスト入力自体ではなく、テスト入力の統計的ノックオフ（$\tilde{f}_{n+1} = f_{n+1} + \epsilon$）とテスト入力の間の距離に基づいて計算される。
   • 特徴マップ: 局所化は、生の入力空間、または意味的な類似性を捉えるための学習済み/変換された特徴空間（例：FPCA、フーリエモード）で行われる。
   • スライス分散正規化: 異分散性を扱うために、投影されたスライスは深さ計算の前にテスト固有の重みを用いて再スケールされる。

4. 予測集合の形成:

   • 手法は、局所的なコンフォーミティ・スコアを計算する。
   • 閾値は、これらの局所スコアの $k$ 番目の順序統計量によって決定される（ここで $k = \lfloor \alpha(n+1) \rfloor$）。
   • 予測集合は、残差が局所的な深さ分布の対応する中心領域内に位置する関数の集合として定義される：
     $$C_\alpha(f_{n+1}) = \{ \hat{\Gamma}(f_{n+1}) + r : D_\Phi(r | \hat{P}_{n+1}) \geq q_\alpha(f_{n+1}) \}$$

5. サンプリング:
   予測集合は関数空間の暗黙的な部分集合であるため、著者らは局所適応型関数主成分分析（FPCA）基底を用いたサンプリングアルゴリズム（Algorithm 1）を採用している。サンプルは、重み付けされた投影座標に対する逆変換サンプリングを介して抽出され、深さの閾値の外側にある場合は棄却される。

理論的保証

本論文は、局所交換可能性の下での有限標本妥当性を確立している。

• 被覆境界: 著者らは、被覆ギャップのデータ依存の上限を導出している。このギャップは、残差の結合分布とその置換の間の全変動距離によって制御され、これは入力の前距離によって抑えられる（Proposition 3.1）。
• 妥当性: 完全な交換可能性の下では、本手法は正確な周辺被覆を達成する。局所的な交換可能性の下では、残差プロセスが入力の前距離に対して滑らかに変化する場合、被覆率は公称レベル $1-\alpha$ に近い状態を維持する。

実験結果

著者らは、合成ガウス過程タスク、および3つの実世界のアプリケーション（大気質モニタリング（PM2.5）、エネルギー需要予測、および気象予測（ERA5気温））においてLSCIを評価した。

• 合成タスク: LSCIは、様々な局所化カーネル、特徴マップ、およびバンド幅において、公称に近い被覆率を達成した。また、ハイパーパラメータの選択に対する堅牢性を示した。
• ベースラインとの比較: 標準的なコンフォーマル・ベースライン（Conf）、コンフォーマル化された統合バンド（Supr）、およびディープ・オペレーターモデル（PONet, QONet, UQNO）と比較して、LSCIは有効な被覆を維持しながら、一貫してよりタイトな予測集合（より低いInterval ScoreおよびBand Width）を生成した。
  • 異分散の設定において、LSCIは局所的な分散構造に適応したが、グローバルな手法は過剰な被覆（保守的）になるか、あるいは過小な被覆になるかのいずれかであった。
• 実世界アプリケーション:
  • Weather-ERA5: LSCIは、グローバルな閾値が平均化してしまう季節的および地域的な誤差構造を捉え、非適応型の手法と比較して大幅に低いインターバル・スコアを実現した。
  • 堅牢性: LSCIは、ベースライン手法が失敗したり、過度な区間拡大を必要としたりするような、バイアスのある予測や特定の分布外（OOD）ノイズ体制に対しても、レジリエンス（回復力）を示した。
• 空間的適応性: 可視化により、LSCIのバンドが局所的な残差の異方性と季節性に一致するように変形することが確認された。これは、物理的な実態に即した関数値の不確実性を提供している。

意義と主張

本論文は、LSCIが以下の点でオペレーター学習における重要な進歩であると主張している。

1. ギャップの解消: 標準的なノルムベースのスコアが機能しない関数データに対し、コンフォーマル推論を適用することに成功した。
2. スコアレベルでの局所化: 単に分位数を局所化するのではなく、スコアの幾何学を局所化することで、LSCIは既存の適応型CP手法よりも正確に不確実性の形状をモデル化できる。
3. 分布フリーの保証: 非定常な環境においても、局所交換可能性が成立する限り、コンフォーマル推論の厳密な分布フリーの有限標本保証を保持している。
4. 実用的な有用性: 本手法は、グローバルな信頼性の評価と、不確実性が集中している領域の特定を可能にする関数値の予測集合を実務家に提供する。これは、高リスクの科学的および工学的応用において極めて重要である。

限界

著者らはいくつかの限界を認めている。

• 計算オーバーヘッド: テスト時の局所化およびサンプリング（特に高解像度のフィールドの場合）は計算コストを増大させるが、バッチ処理やGPU評価によって軽減可能である。
• 暗黙的な集合: 予測集合は深さを通じて暗黙的に定義されるため、実用にはモンテカルロ・サンプリングに依存する。実験では安定しているが、複雑または高解像度のフィールドでは、アーティファクト（例：過度に集中したサンプル）を避けるために改善されたサンプリングメカニズムが必要になる可能性がある。
• 滑らかさの仮定: 本手法は、条件付き分布が滑らかに変化することを仮定している。急激な変化やチェンジポイントがある場合、局所カーネルによってオーバー・スムージング（過度な平滑化）される可能性があり、それらの領域における適応性が低下する場合がある。