技術要約：経験的ニューラルタンジェントカーネルを用いた極端気象予測のためのスケーラブルな不確実性定量化

1. 問題提起

ディープラーニングを用いた気象モデル（例：FourCastNetV2、Pangu-Weather、Aurora、AIFS）は、従来の数値予報（NWP）システムに匹敵する精度を達成しながら、それよりも数桁高速に動作している。しかし、これらのモデルの多くは決定論的な点予測のみを生成し、較正された不確実性の推定値を欠いている。このギャップは、極端な気象事象（熱帯低気圧、洪水など）が発生する際の高リスクな意思決定において、予測の信頼性を理解することが予測そのものと同じくらい重要であることから、極めて重大である。

既存の不確実性定量化（UQ）手法には、数十億パラメータを持つ基盤モデルに適用する際、以下のような大きな障壁が存在する：

• ディープアンサンブル（Deep Ensembles）： 巨大なモデルの複数のコピーを訓練する必要があるため、計算コストが極めて高い。
• ベイズ的手法（Bayesian Methods）： アーキテクチャの変更を必要とし、メモリや計算のオーバーヘッドが大幅に増大する。
• コンフォーマル予測（Conformal Prediction）： 分布に依存しない被覆保証を提供するが、予測区間の幅が一様になりやすく、実際の予測誤差や事象の深刻度と相関しない。そのため、極端な事象と日常的な条件を区別できない。

本論文は、再学習を必要とせず、学習済みチェックポイントに対して機能し、かつ事象の深刻度に応じて適応的な不確実性区間を生成できる、スケーラブルな事後（post-hoc）UQ手法の必要性に対処するものである。

2. 手法：NTK-UQ フレームワーク

提案されたフレームワークである Neural Tangent Kernel-based Uncertainty Quantification (NTK-UQ) は、凍結された学習済み気象モデルの最終層の特徴量を、経験的なニューラルタンジェントカーネル（NTK）として扱う。最終層のNTK–ガウス過程（GP）の対応関係に基づき、モデルは学習された特徴表現によって定義されるGPと見なされる。

本手法は以下の3つのフェーズで構成される：

2.1 最終層の特徴抽出

学習済みモデル $f_\theta = g_\psi \circ \phi_\omega$ に対して、数十年にわたるERA5再解析データから学習された最終層の特徴量 $\phi(x)$ を抽出する。これらの特徴量は、物理的に意味のある大気構造をエンコードしている。空間的な特徴マップに対しては、多変数統計量（平均、標準偏差、最小値、最大値、パーセンタイル）を用いた集計を行い、空間解像度に関わらず固定次元の特徴ベクトルを作成する。

2.2 カーネル分解とGP事後分布の構築

経験的カーネル $K(x, x') = \phi(x)^\top \phi(x')$ を構築する。大規模な較正セットに対してGP事後分散を計算可能にするため、中心化された特徴行列を分解する。本論文では、2つの分解戦略を比較している：

• 特異値分解 (SVD)： 最大分散の直交方向（二次統計量）を捉える。
• 独立成分分析 (ICA)： 高次統計量（尖度、ネゲントロピー）を利用して、統計的に独立したソースを分離する。

予測分散 $\sigma^2(x^*)$ は、以下のGP事後分布の公式を用いて計算される：
$$\sigma^2(x^*) = K(x^*, x^*) + \sigma_n^2 - k_*^\top (K + \sigma_n^2 I)^{-1} k_*$$
ここで、補正項は特徴空間におけるテスト入力と較正分布との類似性に依存する。

2.3 分解選択ルール

本論文では、固有スペクトル集中比 ($\rho = \lambda_1 / \sum \lambda_j$) に基づいて、SVDとICAのどちらを選択するかを決定するデータ駆動型のルール（アルゴリズム1）を提案している：

• 集中したスペクトル ($\rho > 0.8$)： スペクトル演算子（例：SFNO）に典型的。分散の崩壊を避けるため、積極的なランク削減（$k \le 10$）を伴うSVDが好ましい。
• 分散したスペクトル ($\rho < 0.5$)： アテンションベースまたはグラフベースのモデルに典型的。極端な気象に内在する非ガウス的でヘビーテイルな構造を利用するために、ICAが好ましい。
• 中間領域： 両方の手法が検証分割セット上で評価される。

2.4 事後較正

生のNTK不確実性は、目標とする被覆レベル（例：90%）を達成するために、変数ごと、リードタイムごとの係数 $\alpha$（バイナリサーチにより学習）を通じてスケーリングされる。これにより、予測区間が真値に対して較正されることを保証する。

3. 理論的洞察

本論文は、なぜUQの品質がアーキテクチャに依存するのかについて、理論的な分析を提供している：

• 分散の崩壊 (Proposition 1)： 削減ランク $k$ が特徴空間の実効ランクに近づくと、GPの補正項が事前分散のほぼすべてを消費してしまう。これにより、極端な事象と日常的な条件を識別する能力が失われる。本論文では、これを防ぐための診断基準 $R_k = C_k/P < 0.9$ を確立しており、集中したスペクトルを持つアーキテクチャには積極的なランク削減が必要であることを指摘している。
• 非ガウス的識別 (Proposition 2)： 極端な気象事象は、ヘビーテイルな非ガウス分布を示す。SVDは二次的な分散のみを捉えるが、ICAは高次統計量（尖度）を利用して稀な極端事象のシグネチャを分離する。これにより、ICAは事象の深刻度に応じて適応的な不確実性推定を生成することができ、これはSVDには欠けている能力である。

4. 実験結果

本フレームワークは、4つの多様なAI気象モデル（FourCastNetV2, Pangu-Weather, Aurora, AIFS）に対し、EM-DATデータベース（2021年）の100件の極端気象事象（熱帯低気圧、洪水、熱波を含む）を用いて評価された。

• 被覆率 (Coverage)： すべてのモデルは、事後スケーリング後に目標とする90%の被覆率（89–91%）を達成した。
• 分解性能：
  • ICA は、3つのモデル（AIFS, Aurora, FourCastNetV2）において適切な被覆率と低いCRPS（Continuous Ranked Probability Score）を達成した。ICAは高い変動係数（CV = 0.07–1.81）を持つ適応的な区間を生成し、熱帯低気圧を日常的な気象と正常に区別することに成功した。
  • SVD は、Auroraにおいて被覆率の達成に失敗し（58.1%）、より一様な区間（CV = 0.01–0.49）を生成したため、事象の深刻度を識別できなかった。
  • Pangu-Weather は例外であり、SVDが被覆を満たした一方でICAは失敗したが、両者ともに数値的不安定性を示した。
• コンフォーマル予測との比較： NTK-UQ（最適な分解を用いた場合）は、90%被覆において、分割コンフォーマル予測と比較して31–37%鋭い（シャープな）予測区間を達成した。決定的な違いとして、コンフォーマル予測は構造上一様な区間を生成するが、NTK-UQは極端な事象の深刻度に応じて適応的な区間を生成する。
• 空間的不確実性： 空間解像度を持つ特徴量（例：AIFS）を持つモデルにおいて、ICAは予測誤差の集中と相関する空間変動的な不確実性マップを可能にし、標的を絞った警告を可能にした。

5. 意義と主張

本論文は、以下の意義を主張している：

1. スケーラビリティ： NTK-UQはモデルの再学習やアーキテクチャの変更を必要とせず、あらゆる学習済み決定論的チェックポイントに適用可能である。推論のオーバーヘッドは極めて小さい（単一の行列・ベクトル積）。
2. 適応的識別能： コンフォーマル予測とは異なり、NTK-UQは気象事象の深刻度に応じて適当な不確実性区間を生成し、日常的な状況と極端な状況の間の実用的な識別を提供する。
3. アーキテクチャを考慮した設計： 本研究は、UQの品質が普遍的なものではなく、ニューラルアーキテクチャ（固有スペクトルの特性）と分解手法の相互作用に依存することを確立した。また、徹底的な実験を行うことなく適切なUQ戦略を選択するための予測的な診断法（固有スペクトル集中度）を提供している。
4. 運用的有用性： 本フレームワークは、リソース制約のある気象機関が、既存の高精度モデルに較正された不確実性推定を追加することを可能にし、災害対策のための信頼できる予測への障壁を下げる。

著者らは、限界事項として、近似への依存（最後の層のNTK-GPの対応関係は無限の幅においてのみ厳密に成立する）や、評価が単一のOut-of-Distribution（分布外）年（2021年）に限定されていることを挙げている。しかし、実験結果は多様なアーキテクチャにわたって理論的予測を一貫して検証している。