技術的概要：確率的な気候ティッピングダイナミクスのエミュレーションのための深層学習代理モデル

問題定義

地球システムにおける急激な状態変化（ティッピングポイント）の予測は、非線形力学系が初期条件、フィードバックループ、および内在的なカオスに対して示す感度によって阻害されている。完全に解像された数値モデルは物理的な整合性を提供するが、その計算コストと十分に制約されていないパラメータにより、アンサンブルベースの不確実性定量化やパラメータ推論における有用性が制限されている。低次モデル（ROM）は一部の計算負担を軽減するが、依然としてティッピング挙動を体系的に特徴づけること、または急激な遷移を起こしやすい領域を特定するために必要な初期条件の複雑な探索空間を網羅的に探索することに苦慮している。さらに、従来の統計的早期警戒シグナル（例：臨界減速）は普遍的に適用可能ではなく、既存の深層学習アプローチは、遷移の正確なタイミングを局所化することや、気候ティッピングダイナミクスに内在する確率的変動を処理することに失敗することが多い。

手法

著者は、計算集約的な地球システムシミュレーションをエミュレートするデータ駆動型の代理モデルとして、力学に情報を与えられたTemporal Fusion Transformer（TFT）を提案する。本研究は、6 ボックスモデル（大西洋、太平洋、南極、深海が結合されたモデル）と 4 ボックスモデル（大西洋のみ）という 2 つの理想化されたボックスモデルを用いて、経向循環（MOC）、特に大西洋（AMOC）と太平洋（PMOC）の成分に焦点を当てている。

データ生成

訓練データは、ボックスモデル方程式を 0.25 年の時間ステップで数値的に積分することで生成された。遷移タイミングにおける確率的変動をシミュレートするため、各時間ステップにおいて淡水フラックス項に加法性ガウスノイズ（$\xi(t) \sim N(0, \sigma^2)$、ただし $\sigma = 10^5 \, m^3/s$）を導入した。

• 4 ボックスデータセット: 訓練用 6,000 件、テスト用 401 件、検証用 401 件のシミュレーション。
• 6 ボックスデータセット: 140 万件のシミュレーションを生成し、そのうち 1,000 年以内に少なくとも 1 回の崩壊を示す 24,909 件を訓練用に選択した。
• 入力: モデルは静的共変量（モデルパラメータ、初期条件）と時間変化する共変量（状態変数、外部強制力）を入力とする。確率的実験では、加法性ノイズの実現値を訓練中に将来既知の共変量として扱い、代理モデルが特定のノイズ系列に基づいて予測を条件付けできるようにした。

アーキテクチャの修正

著者は、長期のカオス的予測に適するように標準的な TFT アーキテクチャを修正した。

1. 自己注意層の除去: 計算コストを削減するため自己注意層を省略し、代わりにゲート付き残差ネットワーク（GRN）と変数選択メカニズムを備えた多層 LSTM エンコーダ・デコーダバックボーンに依存した。
2. 代替損失関数: 6 ボックスデータセットでは、ネイティブな分位損失を**ソフト-DTW（Dynamic Time Warping）**損失に置き換えた。位相の不一致を厳しく罰する平均二乗誤差（MSE）とは異なり、ソフト-DTW は遷移タイミングのわずかな変動を許容しつつ、軌道の形状と振幅を保持する滑らかな損失面を提供する。
3. 確率的強制力の処理: 加法性淡水フラックス摂動を時間変化する共変量として入力し、モデルが確率的強制力下での崩壊時間の分布を学習できるようにした。

主要な貢献

• 代理モデルの開発: 数千の時間ステップにわたる全球海洋輸送を記述する多変量時系列を予測できる、修正された TFT 代理モデルの作成。
• 確率的不確実性の捕捉: AMOC/PMOC の崩壊のタイミングだけでなく、アンサンブル予測における遷移時間の確率分布も再現する能力。これにより、システムに内在する確率的不確実性を捉えている。
• 計算効率: 代理モデルは、すべての入力パラメータおよび初期条件に関する微分可能性を維持しつつ、数値シミュレータに対して465 倍の高速化を達成した。
• 高忠実度予測: モデルは高い相関で崩壊のタイミングを正確に予測し、確率的強制力下での遷移時間の確率分布を再現することに成功した。

結果

4 ボックスモデルのパフォーマンス

• 代理モデルは、テストケースの98.5%（395/401）で崩壊イベントを正しく予測した。
• 自己回帰的なロールアウトにおいて、モデルは約 10 年のタイミング誤差で 140 年付近の崩壊イベントを予測した。
• モデルは数世紀にわたる時間軸において安定性を維持し、変数全体にわたって目標の進化を密に追跡した。

6 ボックスモデルのパフォーマンス

• 崩壊の同定: 代理モデルは、389 件の大西洋崩壊事例の**97.7%**で崩壊を正しく同定した。
• タイミングの相関: 予測された崩壊時間と真の崩壊時間のピアソン相関係数は0.934であった。
• アンサンブル忠実度: アンサンブル実験（軌道あたり 1,000 件のノイズ実現）において、代理モデルはシミュレータの崩壊時間分布と密に一致した。予測された平均崩壊時間と真の平均崩壊時間の相関は、大西洋で0.987、太平洋で0.977であった。崩壊時間の標準偏差の相関は、大西洋で0.964、太平洋で0.971であった。
• ベンチマーク: 修正された TFT は、自己回帰的なロールアウトにおいて、iTransformer、TiDE、Mamba、SegRNN などの最先端アーキテクチャを上回った。特に安定性の維持と崩壊タイミングの捕捉において優れていた。他のモデルは長期的な時間軸において発散する軌道や無効な指標（NaN）を生成することが多かったのに対し、TFT は競争力のある RMSE と優れたアライメントスコア（ソフト-DTW）を維持した。

計算ベンチマーク

1,000 件のティップ事例（ランダムシミュレーションの約 1.5% に相当）を生成するには、約 67,000 件のシミュレーションが必要となる。

• 数値シミュレータ: 単一 CPU コアで約 31 時間。
• TFT 代理モデル: 単一 H100 GPU で約 4 分。
  この高速化により、そうでなければ計算的に実行不可能であったアンサンブルベースの不確実性定量化とパラメータ推論が可能となった。

意義と主張

本論文は、学習された代理モデルがパラメータおよび初期条件の空間から、誘発される崩壊時間分布へのロバストなマッピングを提供すると主張している。遷移時間の 1 次および 2 次統計の両方を捉えることで、このモデルは状態空間における力学の幾何学に対する暗黙的な理解を示している。

この研究の意義は以下の点にある。

1. 逆問題の解決: パラメータおよび初期条件に関する代理モデルの微分可能性により、勾配ベースのデータ同化や感度分析が可能となり、これらは勾配フリー法よりも効率的である。
2. スケーラビリティ: 計算の高速化により、ティッピングポイント挙動の研究における実行可能な分析の範囲が拡大し、フルオーダーまたは低次数値モデルでは現在実行不可能なパラメータ空間やノイズ実現の探索を可能にする。
3. アーキテクチャへの洞察: 結果は、適切な損失関数（ソフト-DTW）と変数選択と組み合わされた LSTM ベースのアーキテクチャが、カオス系における長期予測に適しており、真のアトラクターに相当する潜在状態空間のトポロジーを学習する可能性があるという実証的証拠を提供する。

著者は、バタフライ効果とシミュレーションの確率的性質により、代理モデルが任意の精度で真実をエミュレートすることはできないと結論づけているが、ティッピングイベントの統計的分布を高い忠実度で再現する能力は、気候科学における早期警戒および予測応用にとって貴重なツールであると述べている。