MarsCast: Transfer Learning of AI Weather Foundation Models to Planetary Atmospheres

技術要約：MarsCast – 地球型AI気象基盤モデルの他惑星大気への転移学習

問題提起
近年の機械学習の進展により、GraphCastのような地球ベースの気象基盤モデルが、従来の数値予報モデル（NWP）に代わる、計算上の大きな利点を持つ地球の最先端の気象予測ツールとして確立されている。しかし、これらのモデルを地球以外の惑星環境に適用できるかどうかは、未だ解明されていない。火星の大気は、薄いCO₂主体の組成、地球より2桁低い表面気圧、そして強い日変化、季節的な質量交換、塵エアロゾルによる加熱によって駆動される独特なダイナミクスといった、明確に異なる課題を提示している。従来の火星全球気候モデル（MGCM）は物理的に包括的ではあるが、計算負荷が高いため、迅速な予測やアンサンブルによる不確実性の定量化には適していない。本研究が取り組む中心的な問いは、「地球で訓練された大気基盤モデルを、物理特性や組成が根本的に異なる惑星環境に転移させることができるのか」、そして「もし可能であるならば、ゼロショット適用における限界は何か、またそれらをどのように克服できるのか」という点である。

手法
本研究では、地球のERA5再解析データで事前学習されたグラフニューラルネットワーク（GNN）気象予測モデルであるGraphCastを、火星の大気ダイナミクスをシミュレートするために適応させている。手法は以下の2つのフェーズで進行する：

1. データ準備と前処理：

   • ソースデータ： Mars Climate Database (MCD) を使用し、2メートル気温、地表温度、および13の垂直圧力レベル（50–1000 Pa）における大気変数を含む全球大気場、ならびにトップ・オブ・アトモスフィア（TOA）太陽放射強制力を取得した。
   • 再スケーリング： 事前学習済みのGraphCastの重みとの数値的一貫性を維持するため、火星の温度場を線形変換を用いてERA5データセットの動的範囲に一致するように再スケーリングした。
   • 変数処理： モデルの入力には、2メートル気温、10メートル風成分、および13層における3次元風・温度場を含めた。重要な点として、温度変動を分離し次元を削減するために、湿度は全地球平均値に固定した。また、ランドシーマスクは1に設定した（火星を完全に陸地として扱う）。
   • 時間サンプリング： 日変化を捉えるために00, 06, 12, 18時でサンプリングを行い、季節サイクルは太陽経度（$L_s$）によって表現した。

2. 実験設計：

   • ゼロショット評価： 地球で学習されたダイナミクスを火星へ汎化させる能力を評価するため、再学習なしでGraphCastを自己回帰的に適用した。
     تعتبر。
   • ファインチューニング戦略： AdamWオプティマイザ（学習率 $1 \times 10^{-6}$）と平均二乗誤差（MSE）損失を用いた、ターゲットを絞ったファインチューニング手法を採用した。エンコーダ、プロセッサ、およびデコーダを適応させるため、モデルの重みをアンフリーズ（凍結解除）した。訓練には、太陽放射強制力によって駆動される日中の加熱と冷却を学習するために、連続する時刻のトリプレット（例：$T_{00}, T_{06} \rightarrow T_{12}$）を用いた。
   • 感度分析： 訓練期間（最大約1000エポック）およびサンプルサイズ（30日、100日、360日のサブセット）のバリエーションにわたる性能を評価した。

主な貢献

• 転移可能性の実証： 本研究は、地球で訓練された基盤モデルが火星の大気ダイナミクスをシミュレートするために適応可能であることを示す初めての証拠を提供し、従来の惑星AIモデルで試みられてきた「ゼロからの（from-scratch）」学習アプローチを超えた道筋を示した。
• ゼロショットの失敗モードの特定： 地球訓練済みモデルがゼロショットシナリオにおいて、気候平均へと急速に減衰し、日変化を完全に再現できなくなるという具体的な失敗特性を明らかにした。
• 効率的な適応プロトコル： 最小限のデータ（わずか30日分の訓練サンプル）と計算リソース（単一GPUでの数時間）で、惑星の熱力学を迅速に学習できるファインチューニング・プロトコルを確立した。
• オープンソースモデル： 得られたファインチューニング済みモデル「MarsCast」は、そのアーキテクチャおよびチェックポイントと共に、GitHubおよびHugging Faceを通じて公開されている。

結果

• ゼロショット性能： ファインチューニングを行わない場合、GraphCastは識別可能な空間パターンを生成したものの、日変化を捉えることはできなかった。予測は急速に気候学的平衡へと崩壊し、地球特有の放射バランスおよび熱力学的仮定が火星には汎化しないことを示した。
• ファインチューニングによる迅速な学習：
  • 日変化サイクル： わずか10エポックの訓練で、ファインチューニングされたモデルは火星の日中の加熱および冷却サイクルを捉え始めた。
  • 精度： 約1000エポック後、モデルは太陽放射強制力と整合する日変動を再現し、ほとんどの場所で誤差は±2 K未満に減少した。
  • データ効率： モデルは高いデータ効率を示し、MCDの小さなサブセットから惑星のダイナミクスを効果的に学習した。
• 垂直および季節構造：
  • 垂直プロファイル： MarsCastは13レベルの垂直温度プロファイルを正常に再現し、中層大気（250–800 Pa）においてMCDと強い一致を示した。下層および上層大気では誤差がやや高かったが、主要な勾配は保持されていた。
  • 季節性： モデルは4つの代表的な季節（$L_s = 60^\circ, 150^\circ, 240^\circ, 330^\circ$）にわたって予測スキルを維持し、季節依存性を正確に捉えた。
• 風の予測： 最終的なファインチューニング段階で風変数を追加したところ、モデルは南北風および東西風の両方を予測することに成功し、風速の差は最初の48時間において概ね±4 m/s以内であった。

意義と主張
本論文は、本研究の主要な意義は、地球の気象基盤モデルを惑星科学に適応させる実現可能性を示すことにあり、AIによって拡張された迅速な気象予測への経路を提供することにあると主張している。著者らは、このアプローチの3つの具体的な利点を強調している：

1. 速度： 予測生成は、完全な物理MGCMを実行するよりも数桁速い。
2. 計算効率： 10日間の1°解像度の予測生成には、単一のGPUで約2分を要する。これは、より粗い5°解像度の物理ベース予測が単一のCPUで30分を要することと比較して極めて効率的である。この効率性により、アンサンブル予測の実用的な利用が可能になる。
3. 解像度の向上： MCDデータをバイリニア補間によって1°にダウンスケールして初期化したにもかかわらず、モデルの出力は視覚的に細かい解像度の詳細を捉えており、基盤モデルが粗い入力を効果的にダウンスケールできることを示唆している。

本研究は、現在の実装では湿度や塵のダイナミクスを簡略化しているものの、MarsCastの成功は、惑星適応のための「ベース」となる基盤モデルを使用するという概念を検証するものであると結論づけている。このアプローチは、新しい惑星モデルを生成するためのコスト効率の高い方法を提供し、将来のミッション運用、塵嵐のリスク軽減、および有人探査の計画を支援するものである。