Gradient-free online learning of subgrid-scale dynamics with neural emulators

巨大なコンピュータ・シミュレーションを使って、天候や海流を予測することを想像してみてください。これらのシミュレーションは地球の巨大なデジタル地図のようなものですが、一つの雨粒や小さな渦のような、微細で回転する詳細を描き出すには、あまりにも粗すぎるという問題があります。これを解決するために、科学者たちは「パラメトリゼーション（媒介変数化）」と呼ばれる「ショートカット」を使用します。これは、シェフの秘伝のソースのレシピのようなものです。シェフはソースがどのような味になるべきかを知っているので、すべての材料を最初からゼロから調理するのではなく、これとあれをひとつまみ、あるいは一滴加えるだけで調整します。気候モデルにおいて、これらのショートカットは、コンピュータが直接目にすることのできない、微細で高速に動く物理現象を表しています。

長い間、科学者たちはコンピュータにこれらのショートカトルをより良く作る方法を教えようとしてきました。具体的には、「答え合わせ（正解）」を見せ、コンピュータにそれを推測させるという方法です。これは「オフライン学習」と呼ばれます。しかし、これはドライバーに道路の写真だけを見せて運転を教えるようなもので、実際にハンドルを握って走り出すと、車の「感覚」を学んでいないために衝突してしまいます。より優れた方法は「オンライン学習」です。これは、コンピュータが実際に運転しながら、シミュレーションの挙動に基づいてリアルタイムでショートカットを調整し、学習していく方法です。しかし、落とし穴があります。実際の天候予測に使われるコンピュータ・コードは、古くて硬い金属で作られたブラックボックスのような構造になっています。中を簡単に覗き見て、微小な変化がシステム全体にどのように影響するかを知ることはできないため、標準的なツールを用いた「オンライン」学習は不可能なのです。

この論文は、巧妙な回避策である「ゴースト・ドライバー」、すなわち**ニューラル・エミュレータ（神経模倣器）**を紹介しています。著者らは、硬くて古いコンピュータ・コードの挙動を模倣する、別個の、滑らかで柔軟なAIを構築しました。この「ゴースト」は、中を覗きやすく、理解しやすいものです。彼らはこのゴーストを使って、ショートカットのレシピ（パラメトリゼーション）がリアルタイムで運転する方法を教えます。レシピがゴーストを用いて学習された後、それを実際の硬い車へと入れ替えます。その結果、まるで本物の車で訓練したかのように機能するショートカットが得られますが、それは車を壊すことなく実現されます。

---

問題点：ブラックボックスと失われた環（リンク）

気候科学者は、変化する地球を予測するためのより優れたモデルを構築しようとしています。これらのモデルは、空気や水がどのように動くかをシミュレートする巨大な数学方程式です。しかし、コンピュータは空気の全分子を計算することはできないため、それらを大きな塊としてグループ化しなければなりません。これにより、塊の間で起こる微細で混沌とした渦を見逃してしまうことになります。この隙間を埋めるために、彼らはサブグリッド・スケール（SGS）モデル、つまり、塊の中の微細な渦が何をしているかについての「教育された推測」を使用します。

伝統的に、科学者たちはこれらの推測を「オフライン」のアプローチを用いて訓練してきました。彼らは非常に詳細なシミュレーション（「真実」）を実行し、それを大きな塊に切り分け、機械学習モデルに対して、その塊に基づいた欠落している渦を推測するように訓練しました。これは、ハイライト映像のゴールシーンだけを見て、実際にフィールドを走ることなくサッカーを学ぼうとするようなものです。統計的にはうまくいくこともありますが、長期間実行するとシミュレーションが不安定になり、クラッシュしたり、非現実的な天候を生み出したりすることがよくあります。

「オンライン」アプローチこそが黄金律です。ここでは、機械学習モデルがシミュレーションを実行しながら学習します。モデルは、自身の推測が将来の天候にどのように影響するかを見極め、シミュレーションを安定させるために自身を調整します。問題は、実際の気候モデルで使用されるコンピュータ・コードは、しばしば古い言語（Fortranなど）で書かれており、非常に複雑であるため、「微分不可能」なブラックボックスであることです。平たく言えば、モデルの設定における微小な変化が、システム全体に波及して最終的な結果にどう影響するかを簡単に計算することができません。この「波紋（グラディエント）」を追跡する能力がないと、標準的なオンライン学習は不可能です。

解決策：「ゴースト・ドライバー」

著者であるヒューゴ・フレザット率いるチームは、創造的な解決策である**ニューラル・エミュレーション（神経模倣）**を提案しました。古い硬いコードを無理に柔軟にしようとするのではなく、古いコードの挙動を模倣する、新しい柔軟なAI「エミュレータ」を構築したのです。

実際の気候ソルバーを、重厚で古風な蒸気機関と考えてください。それは素晴らしい働きをしますが、中のギアがどのように動いているかを知って調整するのは容易ではありません。著者らは、その蒸気機関と全く同じように振る舞うが、滑らかで柔軟なプラスチックで作られた「ゴースト・エンジン」を構築しました。このゴースト・エンジンは現代のAIツールで構築されているため、ギアを見ることができ、どのように調整すべきかを正確に計算することができます。

彼らは、これを実現するために2段階の訓練プロセスを用いました。

1. ステップ1：ゴーストを訓練する。 まず、ゴースト・エンジンに、本物の蒸気機関の動きを模倣するように教えました。本物のエンジンからのデータをゴーストに与え、ゴлоストがエンジンの動きを完璧に再現できるように調整しました。
2. ステップ2：ショートカットを訓練する。 次に、この「ゴースト」を使用して、ショートカット（SGSモデル）を訓練しました。ゴーストは柔軟であるため、オンライン学習の手法を用いて、ゴースト・エンジンと相互作用しながら動作する際のショートカットの振る舞いを教えることができました。

決定的なのは、ゴーストとショートカットを同時に訓練しようとすると、ショートカットがゴーストのミスを補うように学習してしまうことに気づいた点です。これを防ぐため、彼らは両者を別々に訓練しました。また、特別なトリックも導入しました。単にショートカットに対して「天候を正しくせよ」と命じるのではなく、「微細な渦を正しくせよ」と命じたのです。これにより、ショートカットが、本来修正すべきではないゴースト・エンジンのエラーを誤って修正してしまうことを防ぎました。

結果：安定した走行

チームは、2つの異なるシステムでこの手法をテストしました。まず、大気の簡略化されたカオス系であるLorenz-96を使用しました。これは、速い動きと遅い動きを持つ、大気のトイ・モデルのようなものです。彼らは、この手法によって、オリジナルのコードを修正することなく、完璧なオンライン訓練とほぼ同等の性能を持つショートカットが生成されることを発見しました。

次に、彼らはより複雑なテストである準ジオストロフィック・システムへと移行しました。これは、海洋や大気の渦巻く風や海流をシミュレートするものです。これは非常に困難な問題として知られています。なぜなら、微細な渦が状況を鎮めることもあれば、逆に混沌とした爆発を引き起こすこともあるからです。

これらのシミュレーションにおいて、彼らは新しい手法を古い手法と比較しました。

• 「オフライン」モデル： 静的なデータセットから学習したこのモデルは、すぐに失敗し、エネルギーが制御不能に蓄積することでシミュレーションがクラッシュしました。
• 「ステート（状態）ロス」モデル： 全体像（天候の状態）を見ることで学習しようとしたこのモデルは、不安定であり、激しい振動を生み出しました。
• 「サブグリッド・ロス」モデル（勝者）： 著者らの2段階の手法を用い、微細な渦に焦点を当てて訓練されたこのモデルは、訓練期間の250倍長い時間、安定性を維持しました。これは、オリジナルの硬いコードの内部ギアを一度も見ることなく、完璧なオンラインモデルのエネルギーパターンと安定性を再現することに成功しました。

これが意味すること

この論文は、現代的なAIを利用するために、数十年前の巨大な気候コードを書き直す必要はないことを示唆しています。代わりに、訓練の重労働を行うための「ゴースト」版のコードを作成すればよいのです。これにより、クラッシュすることなく数年間稼働できる、より安定して正確な気候モデルを訓練する道が開かれます。

しかし、著者らは、これがまだ「魔法の杖」ではないことにも注意を促しています。「ゴースト」エンジンは完璧ではありません。そこには小さな誤差が存在します。テストでは、これらの小さな誤差が、大規模な天候パターンにわずかな不正確さをもたらすことがありました。ただし、微細な詳細については正確でした。彼らは、将来の研究において、ゴースト・エンジンをさらに改良する必要があると指摘しています。例えば、単に渦度（ボルティシティ）だけでなく、風速のような特定の広域的な特徴に焦点を当てるように教えるといったことです。

究極的には、この研究は有望な進むべき道を示しています。それは、過去の硬直した、しかし証明された物理学と、未来の柔軟で強力な学習との間の溝を埋める方法であり、エンジンを分解することなく実現できる方法なのです。