Why Deterministic AI Weather Models Fail at Extremes and Physical Conservation: From the Perspective of Probabilistic Mean Field

大気と海洋を、巨大で混沌としたダンスフロアだと想像してみてください。空気と水は絶えず渦巻き、衝突し、物理学の厳格で目に見えないルールに従って複雑なパターンを描きながら回転しています。数十年にわたり、科学者たちはこのダンスが次にどこへ向かうのかを予測しようと、膨大なスーパーコンピュータを用いて、物理方程式をステップごとに解いてきました。しかし、このフロアに新たなプレイヤーが現れました。人工知能（AI）です。これらのAIモデルは、何百万時間もの過去の気象ビデオを観察してきた、超高速のダンサーのようなものです。彼らは、従来のコンピュータのわずかな時間と、ごくわずかなエネルギーを使って、次の動きを瞬時に予測することができます。これは、嵐への警告を発したり、再生可能エネルギーの計画を立てたり、洪水を管理したりすることを、これまでよりもずっと速く行うことができるため、非常に重要なことです。

しかし、そこには落とし穴があります。これらのAIダンサーは驚異的な速さを持ち、しばしば「平均的な」動きを正しく捉えますが、時として少し「滑らかすぎる」ことがあります。彼らは、激しい、クレイジーな回転（極端な気象現象）を見逃す傾向があり、時にはダンスの基本ルール（エネルギー保存則などの物理法則）につまずいてしまいます。科学者たちは、なぜこれほどスマートなAIモデルが、現実の「粗いエッジ」を滑らかにしてしまうのか、その謎に頭を悩ませてきました。それは、彼らが訓練中に極端な気象現象を十分に見てこなかったからでしょうか？ それとも数学的な欠陥なのでしょうか？ 本論文は、この謎を深く掘り下げ、「確率的平均場（probabilistic mean field）」という概念を用いて、モデルを正確にするために用いられる手法そのものが、極端な事象において失敗する理由であることを示す統一理論を提案しています。

「平均」の罠：なぜAI気象モデルは現実を滑らかにしてしまうのか

では、第二海洋研究所と上海交通大学の研究者たちは、実際に何を発見したのでしょうか？ 彼らは、問題が単なるデータの不足やアルゴリズムの悪さではなく、現在のほとんどのAI気象モデルが学習する方法における、根本的な数学的帰結であることを突き止めました。

次のように考えてみてください。あなたが、あるダンサーの過去の動きに基づいて、次の動きを予想しようとしているとします。もし、あなたが「平均的な間違い（Mean Squared Error、またはRMSEと呼ばれる数学的概念）」を最小化するように訓練されているなら、あなたの脳は自然と、起こりうるすべての次の動きの「平均」を探し始めます。もしダンサーが「左に回転する」「右に回転する」「ジャンプする」のいずれかを行う可能性があるとき、あなたが「平均的に」正解であろうとすれば、実際には決して起こらないような、「半分回転して半分ジャンプしている」ような奇妙な動きを予測してしまうかもしれません。あなたは数学的な中心を見つけましたが、ダンスの現実を見失ってしまったのです。

著者らは、現在のAI気象モデルがまさにこれを行っていると主張しています。平均的な誤差を最小化するように訓練することで、AIに対して「条件付き期待値（conditional expectation）」、つまり、起こりうるすべての未来の統計的な平均を予測するように教えているのです。現実の世界において、気象は「非線形」なシステムです。つまり、2つの有効な気象状態を取り出してそれらを平均したとしても、その結果は通常、有効な気象状態にはなりません。それは、熱い水と冷たい水を混ぜて「ぬるま湯」を作るようなもので、それは問題ありません。しかし、ハリケーンと穏やかな日を混ぜ合わせたとしても、物理法則に従う「中程度の」嵐ができるわけではありません。得られるのは、自然のルールに違反した「数学的な幽霊」なのです。

実験：単純なサイコロから渦巻く流体へ

これを証明するために、チームは2つの巧妙な実験を行いました。

第一に、彼らはマルコフ連鎖（現在の状態のみによって次の動きが決まるボードゲームのようなもの）を用いた単純な「トイ・ワールド」を作成しました。そして、2種類のAI「プレイヤー」を訓練しました。一方は正確な次の数値を当てようとするもの（誤差を最小化するもの）、もう一方は起こりうるすべての数値の確率分布全体を当てようとするものです。

• 結果： 両方のプレイヤーは、ほぼ完璧に「平均的な」スコアを獲得しました。しかし、誤差を最小化しようとするプレイヤーは、可能性の「広がり」を捉えることが非常に苦手でした。それは、複雑な可能性のすべてを、単一の安全で退屈な推測へと崩壊させてしまいました。それは、実際のテスト問題の内容は答えられず、平均点だけを暗記した学生のようなものです。論文は、この「平均的な」推測が、ゲームにおける合法的な状態ですらない場所に着地することが多いことを示しています。

第二に、彼らは、大気中の空気や水の混合を模した、より現実的な渦巻く流体のシミュレーション（ケルビン・ヘルムホルツ不安定性）へと移行しました。彼らは、標準的なAIモデル（誤差を最小化するように訓練されたもの）と、「拡散モデル（Diffusion Model）」（クリエイティブな芸術家のように、起こりうる未来の範囲全体を生成することを学ぶAIの一種）を比較しました。

• 結果： 標準的なAIモデルは、非常に滑らかな予測を生み出しました。数値上の誤差スコアはわずかに低かったものの、詳しく観察すると、現実の気象を形作る微細な乱流の渦や鋭いエッジが削ぎ落とされていました。それは、ノイズを除去するために強くぼかされた写真のようでした。
• 一方、拡散モデルは、起こりうる未来の「家族（集合）」を生成しました。これらの未来の「平均」は標準的なAIモデルと同様に滑らかに見えましたが、個々のサンプルは鮮明で詳細であり、微細な渦や鋭い勾配を維持していました。

「自信過剰」なAI

論文は、核心的な問題は「エントロピー」、すなわち情報であると示唆しています。現実の気象は、乱雑で、不確実で、可能性に満ちています（高エントロピー）。標準的なAIモデルが単一の「最善の推測」を与えることは、本質的に「私はこれが起こると100%確信している」と言っているのと同じです。これは「過信」です。それは、気象予報士が「雨は午後2時3分に降ります」と言うようなものです。実際には、午後1時から4時の間のどこかで降る可能性があるのに、です。

AIが単一の滑らかな平均に対してあまりに自信を持っているため、極端な現象を予測することに失敗します。もし嵐が時速100マイルのハリケーンになるか、時速50マイルの強風になるかの瀬戸際にあるとき、AIは安全な「時速75マイル」と予測するかもしれません。それは平均値ではありますが、最悪の事態に備えようとする人々にとっては災難となります。さらに、その「平均的な」状態は異なる物理的現実の数学的な混合物であるため、エネルギーや質量を保存できないといった、物理法則を破ることがよくあります。

これが将来に意味すること

著者らは、解決策は単に訓練データを微調整したり、損失関数をわずかに変更したりすることではないと結論付けています。問題は、決定論的なモデル（単一の答えを出すもの）は、私たちの天気のような混沌とした確率的な世界には根本的に適していないということです。

AIに「明日、最も可能性の高い天気は何か？」と尋ねるのではなく、「明日起こりうるすべての天気はどのようなもので、それらはどの程度の確率で起こるのか？」と尋ねるべきなのです。論文は、生成モデル（拡散モデルなど）こそが未来であると指し示しています。これらのモデルは単に一つの数値を推測するのではなく、分布からサンプリングを行い、大気の真の不確実性と複雑さを捉えた、一連の起こりうる未来を生成します。

要約すれば、天候予測を真にマスターするためには、AIは完璧な「平均的な」推測者になろうとするのをやめ、よりクリエイティブなアンサンブル（合奏）のように振る舞い、豊かで多様な、物理的に一貫した可能性を生成するように進化する必要がある、とこの論文は示唆しています。この転換こそが、AIがこれまで足かせとなっていた極端な現象や物理法則を扱えるようになるための鍵となるかもしれません。