Machine Learning the H-theorem

一方向の道の謎

ガラスが床で砕け散るビデオを見ているところを想像してみてください。それは混沌としていて、めちゃくちゃに見えます。では、そのビデオを逆再生したと想像してください。破片が跳ね上がり、パチっと組み合わさり、テーブルの上に完璧に収まります。あなたは即座に、逆再生バージョンが偽物であることを理解します。なぜでしょうか？ それは、私たちの宇宙には時間の方向があるからです。物事は、放っておけば整然とした部屋が徐々に散らかっていくように、秩序から無秩序へと向かう傾向があります。これが、宇宙の「乱雑さ」（あるいはエントロピー）は常に増大するというルールである、熱力学第二法則の核心です。

しかし、奇妙なのはここからです。個々の原子や分子を支配する微細なルールに目を向けると、それらは時間を気にしません。2つのビリヤードの球が互いに衝突する様子を撮影し、それを逆再生したとしても、見た目は全く同じになります。物理法則は「時間可逆」なのです。では、すべてのステップが双方向の道であるにもかかわらず、どうして私たちは時間の「一方向の道」を得ることができるのでしょうか？ このパズルは1世紀以上にわたって科学者たちを悩ませてきました。彼らはこれを「時間の矢」と呼んでいます。これを解決するために、彼らは通常、「H定理」と呼ばれる複雑な数学的ツールを使用します。これは、システムが平衡状態に落ち着くにつれて、常に値が下がっていくスコアボードのような役割を果たします。しかし、もし私たちがゲームのルールを知らなかったらどうでしょう？ もしコンピュータに大量のデータを渡し、どちらの方向に時間が流れているのかを判断するように頼んだらどうなるでしょうか？

研究の探求：ロボットに「時間」を感じさせる

この論文において、著者たちは、答えを教えられることなく、機械学習モデルがこの「時間の矢」を自力で再発見できるかどうかを検証することに乗り出しました。彼らはコンピュータにH定理の公式や物理学の教科書を与えませんでした。代わりに、彼らは1,000個の硬いディスク（小さな、完璧なビリヤードの球のようなもの）が正方形の箱の中で跳ね回っている仮想世界を作り上げました。彼らはこれらのディスクを、すべてが同じ速度で異なる方向に動いている、混沌としたランダムな状態で開始しました。そして、シミュレーションを実行させ、あらゆる瞬間におけるすべてのディスクの位置と速度を記録しました。

コンピュータの仕事は単純ですが、トリッキーでした。この跳ね回るガスの2つのスナップショット（一つは早い時刻のもの、もう一つは遅い時刻のもの）を見て、どちらが先に来たかを推測することです。コンピュータに与えられた唯一のルールは、「後のスナップショットは、前のものよりも高いスコアを得るべきである」というものでした。これを行うために、研究者たちは「DeepSets」と呼ばれる特殊な種類のニューラルネットワーク（AIの一種）を構築しました。このネットワークは「置換不変（permutation-invariant）」であるように設計されており、これは、どの粒子がどれであるかを気にしないという、少し凝った言い方です。もし2つの粒子の名前を入れ替えたとしても、物理学が変わらないのと同様に、コンピュータの答えも変わりません。

モデルは「ランキング損失（ranking loss）」を用いて訓練されました。これは、コンピュータが順番を間違えた場合に罰を与えるスコアリングシステムです。コンピュータが単にすべての答えに極めて小さな数値を与えることで「ズル」をしないように、研究者たちは各データバッチ内でスコアが標準化されるように強制しました。彼らはモデルを120エポック（データの一巡）訓練しました。最初は、コンピュータはただ推測しているだけでした。しかし、60エポック目あたりで、興味深いことが起こりました。コンピュータは突然、仕事において非常に優れた能力を発揮したのです。ランキングの誤差は急激に低下し、コンピュータは「早い」状態と「遅い」状態を明確に区別し始めました。

大いなる発見：H関数を見つけ出したのか？

この論文の最もエキサイティングな部分は、コンピュータが実際に何を学んだかという点です。研究者たちは、コンピュータがスナップショットに与えた「スコア」と、ボルツマンが1872年にシステムがどれほど平衡から離れているかを測定するために発明した有名な数学的公式である「H関数」を比較しました。その結果、単純なスケールと位置のシフトを調整すれば、コンピュータが学習したスコアはH関数とほぼ完璧に一致することが分かりました。

言い換えれば、AIは単に「後の方が大きい」と言われただけで、H定理と全く同じ挙動を示す数学的関数を独立して発見したのです。ガスが緩和し、粒子が速度を滑らかな予測可能なパターン（マクスウェル・ボルツマン分布）へと分散させていくにつれて、この関数の値が非常に特定の、単調な方法で変化することを、AIは学び取ったのです。この論文は、システムのダイナミクス（動態）それ自体が、モデルをこの構造へと導くのに十分であることを示しています。

しかし、著者たちは、この結果が1,000個の硬いディスクによる弾性衝突の特定のシミュレーションから得られたものであることに注意を促しています。彼らは、これが宇宙のあらゆる可能なシステムに対してH定理を証明するものだと主張しているわけではありません。彼らは、このアプローチが、モデルが公式を見せられることなく緩和への追跡を学習した、この特定のセットアップにおいてうまく機能することを示唆しています。また、彼らは訓練時の「温度」パラメータが非常に重要であることも発見しました。低い温度（0.1）ではモデルの出力は滑らかで信頼できるものでしたが、高い温度（1.0）では、終盤にかけてギザギザとした振動的なものになりました。

したがって、この論文は、なぜ時間が一方向に流れるのかという深い哲学的謎を解明したわけではありませんが、生のデータと単純な順序ルールのみを与えられた機械が、人間の物理学者が何十年もかけて導き出したのと同じ「時間の数学的な矢」を「学習」できることを示しています。これは、平衡への道筋があまりにも強力で構造化されているため、ニューラルネットワークであっても、粒子が跳ね回る様子を観察するだけでそれを見つけ出すことができるということを示唆しています。