Learning Ergodic Dynamical Systems from a Finite Trajectory

あなたは、天候や株式市場、あるいはテキストメッセージの次の単語といった、カオス的なシステムの未来を予測しようとしていると想像してみてください。科学の世界では、これを「動的システムの学習（learning a dynamical system）」と呼びます。通常、科学者がこうしたパターンを学習しようとする際、統計学の黄金律である「データポイントは独立していなければならない」という原則に依拠します。それはコイン投げのようなものです。もし一度目が表でも、次の投げが裏になる確率には影響しません。各投げは新たな始まりなのです。しかし、現実世界はめったにそのようには機能しません。動的システムにおいては、次の状態は現在の状態に完全に依存しています。今日雨が降っていれば、明日も雨が降る可能性が高くなります。データは一連の出来事の連鎖であり、一つの断ち切ることのできない糸であり、それぞれの結び目は前のものと結びついています。

これがこの論文が取り組んでいる、非常にトリッキーなパズルです。すべての文章が前の文章に依存しているような、たった一つの長い連続した物語しか読んでいない状態で、どのようにしてシステムのルールを学ぶことができるのでしょうか？著者らは「エルゴード的（ergodic）」なシステムに焦点を当てています。平易な言葉で言えば、エルゴード的システムとは、十分に長い時間観察すれば、最終的に起こりうるあらゆる状態を訪れ、各状態に滞在する時間はその状態に存在する長期的な確率と一致するシステムのことです。これは、公園を歩き回る酔っ払いに似ています。彼を十分に長く観察すれば、彼は最終的にあらゆる芝生のパッチを踏むことになりますし、特定のパッチにどれくらい長く留まるかは、彼がその場所をどれくらい好んでいるかを示します。論文は問いかけています。このような、彷徨い歩く一つの長い散歩から、そのようなシステムの信頼できる水晶玉を作ることができるのだろうか？と。

「Learning ergodic dynamical systems from a finite trajectory（有限の軌跡からのエルゴード的動的システムの学習）」と題されたこの論文は、このシステムを「マルコフ過程（Markov process）」として扱うことで、この問題に深く切り込んでいます。マルコフ過程とは、「リーダーの次の動きは、今どこに立っているかだけに依存し、5分前にどこにいたかには依存しない」という「フォロースルー・ザ・リーダー」のゲームのようなものだと考えてください。著者らは、このゲームのルールを推測するために「非線形最小二乗法（nonlinear least squares）」と呼ばれる手法を提案しています。あなたがダンサーの次の動きを予想しようとしている場面を想像してください。あなたは彼らをしばらく観察し、その動きを記録し、それから彼らが次にどこに踏み出すかを最もよく予測する線（あるいは曲線）を描こうとします。著者らは、データが「粘着性（過去に依存している）」を持ち、唯一の長い記録しか手元にないとしても、それでも非常に優れた予測が可能であることを示しています。彼らは、システムが「エルゴード的」であり、かつ「混合（mixing）が良好（つまり、隅っこで永遠に立ち往生することがない）」であれば、彼らの手法が数学的に機能することを証明しています。また、彼らの手法を、複数の数値を同時に予測したり、過去数ステップを記憶するシステム、さらには「コープマン作用素（Koopman operator）」といった、システムが時間の経過とともにどのように進化するかを記述する高度な数学的ツールを扱うような、より複雑な状況へとアップグレードする方法についても示しています。その結果、予測がどの程度正確になるかは、記録がどれほど長かったか、そしてシステムがいかに「カオス的」または「粘着的」であるかに依存するという保証が得られます。

単一の軌跡の物語

著者らは、シンプルながら強力なアイデアで舞台を整えます。それは、システムの数千もの別々の独立したスナップショットを集める代わりに（それはしばしば不可能なことです）、システムの生涯を映した単一の連続的な動画、すなわち「有限の軌跡（finite trajectory）」に焦点を当てるというものです。現実の世界では、私たちはしばしば、たった一つの歴史しか研究することができません。例えば、単一の株式市場の暴落や、あるスポーツチームの一シーズンなどです。論文は、この一つの歴史からゲームのルールを学ぶことは可能だが、データが独立していないため注意が必要であると主張しています。

これを実現するために、著者らは「一様幾何学的エルゴディシティ（uniform geometric ergodicity）」と呼ばれる概念に依拠しています。これは聞き慣れない言葉ですが、システムがどれだけ早く過去を忘れるかの尺度だと考えてください。もしシステムが「一様幾何学的にエルゴード的」であれば、それは、どこからシステムを開始したとしても、最終的には安定した行動パターンに落ち着くことを意味します。それは回転する独楽（独楽）のようなものです。どのように弾いても、最終的には一定の揺らぎの中に落ち着きます。著者らは、もしシステムがこのように振る舞うならば、開始地点の「記憶」は十分に速く消え去り、データの長期的な平均を、システムの真の性質を知るための信頼できるガイドとして扱えることを証明しています。

彼らの研究の核心は、「非線形最小二乗法」と呼ばれる手法です。ロボットにダンスの次のステップを予測するように教えようとしている場面を想像してください。あなたはロボットにダンスのビデオ（軌跡）を見せます。ロボットは現在のポーズに基づいて次の動きを推測しようとします。「最小二乗法」の部分とは、ロボットが自分の推測と実際に目にする動きとの間の総誤差を最小化しようとすることを意味します。著者らは、たとえロボットが、すべてのフレームが次のフレームと連結している一つのつながったビデオから学んでいるとしても、ビデオが十分に長く、かつダンスがエルゴード的であれば、完璧にダンスを学ぶことができることを示しています。

彼らは「高確率の保証（high-probability guarantees）」を導き出しています。これは、単に「うまくいく」と言うのではなく、それが成功する確率がどれくらいか、そして予測が真実にどれほど近いかを正確に計算することを意味します。彼らは、精度が主に2つの要素、すなわち、軌跡の長さ（データが多いほど良い）と、システムの「粘着性（システムがいかに早く過去を忘れるか）」に依存することを見出しました。システムが過去を素早く忘れる（高いエルゴード性）なら、学習は速くなります。システムが過去を長く保持する（低いエルゴード性）なら、同じレベルの精度を得るためにより長いビデオが必要になります。

基本を超えて

この論文は、単純な単一数値の予測に留まりません。著者らは、彼らの手法がより複雑なシナリオにも対応できる柔軟性を持っていることを示しています。

• ベクトル値の状態（Vector-Valued States）: 単一の数値（温度など）を予測する代わりに、システムは数値のベクトル全体（温度、湿度、風速を同時に予測するなど）を予測する必要があるかもしれません。著者らは、この多次元的な予測においても、ベクトル全体を高次元空間における一つのオブジェクトとして扱うことで、数学が同様に機能することを示しています。
• 高次システム（Higher-Order Systems）: 時には、次のステップが現在のステップだけでなく、過去数ステップにも依存することがあります。車の動きを考えてみてください。その次の位置は、現在どこにいるかだけでなく、少し前の速度にも依存します。著者らは、これらの高次システムを、単純な一次のシステムのように見える新しい形式へと「持ち上げる（lift）」方法を示し、彼らの手法がこれらにも適用できることを示しています。
• 有限状態空間（Finite-State Spaces）: もしシステムが、ボードゲームの1から100までのマス目のように、限られた特定の状態しか取れないとしたらどうでしょうか？著者らは、この設定に彼らの手法を適応させ、それが文章の次の単語を予測する問題（「状態」が単語である場合）などの問題と綺麗に結びつくことを示しています。彼らは「サロゲート最小二乗アプローチ（surrogate least squares approach）」と呼ばれる巧妙なトリックを使用しており、これは特定の状態を予測する問題を、確率のベクトルを予測する問題へと変換し、解決を容易にするものです。
• コープマン作用素（Koopman Operators）: 最後に、著者らは「コープマン作用素」に取り組みます。これまでの手法が「次のステップ」を予測することであったなら、コープマン作用素は、システムの「あらゆる観測可能な特性」の将来の進化全体を予測することです。それは、単に位置だけでなく、システムのあらゆる側面に関する未来の挙動を解き明かすマスターキーを持っているようなものです。彼らは、彼らの最小二乗法が、実はこのマスターキーを学習するための方法であり、そのキーがどれほど正確に鍵穴に適合するかについての保証を提供していることを示しています。

結論

本論文は、システムがエルゴード的である限り、単一の有限の軌跡から学習することは可能であるだけでなく、厳密な数学的保証を持って行うことができると結論付けています。著者らは、どれだけのデータが必要で、予測がどれほど正確になるかを伝える数式を備えた、このためのツールキットを提供しています。彼らは、データが依存関係にある（独立していない）一方で、エルゴード的システムの「忘却」という性質によって、この課題を克服できることを強調しています。結果はシミュレーションによる推測ではなく、数学的に証明されており、単一の歴史から複雑な現実世界のシステムを理解し予測するための強固な基礎を与えています。論文は、彼らが特定のノルムや設定に焦点を当てたものの、核となるアイデアはさらに複雑なシナリオへと拡張できる可能性があることを示唆しつつ、今後の研究への扉を開いていますが、現時点において、彼らは「一つの物語があれば、ゲームのルールを学ぶには十分である」ということを確固たるものにしました。