技術要約：Flow Equivariant World Models (フロー等変世界モデル)

1. 問題提起

身体性エージェントは、限定的な一人称視界しか持たない動的な環境で活動します。この**部分観測性（partial observability）**は、既存の世界モデルにとって重大な課題を生み出します。エージェントが環境の一部のみを観測している間も、観測されていない領域は進化し続けているからです。大規模な潜在拡散トランスフォーマーや再帰モデルを含む現在の最先端の手法は、このような設定において、長いホライゾンにわたる一貫性を維持することに失敗することがよくあります。

世界の根底にある対称性を尊重するメモリ構造を持たない場合、これらのモデルは以下の問題に直面します：

• 情報の喪失： エージェントが移動するにつれ、過去の関連情報がコンテキストウィンドウ（例：トランスフォーマーのスライディングウィンドウ）から外れ、破棄されてしまいます。
• 幻覚（Hallucination）： エージェンドが以前に観測した領域に再び目を向けたとき、モデルはオブジェクトの状態を想起できず、新しいオブジェクトを生成したり、既存のオブジェクトを消失させたりといった現象を引き起こします。
• 構造的事前知識の欠如： 既存のモデルは、観測を静的なシーケンスまたは視点依存のデータとして扱っており、自己運動および外部オブジェクトの運動の両方が、滑らかで時間パラメータ化された対称性（フロー）に従うという事実を無視しています。

2. 手法：Flow Equivariant World Models (FloWM)

著者らは、世界の時間的・動的な構造に沿って整理されることで、予測表現がより強力になるという中心的な仮説に基づき、フロー等変性（flow equivariance）を世界モデルのメモリの核となる部分に統合したフレームワークであるFloWMを提案しています。

コア概念：フロー等変性

このフレームワークは、静的な群等変性を、時間パラメータ化されたシーケンス変換、すなわち「フロー」へと拡張します。

• 定義： 入力シーケンスがフロー（例：時間や運動によるシフト）を受けたとき、出力シーケンスが同じフローに従って変換される場合、そのモデルはフロー等変であると言えます。
• グローバル等変性： 部分観測の設定では、モデルは世界全体の状態（観測された領域および観測されていない領域）の潜在的なメモリを保持しなければなりません。潜在表現は、現在の観測だけでなく、グローバルな世界状態に対して等変に変換される必要があります。
• 共移動参照フレーム： これを実現するために、再帰的なメモリは、新しい観測を取り入れる前に、入力と同じフローによって輸送されます。これにより、特徴量は固定されたフレームに置き去りにされるのではなく、動いているオブジェクトに対して空間的に整合した状態を維持できます。

アーキテクチャの構成要素

このフレームワークは、一般化されたフロー等変再帰関係を通じて具体化されます：
$$h_{t+1}(\nu) = \psi_1(\nu) \cdot U_\theta [h_t(\nu); E_\theta [f_t; h_t] (\nu)]$$
ここで：

• $h_t(\nu)$ は、異なる運動のベクトル場に対応する**「速度チャネル（velocity channels）」**（$\nu$）に整理された隠れ状態を表します。
• $E_\theta$ は、観測を潜在空間にマッピングするエンコーダです。
• $U_\theta$ は更新操作です。
• $\psi_1(\nu)$ は、1タイムステップにおけるフローのアクションを表します。

自己運動等変性（Self-Motion Equivariance）：
モデルは、エージェントの自己運動を相対的なフローとして扱います。隠れ状態をエージェントのアクション（$T_{a_t}$）に従って変換することで、メモリは実質的にエージェントの共移動参照フレーム内でシフトします。これにより、モデルはエージェントのアクションに基づいて新しい観測を正しい相対位置に統合できる、環境の構造化された「マップ」を構築することが可能になります。

2つの実装形態

1. 単純再帰型 FloWM (2D)： 2D環境（例：MNIST World）向けに設計されています。隠れ状態と空間入力に対して畳み込み演算を使用します。隠れ状態への読み書きを行うために固定ウィンドウを採用し、その間、状態の残りの部分はエージェントの視野の周囲をフローします。
2. トランスフォーマーベース FloWM (3D)： 複雑な3D環境（例：Block World）向けに設計されています。Vision Transformer (ViT) エンコーダおよびデコーダを利用します。潜在メモリは、トップダウンの抽象的なマップとして機能する、空間的に整理されたトークン埋め込みの集合です。
   • 注記（等変性について）： コストのかかる深度逆投影なしに3Dから2Dへの投影に対する厳密なエンコーダ等変性を実現することは困難ですが、著者らは再帰的フロー変換（$T^{-1}_{a_t} \psi_1(\nu)$）が、明示的な幾何学的制約なしに、訓練中にエンコーダに等変性を学習させることを示しています。

3. 主な貢献

• フロー等変性の定式化： 部分観測された動的世界のモデリングにおいて、構造化された永続的メモリを構築するために、時間パラメータ化された対称性（フロー）をどのように使用できるかを定式化しました。
• 構造化メモリアーキテクチャ： 自己運動および外部オブジェクトの運動の両方に対して等変にシフト・変換される「速度チャネル」を備えた再帰的メモリを導入し、視野外の領域に関する情報を時間の経過とともに整合させた状態で保持します。
• 新しいベンチマーク： 著者らは、部分観測された世界モデリングのための新しいベンチマークを導入しました：
  • 2D MNIST World： ランダムな速度で動く数字を用いた、部分観測の設定。
  • 3D 動的ブロックワールド（3D Dynamic Block World）： 離散的なアクションを通じてナビゲートするエージェントが存在する、カラフルなブロックが3Dルーム内で跳ね回る環境。
• 実証的検証： FloWMが、長いホライゾンの予測および長さの汎化において、最先端の拡散モデル（DFoT, DFoT-SSM）および再帰モデル（RSSM）を大幅に上回ることを示しました。

4. 実験結果

著者らは、DFoT (History-Guided Diffusion Forcing)、DFoT-SSM、および DreamerV3 の RSSM を含むベースラインと比較して FloWM を評価しました。

パフォーマンス指標

• 長ホライゾンの一貫性： 2D MNIST World において、ベースラインが発散または幻覚を起こす一方で、FloWM は訓練ホライゾン（20ステップ）を超えて 150ステップ まで一貫した予測を維持しました。3D Block World では、ベースラインがオブジェクトを見失ったり新しいものを幻覚として生成したりする中で、FloWM は 210フレーム にわたって一貫性を保ちました。
• 誤差の低減： FloWM は、すべてのベースラインと比較して、有意に低い平均二乗誤差 (MSE) および高い PSIM/SSDT スコアを達成しました。例えば、3D Block World において、FloWM の MSE は ~0.0006 (70フレーム) であり、DFoT の 0.0117 と比較して大幅に低い値でした。
• 学習効率： 自己運動等変性 (SME) と速度チャネル (VC) を組み合わせたモデルは、アブレーション版と比較して、収束までに数桁少ない訓練ステップを必要としました。
• ダウンストリーム・プランニング： 「赤いブロックを見つける」というプランニングタスクにおいて、FloWM はターゲットに向かって正常にナビゲートできました。ベースラインはターゲットの位置を誤認（幻覚）することが多く、プランニング性能が低下しました。
• プローブ解析： 潜在空間からブロックの位置をデコードするように訓練されたプローブネットワークは、DFoT が 1% 未満 であったのに対し、FloVM に対して 96% の精度 を示しました。これは、FloWM がオブジェクトの軌跡に関する構造化された等変な表現を学習していることを裏付けています。

アブレーション研究

速度チャネル (VC) または自己運動等変性 (SME) を削除すると、パフォーマンスが著しく低下し、多くの場合ベースラインの拡散モデルと同等かそれ以下になりました。これは、部分観測性とダイナミクスを扱う上で両方のコンポーネントが極めて重要であることを浮き彫りにしています。

5. 意義と主張

本論文は、予測表現は、世界の時間的・動的な構造に沿って整理されているときに、根本的に強力になると主張しています。

• 理論的基盤： 本研究は、動的で部分観測された環境における世界モデルに構造化されたメモリが必要であることを規定する、理論的な枠組み（フロー等変性）を提供します。
• 部分観測性の解決： コンテキストウィンドウの拡張や静的なメモリバンクに依存する従来の手法とは異なり、FloWM は、世界の状態と共に移動するメモリを維持することで、観測されていない領域の進化を本質的に処理します。
• 汎化性能： このフレームワークは、訓練時に見たよりも大幅に長いシーケンスへの汎化を可能にします。これは、現実世界の身体性エージェントにとって極めて重要な能力です。
• 限定的な範囲： 著者らは、現在の評価が剛体幾何学的なアクションを伴う制御された設定であることを認めています。彼らは、この研究を、オープンワールドのデータセット、連続的なアクション空間、およびより複雑な物理的相互作用への将来的な拡張のための基礎として位置づけています。

要約すると、FloWM は、運動の対称性をメモリアーキテクチャに明示的にエンコードすることで、世界モデルが部分観測された動的な環境において、長期にわたって安定し、正確で、幻覚のない予測を達成できることを示しています。