技術サマリー：Social-Mamba

問題定義

人間の軌道予測は、自律ロボットやスポーツ分析など、混雑した環境における安全なナビゲーションにとって不可欠です。核心的な課題は、予測精度と計算効率のバランスを取ることにあります。最近の最先端手法は、複雑な社会的相互作用を捉えるためにトランスフォーマーベースのアテンションメカニズムに依存していますが、これらの手法はエージェント数に応じて悪化する二次的な計算コストを伴います。一方、選択的状態空間モデル（SSM）、特に Mamba は、線形時間計算量を提供し、長距離依存関係に対して効果的です。しかし、SSM を社会的相互作用に直接適用することは、2 つの根本的な矛盾をもたらします：

1. 構造的ミスマッチ：SSM は順序付けられた 1 次元シーケンス用に設計されていますが、社会的相互作用は非構造化された 2 次元または 3 次元空間で発生します。エージェントを任意のシーケンスに強制することは、空間情報を破壊するリスクがあります。
2. 情報フローのミスマッチ：標準的な SSM は情報を一方向に処理します。しかし、社会的相互作用はしばしば包括的で双方向的です。初期の行動の意図は、後続の出来事によって明確にされることが多く、これは純粋な前方パスモデルでは捉えられない文脈です。

軌道予測に Mamba を使用しようとした以前の試みの多くは、モデルを時間的履歴のみに制限するか、またはその中核メカニズムをアテンションに類似するように修正しており、社会的推論のための SSM のネイティブな効率性を活用できていませんでした。

手法

著者は、社会的相互作用を構造化された順序プロセスとして再定義し、SSM のネイティブな設計に整合させる予測アーキテクチャ「Social-Mamba」を提案します。このフレームワークは、以下の 3 つの主要コンポーネントで構成されます：

1. サイクル Mamba（CM）ブロック

社会的推論の双方向性を解決するため、著者はサイクル Mamba ブロックを導入します。従来の双方向モデルが前方パスと後方パスを独立して処理し、出力でのみ融合するのに対し、CM ブロックは連続的な状態フローを生成します。

• メカニズム：逆順の入力シーケンスを元の前方シーケンスに連結することでサイクルシーケンスを構築します（$S_{cycle} = [S_{bwd}; S_{fwd}]$）。
• 状態伝播：単一の Mamba モデルがこの統合されたシーケンスを処理します。重要なのは、前方パスが後方パスの最終隠れ状態で初期化されることです。これにより、エージェントの履歴の前方処理が、将来の文脈の圧縮された表現に基づいて明示的に条件付けられ、より少ないパラメータでシームレスかつ統合された双方向融合が可能になります。

2. 社会的トリプレット分解

1 次元 SSM と 2 次元の社会的シーンとの間の構造的ミスマッチを解決するため、著者はエージェントをエゴセントリックな社会的グリッド上に配置し、相互作用を 3 つの並列シーケンシャルスキャンに分解します：

• 時間的相互作用：個々のエージェントの履歴を独立して処理し、運動ダイナミクスを捉えます。
• エゴセントリック相互作用：エゴエージェントの現在の状態トークンを各近傍エージェントのシーケンスに挿入します。これにより、モデルは近傍エージェントがエゴの現在の状態にどのように影響するかをスキャンできます。
• ゴールセントリック相互作用：エゴエージェントのゴールトークンを近傍エージェントのシーケンスに付加し、近傍エージェントがエゴの目的地への経路にどのように影響するかをモデル化します。

エゴセントリックおよびゴールセントリックのスキャンの両方において、エゴの状態またはゴールトークンは、サイクル Mamba スキャンの前に近傍エージェントのシーケンスに挿入され、異なる相互作用の側面が時間的順序で処理されます。

3. 社会的融合とデコーディング

3 つの相互作用ストリーム（$Z^T, Z^E, Z^G$）の出力は、学習可能な社会的ゲートを使用して融合されます。ゲーティングネットワークは、各相互作用タイプに対して動的な重みを計算し、モデルが関連する文脈を適応的に強調できるようにします（例：エゴエージェントが独立して移動する際に社会的影響の重みを下げるなど）。最後に、エージェント軸に沿ってグローバルスキャンを実行して情報を集約し、その後デコーダー（双方向 Mamba と MLP ヘッド）を介して $K$ 個の将来の軌道を予測します。

主要な貢献

1. 社会的推論のための最初のネイティブ SSM：Social-Mamba は、SSM を時間モデリングのみに制限するのではなく、社会的相互作用に直接対処する、Mamba フレームワーク全体に基づいて構築された最初の軌道予測アーキテクチャです。
2. サイクル Mamba ブロック：連続的な双方向情報フローを可能にする新規モジュールであり、文脈理解を向上させ、標準的な双方向設計と比較してパラメータ数を半分に削減します。
3. 構造化された社会的スキャン：エゴセントリックグリッドと社会的トリプレット分解の導入により、空間情報を犠牲にすることなく、非構造化された 2 次元の社会的ダイナミクスを SSM の 1 次元順序処理に成功裏にマッピングしました。
4. 効率性とスケーラビリティ：このアーキテクチャは線形時間計算量を実現し、二次的なコストを伴うアテンションメカニズムと比較して優れた計算スケーラビリティを提供します。

実験結果

著者は、Social-Mamba を 5 つのベンチマークデータセット（NBA（フル、スコアリング、リバウンド分割）、Stanford Drone Dataset (SDD)、およびJRDB）で評価しました。

• 精度：Social-Mamba は、すべてのベンチマークで最先端のパフォーマンスを達成しました。NBA-Full データセットでは、平均変位誤差（ADE）を 0.72m、最終変位誤差（FDE）を 0.92m に削減し、Multi-Transmotion や OmniTraj などの強力なベースラインを上回りました。
• 効率性：このモデルは、パラメータ効率と計算コストにおいて顕著な向上を示しました。以前の最先端手法と比較して、Social-Mamba はパラメータを75%、GFLOPs を**54%**削減しました。
• 柔軟性：フローマッチングフレームワークにおけるトランスフォーマーエンコーダーのドロップイン代替として統合された場合、Social-Mamba は精度を向上させながら、トランスフォーマーベースの対応物よりも2.3 倍小さいエンコーダーを使用しました。
• 定性的分析：可視化により、モデルが急なターン、非線形な行動、密集した群衆を処理する能力が確認され、多様で妥当なマルチモーダル軌道を生成することが示されました。

意義と主張

本論文は、SSM の効率性と非構造化された社会的相互作用の複雑さの間のギャップを成功裏に橋渡しすることで、軌道予測の新たな基盤を確立すると主張しています。SSM がアテンションのようなメカニズムに頼ったり、双方向推論を犠牲にしたりすることなく、社会的ダイナミクスをモデル化するように適応可能であることを実証することで、著者は Social-Mamba を、トランスフォーマーベースのパラダイムに対する柔軟で堅牢かつ非常に効率的な代替手段として位置付けています。この研究は、SSM に固有の線形スケーラビリティが、計算リソースが制約された混雑したマルチエージェント環境におけるリアルタイムアプリケーションに特に適していることを示唆しています。