技术摘要：图 Mamba 算子 (GraMO)

问题陈述

对相互作用的动力系统（如 N 体系统、关节体和可变形结构）进行建模，需要同时捕捉空间交互和长程时间依赖。现有方法面临两个主要局限性：

1. 自回归误差累积： 图神经网络 (GNN) 通常依赖于将空间和时间动力学分开处理的自回归展开。这会导致在长时程预测中产生复合预测误差。
2. 范围有限： 当前的方法通常侧重于局部交互和短时间上下文，无法有效捕捉多跳依赖关系和全局结构动力学。

虽然状态空间模型 (SSM) 提供了一种具有线性成本的长程时间记忆机制，但将它们应用于图时，通常需要施加人工的序列顺序（例如节点排序或随机游走），这破坏了控制粒子相互作用的内在拓扑结构。相反，标准的 SSM 将输入视为无结构的序列，忽略了物理系统至关重要的图结构。

方法论：图 Mamba 算子 (GraMO)

作者提出了 GraMO，这是一个将状态空间模型与基于图的交互学习集成在单个递归中的潜空间模拟器。与以往将节点序列化或将空间和时间更新分为独立阶段的工作不同，GraMO 将图传播和时间状态演化同步耦合。

核心公式

GraMO 在潜状态 $H(t) \in \mathbb{R}^{V \times D \times N}$ 上运行，其中 $V$ 是节点数，$D$ 是特征维度，$N$ 是记忆维度。连续时间动力学定义为：
$$\frac{dH(t)}{dt} = A \odot (\tilde{L} H(t) W_s) + B(t) \odot X(t)$$
其中：

• $\tilde{L}$ 是归一化的邻接矩阵（带有自环），作用于节点维度以传播空间信息。
• $W_s$ 是作用于状态维度的可学习空间混合矩阵。
• $A$ 控制稳定的时间状态衰减（通过 HiPPO 初始化）。
• $B(t)$ 是输入相关的投影，将当前观测值 $X(t)$ 注入潜状态。
• 输出通过收缩运算获得 $Y(t) = H(t) \cdot C(t)$。

关键架构特性

1. 联合递归： 在每一步中，更新对于潜状态 $H(t)$ 是线性的，但算子系数 ($A, B, C, \Delta t$) 是依赖于输入的。这使得系统能够适应不同的状态（例如接触、慢速漂移、快速转换），而无需重置潜状态，从而避免了典型自回归预测器中的误差累积。
2. 离散化： 模型使用带有可学习步长 $\Delta t$ 的零阶保持 (ZOH) 离散化。更新规则变为：
   $$H_{t+1} = \bar{A}_t \odot (\tilde{L} H_t W_s) + \bar{B}_t \odot X_t$$
   该结构将状态空间模型与图拉普拉斯算子统一起来，实现了在连续时间潜动力系统内原则性的消息传递。
3. 选择性机制： 参数 $B_t, C_t,$ 和 $\Delta t$ 通过图神经网络从输入 $X_t$ 动态生成。这实现了内容感知门控（选择哪些输入信息进入状态）和非平稳自适应（根据当前图状态调节时间动力学）。
4. 双向处理： 该架构采用双向 SSM 公式，在正向和反向两个时间方向应用耦合图的更新，以捕捉更丰富的轨迹上下文。

理论属性

论文证明了 GraMO 具有具有输入相关系数的图自回归移动平均 (ARMA) 表示。理论分析确认了：

• 稳定性： 由于归一化拉普拉斯矩阵的有界谱和 HiPPO 初始化的时间算子，该递归确保了稳定的长程信息流。
• 潜空间线性： 更新对于提升后的潜状态保持线性，将该方法与随当前图状态变化的随时间变化的 Koopman 动力学联系起来。

实验结果

GraMO 在三个不同的领域进行了评估：N 体模拟、机器人技术和动作捕捉。

基准测试

• N 体系统： 带电粒子、弹簧动力学和引力系统。
• 机器人技术： 绳索控制、软体机器人操纵和游泳软体机器人。
• 动作捕捉： CMU 数据集（行走和跑步序列）。

性能表现

GraMO 在所有基准测试和指标（平均均方误差 - AMSE，以及最终均方误差 - FMSE）上均取得了最低误差，超越了包括 ST-GNN、SE(3)-Transformers、基于 Koopman 的方法和 GraphMamba 在内的强基准模型。

• N 体系统： 在引力系统中，GraMO 将 FMSE 从 6.020 (GeoTDM) 降低到 3.720。在弹簧动力学中，它将 FMSE 从 0.063 (ESTAG) 降低到 0.024。
• 机器人技术： 在绳索数据集上，GraMO 将 FMSE 从 0.5380 (GeoTDM) 提高到 0.4120。
• 动作捕捉： GraMO 将跑步序列上的平均 FMSE 从 0.508 (NS-EGNN) 降低到 0.161，实现了 67.3% 的相对误差降低。

消融实验

消布实验证实了每个组件的必要性：

• 移除时间建模导致性能下降最为显著。
• 移除双向 SSM 损害了性能，尤其是在运动预测方面。
• 移除输入依赖的选择性（使参数固定）显著增加了误差，突显了自适应动力学的必要性。
• 使用 HiPPO 初始化以外的方法会降低长程记忆能力。

泛化性与效率

• 零样本泛化： GraMO 展示了泛化到未见系统规模的能力（例如，在 $N \in \{5, 7, 8\}$ 个粒子的系统上训练，并在 $N=9$ 时测试），表现优于组合式 Koopman 算子。
• 效率： 虽然更简单的等变模型训练速度更快，但其预测性能较低。GraMO 提供了一个有利的权衡，在实现比 EqMotion 和 SE(3)-Transformer 等复杂基准更低的 FMSE 的同时，保持了具有竞争力的训练时间。

重要性与主张

作者声称 GraMO 提供了一个原则性的框架，通过将基于图的交互学习与状态空间演化统一起来，来学习复杂的时空动力学。主要主张包括：

1. 耦合机制： 它是第一个在单个递归中耦合图传播和时间状态更新的潜空间模拟器，允许空间交互和时间记忆共同演化。
2. 误差缓解： 通过演化持久的潜状态而非在观测空间中递归预测，GraMO 避免了自回归展开特有的误差累积，从而实现了卓越的长时程预测。
3. 拓扑保留： 与序列化节点的方法（如 GraphMamba）不同，GraMO 通过基于拉普拉斯的传播保留了内在的交互拓扑，这对于建模相互作用的粒子动力学至关重要。
4. 适应性： 输入依赖的系数使模型能够有效地处理状态切换系统（例如接触与自由飞行）。

论文总结道，虽然 GraMO 由于重复的图状态交互而随图规模扩展，但它代表了建模相互作用粒子系统的一个重要进步，未来的工作可能会探索图稀疏化以提高可扩展性。