📊 statistics

Function-Space Priors for Bayesian Neural ODEs with Application to Vessel Trajectory Prediction

本文提出了一种用于贝叶斯神经常微分方程（Bayesian Neural ODEs）的新型框架，该框架通过在标准权重空间先验的基础上，增加一个针对向量场的函数空间高斯过程正则项，并结合概率多重射击法（probabilistic multiple shooting），以有效处理不规则且长期的AIS数据，从而提升船舶轨迹预测能力，并提供校准良好的不确定性估计。

原作者： Jaeyeong Lee, Wonmo Koo, Heeyoung Kim

发布于 2026-06-05

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Jaeyeong Lee, Wonmo Koo, Heeyoung Kim

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在试图预测一艘船下一步会去哪里。你有一本记录着它过去位置的日志（来自一个叫作 AIS 的系统）：但这些记录很凌乱——有时每分钟记录一次，有时每小时一次，有时甚至因为信号丢失而出现了空白页。

你的目标是在这些凌乱的点之间画出一条平滑的线，以推测未来的路径，但这里有一个关键的转折：你还需要知道你的猜测有多大把握。如果船只处于一个风暴肆虐、难以捉摸的海域，你的预测应该表达出“我不太确定”，而不是自信满满地指向一个可能出错的位置。

这篇论文介绍了一种让计算机（具体来说是一个“贝叶斯神经常微分方程”，即 Bayesian Neural ODE）做得更好的新方法。以下是他们是如何实现的，用简单的语言解释如下：

1. 旧方法的问题

把计算机的“大脑”（神经网络）想象成一个关于船只如何移动的“配方”。

旧方法： 计算机被教导遵循一个配方，其中每一个成分（大脑内部的数字）都只是从一个标准的面粉袋中随机挑选出来的。这就像是在做蛋糕时并不关心质地是光滑还是凹凸不平。这种方法可行，但它并不理解船只通常是平滑移动而非瞬间移动的。
局限性： 因为这个“配方”没有被强制要求保持平滑，计算机有时会被凌乱的数据搞糊涂，从而对船只的去向做出疯狂的猜测。

2. 新的想法：“平滑规则”

作者意识到船只遵循一定的规律：它们通常不会瞬间剧烈转向，而是逐渐转弯。他们想要直接把这个规则教给计算机。

他们不仅仅检查“成分”（权重），而是决定在特定的“检查点”检查配方的输出结果。

类比： 想象你正在教一个学生画一条曲线。
- 旧方法： 你告诉他们，“这是关于你握笔方式的规则。”
- 新方法： 你告诉他们，“纸上有 20 个特定的点。如果你画出的线穿过这些点，它必须看起来是平滑的，并遵循河流的形状，而不是像一道锯齿状的闪电。”

他们称之为**“函数空间先验”（Function-Space Prior）**。他们在船只运动规则的这些特定检查点上，直接放置了一个“平滑规则”（基于高斯过程这一数学概念）。

3. 处理凌乱数据：“接力赛”

真实的航行过程很长，且数据是断断续续的。如果你试图一次性计算整个航程，微小的误差会像滚雪球一样越滚越大，导致预测变得毫无意义。

解决方案： 他们使用了一种名为**“概率多重射击法”（Probabilistic Multiple Shooting）**的技术。
类比： 与其让一名跑者尝试跑完整个马拉松，不如将比赛分成短距离的赛段。
- 他们将船只的航程划分为多个短小的片段。
- 他们让计算机独立解决每个短小的片段。
- 然后，他们使用一种“软交接”的方式，确保一个片段的终点与下一个片段的起点相匹配。
- 这保持了数学上的稳定性，并防止了“误差雪球”变得过大。

4. 检查点应该设在哪里？

作者测试了两种选择那 20 个“检查点”（即强制执行平滑规则的地方）的方法：

随机聚类： 在船只经常出现的地点进行选择（就像在地图上随机挑选城镇）。
转向加权： 在船只转向或减速的地方进行选择。
- 为什么？ 这就像是在高速公路的急转弯处设置额外的护栏，而不是在笔直的公路上。论文发现，将重点放在这些“转向点”上能得到最好的结果，因为这些地方是船只行为最复杂、最需要引导的地方。

5. 结果

当他们在纽约港的真实船舶数据上测试这种新方法时：

准确度： 它比旧方法更准确地预测了船只的未来路径。
置信度： 它提供了更好的“不确定性估计”。
- 视觉效果： 当他们观察“置信区域”（显示船只可能位置的阴影区域）时，旧方法的区域会疯狂向外扩张，在几分钟内覆盖数英里的海洋。而新方法的区域增长得缓慢且平滑，这更加符合现实。它知道什么时候自己在猜测，什么时候是确定的。

总结

这篇论文并没有发明一种新的船只或新的航行方式。相反，它改进了用于预测船只去向的**“数学指南针”**。通过强制计算机在关键转向点尊重船只运动的自然“平滑性”，并将长途航行分解为易于处理的块，他们创造了一个既准确又对其确定程度保持诚实的系统。

技术摘要：用于贝叶斯神经常微分方程（Neural ODEs）的函数空间先验及其在船舶轨迹预测中的应用

问题陈述
利用自动识别系统（AIS）数据进行船舶轨迹预测对于海事态势感知至关重要，但面临着显著挑战。AIS 数据具有采样不规则、报告缺失以及由航行规则和环境因素驱动的复杂非线性动力学特征。虽然准确的点预测是必要的，但对于涉及碰撞风险评估等安全关键型任务的海事决策而言，获得经过良好校准的不确定性估计也同样重要。

标准的贝叶斯神经常微分方程（Bayesian Neural ODEs）通过在神经向量场参数上设置先验，提供了一个用于连续时间建模和不确定性量化的框架。然而，标准方法依赖于权重空间先验（例如，权重上的各向同性高斯分布），这类先验无法编码船舶动力学的可解释结构属性，如平滑性和空间局部性。相反，函数空间先验（例如，高斯过程）可以编码这些属性，但在 Neural ODE 设置中面临一个根本性挑战：可观测量是轨迹（ODE 解），而非向量场本身。直接在轨迹上设置 GP 先验需要通过非线性 ODE 解算器传播分布，这在解析上是难以处理的。现有的用于静态映射的函数空间贝叶斯神经网络方法，在不经过数值稳定性处理的情况下，无法直接迁移到 Neural ODEs 中。

方法论
作者提出了一种实用的方法，该方法直接在有限的一组测量点处，对神经向量场的评估值施加基于高斯过程（GP）核的先验，而非直接作用于轨迹。

潜在 ODE 公式化：船舶动力学被建模为一个连续时间系统 $dx(t)/dt = f_\theta(x(t), t)$ ，其中 $f_\theta$ 是一个神经向量场。不确定性通过对参数 $\theta$ 的近似贝叶斯推断进行量化。
概率多重射击法（Probabilistic Multiple Shooting）：为了处理长距离、不规则的轨迹并确保训练稳定性，作者采用了概率多重射击法。该方法将轨迹划分为若干段，并引入可学习的边界状态，在保持全局时间一致性的同时，实现各段之间的解耦推理。
函数空间正则化：
- 定义了一组固定的测量点 $Z = \{z^{(m)}\}_{m=1}^M$ ，分布在状态空间中。
- 在这些点处的向量场评估 $F_Z(\theta)$ 上施加 GP 先验： $\text{vec}(F_Z(\theta)) \sim \mathcal{N}(0, K_Z \otimes I_d)$ 。
- 这引入了一个正则项 $R_{FS}(\theta)$ 被添加到变分目标函数中。该项惩罚向量场偏离 GP 先验所暗示的结构（例如平滑性）的行为，且无需处理复杂的轨迹级先验。
- 作者指出，虽然这比完整的轨迹级 GP 先验条件更弱，但它提供了一种可处理且具有可解释性的归纳偏置。
测量点选择：研究了两种选择 $Z$ 的策略：(i) 对训练轨迹状态进行 $k$ -means 聚类；(ii) 操纵加权采样（maneuver-weighted sampling），即对转向或减速事件附近的观测状态进行过采样。
优化：目标函数结合了标准的权重空间证据下界（ELBO）与函数空间正则化项。作者将其解释为广义变分推断（Generalized Variational Inference），从而避免了与参数族直接相关的函数空间先验所带来的无限 KL 散度问题。

核心贡献

用于贝叶斯 Neural ODEs 的函数空间正则化：本文引入了一种将基于 GP 核的先验引入 Neural ODEs 变分目标函数的方法。这使得在保留神经网络参数化灵活性的同时，能够在学习到的动力学中注入可解释的结构偏置（如平滑性）。
实证比较：作者使用真实的 AIS 数据，将所提方法与标准的权重空间贝叶斯 Neural ODEs 以及高斯过程 ODE（GPODE）基准模型进行了系统性的对比。
测量点设计分析：研究探讨了选择测量点的实际策略，证明了将测量点集中在动态事件（操纵行为）附近可以提高预测质量。

实验结果
该方法在来自纽约/新泽西港区域（2024 年 1 月）的 AIS 数据上进行了评估，涉及 1,589 条船舶轨迹。实验方案采用单条轨迹推断，使用短历史窗口（10–20 分钟）和 10 分钟的预测时界。

预测精度：所提方法的两种变体（FS-BayesNODE）在点预测精度上均显著优于 GPODE。操纵加权变体实现了最低的平均位移误差（ADE: 2.66 km）和最终位移误差（FDE: 3.82 km），相比 GPODE 降低了约 40% 的误差。
不确定性校准：所有贝叶斯 Neural ODE 变体在概率预测指标（NLL 和 CRPS）方面均表现出明显优于 GPODE 的性能。具体而言，函数空间正则化使连续秩概率评分（CRPS）比 GPODE 提升了约 69%。
定性分析：通过视觉观察预测不确定性发现，GPODE 生成的不确定性带在预测时界内会发生突发且过度的扩张。相比之下，所提方法生成的不确定性增长平滑且渐进，反映了更真实的认识论不确定性（epistemic uncertainty）的增加。
测量点：操纵加权选择策略的表现优于 $k$ -means 策略，证实了将测量点置于动态事件附近能提供更具信息量的正则化。

意义与主张
本文声称，通过在标准的权重空间变分目标中增加基于核的函数空间正则化项，可以在贝叶斯 Neural ODEs 的推断过程中注入可解释的结构偏置。作者断言，这种方法成功解决了权重空间先验（缺乏结构编码）以及在 ODE 设置中直接进行轨迹级 GP 先验（难以处理）的局限性。

该研究表明，通过将函数空间先验引入 Neural ODEs，可以有效提升在现实 AIS 条件下（不规则采样、数据缺失）的船舶轨迹预测能力。作者认为，这是对函数空间先验在 Neural ODE 设置下的首次实证探索，提供了一种可扩展的替代方案，既避免了 GPODE 随诱导点数量呈三次方的计算复杂度，又提供了校准更佳的不确定性估计。