📊 statistics

Sequential Bayesian parameter-state estimation in dynamical systems with noisy and incomplete observations via a variational framework

本文提出了一种序贯变分推理框架，该框架通过将分布分解为参数后验和条件状态分布，能够高效地近似具有噪声且不完整观测的动力系统中状态与参数的联合后验，从而实现鲁棒且具备不确定性量化的在线估计，并在高维及混沌设定下优于联合集合卡尔曼滤波器。

原作者： Liliang Wang, Alex Gorodetsky

发布于 2026-06-12

📖 1 分钟阅读☕ 轻松阅读

原作者： Liliang Wang, Alex Gorodetsky

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正试图在黑夜中穿过浓雾驾驶一辆汽车。你有一张地图（你对汽车和道路的模型），但这张地图可能略有偏差，而你的眼睛（你的传感器）看到的只是模糊、不完整的轮廓。你需要同时弄清楚两件事：汽车现在在哪里（状态）以及汽车的发动机和转向系统究竟是如何运作的（参数）。

这就是“联合参数-状态估计”（joint parameter-state estimation）的问题。这对于“数字孪生”（Digital Twins）——即需要保持实时更新以进行预测的真实机器虚拟副本——至关重要。但在处理带有噪声的数据时，实时完成这项工作极其困难。

以下是该论文的作者如何利用几个极具创意的类比来解决这一问题的：

问题所在：“黑盒”谜题

通常，试图同时推测汽车的位置及其发动机规格就像是在尝试解开一个巨大的、纠缠在一起的数学结。如果你试图一次性解开所有的结（像传统的“粒子滤波器”那样），你需要数百万次的猜测才能得到正确答案，这对于实时应用来说太慢了。如果你试图过度简化它（像“卡尔曼滤波器”那样），你就会假设一切都是完美的圆形（高斯分布），但现实生活中的形状往往是奇形怪状的。当数学变得过于复杂时，这些简单的假设就会失效，导致你的预测完全偏离轨道。

解决方案：“两阶段侦探” (FBOVI)

作者提出了一种名为 FBOVI（基于因式分解的在线变分推理）的新方法。他们没有尝试一次性解开整个结，而是将任务拆分为两个易于管理的步骤，就像一个协作工作的侦探团队：

第一阶段：参数侦探（“发动机专家”）
- 职责： 这位侦探观察模糊的数据，并试图弄清“游戏规则”（未知的参数）。
- 技巧： 他们并没有盲目猜测，而是使用了一种聪明的技术，称为“变分推理”。想象一下，他们正试图用一张富有弹性的、可拉伸的薄膜覆盖在一个复杂的3D物体上。他们不断拉伸薄膜，直到它紧紧贴合物体，且不会撕裂。这使他们能够根据当前的证据，得出关于发动机规格的最佳猜测。
第二阶段：状态侦探（“位置追踪器”）
- 职责： 现在，“发动机专家”已经对发动机有了良好的判断，于是“位置追踪器”利用这个特定的猜测来确定汽车的具体位置。
- 技巧： 因为发动机规格现在已经“固定”（基于第一阶段的结果），寻找位置的数学计算变得简单得多。他们使用标准的、快速的追踪工具（如高斯滤波器）来精准定位汽车的位置。

神奇的循环：
在“位置追踪器”完成工作后，团队会进入下一秒。新数据进入，循环再次开始。“发动机专家”利用新信息更新他们的猜测，而“位置追踪器”则更新位置。他们从不回头看旧数据，而只是使用上一步得到的“最佳猜测”。这使得过程极其快速且高效。

为什么这种方法比旧方法更好

对比“百万次猜测”法（粒子滤波器）： 旧方法试图向靶盘投掷一百万支飞镖来寻找答案。它很精确但很慢，而且如果靶盘太大（高维），它就会感到困惑。FBOVI 则像是使用激光笔；即使是在巨大的靶盘上，它也既精准又快速。
对比“完美圆形”法（联合卡尔曼滤波器）： 旧方法假设答案总是一个完美的圆。如果真实的答案是一个星形或一个斑块，旧方法就会失效。FBOVI 具有灵活性；它可以拉伸其“薄膜”来拟合奇特的形状，因此即使在现实世界变得混乱时也不会崩溃。

他们在哪些场景下进行了测试

作者不仅停留在理论层面；他们在三个截然不同的挑战中测试了这个“两阶段侦探”：

简单的摆动（线性单摆）： 一个基础的物理问题，数学逻辑非常直接。在这里，FBOVI 与重型“百万次猜测”法一样出色，但速度要快得多。
混沌天气（Lorenz '96 系统）： 这是一个以混沌著称的系统——初始阶段的微小变化会导致后续巨大的差异（即“蝴蝶效应”）。他们测试了以下情况：
- 错误的模型： 当他们使用的地图略有偏差时。
- 噪声数据： 当传感器非常模糊时。
- 结果： 即使面对错误的地图和模糊的传感器，FBOVI 仍能让汽车保持在道路上，而其他方法则纷纷失败。
巨大的波浪（对流扩散系统）： 一个复杂的流体动力学问题，拥有 51 个运动部件（高维）。这就像是在追踪一个巨大的海浪。 “百万次猜测”法运行起来会太慢，但 FBOئی 处理得非常流畅，表现优于标准的“联合集合卡尔曼滤波器”（Joint Ensemble Kalman Filter）。

核心结论

论文声称，这种新的框架是一个“金发姑娘”式的完美解决方案（Goldilocks solution）：它不像“百万次猜测”法那样缓慢，也不像简单的“圆形方法”那样僵化。它提供了一种方式，让我们能够在实时环境下，即使在数据混乱、不完整或模型略有偏差的情况下，也能更新我们对系统位置及其内部规则的认知。它还附带了一个数学上的“安全保证”（定理），证明了误差不会失控，这使其成为保持数字孪生准确可靠的可靠工具。

技术摘要：基于变分框架的序列贝叶斯参数-状态估计

问题陈述

本文研究了在噪声和不完全观测条件下，对动力系统未知模型参数 ( $\theta$ ) 和系统状态 ( $X_k$ ) 进行在线联合估计的挑战。这一任务对于需要通过持续更新模型知识来支持预测和决策的数字孪生 (Digital Twins, DTs) 等应用至关重要。

核心难点在于计算联合后验分布 $p(X_k, \theta \mid Y_k)$ ，其中 $Y_k$ 代表直到时刻 $k$ 的所有观测值。该分布通过捕捉参数与状态之间的依赖关系，提供了准确的不确定性量化。然而，联合后验分布通常是难以解析计算的。现有的在线方法面临显著局限性：

联合高斯滤波器（如 Joint UKF, Joint EnKF）： 假设联合后验分布为高斯分布。这种假设对于非线性系统过于严格，会导致巨大的近似误差。
联合粒子滤波器 (Joint PFs)： 虽然避免了高斯假设，但在将静态参数扩充到状态向量时，会遭遇严重的粒子权重退化问题，在高维问题中需要不可接受数量的粒子。
SMC2： 虽然有效，但其计算成本随时间增长，使其不适用于严格的在线任务。
现有的变分推断 (VI) 方法： 大多数是为离线设置设计的，或者将联合后验近似为独立的边缘分布之积（平均场近似），忽略了参数与状态之间内在的依赖关系。

此外，很少有现有方法能提供理论保证（关于近似精度的保证），这对于建立安全关键型应用中的信任至关重要。

方法论：基于分解的在线变分推断 (FBOVI)

作者提出了 FBOVI，这是一个灵活的在线变分推断框架，用于使用分布 $q_k(X_k, \theta)$ 来近似联合后验 $p(X_k, \theta \mid Y_k)$ 。

核心框架

FBOVI 并非直接近似真实的联合后验，而是引入了“在线目标”，并将近似分解为：
$q_k(X_k, \theta) = \rho_k(X_k \mid \theta) \nu_k(\theta)$
其中：

$\nu_k(\theta)$ 近似于在线参数后验（参数的边缘分布）。
$\rho_k(X_k \mid \theta)$ 近似于在线条件滤波分布（以参数为条件的分布）。

该框架在每个时间步 $k$ 执行一个两阶段递归过程：

第一阶段：参数后验近似 ( $\nu_k$ )

目标是最小化 KL 散度 $KL(\nu_k \parallel \nu^*_k)$ ，其中 $\nu^*_k$ 是在线目标参数后验。
这通过最大化证据下界 (ELBO) 来实现。
根据系统类型，ELBO 所需的积分计算方式不同：
- 线性系统： 利用卡尔曼滤波逻辑推导出闭式解表达式。
- 非线性系统： 通过无迹变换 (Unscented Transform) 或高斯求积法将预测分布近似为高斯分布，从而使积分可被评估。此外，也可以使用蒙特卡洛采样。

第二阶段：条件状态分布近似 ( $\rho_k$ )

利用计算出的 $\nu_k(\theta)$ ，框架最小化期望 KL 散度 $E_{\theta \sim \nu_k}[KL(\rho_k(\cdot \mid \theta) \parallel \rho^*_k(\cdot \mid \theta))]$ 。
$\rho_k(X_k \mid \theta)$ 被建模为一个条件高斯分布： $N(X_k; m_k(\theta), C_k(\theta))$ 。
神经网络表示： 为了确保计算效率并防止计算成本随时间增长，均值函数 $m_k(\theta)$ 和协方差函数 $C_k(\theta)$ 由具有固定架构的神经网络表示。这些网络被训练用于近似由应用于在线目标的高斯滤波器（KF, UKF 或 EnKF）所得的的目标均值和协方差。
EnKF 集成： 对于高维系统，框架集成了集合卡尔曼滤波器 (EnKF)。由于不需要向前传播状态粒子（仅传播函数表示 $m_k, C_k$ ），因此使用了一种新颖的每步重采样程序来生成神经网络的训练数据。

理论保证

论文建立了 定理 1，它提供了真实联合后验与 FBOVI 近似值之间误差（通过全变差或 Hellinger 距离衡量）的上界。该界限取决于近似值与其各自在线目标之间的 KL 散度。对于线性系统，定理 2 提供了一个更具体、可估计的误差界限。

主要贡献

灵活的变分框架： 一种新型在线 VI 框架，通过分解联合后验来保留参数与状态之间的依赖关系，避免了联合滤波器的严格高斯假设以及联合粒子滤波器的权重退化问题。
理论误差界限： 推导了近似误差的上界（定理 1 和定理 2），为该方法的有效性提供了理论基础，并指导了算法设计。
可扩展性与模块化： 该框架在第二阶段支持多种高斯滤波方法（KF, UKF, EnKF）。通过使用神经网络来表示条件矩，它实现了恒定的单步计算成本，并能扩展到高维系统。
全面的验证： 通过广泛的数值实验，在包括部分未知模型、模型误设、混沌动力学和高维 PDE 离散化在内的多种场景下验证了性能。

实验结果

该方法在三个不同的实验中与 Joint PF、Joint UKF 和 Joint EnKF 进行了对比评估：

线性单摆（部分未知模型）：
- FBOVI 在估计和预测性能方面达到了与 Joint PF 和 Joint UKF 相当甚至更好的水平。
- 即使在初始先验不准确的情况下，它也能成功追踪真实后验，而 Joint UKF 则会发散。
- 它有效地处理了部分未知的动力学模型和观测模型。
混沌 Lorenz '96 系统（10 维）：
- 正确模型： FBOVI 在估计参数和未观测状态方面显著优于 Joint UKF，能够捕捉到 Joint UKF 错过的联合后验中的非高斯特征。
- 模型误设： 在存在结构性模型误差（使用 Euler 与 RK4 对比）的情况下，FBOVI 保持了鲁棒性，提供了合理的状态估计和预测，尽管在轨迹峰值/谷值附近精度略有下降。
- 高噪声： 即使在高度噪声的测量（ $\gamma=10$ ）下，该方法依然保持鲁棒，尽管在极值附近的估计精度有所下降。
非线性对流-扩散方程（51 维）：
- FBOVI 与 EnKF 集成，成功追踪了参考解并提供了准确的预测。
- 它优于 Joint EnKF，特别是在早期阶段（此时真实后验具有高度非高斯性）。Joint EnKF 的高斯假设限制了它在这一高维、非线性环境下的预测能力。

意义与主张

本文主张 FBOVI 为在线参数-状态估计提供了一个可靠、可扩展且具适应性的解决方案。其意义在于：

弥合了粒子方法的准确性与高斯滤波器的效率之间的差距，同时避免了权重退化或严格高斯假设的问题。
提供了理论保证（关于近似精度的保证），这对于建立数字孪生和风险感知决策中的信任至关重要。
通过利用神经网络和 EnKF 实现了高维推理，使其适用于由偏微分方程 (PDE) 描述的复杂物理系统。

作者总结道，该框架是新兴数据驱动技术的强大工具，特别适用于需要在不确定性、噪声和模型差异下进行持续更新的场景。