🤖 machine learning

Structured Noise Adaptation for Sequential Bayesian Filtering with Embedded Latent Transfer Operators

本文提出了一种新颖的基于ELTO的贝叶斯滤波方法，该方法通过引入一种能够实现数据驱动学习和对非平稳过程进行动态适应的结构化参数化方案，克服了简化噪声模型的局限性，从而提高了在噪声、时变环境中的状态估计性能。

原作者： Naichang Ke, Pongpisit Thanasutives, Yoshinobu Kawahara

发布于 2026-06-15

📖 1 分钟阅读☕ 轻松阅读

原作者： Naichang Ke, Pongpisit Thanasutives, Yoshinobu Kawahara

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正试图跟随一位在拥挤、混乱的城市中行走的友伴。你的目标是精确猜出他在每一秒钟的确切位置，尽管你只能透过一层雾蒙蒙的窗户看到他，而且人群不断地撞击他，将他推离原定路线。

这就是**序列状态估计（Sequential State Estimation）问题。在数学和机器人领域，我们使用被称为卡尔曼滤波器（Kalman Filters）**的工具来完成这项工作。你可以把卡尔曼滤波器想象成一个非常聪明的、具有预测能力的 GPS。它有两个任务：

预测： “我的朋友刚才向北走，所以现在他应该在更北边一点的位置。”
更新： “等等，我刚才透过窗户看到他了，他其实是在一家咖啡馆附近。我需要调整我的猜测。”

问题所在：“静态”GPS

长期以来，这些滤波器一直存在一个重大缺陷。它们假设“噪声”（雾气、人群、碰撞）始终是恒定的。这就像是在开车时使用一个假设交通总是畅通无阻的 GPS，即使你正处于严重的交通拥堵中。如果交通状况突然变得拥挤（即非平稳过程），GPS 就会陷入混乱，做出错误的判断，导致你丢失了对朋友的追踪。

以往的方法试图解决这个问题，要么：

忽略坏数据： 假装人群不存在（但这并不能奏效）。
学习单一的“平均”噪声模型： 如果交通始终处于平均水平，这种方法是有效的，但如果交通从畅通突然变为瘫痪，它就会失效。

解决方案：智能、可适应的 GPS (ELTO-AKF)

该论文的作者 Naichang Ke 及其同事创造了一个新版本的滤波器，称为 ELTO-AKF。

它是这样工作的，这里有一个简单的类比：

1. “结构化”蓝图 (SB 结构)

想象滤波器的“噪声模型”是一个描述世界有多混乱的巨大且复杂的数字电子表格。

旧方法： 试图填满这个庞大电子表格中的每一个单元格既缓慢又容易出错。如果你填错了一个数字，整个系统就会崩溃。
新方法 (ELTO-AKF)： 作者发明了一种**“标量块”（Scalar-Block, SB）**结构。与其尝试填满每一个单元格，不如将电子表格组织成整齐的小块，其中每个块都只是一个简单的数字乘以一个标准模式。
- 类比： 与其试图单独描述墙上的每一块砖，不如将墙描述为“10 行完全相同的红砖”。这样更容易管理、计算更快，也更不容易坍塌。

2. 两步学习过程

ELTO-AKF 的神奇之处在于它能同时以两种聪明的方式学习噪声模型：

步骤 A：“长期记忆”（数据驱动学习）
在滤波器开始追踪之前，它会观察大量的历史数据，以学习游戏的通用规则。它会弄清楚：“平均而言，人群通常会如何推挤人？”它会找到其电子表格中最佳的“静态”设置。
- 隐喻： 这就像是在出门之前研究一张城市地图，以了解通常的交通模式。
** 步骤 B：“实时反射”（动态适应）**
一旦滤波器开始运行，它并不会固守地图。它会观察突然的变化。如果你的朋友突然停止或奔跑，滤波器会注意到“误差”（即它认为的位置与实际观察到的位置之间的差异）。它会立即微调其设置，以应对这种突发的混乱。
- 隐喻： 这就像一名司机看到了突如其来的路障，并立即转向，而不是死板地遵循预设路线。

为什么这很重要（实验结果）

论文在三个主要场景中测试了这种新滤波器：

摆动单摆： 他们模拟了一个在嘈杂房间中摆动的单摆。当噪声变得非常高时，旧的滤波器会失效或产生混乱。ELTO-AKF 能够准确追踪单摆，因为它能够适应突发的噪声峰值。
LiDAR 追踪器： 他们模拟了追踪一辆在城市中改变速度和转向行驶的汽车。当汽车突然改变行为时，ELTO-AKF 能立即调整，而旧的滤波器则会滞后或丢失目标。
“冲击波”测试 (Burgers 方程)： 这是一个涉及流体且会突然形成“冲击波”（突然且剧烈的变化）的复杂数学问题。
- 结果： 当他们使用 ELTO-AKF 来清理带有噪声的数据时，他们能够正确发现控制流体的数学方程。如果没有这个滤波器，数据会过于混乱，无法推导出方程。有了这个滤波器，即使流体行为发生突变，他们也能找到正确的公式。

核心结论

该论文声称，通过将“噪声”组织成一种智能的、块状的结构，并允许滤波器同时学习长期模式和短期惊喜，ELTO-AKF 在处理混乱、多变的环境方面表现得更好。

它不仅仅是在猜测；它学习了混乱的规则，并在混乱发生变化的瞬间调整其猜测。这使得它成为从机器人技术到理解复杂自然系统等任何领域的强大工具，前提是数据是充满噪声且不可预测的。

技术摘要：面向嵌入式潜在传输算子的序列贝叶斯滤波的结构化噪声自适应

问题陈述
序列状态估计（特别是通过卡尔曼滤波）是机器人、导航和金融建模等应用中的基础。然而，现有方法存在一个关键局限性：过度依赖简化的、固定的噪声模型，无法适应非平稳过程。虽然核卡尔曼规则（KKR）和嵌入式潜在传输算子（ELTO）等方法通过绕过显式的参数假设，实现了再生核希尔伯特空间（RKHS）中的数据驱动状态估计，但它们通常继承了固定噪声协方差的局限性。优化这些噪声模型具有挑战性；次优的协方差会严重降低性能。目前的解决方案往往呈现两极分化：基于模型的方法（如自适应扩展卡尔曼滤波器）利用残差动态调整噪声，但依赖于参数化假设；而数据驱动方法虽然可以学习时不变参数，但缺乏处理突发动态变化的机制。在构建一种能够结合参数学习策略以改进高维、非平稳环境下滤波性能的统一方法方面，仍存在研究空白。

方法论
作者提出了 ELTO-AKF（基于 ELTO 的自适应卡尔曼滤波），这是一种将新型噪声模型结构化参数化集成到 ELTO 框架中的新方法。该方法由三个核心部分组成：

稀疏结构参数化（标量块结构）： 为了促进噪声协方差矩阵（ $Q$ 和 $R$ ）的可行学习并确保数值稳定性，作者引入了标量块（Scalar-Block, SB）结构。在这种结构中，协方差矩阵被划分为 $k \times k$ 个子块，每个子块都是一个缩放单位矩阵。为了保证有效协方差矩阵所需的对称正定（SPD）属性，SB 结构通过 Cholesky 分解（ $A = LL^\top$ ）进行参数化，其中 $L$ 是具有缩放单位子块的分块下三角矩阵。与全秩矩阵相比，这降低了计算复杂度并确保了更新过程中的稳定性。
数据驱动优化（时不变学习）： 该方法采用无导数优化策略（CMA-ES）来学习最优的时不变噪声模型。其目标是最小化滤波器预象（pre-image）估计值与验证数据集之间的均方误差（MSE）。这一过程识别出了一个鲁棒的全局噪声模型，该模型在不需要显式概率密度函数的情况下，能够解释底层系统动力学。
动态参数自适应（时变跟踪）： 为了应对噪声水平或动力学发生突发变化的非平稳性问题，该方法引入了受自适应扩展卡尔曼滤波器（AEKF）启发的动态自适应机制。算法通过跟踪创新（预测误差）和残差（更新误差）来估计过程噪声和测量噪声协方差。至关重要的是，这些更新是在噪声矩阵的 Cholesky 因子（ $L$ 和 $M$ ）上而非直接在矩阵上进行的。稀疏投影算子强制执行 SB 结构并校正特征值，以维持 SPD 属性。记忆因子（ $\alpha, \beta$ ）控制自适应速率，使滤波器能够在跟踪突发变化与维持整体系统趋势之间取得平衡。

核心贡献

结构化参数化： 引入了用于噪声协方差矩阵的标量块结构，该结构通过 Cholesky 分解提供了一种计算可行的表示方式，同时保证了 SPD 属性。
ELTO-AKF 算法： 一种统一的滤波方法，它将数据驱动的鲁棒时不变噪声模型学习与动态参数自适应相结合。这解决了静态数据驱动优化与动态模型驱动自适应之间的研究空白。
非平稳环境下的鲁棒性： 证明了结构化噪声自适应显著提高了动态状态估计的性能，在噪声多变、随时间变化的场景中优于依赖固定协方差或非结构化自适应方法的基准方法。

实验结果
作者在四个不同的场景下评估了 ELTO-AKK：

非线性单摆去噪： 在具有变化的系统过程噪声和观测噪声的模拟中，ELTO-AKF 在高噪声条件下表现优于基于模型的 AEKF、基于采样的滤波器（SPKF）以及神经辅助滤波器（CKFNet），尤其是在其他方法容易出现数值发散或受限于固定先验的条件下。
非平稳 LiDAR 轨迹： 在具有分段非平稳动力学（交替直线运动和转弯）的合成 LiDAR 数据上，ELTO-AKF 在“全优化”（调优初始参数）和“纯自适应”（仅依赖动态更新）设置下均表现出卓越的性能。此外，与标准 ELTO-KF 相比，它在面对未见过的噪声水平时展现出更好的泛化能力。
高维 Lorenz-96 系统： 在维度高达 $D=1000$ 的混沌系统实验中显示，虽然标准 ELTO-KF 在高噪声、高维设置下常因失去 SPD 属性而发散，但 ELTO-AKF 保持了数值稳定性和竞争力。
下游应用：
- PDE 发现： 当应用于为发现控制偏微分方程（特别是带有冲击波的粘性 Burgers 方程）进行数据去噪时，与未去噪数据或标准 ELTO-KF 相比，ELTO-AKF 显著降低了识别误差。
- 生态时间序列： 在真实的加拿大猞猁和雪靴旅鼠数据上，该方法成功平滑了观测值以促进 Lotka-Volterra 动力学的发现，在从双重噪声输入中恢复原始观测值方面优于基准方法。

意义与主张
论文声称，ELTO-AKF 通过实现结构化噪声自适应，代表了序列贝叶斯滤波领域的重大进展。通过将数据驱动的参数优化与动态自适应相结合，该方法有效地处理了现实世界过程中存在的非平稳性问题，而传统滤波器在这些场景下往往失效。作者强调，其方法能够为噪声、非平稳过程提供鲁棒的协方差表示，且无需地面真值潜在状态或显式的似然函数。

作者也谦虚地承认了局限性，指出当前的 RKHS 公式绕过了显式的概率密度函数，使得基于梯度的似然估计方法（如最大边际似然估计）无法适用。因此，该方法依赖于无导数优化和预定义的记忆因子进行自适应。未来的工作建议探索 RKHS 中的结构化似然近似，以实现原则性的梯度优化和完全自适应的记忆因子策略。