📊 statistics

Bayesian Inference and Learning in Gaussian Process State-Space Models with Particle MCMC

本文通过在转移动力学上置入高斯过程先验，并采用定制的粒子马尔可夫链蒙特卡罗采样器以高效推断联合平滑分布，同时通过稀疏近似保持模型的表达能力并实现计算可扩展性，提出了一个用于非线性非参数状态空间模型中联合状态估计与系统辨识的全贝叶斯框架。

原作者： Roger Frigola, Fredrik Lindsten, Thomas B. Schön, Carl E. Rasmussen

发布于 2026-06-04

📖 1 分钟阅读☕ 轻松阅读

原作者： Roger Frigola, Fredrik Lindsten, Thomas B. Schön, Carl E. Rasmussen

原始论文采用 CC BY 3.0 许可（http://creativecommons.org/licenses/by/3.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正试图弄清楚一台神秘且隐形的机器是如何运作的。你看不见机器内部的齿轮或杠杆（即内部“状态”），你也不了解它在不同时刻移动的具体规则（即“动力学”）。你拥有的仅仅是关于这台机器在不同时间点看起来是什么样子的、模糊且带有噪声的快照（即“观测值”）。

这篇论文介绍了一种全新的、高度灵活的方法，利用**贝叶斯推断（Bayesian Inference）和高斯过程（Gaussian Processes）**来破解这个谜题。以下是其通俗易懂的解析：

问题所在：“黑盒”机器

在许多现实世界的系统中（如天气、股票市场或机器人运动），事物会根据隐藏的规则随时间发生变化。

隐藏状态： 可以把这想象成机器内部的位置。你无法直接看到它。
动力学： 这是规则手册，它规定了：“如果机器在这里，那么下一步它会移动到那里。”通常，我们会尝试通过假设它是一条简单的直线或特定的曲线来猜测这个规则手册。但现实生活是混乱的；规则可能是扭曲的、复杂的且难以预测的。
噪声： 你的快照是模糊的。你可能看到一个看起来像圆形的影子，但它实际上可能是一个正方形。

解决方案：“变形”的规则手册

作者提出了一种方法，这种方法不会强迫机器遵循一个简单的、预定义的规则手册。相反，他们使用了一个高斯过程（GP）。

类比： 想象你正在尝试用一条线连接纸上的若干个点。

旧方法（参数化）： 你预先决定：“我只能使用一把直尺。”如果这些点是弯曲的，你的绘图就会出错。
本文的方法（非参数化）： 你使用一根有弹性的橡胶带。你将橡胶带固定在那些你已知的点上，然后让橡胶带自然地拉伸和弯曲，以填补空白。这根橡胶带足够灵活，可以学习数据所暗示的任何形状，而无需你预先猜测形状。

魔法技巧：“坍缩”谜团

这个问题的难点在于，你既不知道橡胶带的形状（规则手册），也不知道点在哪里（隐藏状态）。它们是相互依赖的。

作者的聪明之处在于将规则手册从方程中边缘化（Marginalize）（或称之为“坍缩”）。

隐喻： 想象你正在森林里寻找一名迷路的徒步旅行者。通常，你需要一张森林地图才能找到他。但在这里，地图本身也丢失了。
技巧： 与其同时尝试画出地图并找到徒步旅行者，作者说：“让我们暂时不去关心地图的具体形状。让我们直接计算在考虑了所有可能的地图后，徒步旅行者可能出现的位置的概率。”
通过这种数学手段，他们消除了首先去猜测复杂规则手册的需求。这使他们能够更清晰地描绘出隐藏状态可能出现的位置。

引擎：粒子 MCMC（“探索者集群”）

为了实际计算这些概率，他们使用了一种叫做**粒子马尔可夫链蒙特卡洛（Particle MCMC）**的方法，具体来说是 PGAS 版本。

类比：
想象你有一群由 20 名探险家（粒子）组成的集群，正试图追踪隐藏的徒步旅行者随时间变化的路径。

问题： 如果探险家们只是随机猜测，他们可能会全部陷入同一个死胡同，或者他们可能会忘记自己从哪里出发（这被称为“路径退化”问题）。
解决方案 (PGAS)： 探险家们作为一个团队协作。他们保持着一条“领导者”路径（一条他们已知是良好的特定轨迹）。随着他们的移动，他们不断检查：“如果我把当前的路径与领导者的路径交换，是否合理？”
结果： 这使得这群探险家能够同时探索隐藏状态和复杂规则手册的多种可能性，确保他们不会困在某个错误的猜测中。他们有效地“采样”出了机器最可能的历史轨迹。

收益：学习规则

一旦探险家们绘制出了隐藏状态最可能的路径（“平滑分布”），作者终于可以推导出规则手册了。

因为橡胶带（高斯过程）具有灵活性，一旦他们知道了点实际所在的位置，他们就可以画出连接这些点的精确曲线。
随后，他们可以预测机器在从未见过的场景下下一步会做什么。

为什么这很重要（根据论文所述）

灵活性： 不同于那些强迫系统必须是简单直线或曲线的旧方法，这种方法可以学习复杂的、扭曲的、非线性的行为。
鲁棒性： 即使最初对系统的假设是错误的（比如使用了明显与现实不符的“模型 B”），该方法也会自我修正并找到真实的行为。
效率： 他们开发了一种方法，即使处理长序列数据，也不会因为数学运算过重而导致计算机崩溃，这是通过使用“稀疏（sparse）”技术实现的（即专注于关键点而非每一个点）。

总结

这篇论文介绍了一种学习复杂隐藏系统运作方式的方法，其核心是将系统的规则视为一根灵活的、形状可变的橡胶带。通过使用聪明的数字探险家团队（粒子 MCMC）先追踪隐藏路径，他们随后可以完美地重建支配系统的规则，即使是在数据充满噪声且规则未知的情况下。

技术摘要：基于粒子 MCMC 的高斯过程状态空间模型中的贝叶斯推断与学习

问题陈述

状态空间模型（SSMs）被广泛用于建模时间序列和动力系统，通常由潜在状态轨迹 $x_{0:T}$ 和状态转移函数 $f$ 定义。当动力学函数 $f$ 未知且具有高度非线性时，会出现显著挑战。传统方法通常诉诸于 $f$ 的参数化表示，或使用期望最大化（EM）算法，这在处理高维状态空间或平滑分布具有不确定性时，容易导致过拟合。

虽然高斯过程（GPs）为 $f$ 提供了一种灵活的非参数先验，但将 GPs 应用于 SSMs 却十分困难，因为潜在状态 $x_{0:T}$ 是不可观测的。现有方法通常通过一组有限的目标点来近似 GP，这实际上使模型变成了参数化模型；或者依赖于固定的转移动力学模型进行平滑。本文解决的核心问题是：如何在不牺牲模型表达能力，且不产生过高计算成本的情况下，在非线性、非参数化 SSM 中进行完全贝叶斯推断与学习。

方法论

作者提出了一个完全贝叶斯框架，其中高斯过程先验直接置于未知的状态转移函数 $f$ 之上。观测模型 $g$ 被假设为已知（可能经过参数化），而动力学 $f$ 则被视为一个随机函数。

1. 转移函数的边缘化
作者并没有同时对状态、超参数和函数 $f$ 进行联合后验推断，而是通过边缘化掉转移函数 $f$ 来实现。这种“折叠”（collapsing）方法使得该方法能够尊重模型的非参数特性。通过对状态轨迹 $x_{0:T}$ 进行条件化，边缘先验 $p(x_{0:T} | \theta)$ 可以表示为高斯分布的乘积。尽管由于均值和协方差对状态的非线性依赖，该分布本身并非高斯分布，但它保留了适用于序列推断的结构。

2. 粒子马尔可夫链蒙特卡洛（PMCMC）
为了从生成的联合平滑分布 $p(x_{0:T}, \theta | y_{0:T})$ 中采样，作者采用了粒子马尔可夫链蒙特卡洛（PMCMC）采样器，具体为带有祖先采样算法的粒子 Gibbs（PGAS）。

序列蒙特卡洛（SMC）： 该算法使用 SMC 来近似平滑分布。然而，标准的 SMC 存在路径退化（path degeneracy）问题，即远离最终观测的时间步会导致粒子多样性丧失。
PGAS： 为了缓解路径退化并实现对超参数 $\theta$ 的推断，使用了 PGAS。它结合了用于状态轨迹和超参数的 Gibbs 采样步骤。关键在于，它使用**带有祖先采样的条件粒子滤波（CPF-AS）**来采样状态轨迹。在 CPF-AS 中，每个步骤中有一个粒子轨迹是被固定的（受条件限制），而其他粒子则进行采样。其中的“祖先采样”步骤允许固定的轨迹对其祖先进行重采样，从而确保马尔可夫核保持精确的平滑分布不变性，并提高混合速率。

3. 稀疏 GP 构建
为了解决计算复杂度问题（朴素情况下会扩展至 $O(T^4)$ 或 $O(T^3)$ ），作者引入了使用**全独立条件（FIC）**先验的稀疏 GP 构建方法。通过引入一组诱导变量（inducing variables），计算复杂度降低至 $O(M^2T)$ ，其中 $M \ll T$ 是诱导点的数量。实现细节涉及高效更新 Cholesky 分解，以在粒子滤波的前向递归过程中维持该复杂度。

4. 动力学学习
一旦获得来自平滑分布 $p(x_{0:T}, \theta | y_{0:T})$ 的样本，转移函数 $f$ 的后验分布即可通过闭式解获得。针对新测试点的预测分布被公式化为高斯混合模型，其中每个分量对应于来自平滑分布的一个样本。这种混合模型能正确捕捉由测量歧义引起的多元性（multimodality）。

核心贡献

完全非参数化推断： 本文提出了一种能够保留高斯过程在 SSM 中完整非参数表达能力的方法，避免了对函数空间进行离散化或假设特定的参数形式。
边缘化策略： 通过边缘化转移函数 $f$ ，作者将动力学的学习与状态估计解耦，从而实现了在给定状态轨迹下对平滑分布的精确推断。
用于 SSM 的 PGAS： 将带有祖先采样的粒子 Gibbs 应用于 GP-SSMs，实现了对联合平滑分布和超参数后验的高效采样，克服了标准粒子滤波中的路径退化问题。
计算效率： 集成稀疏 GP 方法（FIC 先验）降低了计算负担，使该方法能够扩展到较长的时间序列。

实验结果

作者在两个基准测试上评估了其方法：

非线性系统基准： 一个具有双峰平滑密度（由于观测值的符号歧义引起）的系统。GP-SSM 成功捕捉了状态轨迹的双峰性质，并准确学习了动力学，即使在以较差的参数化均值函数进行初始化的情况下也是如此。学习到的动力学的均方根误差（RMSE）显著低于参数化基准，且与已知参数的真实模型相当。
倒立摆系统（Cart and Pole System）： 一个具有 4 维状态空间的强化学习基准。仅使用 100 个噪声观测值，该模型就学习到了能够进行单步预测的动力学表示。生成的预测分布（高斯混合模型）正确地反映了：在远离训练数据的状态空间区域不确定性较高，而在靠近训练数据区域不确定性较低。

意义与主张

本文声称其主要意义在于为 GP-SSMs 中的推断提供了一个关键组件：即以完全贝叶斯方式学习 GP 模型本身的能力。不同于以往假设 GP 动力学已学习完成或使用参数化近似的工作，本方法允许自适应的模型复杂度。

作者强调，其方法保留了模型的非参数表达能力，使其能够捕捉参数化模型可能错过的复杂动力学现象。他们指出，该方法在平滑分布具有高不确定性的场景中特别鲁棒，在这些场景下，传统的基于 MAP 或 EM 的方法可能会出现过拟合。使用 PGAS 确保了推断不受传统平滑技术中固定模型假设的限制，为非线性、非参数设置下的系统辨识提供了一个灵活的框架。