📊 statistics

Identification of Gaussian Process State-Space Models with Particle Stochastic Approximation EM

本文提出了一种针对高斯过程状态空间模型的极大似然识别方法，该方法将随机逼近 EM 算法与粒子马尔可夫链蒙特卡洛技术相结合，以在保持系统动力学完整非参数描述的同时实现高效参数估计。

原作者： Roger Frigola, Fredrik Lindsten, Thomas B. Schön, Carl E. Rasmussen

发布于 2026-06-04

📖 1 分钟阅读☕ 轻松阅读

原作者： Roger Frigola, Fredrik Lindsten, Thomas B. Schön, Carl E. Rasmussen

原始论文采用 CC BY 3.0 许可（http://creativecommons.org/licenses/by/3.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正试图教一个机器人走路，但你手头没有说明书，你也不知道控制它腿部运动的物理定律。你拥有的仅仅是一段机器人踉跄行走的视频。你的目标是建立一个数学模型，来预测机器人下一步会落在哪里，但还有一个非常特别的转折：这个模型还必须告诉你在多大程度上对这个预测感到不确定。

这篇论文介绍了一种构建该模型的新方法，这种方法被称为高斯过程状态空间模型（Gaussian Process State-Space Models, GP-SSMs）。以下是作者所做工作的简单拆解以及其重要意义。

问题所在：“运动”这一黑盒

通常，当科学家对一个运动系统（如机器人或汽车）进行建模时，他们会尝试猜测描述其运动方式的确切公式。他们可能会说：“它像弹簧一样运动，”或者“它像摆锤一样运动。”

风险： 如果你猜错了公式，你的模型就会失败。
另一种选择： 你可以使用一种“通用型”工具，比如神经网络，来学习运动的形状。但这些工具就像是僵硬的模具；在开始之前，你必须决定它们有多少层和多少个旋钮。如果你猜错了规模，模型要么过于简单而无法学习，要么过于复杂而开始“产生幻觉”（过拟合）。

解决方案：形影不离的“变幻黏土”

作者建议使用高斯过程（Gaussian Processes, GPs）。不要把 GP 看作是一个固定的公式，而要把它看作是一团无限的、可以随形变幻的黏土。

与其将数据强行塞入预制的模具，不如让黏土根据数据自然地塑形。
神奇之处： 这种黏土具有一个特殊的属性：它能根据一些简单的设置（称为超参数）知道运动应该是多么“平滑”或“崎岖”。
结果： 你得到了一个既能捕捉复杂的、奇特的运动，又不需要你在事前猜测其数学结构的灵活模型。

挑战：寻找设置

虽然黏土很棒，但你仍然需要调整设置（超参数）来让模型完美契合你的数据。

难度： 寻找完美设置的数学计算极其困难，因为这种“黏土”拥有无限的可能性。这就像是在尝试为一个烤箱设定完美温度，而这个烤箱拥有无限的温度设置，而且你无法打开门去检查。
论文中的妙招： 作者使用了一种称为**粒子随机近似期望最大化算法（Particle Stochastic Approximation EM, PSAEM）**的方法。
- 想象你正在试图寻找一条穿过迷雾森林的最佳路径。你看不清整个路径。
- 与其试图一次性绘制出整张森林地图，不如派出了一支探险队（称为粒子）。
- 这些探险家四处游走，测试不同的路径。
- 算法倾听探险家的反馈，从他们的错误中学习，并缓慢地调整地图设置，直到路径变得清晰。
- 至关重要的是，这种方法非常高效。它不需要检查每一种可能性；它只需要足够的探险家就能得到一个好的猜测。

他们测试了什么

作者在两种类型的系统上测试了这种方法：

简单线性系统（直线）：
- 他们向模型输入了一个在完美直线路径上运动的系统的数据。
- 结果： 尽管该模型旨在处理复杂的曲线，但它成功地识别出运动实际上是一条直线。它找到了正确的设置，并准确预测了未来的步骤。
- 置信度检查： 当模型预测远离其见过的数据的点时，它画出了一个宽泛的误差范围（一个巨大的“我不确定”区域）。当它预测靠近已知数据点时，误差范围则变得狭窄（一个自信的“我知道这个”区域）。这正是智能模型所需要的。
复杂的非线性系统（摇摆曲线）：
- 他们向模型输入了一个运动轨迹非常棘手、带有剧烈转弯的系统数据。
- 结果： 模型成功学习了运动的复杂形状，而无需事先被告知该形状是什么。
- 置信度检查： 在数据稀疏或运动混乱的区域，模型正确地展示了高不确定性（宽泛的误差范围）。在它见过类似运动的区域，它表现得很有信心。

核心结论

本文的主要成就在于提供了一种方法，让计算机能够在不需要人类先写下物理方程的情况下，学习系统的运动方式。

它很灵活： 它可以学习简单的直线，也可以学习疯狂的、摇摆的曲线。
它很诚实： 它不仅给你一个答案，还会告诉你它对这个答案有多大的信心。
它很安全： 通过对运动可能采取的所有形状进行平均，它避免了“过拟合”（即记住噪声而非学习模式）的陷阱。

简而言之，作者构建了一个工具，让计算机能够“感知”系统的物理特性，在学习规则的过程中不断摸索，同时还能实时记录自己对这些规则的把握程度。这对于机器人技术和控制系统尤为重要，因为在这些领域，了解“你不知道什么”与知道答案本身同样重要。

技术摘要：基于粒子随机近似 EM 的高斯过程状态空间模型识别

问题陈述
本文解决了识别具有未知且复杂底层状态转移动力学的非线性动力学系统的挑战。传统的系统辨识通常依赖于参数化模型（例如，特定的运动方程或固定结构的神经网络）。然而，在缺乏详细先验知识的情况下，选择合适的参数化结构非常困难，且固定参数的数量会限制能够拟合的函数的复杂度，从而可能导致欠拟合或过拟合。

作者提出使用高斯过程状态空间模型（GP-SSM）来克服这些局限性。GP-SSM 将状态转移函数视为从高斯过程（GP）先验中抽取的随机变量，提供了一种贝叶斯非参数化表示。这使得模型能够捕捉广泛的非线性动力学，同时量化不确定性。本文解决的具体问题是，在保留动力学完整非参数化描述的同时，对控制这些 GP 先验的超参数以及噪声特性进行极大似然（ML）辨识。

方法论
GP-SSM 中极大似然估计的核心难点在于，其似然函数需要对潜在的状态轨迹（ $x_{0:T}$ ）和未知的转移函数（ $f_{1:T}$ ）进行边缘化（积分消除）。虽然未知的函数可以通过解析方式被边缘化以得到状态轨迹的先验，但由此产生的对状态空间的积分在解析上是难以处理的。

为了解决这一问题，作者采用了**粒子随机近似期望最大化（PSAEM）**算法。该方法结合了两个关键组件：

随机近似 EM (SAEM)： 由于无法计算完整数据对数似然的精确期望（这是难以处理的），SAEM 通过维护一个辅助 $Q$ 函数的随机近似来工作。该函数通过来自平滑分布的样本进行迭代更新。
粒子马尔可夫链蒙特卡洛 (PMCMC)： 由于直接从平滑分布 $p(x_{0:T} | y_{0:T}, \theta)$ 中采样是不可能的，作者使用了带有祖先采样的粒子吉布斯（PGAS）。PGAS 构建了一个保持平滑分布不变的马尔可夫核，从而允许生成样本轨迹 $x_{0:T}^{[k]}$ 来更新 $Q$ 函数的近似。

算法迭代如下：

E步（模拟）： 在给定当前参数估计的情况下，使用 PGAS 采样一个新的状态轨迹。
更新： 使用新轨迹的对数似然来更新 $Q$ 函数的随机近似。
M步（优化）： 通过使用拟牛顿法（BFSS）最大化近似的 $Q$ 函数来更新参数 $\theta$ （GP 均值/协方差的超参数以及噪声方差）。

主要贡献

算法框架： 本文提出了一种用于 GP-SSM 极大似然辨识的方法，该方法避免了对伪数据集或未观测状态弱标签的需求，而这些是先前方法中的局限。
集成 PGAS 与 SAEM： 展示了如何在随机近似 EM 框架内应用带有祖先采样的粒子吉布斯，以处理 GP-SSM 辨识中难以处理的积分问题。
非参数化丰富性： 该方法保留了系统模型的完整非参数化特性。通过解析地边缘化模型的非参数部分，该方法有效地对与 GP 先验及数据一致的所有可能动力学进行了平均，起到了防止过拟合的作用（类似于经验贝叶斯）。

实验结果
作者在两类系统上验证了该方法：

线性系统： 使用线性及平方指数协方差函数对线性动力学系统进行了辨识。
- 当使用线性协方差函数时，模型成功收敛至等效于具有高斯先验的线性状态空间模型的参数。
- 当在线性数据上使用平方指数（非线性）协方差函数时，模型正确识别了系统，但在数据稀疏或模型置信度较低的区域表现出高不确定性（较宽的误差棒），展示了模型即使在真实系统比模型类更简单时也能量化不确定性的能力。
非线性系统： 一个具有状态转移函数剧烈梯度和二次测量函数（导致双峰性）的复杂非线性系统。
- 在状态方向使用 Matérn 协方差函数（允许比平方指数函数更低的平滑度）后，模型成功捕捉到了剧烈的转换和底层动力学。
- 识别出的模型提供了概率预测及其误差棒，反映了不确定性，特别是在远离训练数据的区域。

意义与主张
论文声称，GP-SSM 提供了一个灵活的框架用于非线性系统辨识，它可以在不限制模型为特定参数形式的情况下纳入高层假设（如平滑性）。所提出的 PSAEM 方法使得通过极大似然估计模型超参数成为可能，同时保留了动力学的非参数化丰富性。

作者强调，这种方法提供了具有量化不确定性的概率预测，这对于自适应控制和机器人技术等应用至关重要，因为这些领域的控制策略可能依赖于对系统动力学的置信度。该方法被呈现为一种稳健的替代方案，既不同于完全贝叶斯解（需要对参数设定先验），也不同于标准的参数化辨识，通过利用基于粒子的推理，在灵活性与计算可行性之间取得了平衡。