⚡ electrical engineering

KKL Observer Synthesis for Nonlinear Systems via Physics-Informed Learning

本文提出了一种用于设计非线性系统 Kazantzis-Kravaris (KKL) 观测器的创新物理信息学习框架，该框架利用神经网络来学习所需的状态变换及其逆变换，同时提供了关于鲁棒性和非渐近性能的理论保证，证明了其相比现有方法具有更优越的泛化能力。

原作者： M. Umar B. Niazi, John Cao, Matthieu Barreau, Karl Henrik Johansson

发布于 2026-08-12

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： M. Umar B. Niazi, John Cao, Matthieu Barreau, Karl Henrik Johansson

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

无形的地图与水晶球

想象一下，你正试图驾驶一艘飞船穿过一场风暴，但你的驾驶舱里只有一个闪烁的灯泡，只能让你看到外面云朵的颜色。你看不见飞船的速度、燃料水平或精确位置。为了安全飞行，你需要一个“水晶球”——一种被称为**观测器（observer）**的数学工具——它能通过那个单一且模糊的灯光信号，推测出飞船完整的、隐藏的状态。在现实世界中，传感器往往是损坏的、昂贵的，或者干脆就是缺失的，因此工程师们依赖这些数学“水晶球”来填补空白。

对于简单的、可预测的机器，我们几十年来已经拥有了优秀的“水晶球”。但当机器变得狂野、混沌且具有非线性时（比如剧烈摆动的双摆，或是不规则跳动的心脏），数学处理就会变得极其复杂。一种被称为 KKL 观测器 的强大方法试图解决这个问题：它设想了一个秘密的高维“影子世界”，在那里，混沌会转化为一条笔直、平静的直线。如果你能找到进入这个影子世界的地图，以及回到现实世界的地图，你就能完美地预知未来。问题在于，寻找这些地图就像是在解一个拼图，而拼图的碎片是隐形的，且图像本身一直在变化。这篇论文通过教计算机利用物理定律作为严厉的老师，来学习这些地图，从而解决了这个不可能的谜题。

教导计算机绘制无形的地图

本文的作者——来自皇家理工学院（KTH）和牛津大学的研究人员——提出了一种构建复杂非线性系统“水晶球”的巧妙新方法。他们的目标是设计一个 KKL 观测器，其运作方式就像一个两步走的魔术：首先，它将系统混乱的现实状态转化为高维“影子空间”，在那里的规则是简单且线性的（就像一条直线）；其次，它需要完成这个魔术的反向过程，将那个简单的影子映射回现实的、混乱的世界，从而给出对现状的准确猜测。

最大的障碍始终是寻找这两张地图：一张是“进入”的地图，另一张是“出来”的地图。传统上，通过求解数学方程（偏微分方程）来寻找这些地图是一场噩梦，通常无法通过手工完成。以往尝试使用人工智能（AI）来学习这些地图的方法往往会失败。它们试图同时学习“进入”地图和“出来”的地图，就像在蒙着眼睛的情况下试图同时学习如何系好左右两只鞋带一样。这经常会让 AI 感到困惑，导致错误的猜测，或者陷入无法改进的循环中。

论文的解决方案：一步步的舞蹈
作者建议采用**顺序学习（sequential learning）**的方法，而不是同时进行所有操作。他们分两个阶段来教导 AI：

第一阶段（物理老师）： 首先，他们训练一个神经网络来学习“进入”地图。但这里有一个转折：他们不仅仅是给它展示数据，而是强制它遵守物理定律。他们使用了一种称为**物理信息学习（Physics-Informed Learning）**的技术。想象一下，你教学生不仅是展示答案，还给了他们一本必须遵守的规则教科书。如果学生的猜测违反了物理规则，老师（计算机）就会给予巨大的惩罚。这确保了这张地图不仅仅是基于数据的偶然猜测，而是一个真正尊重系统运动规律的解。
第二阶段（逆向工程师）： 一旦“进入”地图被学习并固定下来，他们就利用它来生成新的、完美的练习数据。然后，他们训练第二个神经网络来学习“出来”的地图（即逆映射）。因为第一张地图已经固定，第二个网络就有一个清晰、稳定的目标可以瞄准，从而避免了“蒙眼系鞋带”的困惑。

他们的发现
研究人员在一些著名的、棘手的数学系统中测试了这种方法：反向达芬（Reverse Duffing）振荡器、范德波尔（Van der Pol）振荡器，以及具有蝴蝶形状混沌特征的 Rössler 和 Lorenz 引力子。他们使用带有噪声的数据模拟了这些系统，就像现实世界的传感器通常具有的那样。

结果令人振奋。在模拟中，他们的新方法（他们称之为 SPINN）在猜测隐藏状态方面，始终比其他顶尖的 AI 方法更准确。至关重要的是，它展现了一种名为**泛化（generalization）**的超能力。当他们在从未见过的场景下测试 AI 时——例如一个能量远高于其练习过的系统的场景——SPINN 依然有效。而其他那些仅依赖数据而没有“物理教科书”规则的方法，在超出其训练区域后往往会表现得一败涂地。

论文还提供了一个数学上的安全网。他们证明了即使 AI 犯了一些小错误，观测器也不会失控；即使在有噪声或存在轻微不确定性的情况下，误差也会保持在可控范围内。他们表明，你给 AI 的数据越多、网络越复杂，猜测就会越精准，但物理规则才是防止其脱轨的关键。

它不是什么
需要注意的是，本文并未涵盖的所有内容。作者谨慎地指出，这是一个基于模拟的证明。他们尚未制造出物理机器人或真实的汽车来进行测试；他们是在计算机模拟的混沌系统模型上进行的测试。他们还明确反对同时学习正向和反向地图的想法，并证明了这种“联合”方法由于给 AI 提供了冲突的指令，往往会导致更差的结果。此外，虽然他们提到了未来的工作，但这篇特定的论文并不解决随时间变化的系统（非自治系统）或带有外部控制的系统问题；它严格专注于自主运行的系统。

简而言之，这篇论文表明，通过先教导 AI 尊重物理定律，然后再循序渐进地教导它完成逆向过程，我们可以为预测世界上最混乱的机器构建出更聪明、更可靠的“水晶球”。

技术摘要：基于物理信息学习的非线性系统 KKL 观测器合成

1. 问题陈述

本文研究了为自主非线性系统设计 Kazantzis-Kravaris/Luenberger (KKL) 观测器的挑战。KKL 观测器依赖于一个单射坐标变换映射 $T$ ，该映射将非线性系统提升到更高维的空间，在该空间中，其动力学在输出注入下是线性的且是稳定的。随后，观测器复制这些线性动力学，并使用逆映射 $T^*$ 将状态映射回原始坐标。

合成此类观测器面临两个主要障碍：

解析不可解性： 寻找变换映射 $T$ 需要求解特定的偏微分方程 (PDE)，这在计算上非常困难。此外，解析或数值化地计算其逆映射 $T^*$ 通常是不可行的。
学习局限性： 现有的基于学习的方法（例如联合编码器-解码器架构）通常受到训练过程中梯度冲突的影响，导致陷入次优局部极小值，并在系统初始状态偏离训练分布时表现出较差的泛化能力。此外，纯数据驱动的方法可能无法遵循系统动力学的底层物理约束。

2. 方法论

作者提出了一种新颖的序列学习框架，通过使用物理信息神经网络 (PINNs) 将前向变换映射 ( $T$ ) 与其逆映射 ( $T^*$ ) 的学习进行解耦。

2.1 序列学习架构

与以往训练自动编码器（联合学习 $T$ 和 $T^*$ ）的工作不同，该方法采用了两阶段过程：

前向映射学习 ( $\hat{T}_\theta$ )： 训练一个神经网络来逼近变换映射 $T$ 。训练目标结合了数据拟合项（匹配合成轨迹）和物理信息正则化项。该项对控制方程的残差进行惩罚：
$\mathcal{P}_\theta(x) = \frac{\partial \hat{T}_\theta}{\partial x}(x)f(x) - A\hat{T}_\theta(x) - Bh(x)$
其中 $f$ 和 $h$ 是系统动力学和输出函数， $A, B$ 是固定的观测器矩阵。
逆映射学习 ( $\hat{T}^*_\eta$ )： 一旦前向映射经过训练并固定，第二个神经网络将被用于学习逆映射。它通过将估计的隐状态映射回原始状态空间来最小化重构风险：
$\min_\eta \mathbb{E}_{x \sim D_X} [\|x - \hat{T}^*_\eta(\hat{T}_\theta(x))\|^2]$

2.2 数据生成

通过模拟系统动力学和线性观测器动力学来生成合成数据。为了处理观测器初始状态 $z(0)$ 未知的问题，作者利用了观测器的稳定性（Hurwitz 矩阵 $A$ ）。他们从随机初始点开始模拟轨迹，并丢弃 $z$ -轨迹的瞬态部分，从而确保剩余的数据点实际上与初始观测器状态无关，并位于不变流形上。

2.3 理论保证

论文建立了非渐近学习保证：

泛化界限： 利用伪维度理论，作者推导出了关于前向映射和逆映射逼近误差的高概率界限。
鲁棒性： 论文证明了时间平均稳态估计误差受学习逼近误差和系统不确定性（模型失配和测量噪声）的限制。具体而言，误差收敛到由学习到的逆映射质量和外部扰动大小决定的零邻域内。

3. 核心贡献

序列学习策略： 本文引入了一种学习 KKL 观测器的序列方法，避免了联合编码器-解码器训练中固有的梯度冲突。这提高了优化稳定性和精度。
物理信息正则化： 通过将 KKL PDE 作为损失项，该方法强制执行物理一致性，起到强正则化作用，防止对训练数据的过拟合，并实现对未见状态的外推。
理论分析： 该工作提供了严谨的非渐近界限，将经验风险最小化与真实的逼近误差联系起来。它进一步证明了所得观测器对学习误差和系统不确定性具有鲁棒性，保证了有界的时间平均估计误差。
实证验证： 该方法在四个基准非线性系统（反向 Duffing、Van der Pol、Rössler 和 Lorenz 引子）上得到了验证，证明了其相比于最先进的数据驱动方法（Neural ODEs、深度无模型切换、无监督自动编码器）具有更优越的泛化能力。

4. 结果

在基准系统上的数值模拟表明，所提出的方法（称为 SPINN）实现了：

更高的精度： 与竞争方法相比，具有更低的对称平均绝对百分比误差 (SMAPE)。
卓越的泛化能力： 当在训练域之外的初始条件进行测试时，该方法仍能保持高性能，而纯数据驱动方法（如 NODE 和 DMF）性能显著下降。
鲁棒性： 观测器在存在测量噪声和模型不确定性的情况下仍能有效估计状态，符合推导出的理论界限。

作者将这一成功归功于 PDE 约束作为一种归纳偏置 (inductive bias)，它缩小了假设空间，并迫使神经网络学习保留系统不变性（例如极限环）的映射，即使是在未被训练数据覆盖的区域。

5. 意义与主张

本文声称其主要意义在于克服了现有基于学习的观测器合成的局限性，特别是难以求解解析逆以及纯数据驱动模型泛化能力差的问题。

实际应用价值： 该方法为一般非线性系统提供了一种系统化的 KKL 观测器设计方法，在这些系统中解析解是不可得的。
可靠性： 通过提供鲁棒性和非渐近误差界的理论保证，本文将学习到的观测器定位为安全关键应用的可靠工具，而非仅仅是“黑盒”学习方法。
未来方向： 作者谦虚地指出，未来的工作将侧重于将该框架扩展到非自治和受控系统（涉及随时间变化的 PDE），并将系统辨识与观测器设计集成，以应对系统模型未知的情景。他们还建议探索主动学习以优化数据采样。

论文总结认为，所提出的物理信息序列学习方法为 KKL 观测器合成提供了一个鲁棒且可泛化的解决方案，架起了严谨控制理论与现代机器学习之间的桥梁。