论文技术总结：非自治非线性系统的神经卢恩伯格状态观测器

1. 研究背景与问题定义

在现代非线性化学过程的控制与建模中，状态空间表示法至关重要。然而，在实际工业应用中，由于物理限制（如无法测量的浓度）和经济成本（传感器昂贵），系统的全状态通常不可直接测量。因此，需要设计状态观测器来根据可用的输入输出数据估计系统状态。

传统的观测器方法（如扩展卡尔曼滤波 EKF、高增益观测器）存在显著局限性：

• 模型依赖性：需要精确的系统动力学模型或线性化模型。
• 收敛性限制：EKF 仅在小邻域内收敛，高增益观测器存在峰值现象且对噪声敏感。
• 非自治系统挑战：现有的数据驱动观测器大多针对自治系统（无外部输入），对于具有操纵输入（Manipulated Inputs）的非自治非线性系统，缺乏完全数据驱动的观测器综合框架。

核心问题：如何在不依赖系统解析模型（Model-free）的情况下，利用历史或仿真数据，为具有外部输入的输入仿射（Input-affine）非自治非线性系统设计一个具有理论误差保证的状态观测器？

2. 方法论：神经卢恩伯格观测器 (NLOX)

本文提出了一种名为NLOX (Neural Luenberger Observer for Nonlinear systems with external inputs) 的方法，该方法基于 Kazantzis-Kravaris/Luenberger (KKL) 观测器框架，并完全通过数据驱动实现。

2.1 理论框架

对于输入仿射系统：
$$\dot{x} = f(x) + g(x)u, \quad y = h(x)$$
传统的 KKL 观测器通过一个单射非线性变换 $T$ 将系统状态映射到观测器状态 $z$，使其遵循线性时不变（LTI）动力学。对于非自治系统，Bernard 和 Andrieu (2018) 证明了可以通过在 LTI 动力学中添加一个输入仿射项 $\omega(z)u$ 来处理外部输入：
$$\dot{z} = Az + By + \omega(z)u$$
其中：

• $A$ 是 Hurwitz 矩阵（保证稳定性）。
• $B$ 是输入矩阵。
• $\omega(z)$ 是补偿外部输入影响的项。
• 状态估计 $\hat{x}$ 通过 $T$ 的左逆（伪逆）$T^\dagger$ 获得：$\hat{x} = T^\dagger(z)$。

2.2 神经网络实现

由于解析求解偏微分方程 (PDE) 以获得 $T$ 和 $\omega$ 极其困难，本文提出使用全连接前馈多层感知机 (MLP) 来学习这两个关键组件：

1. 输入仿射项网络 $\omega(z|\theta)$：学习输入对观测器动态的影响。
2. 逆映射网络 $T^\dagger(z|\psi)$：学习从观测器状态 $z$ 到原始系统状态 $x$ 的非线性映射。

训练流程：

• 数据准备：收集 $M$ 条包含输入 $u$、输出 $y$ 和真实状态 $x$ 的轨迹数据（离线仿真或历史数据）。
• 离散化：使用前向欧拉法离散化观测器动态。
• 损失函数：最小化真实状态与网络输出估计值之间的均方误差：
  $$\mathcal{L} = \frac{1}{MN} \sum \sum \| x_k - T^\dagger(z_k|\psi) \|^2$$
• 优化：使用反向传播和 RMSprop 优化器同时更新两个网络的参数。

2.3 理论保证

文章在增量输入 - 状态稳定性 ($\delta$ISS) 的假设下，利用 Rademacher 复杂度 和 集中不等式 证明了：

• 训练好的神经网络在给定新输入输出数据时，其状态估计误差具有概率保证的上界。
• 误差界由三部分组成：有限样本泛化误差（随数据量 $MN$增加而减小）、离散化误差（随采样时间$t_s$ 减小而减小）以及 Lipschitz 常数相关的项。

3. 主要贡献

1. 首个完全数据驱动的非自治 KKL 观测器：提出了一种无需系统模型即可学习输入仿射项 $\omega$ 和状态重构映射 $T^\dagger$ 的框架，填补了高维非自治系统数据驱动观测器的空白。
2. 理论误差界：为基于神经网络的观测器提供了严格的泛化误差上界证明，量化了数据量、采样时间和网络复杂度对估计精度的影响。
3. 高维系统适用性：成功将方法应用于高维系统（如 6 维的 Williams-Otto 反应器），克服了以往数据驱动方法多局限于低维系统（$n_x \le 3$）的局限。
4. 鲁棒性验证：在存在随机噪声和外部扰动的情况下，验证了观测器的鲁棒性。

4. 数值案例与结果

论文在两个化学过程案例中验证了 NLOX 的性能，并与扩展卡尔曼滤波 (EKF)、滑模观测器 (SMO) 以及基于模型的解析解进行了对比。

4.1 案例一：恒容生物反应器 (Bioreactor)

• 系统：2 维状态，1 维输入。
• 结果：
  • NLOX 的均方根误差 (RMSE) 与基于模型的解析解相当，且优于 EKF 和 SMO。
  • 在加入高斯噪声后，NLOX 对状态 $x_1$ 的估计误差低于所有基准方法，表现出良好的鲁棒性。
  • 网格搜索表明，增加神经元数量和训练数据量可显著提升精度。

4.2 案例二：Williams-Otto 反应器

• 系统：6 维状态（6 种组分），2 维输入（流量和温度），具有强非线性和耦合。
• 挑战：高维非线性使得解析 KKL 变换不可行，且单网络难以收敛。
• 策略：采用 6 个独立的子网络分别学习每个状态分量的逆映射，以解决多目标优化中的梯度竞争问题。
• 结果：
  • NLOX 的总误差 (RSSE) 比 EKF 降低了 3.96 倍，比 SMO 降低了 1.37 倍。
  • 在初始化阶段（系统未进入稳态），NLOX 表现出比 EKF 更快的收敛速度和更低的初始误差。
  • 在噪声干扰下，NLOX 保持了与 SMO 相当甚至更优的性能，且无需手动调节增益参数。

5. 意义与展望

意义：

• 打破模型依赖：为复杂工业过程提供了一种无需精确机理模型即可实现高精度状态估计的新范式。
• 理论结合实践：将神经网络的强大拟合能力与经典控制理论（KKL 框架）及统计学习理论（泛化界）相结合，既保证了性能又提供了理论可信度。
• 高维扩展：证明了数据驱动方法在处理高维、强非线性化工过程时的可行性。

局限与未来工作：

• 监督学习依赖：当前方法需要离线阶段的真实状态数据（Ground Truth）进行训练。
• 未来方向：探索无监督学习方法，构建联合优化问题，使网络在无真实状态标签的情况下也能学习一致的潜状态表示，从而进一步提升工程实用性。

---

总结：该论文提出了一种创新的神经卢恩伯格观测器，成功解决了非自治非线性系统的数据驱动状态估计难题。通过结合 KKL 框架与神经网络，该方法在无需系统模型的情况下，实现了高精度、有理论保证且对噪声鲁棒的状态估计，特别适用于复杂的高维化工过程控制。