⚡ electrical engineering

Learning Robust Control Lyapunov Functions through Lipschitz Neural Networks

本文提出了一种新颖的框架，该框架利用具有显式高阶导数边界的 Lipschitz 神经网络以及 GPU 加速的分支定界算法，来共同学习针对受状态相关加性扰动影响的非线性系统的鲁棒控制李雅普诺夫函数和稳定控制器。

原作者： Shiqing Wei, Prashanth Krishnamurthy, Farshad Khorrami

发布于 2026-07-07

📖 1 分钟阅读☕ 轻松阅读

原作者： Shiqing Wei, Prashanth Krishnamurthy, Farshad Khorrami

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

大局观：教机器人如何在风暴中保持直立

想象一下，你正在试图教一个机器人（比如平衡杆或自动驾驶汽车）如何保持稳定。机器人需要一本“规则手册”来了解在情况出错时该如何反应。在工程学中，这本规则手册被称为 李雅普诺夫函数 (Lyapunov function)。你可以把它看作一张数字化的“能量地图”。如果机器人遵循这张地图，它就会知道，只要它朝着特定的方向移动，它就是在向安全（稳定）靠近，而不是在摔倒。

然而，现实世界是混乱的。机器人可能会遇到意想不到的风、湿滑的地板或损坏的零件。这些都是扰动 (disturbances)。大多数旧的方法在创建这些规则手册时，都假设世界是完美且可预测的。如果突然刮起一阵狂风，那些旧的规则手册可能会失效，导致机器人崩溃。

这篇论文介绍了一种更强有力的新方法，旨在教机器人即使在混乱的世界中也能保持稳定。

问题所在：“完美世界”陷阱

几十年来，工程师一直使用数学来证明机器人的安全性。但当他们使用神经网络（通过数据学习的计算机大脑）来创建这些安全地图时，出现了一个新问题：验证 (Verification)。

由于计算机大脑非常复杂且具有非线性特征（它不遵循直线），要从数学上证明它永远不会犯错是极其困难的。这就像是在没有走遍每一条路径之前，试图证明一个迷宫里没有死胡同一样。如果你无法证明这一点，你就无法将生命托付给机器人。

解决方案：“利普希茨 (Lipschitz)”约束

作者提出使用一种特殊类型的神经网络，称为 利普希茨神经网络 (Lipschitz Neural Network, LNN)。

类比： 想象你正在穿过一片雾气缭绕的森林。

标准神经网络 就像是一个可以突然瞬间移动或跳跃 100 英尺的徒步旅行者。很难预测他们下一步会在哪里。
利普希茨神经网络 则像是被严格禁止跑步速度超过特定限速的徒步旅行者。无论地形如何变化，他们每一步只能移动一定的距离。

通过强制计算机大脑遵守这个“速度限制”（在数学上称为利普希茨常数），作者可以精确计算出输出随输入变化的程度。这使得网络变得足够可预测，从而可以进行验证。

创新点：观察地图的“曲率”

这篇论文最大的突破在于他们如何检查安全地图是否正确。

大多数先前的方法仅使用 零阶 (zeroth-order) 信息（仅观察地形的高度）或 一阶 (first-order) 信息（观察斜率）来检查地图。

旧方法： 想象一下，你试图通过观察一个点和紧邻的斜率来猜测一座山的形状。如果山坡转弯很急，你可能会猜错。这会导致“保守”的结果——也就是说，即使地图实际上是安全的，计算机也会说：“我无法 100% 确定这是安全的。”这过于谨慎了。
新方法： 作者开发了一种方法，可以观察 海森矩阵 (Hessian)（斜率是如何弯曲的）甚至 三阶导数（曲率是如何变化的）。
- 类比： 他们不再仅仅是观察斜率，而是使用一台高科技无人机来绘制整座山的整个曲线。他们准确地知道地面是如何弯曲的。这使他们能够围绕“安全区域”绘制出更紧凑、更精确的边界。

引擎：由 GPU 驱动的“搜索与摧毁”

为了验证这些复杂的地图，作者构建了一个 分支定界 (Branch-and-Bound, BnB) 算法。

类比： 想象你正在一个巨大的黑暗仓库里寻找一枚丢失的硬币。

旧方法（基于 CPU）： 你缓慢地走过每一个货架，检查地板上的每一寸空间。这需要耗费很长时间。
新方法（基于 GPU）： 你拥有一支搜索队（运行在强大的图形处理器或 GPU 上），他们可以将仓库分成巨大的区块。
1. 他们观察一个区块。
2. 利用他们的“曲率图”（海森矩阵边界），他们意识到：“嘿，整个区块的高度都太高了，不可能有硬币。我们可以忽略它！”
3. 他们立即切除该部分搜索。
4. 他们只深入研究那些有希望的小区域。

因为他们使用了更高阶的数学（曲率），所以他们可以立即切除大块区域。这使得验证过程比以往的方法呈指数级加快。

结果：他们证明了什么？

团队在六种不同的“机器人”上测试了该方法，包括：

不倒摆（在小车上平衡的杆子）。
单轮车。
倒立摆（Cartpole）。
2D 四旋翼无人机。
机械臂 (SCARA)。

研究结果：

鲁棒性： 他们的这种方法成功创建了即使在受到“扰动”（模拟风或噪声）时也能工作的安全地图。
速度： 他们的新验证算法明显快于目前的行业标准（如 dReal 或 $\alpha,\beta$ -CROWN）。在某些情况下，旧方法需要数小时或耗尽内存，而他们的方法在几秒钟内即可完成。
安全性： 他们从数学上证明了，即使在世界试图将机器人推离轨道时，他们学习到的控制器也能让机器人保持稳定。

总结

这篇论文关于如何教计算机为机器人建立不可破坏的安全规则。他们通过以下方式实现了这一点：

限制计算机大脑以可预测的“速度限制”（Lipschitz）移动。
使用高级数学来理解安全地图的“曲率”，而不只是斜率。
使用超快速的并行搜索引擎（在 GPU 上），通过立即切除不可能的区域来证明地图的安全性。

其结果是一个能够学习控制复杂机器，并能在环境混乱且不可预测时，在数学上保证其不会发生碰撞的系统。

技术摘要：通过 Lipschitz 神经网络学习鲁棒控制李雅普诺夫函数

问题陈述
本文探讨了为存在加性扰动的非线性动力系统设计稳定控制器的挑战。虽然李雅普诺夫函数是稳定性分析的基础工具，但对于一般的非线性系统，如何自动构建李雅普诺夫函数仍是一个开放性问题。现有的计算方法（如和之平方 SOS 或线性矩阵不等式 LMI）通常在可扩展性或通用性方面面临困难。此外，近期利用神经网络学习控制李雅普诺夫函数（CLF）的深度学习方法通常侧重于没有扰动的精确动力学，或者依赖于计算成本高昂且过于保守的验证方法（例如仅使用零阶信息）。本文所解决的具体挑战是学习一个**鲁棒控制李雅普诺夫函数（RCLF）**以及相应的状态反馈控制器，以保证在存在状态相关加性扰动的情况下实现一致最终有界性（UUB），同时确保这些条件的验证在计算上是可行的。

方法论
所提出的框架将 Lipschitz 神经网络（LNN）与高阶分支定界（Branch-and-Bound, BnB）验证算法相结合。

Lipschitz 神经网络 (LNN)：
作者采用 LNN 来联合学习 RCLF ( $V_{\theta_1}$ ) 和稳定控制器 ( $\pi_{\theta_2}$ )。与标准网络不同，LNN 通过特定的层参数化（例如谱归一化、正交层或三明治层）强制执行预定义的 Lipschitz 常数。这种约束至关重要，因为它允许推导出网络输出相对于其输入的更高阶导数（Hessian 矩阵和三阶导数）的显式、紧致界限。RCLF 被定义为经过偏移的网络输出，以确保平衡条件 $V(0)=0$ 。
训练算法：
训练过程在采样的状态空间和边界上最小化复合损失函数。损失项强制执行以下条件：
- 正定性： 确保当 $x \neq 0$ 时， $V(x) > 0$ 。
- 下降条件： 确保在原点附近的微小球体之外，时间导数 $\dot{V}$ 为负，并考虑到最坏情况下的扰动。这涉及使用已知的扰动界限函数 $\epsilon(x)$ 以及网络和系统动力学的 Lipschitz 常数来对扰动项进行上界估计。
- 边界与覆盖： 鼓励 $V$ 的下水平集覆盖尽可能大的状态空间部分，并在边界上保持一致的值。
  该算法使用线性二次调节器（LQR）解进行初始化，并迭代优化参数，存储能够产生最大经验验证前向不变区域的参数。
高阶验证（分支定界）：
引入了一种新型的、对 GPU 友好的 BnB 算法来正式验证学习到的 RCLF。不同于依赖零阶界限的传统求解器（如 dReal）或面临可扩展性限制的 SMT 求解器，该方法利用了 LNN 的光滑性。
- 高阶界限： 作者推导出了 LNN 的 Hessian 矩阵和三阶导数的显式谱范数界限。这些界限通过泰勒展开（最高至二阶）用于构建网络输出的紧致上下界。
- 算法效率： 通过引入一阶和二阶信息，该算法能够构建比零阶方法更紧凑的函数值包络。这使得它能够比零阶方法更积极地剪枝搜索空间。
- 复杂度： 本文建立了最坏情况下的时间复杂度界限，表明评估矩形的数量与系统维度呈多项式关系，并与容差成反比，但在实践中由于更紧致的界限，这一数量被大幅减少。

核心贡献

新颖框架： 一种统一的方法，用于为存在加性、状态相关扰动的非线性系统学习鲁棒 CLF 和稳定控制器。
导数界限： 建立了 LNN 的 Hessian 矩阵和三阶导数的显式谱范数界限。这些界限比仅由零阶或一阶信息推导出的界限更紧致，解决了李雅普诺夫验证中的非凸性问题。
GPU 友好的验证： 开发了一种利用这些高阶界限并支持 GPU 批量评估的 BnB 算法。与基于 CPU 的 SMT 求解器相比，这显著加速了验证过程。
实证验证： 在六个动力系统（倒立摆、单轮车、三阶系统、转盘摆、二维无人机和 SCARA 机械臂）上的广泛仿真证明了该方法在验证稳定性方面优于现有工具（dReal, $\alpha,\beta$ -CROWN）的速度和可扩展性。

结果
论文展示了所提方法与 dReal（基于 CPU 的 SMT）和 $\alpha,\beta$ -CROWN（基于 GPU 的界限传播）的对比仿真结果。

验证速度： 所提出的基于 GPU 的 BnB 算法一致优于 dReal，即使对于具有较高状态维度（例如 $n_x=8$ 的 SCARA 机械臂）的系统，也能将验证时间从数小时（或超时）缩短至秒级。
可扩展性： 虽然 dReal 在合理时间内无法验证超过 2-3 层的系统，但所提方法成功验证了高达 4 层的网络。
前向不变区域： 与标准 LQR 和非鲁棒神经 CLF (NLC) 方法相比，学习到的控制器实现了显著更大的前向不变区域。对于倒立摆，所提方法的实现的前向不变区域比例约为 75%，而 LQR 仅为约 23%。
鲁棒性： 验证确认了学习到的控制器满足 UUB 条件，即使存在扰动，也能将轨迹保持在有界区域内。

意义与主张
本文声称其主要意义在于弥合了深度学习的表达能力与严格的鲁棒控制验证要求之间的鸿沟。通过利用 Lipschitz 网络特定的结构来推导高阶导数界限，作者实现了一个既具有数学严谨性又具有计算效率的验证过程。

作者明确指出，其框架并不针对没有已知误差界的未知模型进行稳定性认证；相反，它提供了针对已认证的模型失配或有界扰动的确定性鲁棒性保证。这项工作强调，虽然 LNN 与无约束网络相比可能具有较低的表达能力，但这种权衡是值得的，因为其带来的高效高阶验证能力对于安全关键型控制应用至关重要。论文总结道，这种方法使得对复杂非线性系统进行鲁棒、学习型控制器的形式化验证变得切实可行。