🔢 mathematics

Robust Sparse Identification of Nonlinear Dynamics via Least Trimmed Squares

本文提出了一种名为 ILTS-SINDy 的鲁棒 SINDy 框架，该框架将用于离群值过滤的迭代最小修剪平方法（Iterative Least Trimmed Squares）与用于稀疏回归的顺序阈值最小二乘法（Sequentially Thresholded Least Squares）相结合，证明了在处理包含高达 20% 损坏观测值的数据集时，在识别非线性动力学方面具有卓越的性能。

原作者： Fabio Amaral, Geovani N. Grapiglia, Cassio M. Oishi

发布于 2026-06-30✓ Author reviewed ⓘ

📖 1 分钟阅读🧠 深度阅读

CC BY 4.0

原作者： Fabio Amaral, Geovani N. Grapiglia, Cassio M. Oishi

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正试图通过在不同时间点品尝一种美味汤的味道，来破解它的秘密食谱。你想写下创造这种风味的精确配料表（即“控制方程”）。

在科学界，这正是 SINDy（稀疏识别非线性动力学）所做的事情。它观察一个系统（如天气模式、动物种群或疾病传播）的数据，并试图找到解释该系统随时间变化的简单数学规则。

然而，现实世界的数据是杂乱无章的。有时温度计会坏掉，传感器会发生故障，或者有人不小心把一滴汤洒在了量杯里。在数据科学中，这些被称为离群值（outliers）或噪声（noise）。如果你试图用一勺含有碎玻璃的汤来推导食谱，那么你最终得到的食谱将会是错误的。

旧方法的缺陷

论文解释说，寻找这些食谱的标准方法对“糟糕数据”非常敏感。

标准 SINDy： 它试图使用所有数据点，即使是那些坏掉的数据。如果数据有噪声，数学逻辑就会产生混乱，从而发明出并不存在的虚假配料（比如“魔法粉末”）。
其他“鲁棒（Robust）”方法： 一些较新的方法试图通过平均许多不同的猜测，或者在计算食谱的同时尝试剔除坏数据来解决这个问题。作者认为这些方法要么速度太慢，要么过于复杂，或者仍然会因为试图同时完成两件困难的事情而感到困惑。

新的解决方案：ILTS-SINDy

作者提出了一种名为 ILTS-SINDy 的全新两步流程。他们将其描述为一种“先过滤，后稀疏化”的方法。你可以把它想象成一个两阶段的烹饪过程：

第一阶段：“智能滤网”（ILTS）

在你开始写下食谱之前，你需要先清洗你的食材。

类比： 想象你有一桶水中混杂着石头和落叶。与其在石头还在水里的时候就尝试喝水，不如把它倒入一个智能滤网中。
运作方式： 该方法使用一种称为**迭代最小截断平方和（Iterative Least Trimmed Squares, ILTS）**的算法。它观察所有的数据点，并询问：“哪些点最符合模式？”它保留“好的”数据点（清澈的水），并扔掉那些不合理的“坏”数据点（石头和落叶）。它反复进行这个过程，直到确定只剩下了最干净、最可靠的数据。
结果： 现在你拥有了一个干净的数据集，远离了奇怪的故障和离群值。

第二阶段：“极简主义大厨”（STLS）

现在你有了干净的食材，可以开始推导食谱了。

类比： 一位极简主义大厨希望使用尽可能少的配料来让汤的味道变得正确。如果只需要盐和胡椒，他们就不会加入盐、胡椒、大蒜和罗勒。
运作方式： 该方法使用序列阈值最小二乘法（Sequentially Thresholded Least Squares, STLS）。它观察干净的数据，并尝试找到最简单的数学方程来拟合。它从考虑所有可能的配料开始，然后系统地移除那些不需要的配料，直到只剩下本质的、“稀疏”的（简单的）规则为止。

为什么这意义重大

作者在三个著名的“汤谱”（用于描述疾病传播、混沌天气和捕食者-猎物动物种群的数学模型）上测试了这种新方法。他们特意在数据中加入了“腐烂的食材”（离群值），以观察这些方法处理数据的能力。

结果：
- 标准 SINDy 在面对脏数据时表现得一败涂地。它无法找到正确的食谱。
- 其他鲁棒方法 表现尚可，但当数据非常杂乱时仍然会遇到困难。
- ILTS-SINDy 成为了冠军。即使有高达 20% 的数据被损坏（意味着每 5 个数据点中就有 1 个是谎言或故障），ILTS-SINDy 仍能找到完全正确的数学食谱。

核心结论

论文声称，通过将清洗数据的任务与寻找规则的任务分离，这种新方法能更好地忽略噪声并找到自然的真实规律。这就像是一位要求在厨房变得一尘不染之前绝不品尝菜肴的大厨，确保最终的食谱是完美的。

技术摘要：基于最小修剪最小二乘法的鲁棒稀疏非线性动力学识别

问题陈述
稀疏识别非线性动力学（SINDy）框架是利用观测数据发现控制微分方程的一种重要的数据驱动方法。然而，标准的 SINDy 实现对测量噪声高度敏感，并且关键在于对离群值（outliers）极其敏感。由于 SINDy 依赖于有限差分近似时间导数，受损的数据点会严重扭曲导数估计，从而导致有偏的回归问题并产生伪模型项。虽然已经提出了现有的鲁棒变体——如修剪 SINDy（Trimmed SINDy）、弱 SINDy（WSINDy）和集成 SINDy（E-SINDy）——但它们都面临局限性。修剪方法通常将离群值检测与稀疏回归耦合在一个非凸优化中，可能无法完全排除受损样本。WSINDy 降低了噪声敏感性，但引入了选择测试函数和积分域的复杂性。E-SINDy 通过重采样提高了稳定性，但计算成本可能较高，并且可能仍然继承来自受损子样本的偏差。

方法论：ILTS-SINDy 流水线
作者提出了 ILTS-SINDy，这是一个将离群值过滤与稀疏回归解耦为两个顺序阶段的鲁棒识别流水线。这种“先过滤后稀疏化”的策略与执行这些任务的联合优化方法形成对比。

第一阶段：迭代最小修剪最小二乘法（ILTS）过滤
第一阶段通过识别并移除离群值来解决数据污染问题。该方法采用了迭代最小修剪最小二乘法（ILTS）算法。
- 机制： ILTS 通过迭代最小化最小平方残差之和。它在估计一部分数据的回归系数与更新该子集（仅保留残差最小的 $p$ 个观测值）之间进行交替。
- 结果： 这一过程逐步集中于最一致的数据点，有效地减轻了离群值的影响，且无需预先知道其位置。输出是一个“清洗后”的数据集（一个缩减后的矩阵 $\hat{A}$ 和向量 $\hat{b}$ ），其中仅包含估计的内点（inliers）。
- 参数选择： 内点数量 $p$ 根据已知的离群值比例 $q$ 来设定。作者指出，由于使用了中心有限差分，单个离群值最多会污染三个导数估计（该点本身及其相邻点）。因此，他们设定 $p = (m+1) - \lfloor 3q(m+1) \rfloor$ 。
第二阶段：顺序阈值最小二乘法（STLS）
第二阶段在清洗后的数据集上进行稀疏模型识别。
- 机制： 对过滤后的数据应用标准的 STLS。它使用完整的候选库求解最小二乘问题，并通过对较小的系数进行阈值处理以强制实现稀疏性，从而迭代地将系数设为零。随后，仅使用剩余的活跃项重新求解回归。
- 结果： 这产生了一个对初始数据污染具有鲁棒性的简约控制方程表示（ $\dot{x}_i(t) = \sum \alpha_{i,j} \theta_j(x(t))$ ）。

核心贡献

解耦框架： 主要贡献在于将离群值检测（通过 ILTS）与稀疏回归（通过 STLS）进行结构化分离。这避免了联合优化方法中存在的权衡问题，即在稀疏估计阶段受损样本可能会被误分类为内点。
对严重污染的鲁棒性： 该方法旨在处理具有显著离群值污染（实验中高达 20%）的数据集，同时保持恢复真实控制方程的能力。
算法集成： 论文将 ILTS（算法 2）和 STLS（算法 1）集成到专门用于 SINDy 应用的统一流水线（算法 3）中。

数值结果
作者使用来自三个基准动力系统的合成数据集（SIR 模型、Lorenz 系统和 Lotka–Volterra 系统），将 ILTS-SINDy 与标准 SINDy（带 STLS）和 E-SINDy 进行了评估。实验涉及变化的加性高斯噪声和离群值百分比（ $q$ ），范围从 2.5% 到 20%。

支持恢复准确度（Support Recovery Accuracy）： 在所有系统和条件下，ILTS-SINDy 始终实现了最高的平均支持恢复准确度。虽然标准 SINDy 的性能随污染增加而显著下降，且 E-SINDy 显示出中度的鲁棒性，但 ILTS-SINDy 在严重污染下仍能保持接近 1.0 的准确度。
精确恢复率（Exact Recovery Rate）： 一个关键指标是真实稀疏模式（即正确的活跃项集合）的精确恢复。标准 SINDy 在大多数受损场景下都无法实现精确恢复。E-SINDy 显示出较高的支持准确度但精确恢复率较低，这表明它通常能正确重建轨迹，但识别出了错误的模型结构。相比之下，ILTS-Sled 展现了卓越的精确恢复率，即使在高离群值水平下，也能在 SIR 系统中保持近乎完美的恢复，并在 Lorenz 和 Lotka–Volterra 系统中表现强劲。

意义与主张
论文声称 ILTS-SINDy 相比现有的鲁棒 SINDy 变体提供了显著改进，特别是在强数据污染的机制下。通过在稀疏回归之前过滤离群值，该方法产生了一个更干净的回归问题，从而实现更可靠的底层控制方程识别。作者断言，这种方法不仅提高了预测精度，更重要的是确保了动力系统的正确结构发现。

该研究在当前范围方面较为谨慎，指出它假设已知离群值百分比 $q$ 以确定内点数量 $p$ 。未来的工作包括开发一种能够数据驱动地估计 $q$ 的自适应程序，将该框架扩展到带有控制（外部输入）的 SINDy，并在真实世界数据集上验证该方法。论文并未声称其对所有动力系统都具有普适性，而强调了其在所测试的合成基准上的有效性。