🌀 nonlinear sciences

Dynestyx: A Probabilistic Programming Library for Dynamical Systems

本文介绍了 Dynestyx，这是一个提供状态空间模型一等公民支持的概率编程库，使用户能够轻松指定先验、对混合效应数据进行推理，并为离散和连续动力系统获得原则性的不确定性量化。

原作者： Daniel Waxman, Dmitry Batenkov, John Feser, Andy Zane, Eli Bingham, Youssef Marzouk, Matthew E. Levine

发布于 2026-06-16

📖 1 分钟阅读☕ 轻松阅读

原作者： Daniel Waxman, Dmitry Batenkov, John Feser, Andy Zane, Eli Bingham, Youssef Marzouk, Matthew E. Levine

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你正试图理解一台复杂的机器，比如汽车发动机，但你看不见内部的情况。你只能看到时速表、燃油表，并听到它发出的噪音（这些是你的观测值）。同时你也知道，引擎内部有隐藏的部分在运动（这是隐状态），而且你可以通过踩油门来改变它的运行方式（这是控制）。

Dynestyx 是一款全新的软件工具，旨在帮助科学家和工程师即便在数据混乱或不完整的情况下，也能准确弄清楚那个隐藏引擎内部究竟发生了什么。

以下是该论文内容的拆解，使用了简单的类比：

1. 问题所在：“孤岛式”工具

在此工具出现之前，弄清楚这些隐藏机器是如何运作的，就像是在建造一座房子，而设计蓝图的人、铺砖的人和刷墙的人都在使用不同的语言和工具。

问题： 科学家们必须为每一个新问题编写定制化的、一次性的代码。如果他们想测试一种新的猜测引擎内部状态的方法，往往需要从头开始重建整个软件。这使得对比不同方法或遵循一套标准的“发现配方”变得非常困难。

2. 解决方案：通用适配器

Dynestyx 充当了这类问题的通用适配器或“瑞士军刀”。它是基于一种流行的编程语言 NumPyro 构建的。

“关注点分离”： 作者将 Dynestyx 设计成可以清晰地分离什么是机器（模型）以及如何去推算它（数学算法）。
- 类比： 想象你在写一个食谱（模型）。有了 Dynestyx，你可以只写一次食谱，然后选择用微波炉、烤箱或烤架来烹饪它（不同的数学算法），而无需重写食谱。

3. 它是如何工作的：“黑盒”与“猜测者”

该工具处理两种主要的随时间变化的系统：

离散时间： 就像电子游戏一样，世界按帧进行更新。
连续时间： 就像一条真实流动的河流，由复杂的物理方程描述。

Dynestyx 允许你定义系统的规则（即“漂移”和“扩散”，这是描述系统自然运动方式以及随机抖动程度的专业术语）。一旦你定义了规则，Dynestyx 就会使用效应处理器（effect handlers）（一种巧妙的编程技巧）来即时切换不同的“猜测”算法。

4. “混搭”菜单

论文强调了一个巨大的优势：组合能力。

菜单： 你可以将一种特定的估计隐藏状态的方法（例如“卡尔曼滤波”，这是一种追踪移动物体的标准方法）与一种特定的参数猜测方法（例如“MCMC”，这是一种探索所有可能答案的方法）进行配对。
创新点： 作者展示了一个表格（论文中的表 1），列出了所有可能的组合。
- 其中一些组合在其他软件中已经存在。
- “加号” (+)： 论文声称 Dynestyx 是第一个让某些组合能够实现的工具。例如，将特定类型的“集成卡尔曼滤波（Ensemble Kalman Filter）”与“梯度启发式 MCMC（Gradient-Informed MCMC）”算法进行配对，这在以前是不可能实现的，或者需要编写定制代码。Dynestyx 使其成为了一个标准的、即插即用的功能。

5. 处理“混合效应”

该工具还可以处理混合效应模型（Mixed-Effect Models）。

类比： 想象你正在研究不同汽车（个体）的行为。有些车快，有些车慢，但它们都遵循相同的基本引擎规则。Dynestyx 可以在学习所有汽车共同遵循的一般规则的同时，还能搞清楚每个个体特有的怪癖。

总结声明

该论文并不声称解决了某个特定的医疗或工程危机。相反，它解决的是一个工作流问题：

统一接口： 你可以用 Python 描述一次动力系统。
可互换的方法： 你可以更换数学算法（滤波器、采样器、优化器），而无需更改你的模型描述。
新的组合： 它解锁了以前难以实现或难以便捷组合的算法搭配方式，允许研究人员系统地比较哪种“猜测”方法最适合他们的特定问题。

简而言之，Dynestyx 是一个库，它将追踪隐藏系统时那种混乱、定制化编码的世界，变成了一个整洁、模块化且便于实验的环境。

技术摘要：Dynestyx —— 用于动力系统的概率编程库

问题陈述
状态空间模型（SSMs）是动力系统贝叶斯处理的标准形式，在神经科学、信号处理和机器学习领域具有关键应用。尽管具有理论重要性和实际效用，但动力系统一直难以集成到现代概率编程语言（PPLs）中。因此，最先进的推理方法往往局限于特定的专用代码库，这为试图遵循严谨“贝叶斯工作流”的从业者带来了摩擦。这种分离阻碍了对推理算法的系统比较，并限制了估计潜状态（latent states）和模型参数的高级方法的易用性。

方法论
作者引入了 dynestyx，这是一个作为 NumPyro 扩展构建的概率编程库。Dynestyx 旨在提供对 SSMs 的一等公民支持，同时遵循 PPL 的“关注点分离”原则。

统一接口： 该库允许用户通过单一的统一接口为离散时间及连续时间动力系统指定任意先验。
- 离散时间： 由 $x_{t+1} \sim p(x_{t+1} | x_t, u_t, t)$ 定义。
- 连续时间： 由随机微分方程（SDEs） $dx_t = f(x_t, u_t, t) dt + L(x_t, u_t, t) d\beta_t$ 定义。
- 观测值： 通过 $y_t \sim p(y_t | x_t, u_t, t)$ 与状态耦合。
组件正交化： Dynestyx 解耦了三个不同的组件：
1. 模型规范（Model Specification）： 一个定义联合先验 $p(\theta, \phi)$ 和动力学结构的 Python 函数（使用 DynamicalModel）。
2. 边缘似然（ML）估计： 用户选择推理算法（例如，卡尔曼滤波、粒子滤波、集合卡尔曼滤波）来近似难以计算的边缘似然 $p(y_{1:T} | \theta, \phi)$ 。
3. 参数推理： 生成的对数后验被传递给标准的 NumPyro 推理程序（例如，HMC、NUTS、变分推理、SG-MCMC）。
通过效应处理器（Effect Handlers）实现： 该库利用效应处理器（受 Plotkin 和 Pretnar, 2009 启发）来解释 dsx.sample 语句。这使得模型定义能够保持与特定的数值离散器或滤波算法无关，将所有近似工作推迟到推理阶段。
混合效应支持： 该库通过一个 plate 原语实现了混合效应动力系统，从而支持通过层次化数据结构进行推理，并兼容任何组合的 ML 估计器和参数推理方法。

核心贡献

PPL 中的一等公民 SSM 支持： Dynestyx 弥合了复杂动力系统理论与现代概率编程之间的鸿沟，使最先进的方法能够在标准的 NumPyro 工作流中触手可及。
组合灵活性： 通过将模型规范、ML 估计和参数推理正交化，dynestyx 实现了一个庞大的算法组合设计空间。用户可以在不重写模型代码的情况下，更换滤波算法（如 EKF、UKF、粒子滤波）和参数推理方法（如 HMC、变分贝叶斯）。
新颖的方法组合： 该库实现了在作者看来尚未出现在文献中的估计器与推理方法的组合。这些组合包括与梯度信息 MCMC（例如，带有 MALA 的 CD EnKF）配对的连续-离散 SSM，以及其他各种混合配置，详见论文中的映射表。
与现有生态系统的集成： Dynestyx 集成了现有的软件库，如 dynamax、cd-dynamax 和 cuthbert，以提供广泛的状态估计算法，包括卡尔曼滤波、RTS 平滑和可微粒子滤波。

结果与能力
论文证明了 dynestyx 成功地将理想化的数据生成过程的规范化与灵活的推理策略统一起来。其核心能力包括：

状态与参数估计： 能够对混合效应数据进行推理，并生成具有原则性不确定性量化的状态和参数估计。
算法比较： 该框架促进了不同推理方法组合的直接比较，允许从业者识别复杂、灵活或潜在误设定模型的“经验法则”或病态特征。
兼容性： 生成的模型完全兼容通用的 JAX 程序，包括变分推理、HMC/NUTS 以及随机梯度 MCMC。

意义
作者将 dynestyx 定位为一个消除目前将贝叶斯工作流应用于动力系统时所产生的摩擦的工具。通过提供 SSMs 的统一表示，该库不仅使高级方法对从业者更加易用，还为方法论创新创建了一个天然的试验场。通过系统地组合和比较推理算法的能力，可以发现关于复杂模型行为的新见解，从而可能推动贝叶斯动力系统领域的进一步发展。