🤖 machine learning

Deep ZakaiJ: Structured Filtering for Jump-Diffusion Time Series Forecasting

本文提出了 Deep ZakaiJ，这是一种神经编码器 - 解码器框架，它嵌入 Zakai 非线性滤波方程，通过可解释的传播步骤和创新步骤递归更新潜在状态信念，从而有效预测部分可观测的跳跃扩散时间序列。

原作者： Yan Leng, Thibaut Mastrolia, Hao Wang

发布于 2026-05-26

📖 1 分钟阅读☕ 轻松阅读

原作者： Yan Leng, Thibaut Mastrolia, Hao Wang

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你试图预测天气，但大气是混沌的。有时风平稳地吹拂，但偶尔，一场突如其来的猛烈风暴会凭空袭来。在数据世界中，这被称为跳跃扩散系统：平滑、可预测的运动（“扩散”）与突然、令人震惊的跳跃（“跳跃”）的混合体。

问题在于，我们无法看到驱动这些变化的“引擎”。我们只能看到天气（数据），而无法看到引发风暴的隐藏大气压系统（潜在状态）。如果你仅根据所见来预测未来，下一次突然的跳跃会让你措手不及。

现在登场的是Deep ZakaiJ，这是一种专为这些混沌系统设计的全新 AI 模型，充当“超级预测侦探”。以下是其工作原理，分解为简单的概念：

1. 侦探的笔记本（编码器）

大多数 AI 模型只是查看过去的数据并猜测未来。Deep ZakaiJ 则不同。它维持着对幕后发生情况的“信念”。

将这种信念想象成侦探的笔记本。每当新数据到达（例如温度读数），侦探就会更新他们的笔记本。但 Deep ZakaiJ 并非只是草草记录，而是使用一种非常具体、数学上严谨的方法，称为Zakai 方程。

为了让这种复杂的数学在神经网络中发挥作用，作者将更新过程分解为三个截然不同、易于理解的步骤（就像食谱一样）：

步骤 A：猜测（先验传播）： 侦探根据潜在状态通常的行为方式，预测其应该如何发展。
步骤 B：平滑检查（扩散创新）： 侦探查看数据。如果天气变化是平滑的（如微风拂面），他们就会微调自己的信念以匹配这种平滑运动。
步骤 C：冲击检查（跳跃创新）： 这是特别之处。如果数据显示出巨大的、突然的峰值（如飓风），侦探不会仅仅微调数字；他们会彻底重写自己的信念，以考虑到刚刚发生了一次“跳跃”的可能性。

通过将这些步骤分开，模型能够对突然的冲击做出敏锐反应，而不会被正常的波动所迷惑。

2. 水晶球（解码器）

一旦侦探更新了他们的笔记本（即“滤波后的信念”），他们就会将这些信息传递给解码器。

将解码器想象成一个现在知情的水晶球。因为它知道潜在状态（例如“风暴正在酝酿”），所以它不会仅仅猜测未来的单一数值。相反，它会生成完整的概率图。它可以说：“有 90% 的概率价格保持稳定，但有 10% 的概率会崩盘。”

关键在于，这个水晶球是“结构化”的。它不会向靶盘随意投掷飞镖；它尊重物理和金融的规则。它知道平滑变化和突然跳跃是不同的事物，并将它们分别建模。

3. 结果：为何重要

作者在三种类型的“天气”上测试了 Deep ZakaiJ：

合成数据： 一个虚构的世界，他们知道确切的规则。Deep ZakaiJ 完美地推断出了隐藏的规则。
黄金价格（XAU/USD）： 真实金融数据，价格因新闻而跳跃。与其他顶级模型相比，该模型在预测可能结果的范围（不确定性）方面表现更好，即使其单点预测与其他模型相似。
海浪（NDBC）： 来自浮标的真实数据，海浪可能在风暴期间突然激增。同样，与竞争对手相比，该模型提供了更可靠的“置信区间”（预测范围）。

结论

Deep ZakaiJ 就像给天气预报员戴上了一副 X 光眼镜。当其他模型只能看到表面数据（雨水）时，Deep ZakaiJ 能推断出导致降雨的隐藏风暴系统。通过将“平滑变化”与“突然冲击”在数学上分离，它构建了一个更准确、更可靠的未来图景，尤其是在事情即将出错的时候。

该论文未声称的内容：
该论文并未声称该模型能以 100% 的确定性预测股市崩盘，也未声称它能解决气候变化。它仅仅指出，对于具有潜在状态和突然跳跃的时间序列，这种特定的数学方法能带来比当前方法更好、校准更准确的预测。

技术摘要：Deep ZakaiJ

问题陈述

金融和海洋学等领域的时序数据经常表现出由未观测到的潜在状态（例如宏观经济冲击或风暴机制）驱动的突发性跳跃不连续性。预测这些轨迹具有挑战性，因为跳跃的时机和幅度无法仅从观测历史中推断出来。

现有方法面临显著局限：

经典跳跃扩散模型：虽然具有数学原理（例如 Merton 模型），但它们依赖于僵化的参数假设，难以捕捉复杂、非线性的潜在结构。
神经跳跃模型：最近的深度学习方法（例如神经跳跃 SDE）通常在完全观测的轨迹上运行，未能推断出支配动态的隐藏状态。
潜在状态模型：像潜在 ODE 或神经 CDE 这样的方法将潜在状态视为通过摊销变分推断学习的隐式表示。它们缺乏处理跳跃过程特有的完全不可达停止时间的原则性贝叶斯更新机制。
卡尔曼滤波扩展：像 CRU 和 NCDSSM 这样的模型将卡尔曼滤波嵌入到深度架构中，但仅限于线性高斯动态，无法模拟跳跃扩散系统固有的非线性。

因此，需要一个框架，能够在部分观测的跳跃扩散系统中对潜在机制执行非线性滤波，同时保持可微性和可训练性。

方法论：Deep ZakaiJ

作者提出了Deep ZakaiJ，这是一种潜在状态模型，将Zakai 非线性滤波方程嵌入到神经编码器 - 解码器架构中。该框架专为部分观测系统设计，其中观测过程 $X_t$ 由未观测的潜在状态 $\Theta_t$ 驱动。

1. 理论基础

该模型建立在 Zakai 方程之上，该方程描述了给定观测值时潜在状态的非归一化条件律（滤波器）的演化。通过将测度更改为观测过程无漂移的参考测度 $Q$ ，作者推导出了 Zakai 方程的弱形式（公式 3），该形式演化非归一化密度 $q_t(\phi)$ 。

2. Zakai 编码器

核心创新是对 Zakai 方程的Strang 分裂离散化，将信念更新分解为三个可解释、可微的子步骤：

A 步（先验传播）：使用从潜在生成器导出的数值传播器（马尔可夫转移核）传播潜在先验。添加一个学习到的残差校正 $R^A_\psi$ 以解决模型失配和数值偏差。
B 半步（扩散创新）：基于观测的连续分量更新信念。它利用连续增量的局部高斯近似执行贝叶斯重加权。
C 半步（跳跃创新）：基于跳跃分量更新信念。它采用适用于小时间步长的“至多一次跳跃”近似，针对“无跳跃”和“发生跳跃”假设的混合体对后验进行重加权。这使得滤波器能够对大幅位移做出急剧反应。

编码器在固定的潜在网格上递归更新非归一化后验 $q_k$ ，提取用于预测的低维信念特征 $\beta_k$ 。作者证明，该离散编码器相对于精确的 Zakai 演化实现了一阶全局精度。

3. 结构化跳跃扩散解码器

解码器是一个结构化模型，参数化了给定当前观测、滤波信念 $\beta_k$ 和候选潜在状态 $\theta$ 的未来增量的条件分布。

它明确解耦了连续动态（漂移 $\mu$ ，波动率 $\sigma$ ）与不连续冲击（跳跃强度 $\lambda$ ，跳跃大小映射 $\gamma$ ）。
神经网络根据观测值和信念特征对这些系数进行条件化。
小跳跃近似：为了在离散架构中处理无限活动跳跃，解码器将微观跳跃（幅度 $<\epsilon$ ）吸收进有效连续系数中，仅在滤波步骤中显式处理宏观跳跃。

4. 联合训练

该模型通过最大化结合以下内容的逐步目标进行端到端训练：

预测似然：在学到的跳跃扩散律下未来增量的对数似然。
滤波正则化：一个 KL 散度项，鼓励滤波后验保持接近先验（防止崩溃）。

梯度通过 Strang 分裂操作和归一化步骤反向传播。

主要贡献

Zakai 编码器：通过 Strang 分裂将 Zakai 方程离散化为三个可解释步骤（先验、扩散创新、跳跃创新）。它为部分观测的跳跃扩散系统提供了精确滤波演化的可微、一阶精度近似。
结构化解码器：一个显式以滤波潜在信念为条件的跳跃扩散模型，保留了连续动态与不连续动态之间的分离，并学习可预测的补偿器。
实证验证：在合成、金融和海洋数据集上证明了分布预测质量（校准性和尖锐度）的改进，同时保持了具有竞争力的点精度。

实验结果

作者在以下数据上评估了 Deep ZakaiJ：

合成数据：具有已知真实值的部分观测跳跃扩散过程。
金融数据：XAU/USD（黄金对美元）10 分钟收盘价。
海洋数据：NOAA/NDBC 波高（WVHT）观测值。

性能表现：

分布质量：Deep ZakaiJ 在CRPS（连续排名概率分数）和对数似然方面始终优于基线（包括潜在 SDE、神经跳跃 SDE 以及像 Chronos 这样的基础模型）。
校准性：该模型实现了校准良好的预测区间，90% 覆盖率（Cov90）接近标称水平（例如，合成数据为 89.0%，XAU/USD 为 92.9%，NDBC 为 85.3%）。相比之下，许多基线显示出显著的覆盖率不足或过度。
点精度：该模型在 MAE 和 RMSE 方面保持竞争力，通常匹配或略优于最先进的点预测器。
潜在恢复：在合成和定性案例研究中，推断出的滤波器成功跟踪了潜在状态变化并对机制转变做出反应（例如金价趋势反转），证明了可解释潜在结构的提取。

意义与主张

论文声称，Deep ZakaiJ 弥合了原则性随机滤波与现代深度学习之间的差距。通过将 Zakai 方程直接嵌入神经架构，该模型：

实现了具有跳跃的部分观测系统的结构化推断，这是当前神经跳跃模型所缺乏的能力。
提供了可解释的潜在表示，将连续动态与离散冲击分离开来。
提供了卓越的不确定性量化，即使在结构转变导致其他模型失效的情况下，也能产生校准良好的预测区间。

作者将这项工作定位为迈向更稳健的时间序列预测的一步，适用于具有潜在机制和突发性不连续性的环境，如金融风险管理和环境预警系统。他们承认了局限性，指出当前公式是单变量的，并依赖于固定的潜在网格，建议未来在高分辨率和自适应表示方面开展工作。