🤖 machine learning

EventTSF: Event-Aware Non-Stationary Time Series Forecasting

EventTSF 是一种自回归扩散框架，它通过引入事件感知流匹配时间步来整合文本事件数据，从而提升非平稳时间序列预测效果，有效应对多模态交互与去噪难度不平衡的挑战，显著超越现有基线方法。

原作者： Yunfeng Ge, Ming Jin, Yiji Zhao, Hongyan Li, Bo Du, Chang Xu, Shirui Pan

发布于 2026-05-12

📖 1 分钟阅读☕ 轻松阅读

原作者： Yunfeng Ge, Ming Jin, Yiji Zhao, Hongyan Li, Bo Du, Chang Xu, Shirui Pan

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在尝试预测下周的天气。传统的天气预报员只查看过去几天的温度、风和降雨数据。他们可能会说：“看起来要下雨了，因为昨天就下雨了。”但他们忽略了大局：明天市中心正在举办一场盛大的音乐节，这将导致交通拥堵、人群聚集，以及当地湿度的突然飙升，而仅凭过去的数据无法预测到这一点。

这就是论文EVENTTSF试图解决的问题。

核心问题：“盲目”的预报员

大多数时间序列预测模型（用于能源、交通、股市等）就像那位盲目的天气预报员。它们只看数字，却忽略了数字背后的故事。

问题所在：现实世界的数据是“非平稳”的，意味着规则在不断变化。突发事件（如节假日、新闻头条或停电）会彻底改变数据的表现方式。
差距所在：现有模型要么忽略这些基于文本的事件，要么笨拙地试图将它们混合在一起，导致预测结果虽然平滑且安全，但在事态混乱时往往出错。

解决方案：EVENTTSF（“故事感知”预测器）

作者构建了一个名为EVENTTSF的新系统。把它想象成一位超级聪明的侦探，它不仅查看犯罪现场（数字），还会阅读警方报告（文本事件）以了解发生了什么。

以下是它的工作原理，使用简单的类比：

1. 将故事与数字同步

想象你有一段繁忙街道的长视频（时间序列），以及一段描述视频中正在发生什么的剧本（文本事件）。

旧方法：模型分别观看视频和阅读剧本，然后试图猜测未来。它们从未真正“对话”。
EVENTTSF 方法：它将视频切割成短片，并将每个短片锁定到剧本中描述该片段的具体句子上。如果剧本写着“游行开始”，那么这句话就与视频中人群涌动的确切时刻“粘”在一起。这使得模型能够确切地学习特定类型的事件如何改变数字。

2. “去噪”挑战（脏窗户）

该模型使用了一种称为扩散（Diffusion）的技术，这就像试图清洁一扇被厚雾覆盖的窗户，以看清下面的画面。

问题：过去，模型使用固定的时间表来清洁窗户。它们假设画面的每一部分清洁难度都相同。
现实：画面的某些部分（如平静的一天）很容易清洁。其他部分（如混乱的事件日）则覆盖着厚重、粘滞的泥浆，极难清洁。
创新：EVENTTSF 引入了一个**“事件感知时间步”**。
- 想象一个智能清洁机器人。如果它看到平静的一天，它会快速清洁。如果它看到混乱的事件（如骚乱或促销活动），它会放慢速度，花更多时间擦洗那个特定区域。
- 模型首先查看文本事件，意识到“哦，这是一个混乱的日子”，并相应地调整其清洁时间表。这防止了模型感到困惑或在困难部分放弃。

他们发现了什么？

作者在7 个不同的数据集上测试了这位新侦探，范围从合成（虚构）数据到现实世界的交通、天气和大气物理数据。

结果：EVENTTSF 碾压了竞争对手。它优于其他 12 个顶级模型。
- 它将概率预测（猜测可能结果的区间）提高了41.3%。
- 它将确定性预测（猜测最可能的单一结果）提高了27.5%。
“如果”测试：他们尝试将文本事件添加到旧模型中，看看是否有帮助。这确实有一点帮助，但远不如 EVENTTSF 显著。这证明仅仅拥有文本是不够的；你需要一个专门构建的模型来理解故事与数字之间的关系。

关于“糟糕”故事的一点说明

有趣的是，论文发现该模型在一个特定数据集上表现不佳：交通新闻。

为什么？新闻文章太长且充满废话（背景噪音），实际上与交通无关。这就像为了知道 10 分钟后是否会下雨而去读一本 50 页的小说。模型感到困惑，因为“故事”与“行动”不匹配。
教训：文本事件需要清晰、相关且简洁，模型才能发挥其魔力。

总结

EVENTTSF是一种预测未来的新方法，它将文本事件（如节假日、新闻或促销活动）视为关键线索，而不仅仅是背景噪音。通过将故事与数字同步，并根据事件的混乱程度调整其学习速度，它比仅查看数字的模型做出了更准确的预测。

技术摘要：EVENTTSF – 事件感知的非平稳时间序列预测

1. 问题定义

时间序列预测对于能源和交通等行业至关重要，但由于非平稳性和分布偏移，它面临着持续的挑战。尽管最近的进展（例如归一化、模型分解）解决了单模态非平稳性问题，但它们往往忽略了分布偏移经常与其他模态（特别是自然语言文本，如节假日、促销活动、天气报告）中的外部事件相互纠缠这一事实。

现有方法存在两个主要局限性：

模态差距：大多数方法依赖单模态数据或使用粗粒度的文本上下文，未能建模离散外部事件与连续时间序列之间的细粒度交互。
扩散效率低下：基于经典扩散的预测模型通常从固定的均匀分布中采样扩散时间步。这忽略了事件引起的非平稳变异性，即不同事件会导致信号幅度和方差的显著偏移。因此，均匀采样导致扩散阶段间的去噪难度不平衡，因为信噪比（SNR）会根据事件上下文呈现异质性变化。

2. 方法论：EVENTTSF

作者提出了EVENTTSF，这是一种自回归扩散框架，旨在通过逐步扩散整合历史时间序列和文本事件。该架构解决了离散事件与连续序列的同步问题，以及去噪难度的不平衡问题。

2.1 多模态自回归扩散

事件同步：模型将连续时间序列划分为不重叠的段（ $x_s$ ），并将每段与相应的文本事件嵌入（ $c_s$ ）对齐。如果没有发生事件，则分配一个 NULL 事件。这创建了统一表示 $D = \{(x_s, c_s)\}$ ，弥合了时间点过程与连续序列之间的差距。
自回归生成：模型将预测视为细粒度段的自回归生成。在每一步 $s$ ，它以潜在状态 $Z_{s-1}$ （总结历史）、当前含噪段 $x^t_s$ 以及对齐的事件嵌入 $c_s$ 为条件。
流匹配：模型利用流匹配（Flow Matching）代替标准扩散，学习将简单先验分布转换为目标数据分布的速度场 $v_t$ 。去噪器 $M_\theta$ 被训练以预测该速度场，并自回归地更新潜在状态 $Z_s$ 。

2.2 事件感知时间步采样

为了缓解由均匀时间步采样引起的去噪难度不平衡，EVENTTSF 引入了事件感知流匹配时间步。

问题：均匀采样（ $t \sim U(0,1)$ ）未能考虑到不同事件会导致不同的信噪比，从而导致去噪难度的异质性。
解决方案：模型使用可学习的映射函数 $\phi$ ，将基础均匀时间步 $\hat{t}$ 重新参数化为事件自适应时间步 $t$ ：
$t = \phi(\hat{t}, c) = F^{-1}_{\text{Beta}(\alpha(c), \beta(c))}(\hat{t})$
机制：两个轻量级线性网络预测基于事件嵌入 $c$ 的条件化 Beta 分布的参数 $\alpha(c)$ 和 $\beta(c)$ 。这确保了针对特定事件类型，有效的去噪难度在扩散阶段间分配得更加均匀，使采样计划适应事件语义。

2.3 架构细节

核心去噪器是一个多模态 U 形扩散 Transformer（M-U-DiT）。它采用下采样和上采样配合跳跃连接，以将事件语义与多分辨率时间模式对齐。它通过交叉注意力机制整合历史状态、含噪输入和事件条件。

3. 主要贡献

范式重构：本文将事件感知的非平稳预测构建为多模态范式，明确纳入外部事件信息，以解决单模态模型遗漏的分布偏移问题。
方法论创新：
- 细粒度对齐：引入同步机制，将离散事件段与连续时间序列窗口对齐。
- 事件感知时间步：提出了一种新颖的重新参数化策略，学习事件条件化的扩散计划以平衡去噪难度，超越了静态均匀采样。
卓越性能：大量实验表明，EVENTTSF 在 7 个数据集上优于 12 个基线模型（包括非平稳和基于扩散的模型）。

4. 实验结果

该模型在 7 个数据集（1 个合成数据集，6 个涵盖交通、天气和大气物理的真实世界数据集）上进行了评估，对比了 12 个基线模型（例如 CSDI、TimeDiff、TMDM、NsDiff、Autoformer、DLinear）。

概率预测：EVENTTSF 在所有数据集上的连续排序概率分数（CRPS）和加权分位数损失（WQL）平均提高了41.3%。
确定性预测：该模型将平均绝对误差（MAE）平均提高了27.5%。
消融研究：
- 移除文本事件会显著降低性能（例如，在 Temperature–New York 数据集上，WQL 增加了 10.71%）。
- 用事件感知机制替换均匀时间步采样 consistently 减少了误差（例如，CRPS 减少了 9.21%）。
效率：EVENTTSF 展示了更快的训练时间（在合成数据上比第二好的基线快 1.13 倍），并且训练时间相对于预测视界呈次线性增长，这归因于其分段生成方法。
基线增强：即使通过交叉注意力或残差条件将事件嵌入增强到基线模型中，它们仍然显著劣于 EVENTTSF，表明如果没有特定的自回归扩散和时间步机制，简单的事件注入是不够的。

5. 意义与主张

本文声称开创了专门针对非平稳时间序列预测的外部多模态知识整合。其意义在于：

解决模态差距：它提供了一个统一框架，用于建模离散文本事件与连续时间序列之间的交互，捕捉全局上下文模型遗漏的级联和滞后依赖关系。
解决扩散不平衡：它识别并解决了去噪难度中事件引起的异质性问题，提出了一种可学习的事件条件化采样计划，以稳定训练并提高生成质量。
实际适用性：该框架专为未来事件（如计划的促销活动、节假日）可预先知晓的场景设计，使模型能够预测仅凭历史观测无法推断的分布偏移。

作者总结道，EVENTTSF 建立了一个灵活的范式，用于将异构事件语义纳入时间建模，为分析跨模态非平稳动态开辟了新的方向。