🤖 AI

Existence Precedes Value: Joint Modeling of Observational Existence and Evolving States in Time Series Forecasting

本文介绍了 Timeflies，这是一个统一的框架，通过在不规则时间序列预测中对未来可观测性与价值估计进行联合建模，旨在克服现有方法假设未来观测时间戳预先已知的实际局限性。

原作者： Yifan Hu, Hongzhou Chen, Peiyuan Liu, Yiding Liu, Zewei Dong, Jiang-Ming Yang

发布于 2026-06-12

📖 1 分钟阅读☕ 轻松阅读

原作者： Yifan Hu, Hongzhou Chen, Peiyuan Liu, Yiding Liu, Zewei Dong, Jiang-Ming Yang

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

核心问题：预测不可预测之物

想象一下，你正试图预测下周的天气。但有一个问题：你的气象站坏了。有时它会发送温度读数，但经常因为电池没电、网络中断或传感器被雪覆盖而陷入沉默。

旧的方法（第一代与第二代）：
目前的多数 AI 模型表现得像个固执的厨师。他们会说：“我需要知道下周每一小时的温度，才能做出我的汤。”

第一代模型试图通过“填补空白”来解决问题，即猜测那些缺失的数字可能是多少，然后基于这些虚假的、完整的数据来预测未来。
第二代模型更聪明了；它理解时间是连续的。但它仍然有一个巨大的假设：它假设我们已经确切知道下周气象站何时会工作。 它会问：“如果气象站在下午 2:00 正常工作，那时的温度是多少？”

现实情况：
在现实世界中，我们并不知道气象站是否会工作。下午 2:00 时，气象站可能已经处于停机状态。为一个可能根本不存在的时刻去预测温度是毫无意义的。你不能根据一个可能根本不存在的数字来做决策。

新的解决方案：Timeflies

作者提出了一种名为 Timeflies 的新方法。他们的核心哲学很简单：“存在先于价值”（Existence Precedes Value）。

在询问“数值会是多少？”之前，你必须先问：“是否会有数值存在？”

把 Timeflies 想象成一个在证据缺失的情况下工作的双人侦探小组：

“存在”侦探（观测流/Observation Stream）： 这位侦探观察坏掉的气象站的历史记录。他们发现了规律：“气象站通常在周二失效，”或者“下雨时它就会停止工作。”他们的任务是预测：“下周二下午 2:00，气象站会发送信号吗？”
“价值”侦探（价值流/Value Stream）： 这位侦探观察实际的温度数据。他们的任务是预测：“如果气象站确实发送了信号，那么温度会是多少？”

他们如何协作：
这两位侦探会互相交流。如果“存在”侦探说：“气象站在下周二下午 2:00 肯定处于故障状态，”那么“价值”侦探就会停止尝试为那个时刻预测温度。如果“存在”侦探说：“气象站很可能会正常工作，”那么“价值”侦探就会给出一个确定的温度读数。

三件秘密武器

为了让这种协作发挥作用，Timeflies 使用了三种特殊的工具：

“可靠性徽章”（可靠性感知补丁嵌入/Reliability-Aware Patch Embedding）：
想象你在看一张一半模糊、一半清晰的照片。Timeflies 不仅仅是看整张照片，它会在每一部分都贴上一个“可靠性徽章”。如果历史数据中的某一部分充满了缺失数据（模糊不清），模型就会知道该减少对它的信任。它会过滤掉“噪声”，以免预测被错误的数据所干扰。
“共享笔记本”（观测引导的价值注意力/Observation-Guided Value Attention）：
通常，这两位侦探是在各自独立的房间里工作的。Timeflies 则强制他们共享一个笔记本。“存在”侦探会写下规律，比如“传感器每 3 天失效一次”。“价值”侦探阅读后会说：“啊，我明白了。我不应该尝试预测那个 3 天的间隔期内的数值。”这有助于模型理解缺失数据的节奏，而不只是数字本身。
“守门员”（双重预测头/Dual Prediction Head）：
在最后，模型不仅仅是吐出一个数字。它会给你两样东西：
- 一个概率得分：“有 85% 的概率会收到读数。”
- 一个数值：“如果收到读数，温度将是 72°F。”
  如果概率很低，系统就会知道忽略那个温度预测。

新的测试：Shadow

为了证明其理念的有效性，作者不仅使用了标准的测试数据，还构建了一个新的基准测试，名为 Shadow。

类比： 想象一场考试，有些学生有完美的笔记，有些只有残缺的页面，而有些页面则是完全空白的。
转折点： 他们将公开数据与真实的工业数据（如电子商务销售额）混合在一起，在这些场景中，数据会自然缺失（例如：节假日没有销售额，或传感器离线）。
目标： 他们想看看模型是否能够处理缺失数据的“阴影（Shadow）”，而不仅仅是完美数据的“光亮（Light）”。

新的评分标准：OVJE

旧的模型仅根据温度预测值与真实温度的接近程度来评分。Timeflies 引入了一个新的评分标准，称为 OVJE（观测-价值联合熵/Observation-Value Joint Entropy）。

类比： 想象一位天气预报员。
- 旧评分： “你猜是 72°F，实际也是 72°F。做得好！”（即便他们在传感器损坏的时间点也猜了 72°F）。
- 新评分 (OVJE)： “你猜是 72°F，并且你正确预测了传感器会正常工作。做得好！”或者“你正确预测了传感器会损坏。做得好！”
- 如果你在传感器损坏时依然预测了一个温度，即使数字是对的，你的分数也会大幅下降。这迫使 AI 在何时可以进行预测方面保持诚实。

结果

当他们用 Timeflies 与现有的最佳模型进行对比测试时：

Timeflies 获胜了。 它在预测数据何时出现以及出现什么数据方面，表现得始终如一地更好。
数据越破碎，优势越大。 当数据非常稀疏（有很多缺失部分）时，旧模型会感到困惑并失败。而 Timeflies 却表现出色，因为它被设计为将“缺失性”视为一种线索，而非一种缺陷。

总结

Timeflies 改变了游戏规则，它承认在现实世界中，我们往往不知道信号是否会到达。它不再盲目地为空白槽位猜测数字，而是首先预测某个槽位是否会被填充，然后再预测里面是什么。它将缺失的数据视为一种有意义的信号，而非需要修复的错误，这种信号能告诉我们关于系统行为的信息。

技术摘要：Timeflies —— 存在先于价值

1. 问题陈述

现实世界的时间序列预测经常受到传感器休眠、传输延迟和事件驱动采样所导致的极高不完整性和不规则性的阻碍。虽然现有的方法已从僵化的“先填补后预测”流水线演进为连续时间模型（如 Neural ODEs、连续时间图网络），能够更好地处理历史不规则性，但它们面临一个关键的局限性：完美预知假设（perfect foresight assumption）。

目前的先进模型假设在推理阶段，未来有效观测的时间戳是预先已知的。然而，在实际系统中，通常无法确定在特定的未来时刻是否会出现有效的观测。在未确认观测是否存在之前就预测数值，往往是不切实际的，因为决策过程依赖于信息的观测性。本文认为，缺失不应仅被视为一种静态的数据缺陷来待填补，而应被视为反映系统行为模式的深刻时间信号。

2. 方法论：Timeflies 框架

为了解决这一问题，作者提出了 Timeflies，这是一个统一的预测框架，它将时间序列预测重新定义为一个关于**未来可观测性推理（future observability inference）与数值估计（value estimation）**的联合问题。其核心理念是“存在先于价值”：只有当观测真正实现时，数值预测才有意义。

架构概述

Timeflies 采用了一种对称的双流架构，由**观测流（Observation Stream）和数值流（Value Stream）**组成，并通过三个协同模块进行耦合：

可靠性感知补丁嵌入（Reliability-Aware Patch Embedding）：
- 输入序列被划分为若干补丁（patches）。
- 对数值序列应用掩码感知归一化（Mask-Aware Normalization），仅基于观测到的条目计算统计量，以防止缺失值导致失真。
- 观测流使用门控融合机制对缺失位置和间隔进行编码。
- 根据每个补丁内的观测比例和缺失间隔时长计算补丁可靠性评分（ $\rho$ ）。该评分调节观测模式注入数值嵌入的过程，减弱来自稀疏、噪声主导补丁的贡献，同时增强可靠补丁的贡献。
观测引导的数值注意力（Observation-Guided Value Attention）：
- 两个流都利用自注意力机制来捕捉长程依赖。
- 至关重要的是，观测流并非孤立运行；它通过**跨轨条件注意力（Cross-track Conditioned Attention）**机制引导数值流。
- 注意力图是数值流语义相关性、观测流结构相关性以及可靠性加权项的融合。这确保了数值预测能够受到历史缺失模式的启发，有效地将注意力从不可靠的稀疏键（keys）转向信息丰富的补丁。
双重预测头（Dual Prediction Head）：
- 来自两个流的高层表示被映射到预测时界。
- 可观测性预测： 一个分类头预测每个未来时间步发生有效观测的概率（ $\hat{O}$ ）。
- 数值预测： 一个回归头预测未来的状态值（ $\hat{Y}$ ）。
- 门控融合： 预测的可观测性作为数值预测的软门控。最终的数值估计是直接数值流输出与观测流贡献的结合，并由预测的存在概率进行加权。这确保了只有在存在概率较高时，观测特征才会显著影响预测。

训练目标

模型使用联合损失函数进行训练：
$\mathcal{L} = \mathcal{L}_{val} + \eta \cdot \mathcal{L}_{obs}$

$\mathcal{L}_{val}$ ：仅在地面真值（ground-truth）观测存在的时刻计算的均方误差（MSE）。
$\mathcal{L}_{obs}$ ：用于处理观测位置与缺失位置之间类别不平衡的 Focal 二元交叉熵（Focal BCE）。
$\eta$ ：平衡这两个任务的超参数。

3. 核心贡献

一种新的预测范式

本文挑战了以往模型中普遍存在的“预知时间戳假设”。它开创了一种新范式，即模型在估计“是什么”数值之前，先显式预测“是否”会发生观测。这使研究重心从简单的数值外推转向了对信息生成机制的推理。

技术进步 (Timeflies)

Timeflies 显式地将时间序列分解为两个交互流。通过提取历史观测节奏作为动态上下文，该架构使得存在模式能够引导并优化状态预测。这种深度交互弥合了信息的可观测性与其底层数值之间的鸿沟。

实证与实用价值

Shadow 基准测试： 为了严格验证该框架，作者构建了 Shadow，这是一个综合基准，结合了来自公开数据集（GIFT-Eval）的自然缺失间隙与现实世界的工业电子商务数据。至关重要的是，这些专有数据集包含严格的自然缺失值（非随机，编码了如非高峰期不活跃等结构化模式），缺失率范围从 <0.1% 到 >89%。
OVJE 指标： 作者引入了**观测-数值联合熵（Observation-Value Joint Entropy, OVJE）**指标。不同于传统的边际误差指标（MSE/MAE），OVJE 通过计算联合分布 $P(y_t, o_t | x_t)$ 的负对数似然，来评估存在推理与数值估计的耦合能力。

4. 实验结果

在 Shadow 基准上的广泛实验表明，Timeflies 在所有稀疏度状态下（无缺失、低缺失、中缺失、高缺失）均一致优于现有基准模型，包括基于 Transformer 的模型（PatchTST, iTransformer, FEDformer）、基于线性模型的模型（OLinear, DLinear）以及基于 CNN 的方法。

性能： Timeflies 在所有稀疏度区间内均达到了最先进的性能（SOTA）。
稀疏度敏感性： 随着数据稀疏度的增加，性能差距显著扩大。在高稀疏环境下，传统基准模型由于盲目进行数值外推而性能大幅下降，而 Timeflies 则能有效地从缺失诱导的噪声中分离出真实信号。
鲁棒性： 在具有极端缺失度偏移的数据集上（例如，在缺失率 <1% 时训练，在缺失率 >90% 时测试），Timeflies 保持了稳健的性能，而竞争模型则出现了灾难性的失败。
消融实验： 移除任何核心组件（掩码感知归一化、观测引导注意力、补丁可靠性或 Focal Loss）都会导致性能下降，从而证实了每个模块在结构上的必要性。

5. 重要性与声明

本文声称，在不规则场景下，显式建模未来可观测性是实现可靠数值预测不可或缺的门槛。通过将缺失视为一种结构化先验而非缺陷，Timeflies 使决策系统能够纳入观测不确定性。

作者谦虚地指出，其工作侧重于具有自然缺失模式的 GIFT-Eval 基准，并假设缺失机制是平稳的。他们也承认了一些局限性，例如即使在完全观测的情况下，观测感知模块也会产生恒定的计算开销，以及假设通道独立。然而，这项工作通过连接可观测性与数值回归，为时间序列预测开辟了一条新途径，为无法保证数据完整性的现实世界部署提供了一种更切实际的方法。