📈 economics

Attention Without Estimation: Zero-Shot Time Series Foundation Models versus Long-Memory Econometrics in Realized Volatility Forecasting

本文建立了一个严谨的理论与实证框架，将零样本时间序列基础模型与经典的长记忆计量经济学基准模型在已实现波动率预测方面进行比较，研究发现，尽管基础模型的表现优于 GARCH 和 EWMA 模型，但它们最终与捕捉了波动率数据中大部分可利用信号的 HAR 系列模型竞争激烈。

原作者： Jayachandiran U, Janani Giridharan

发布于 2026-07-10

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Jayachandiran U, Janani Giridharan

原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在试图预测明天的车程会有多颠簸。在金融领域，这种“颠簸度”被称为波动率（volatility），而准确预测它对于期权定价、风险管理以及保障银行安全至关重要。几十年来，专家们一直使用一种特定的数学工具，称为计量经济学（econometrics）（可以将其想象成经验丰富的、老派的机械师），来预测这种波动。最近，一个新的挑战者进入了车库：时间序列基础模型（Time Series Foundation Models, TSFMs）。这些是巨大的、超级智能的 AI 大脑，经过了数百万种不同时间序列模式的训练，承诺能够为任何资产预测波动，而无需针对每辆特定的车进行重新调优。

这篇论文是一场关于这两种方法之间严谨、务实的竞速赛。以下是当它们驶上赛道时发生的情况。

赛道：一个合成的世界

首先，一个关键细节：作者并没有在真实的股票市场（那里混乱且充满秘密）上进行测试。相反，他们使用计算机模拟构建了一个完美受控的合成赛道。他们创建了 20 种虚拟资产（就像 20 辆不同的车），其运动遵循一套涉及随机跳跃和光滑曲线的严格规则。

其中 15 辆车被用于“训练”这个 AI 大脑（TSFM）。
另外 5 辆车则被完全保密。AI 从未见过它们。这被称为**零样本（zero-shot）**测试——就像要求一位只做过意大利菜的厨师，在没有任何食谱的情况下做出完美的泰餐。

对手

老派守卫（计量经济学）：
- GARCH & EWMA： 这些是基础且可靠的机械师。它们观察近期的颠簸并猜测下一次的颠簸。它们很简单，但有时会错过大局。
- HAR-RV： 这是“明星机械师”。它不仅看昨天，还会同时观察过去的一天、过去的一周和过去的一个月。它以极其难以被超越而闻名。
- HARQ & HAR-CJ： 这些是“超级机械师”。它们是明星机械师的特殊版本，可以专门处理测量噪声（当速度计出现故障时）和突然跳跃（当汽车撞上坑洼时）。
新挑战者（TSFM-Surrogate）：
- 这是 AI 大脑。它使用一种“补丁注意力（patch-attention）”机制（想象它是在一次性瞥见路面的若干块区域，而不是每一英寸）。它在 15 辆已知车辆上进行了训练，然后被要求在不进行额外调优的情况下，预测 5 辆秘密车辆的颠簸。

结果：谁赢了？

1. AI 对阵基础机械师
AI 大脑（TSFM-surrogate）碾压了基础机械师（GARCH 和 EWMA）。

在测试中，AI 犯错的次数明显更少。在统计学上证明，它在预测颠簸方面比传统模型更出色。
结论： AI 显然比基础工具更好。

2. AI 对阵超级机械师（转折点）
有趣的事情发生了。当 AI 与 HAR 系列（HAR-RV、HARQ 和 HAR-CJ）对决时，从大局来看结果是平局，但在直接对抗中，超级机械师胜出了。

正面交锋： HAR 模型（尤其是那些处理跳跃和噪声的模型）在统计学上优于 AI。在预测颠簸的具体大小方面，AI 比 HAR 模型犯了更多的错误。
大局观（模型置信集）： 然而，当评委们一起审视整个群体时，他们无法确定 HAR 模型是否绝对比 AI 更好。AI 与最优秀的 HAR 模型在统计学上是无法区分的。
启示： AI 足以进入与最优秀的计量经济学模型并列的“名人堂”，但它还没有真正超越它们。

3. “跳跃”因素
模拟中包含了突然的“跳跃”（坑洼）。专门设计用于识别这些跳跃（HAR-CJ）和处理噪声数据（HARQ）的 HAR 模型表现最好。由于 AI 没有被明确教导去寻找跳跃，它在处理这些特定模式时不如这些专门化模型。这表明 AI 需要更多的数据或更好的训练来学习这些特定的模式。

为什么 AI 没有赢？

作者根据他们的数学计算和模拟提出了几个原因：

数据饥渴： AI 仅在 15 个资产上进行了训练。论文认为，基础模型通常需要数千甚至数百万个资产才能真正大放异彩。在只有 15 个资产的情况下，AI 仍在学习阶段，而 HAR 模型（由于其结构更简单）可以仅通过一个资产的历史记录就实现完美学习。
上下文窗口： AI 查看了过去 32 天的数据。作者发现，当他们让 AI 查看 64 天的数据时，它的表现变得更好。这表明 AI 只需要一个更长的“回溯期”来观察完整模式，就像 HAR 模型观察整整一个月一样。
专业化： HAR 模型像是专门为波动率打造的专业工具。而 AI 是一个试图同时学习一切的“通才”。在受控的单一机制模拟中，专家胜出。

这篇论文明确排除了什么

这并不是 AI 战胜所有计量经济学的胜利。 论文明确指出，HAR 系列仍然是最难被超越的基准。
这并不是对现实世界模型的测试。 这里使用的 AI 是一个“代理模型（surrogate）”（从头构建的替代品）。作者没有测试著名的商业模型，如 Chronos 或 TimesFM，因为他们无法在离线环境中下载它们。他们谨慎地表示，其结果适用于基础模型的范式，而不一定适用于这些特定的品牌。
这并不是一个已解决的问题。 论文并未声称 AI 已经取代了计量经济学。事实上，它表明对于处于稳定市场中的单个资产，传统的数学方法仍然非常难以超越。

底线

在这场模拟竞赛中，时间序列基础模型证明了它是一个有力的竞争者，它击败了基础工具，并能与顶尖专家并驾齐驱。然而，它尚未撼动 HAR 系列 的地位。

论文指出，AI 的真正超能力不在于在小规模、受控的房间里击败专家，而在于其能够在许多不同的、混乱的现实世界市场中进行**零样本（zero-shot）**工作的能力。如果你拥有数千个资产并且面临市场剧变（机制转换），AI 最终可能会反超。但目前，在这个特定的模拟中，具有长记忆性和跳跃感知能力的计量经济学模型仍然是山巅之王。

作者总结道，我们需要更多的数据（更多资产）和更长的回溯窗口，才能看到 AI 是否真的能超越专家。在那之前，最好的策略可能是将传统的数学方法作为安全网，同时让 AI 学习其中的门道。

技术摘要：无需估计的注意力机制

问题陈述

已实现波动率（RV）预测是金融计量经济学中的一个基本挑战，对于衍生品定价、风险管理和监管资本至关重要。历史上，这一领域一直由参数化模型主导，特别是异质自回归（HAR-RV）框架和 GARCH 系列模型，这些模型需要针对特定资产进行参数估计。近期，时间序列基础模型（TSFMs）——即在异构语料库上进行预训练并以零样本（zero-shot）方式部署的大型 Transformer 架构——已成为一种潜在的范式转变。然而，在缺乏严谨、可复现的比较研究背景下，这些零样本基础模型与经典的、具有跳跃鲁棒性的计量经济学基准模型之间的对比仍然匮乏。本文通过开发一个数学严谨的框架，在无法获取专有检查点（checkpoints）的离线环境下，将 TSFMs 与最先进的计量经济学模型进行对比，从而填补这一空白。

研究方法

1. 计量经济学基准与理论扩展

作者建立了一套全面的计量经济学基准，其范围超出了标准的 HAR-RV 和 GARCH(1,1)：

HAR-RV： 对日、周、月平均 RV 进行线性回归。论文证明了在近长记忆回归量依赖（near-long-memory regressor dependence）条件下，OLS 估计量具有一致性和渐近正态性（定理 1）。
HARQ（四次项调整）： 引入已实现四次项（realized quarticity）以降低噪声日滞后项的权重，解决 RV 中的测量误差问题。
HAR-CJ（跳跃鲁棒）： 利用双幂变分（bipower variation）将 RV 分解为连续部分和跳跃部分，并对它们进行分别建模。
GARCH(1,1) & EWMA： 标准的参数化条件方差模型。
理论保证： 论文推导了对对数 RV 预测值进行指数化处理时的对数正态偏差修正（命题 1），并确立了估计量的渐近性质。

2. TSFM 范式与代理模型

由于作者的离线环境无法下载专有的 TSFM 检查点（如 Chronos, TimesFM），他们构建了一个 TSFM 代理模型，该模型忠实地实例化了 TSFM 范式，而不声称与特定的专有模型等价。

架构： 一个基于 Patch 的 Transformer（遵循 PatchTST），采用实例归一化（instance normalization）和一个高斯概率头。
训练： 在 15 个合成资产的面板数据上从头开始预训练。
推理： 在 5 个留出的资产上严格进行零样本评估（权重冻结，无梯度更新）。
复杂度分析： 论文推导了每层的计算复杂度，表明虽然 Transformer 的前向传播复杂度为 $O(P^2d)$ ，但它避免了每日计量经济学重新估计的 $O(n)$ 成本，从而在多资产设置中提供了摊销优势（命题 6）。

3. 统计学习理论

论文提供了形式化的界限，以表征零样本迁移何时是合理的：

Rademacher 复杂度： 一个针对 Patch-Transformer 函数类的基于范数的泛化界限（定理 2）。
PAC-Bayesian 迁移界限： 一个关于从训练资产到留出资产的零样本迁移风险的界限，明确区分了样本内拟合、模型复杂度和分布差异（定理 3）。这使直觉形式化：基础模型需要大规模的预训练面板来克服复杂度惩罚。

4. 评估框架

采用了稳健的统计评估装置：

损失函数： RMSE、MAE 和 QLIKE（根据 Patton [31] 的研究，证明了 QLIKE 对噪声波动率代理值的鲁棒性）。
概率评分： 用于高斯预测分布的连续秩概率评分（CRPS）。
假设检验： 用于成对准确度比较的 Diebold–Mariano 检验，以及用于联合模型比较的平稳自助法（stationary-bootstrap）模型置信集（MCS）。
数据： 使用来自 Heston 随机波动率模型（含跳跃）的现实合成资产面板，允许直接从日内路径计算已实现四次项和双幂变分。

关键结果

1. 性能层级

TSFM vs. GARCH/EWMA： TSFM 代理模型在所有损失函数（RMSE, QLIKE）和测试程序（Diebold–Mariano, MCS）中，在统计上显著优于 GARCH(1,1) 和 EWMA。
TSFM vs. HAR 系列： 在成对 Diebold–Mariano 检验中，TSFM 代理模型被整个 HAR 系列（HAR-RV, HARQ, HAR-CJ）显著超越。HARQ 和 HAR-CJ 达到了最低误差率，证实了跳跃和测量误差鲁棒性在合成数据生成过程中的价值。
模型置信集 (MCS)： 至关重要的是，虽然成对检验显示 TSFM 逊于 HAR 变体，但**联合模型置信集（90% 置信度）**将 TSFM 代理模型与整个 HAR 系列一同纳入其中。这表明，在考虑多次比较时，TSFM 与表现最好的计量经济学模型在统计上是不可区分的。

2. 上下文长度与架构

上下文消融实验： 随着 Transformer 上下文窗口的增加（从 $L=16$ 到 $L=64$ ），零样本准确度呈单调提升。 $L=64$ 的变体优于 $L=32$ 的基准，这表明模型尚未饱和其长回顾视野带来的收益，反映了 HAR 对多月滞后的依赖。
校准： TSFM 代理模型的预测分布（通过 CRPS）与普通的 HAR-RV 相比具有竞争力，且校准效果略好，突显了其学习不确定性量化的能力。

3. 计算效率

虽然在所使用的样本量（ $n \approx 1,250$ ）下，TSFM 代理模型的单样本前向传播在实际运行时间上目前慢于基于 OLS 的 HAR 重新拟合，但论文认为其实际优势在于摊销：单个冻结的网络可服务于所有资产，无需进行逐资产的重新估计，从而消除了维护独立计量经济学流水线的操作复杂性。

意义与主张

本文声称提供的是一种细致且具有数学依据的比较，而非简单的“胜者全得”式结论。其主要贡献在于：

完善范式争论： 结果表明，在平稳、单机制的数据上，长记忆自回归结构（HAR 系列）仍然极难被超越。TSFM 最强的论点不在于它“击败”了 HAR，而在于它在实现与最佳模型统计不可区分的同时，提供了无需逐资产重新估计的架构优势。
规模化的理论证明： 通过定理 3（PAC-Bayes 界限），论文形式化地指出，TSFM 目前相对于 HAR 的劣势部分源于其较小的预训练面板（ $N=15$ ）。界限中的复杂度惩罚随 $1/\sqrt{n}$ 缩放，这意味着基础模型真正的提升可能需要通过在数量级更高的异构数据上进行预训练，使复杂度项变得微不足道。
方法论严谨性： 本文建立了一个可在离线环境下评估基础模型的复现协议，证明了自定义训练的代理模型可以有效地测试范式（Patch-Attention, 零样本迁移），而无需使用专有的检查点。
损失函数的敏感性： 研究表明，模型排名和模型置信集成员身份并非损失无关。TSFM 在平方误差损失下被排除在 MCS 之外（由于对波动率尖峰的敏感性），但在 QLIKE 下被纳入其中，这强化了在波动率预测中使用 QLIKE 等鲁棒损失函数的必要性。

总之，本文认为，虽然基础模型展示了架构表达力（通过命题 5 证明其可以嵌套 HAR 结构），但它们在波动率预测中相对于经典计量经济学的实际优越性，取决于规模（大规模、异构的预训练面板）和部署条件（机制转换、跨资产异构性），而这些因素在本次合成的单机制研究中并未完全体现。