想象一下，你拥有一个巨大的图书库（也就是我们所熟知的大语言模型或 LLMs，比如那些会写故事或与你聊天的模型）。多年来，这些图书库主要用于阅读文字。但最近，科学家们意识到，这个世界的运行不仅仅依靠文字，还依靠时间。
这篇论文是一张巨大的地图和指南，旨在介绍一种新趋势：教这些“精通文字”的巨型大脑去理解时间序列（随时间变化的事物，如股票价格或心跳）以及时空数据（随时间变化且在空间中分布的数据，如交通拥堵或天气模式）。
以下是该论文内容的简单拆解，使用了日常类比：
1. 两个主要角色：“文字巫师”与“专家”
作者将这些巨型模型分为两组，就像两种不同的厨师：
- 文字巫师 (LLMs)： 这些是经过数十亿本书籍训练的著名模型。它们极其擅长语言。论文研究了如何通过“欺骗”让它们理解数字和时间。
- 类比： 想象你有一位才华横溢的诗人，但他从未见过温度计。你可以通过将温度数值转化为他能理解的故事，来教他如何阅读天气。这被称为**“重塑用途”（repurposing）**。你并不是从零开始教他数学，而只是给了他一本新的字典。
- 专家 (PFMs)： 这些是专门为时间与空间数据从底层构建的模型。它们没有读过百万本小说，而是研究了数百万个图表和传感器读数。
- 类比： 这就像雇佣了一位气象学家，他一生都在研究云层模式。他不需要被教导如何阅读，他只需要数据。
2. 三种“时间故事”
论文将数据分为三个主要类别，就像三种不同类型的电影类型：
- 时间序列 (独角戏)： 这是随时间变化的单条数据线。
- 例子： 你客厅里每小时变化的温度。
- 任务： 预测下一行数据、寻找异常（异常检测）或填补缺失的页面。
- 时空图 (连接的群体)： 这是指事物彼此连接且随时间变化的数据。
- 例子： 城市的交通。一辆车的速度会影响它后面的车，而整个网络会随着高峰时段的到来而发生变化。
- 任务： 预测整个地图上的交通拥堵或空气质量。
- 视频 (动态画面)： 视频本质上就是一叠随时间变化的图像。
- 例子： 安全监控录像或体育比赛。
- 任务： 回答关于视频中发生了什么的问题（“球员犯规了吗？”）或预测接下来会发生什么。
3. “通用翻译器” vs. “领域专家”
论文还根据模型的知识广度对其进行了分类：
- 通用型模型： 它们就像一把瑞士军刀。它们在来自各处（金融、天气、电力）的数据上进行训练，因此可以处理几乎任何与时间相关任务。它们擅长“零样本”（zero-shot）学习，这意味着即使面对从未见过的全新问题，它们也能仅凭观察模式来推测解决方法。
- 领域特定型模型： 它们就像专业的外科医生。它们仅针对某一类数据进行训练，例如心跳（医疗保健）或股市（金融）。因为它们只专注于一件事，所以在处理特定工作时通常比“瑞士军刀”更精准。
4. 到底发生了什么？（“如何做”）
论文解释了研究人员使用哪两种主要的技巧来使这些模型发挥作用：
- 翻译 (提示词工程/Prompting)： 将一个数字（如“100度”）转化为一个句子（“天气很热”），以便文字巫师能够理解。
- 重编程 (Reprogramming)： 改变模型的内部齿轮，使其像对待文字一样对待时间数据，从而让它能像“阅读”句子一样“阅读”图表。
5. 宝库 (资源)
作者不仅写了理论，还构建了一个庞大的工具包。他们收集了：
- 数据集： 巨大的交通数据、医疗记录和天气日志库，任何人都可以用它们来训练自己的模型。
- 工具： 帮助研究人员更快构建这些模型的软件。
- 基准测试 (Benchmarks)： 标准化的测试，用以衡量哪个模型在预测未来方面最“聪明”。
6. 前方的道路 (未来的挑战)
论文最后指出，尽管这些模型非常出色，但仍有一些问题需要解决：
- “为什么”的问题： 有时模型正确地预测了未来，但我们不知道其背后的原因。我们需要让它们解释自己的推理过程，尤其是在医院或银行等场景下。
- “记忆”的问题： 现实生活在不断变化。如果一个模型学习的是去年的交通情况，它在处理新开通的桥梁时会忘记旧知识吗？我们需要能够持续学习而不产生遗忘的模型。
- “隐私”的问题： 这些模型由于记忆力极强，可能会在无意中泄露私密的患者或财务数据。我们需要更好的方法来保护秘密。
总结
这篇论文是“时间阅读型 AI”新时代的综合指南。它告诉我们，我们可以教现有的“文字巫师”去阅读时间，也可以构建新的“时间专家”。它描绘了不同类型的时间数据，列出了当今最优秀的工具和数据集，并警告我们要解决哪些挑战，才能让这些模型在现实世界中变得安全且可靠。
技术总结：面向时间序列与时空数据的超大规模模型：综述与展望
1. 问题陈述
时间性数据（包括时间序列和时空数据）广泛存在于从地球科学、交通运输到医疗保健和金融的各类现实应用中。尽管这些数据类型对于理解动态系统行为至关重要，但其分析在历史上一直依赖于统计建模和紧凑的深度学习架构（例如 RNNs、CNNs、GNNs 和标准 Transformer）。这些传统模型通常是针对特定任务的，在支持广泛迁移学习的能力方面有限，并且缺乏鲁棒的语义表示和多任务推理能力。
尽管大语言模型（LLMs）和预训练基础模型（PFMs）在自然语言处理（NLP）、计算机视觉（CV）及其他模态领域取得了显著成功，但它们在时间性数据上的应用仍然是碎片化的。一个重大的挑战在于，与文本或图像相比，用于时间性数据的高质量、多样化大规模数据集的可用性有限。此外，目前缺乏一个统一的框架，能够将时间序列研究与时空数据（包括图、知识图谱和视频）在大型模型范式下进行整合研究。该领域需要一次全面的综述，以巩固近期的进展、澄清方法论上的区别并识别开放的研究机会。
2. 方法论与分类法
本文并非提出一种新的算法或实验模型，而是对现有的针对时间序列和时空数据的超大规模模型进行了全面的综述和系统的分类。作者根据数据类型、模型类别、模型范围以及应用领域/任务四个主要维度对文献进行了组织。
2.1 核心定义
本综述区分了两类运行中的大模型：
- 大语言模型 (LLMs)： 以语言为中心、被重新用于时间性任务的基础模型。这包括嵌入可见型模型（开源，如 Llama, BLOOM）和嵌入不可见型模型（闭源，如 GPT-4, PaLM）。适配策略包括提示（prompting）、重编程（reprogramming）和微调（如适配器/adapters, LoRA）。
- 预训练基础模型 (PFMs)： 专门设计或适配为时间、空间、关系或多模态数据的通用骨干网络模型。这些模型不同于特定任务的模型，旨在实现诸如模态桥接和推理等涌现能力。
2.2 统一分类法
作者将该领域分为两个主要集群：
- 面向时间序列的大模型 (LM4TS)：
- LLM4TS： 将语言模型重新用于时间序列任务（预测、分类等）。
- PFM4TS： 专门在时间序列数据上进行预训练的模型（例如 Chronos, TimesFM）。
- 范围： 分为通用型（跨领域）和领域特定型（交通、金融、医疗）。
- 面向时空数据的大模型 (LM4STD)：
- LLM4STD & PFM4STD： 处理时空图 (STGs)、时序知识图谱 (TKGs) 和视频数据的模型。
- 范围： 同样分为通用型和领域特定型（如气候、城市计算）。
2.3 综述范围
本综述涵盖了截至提交时（约 2025-2026 年）发布或释出的工作，来源包括主要数据库（ACM, IEEE, arXiv 等）。它包括：
- 时间序列： 预测、分类、异常检测、填补。
- 时空图： 交通预测、链路预测。
- 时序知识图谱： 补全与预测。
- 视频数据： 问答、描述生成、动作预测。
3. 主要贡献
本文概述了四个主要贡献：
- 全面且具基础性的综述： 它对时间性数据大模型的进展进行了深入回顾，通过系统地绘制该领域的版图，为研究人员和从业者提供了基础性资源。
- 统一且结构化的分类法： 作者引入了一种新型分类系统，将研究组织为 LM4TS 和 LM4STD，并进一步按模型类型（LLM vs. PFM）和范围（通用 vs. 领域特定）进行细分。这为从多个视角理解该领域提供了连贯的路线图。
- 丰富的资源汇编： 本文整理了大量的资源，包括数据集（如 METR-LA, MIMIC-III, CMIP6）、开源实现以及按主要应用领域组织的评估基准。
- 未来的研究机会： 作者确定并阐述了六个极具前景的未来研究方向：
- 理论分析： 理解语言表示向时间序列迁移的可行性。
- 多模态模型： 实现文本、数字和图像之间多分辨率时间信号的对齐。
- 持续学习： 解决非平稳性和概念漂移问题，同时避免灾难性遗忘。
- 可解释性： 开发能够在高风险领域解释模型决策的框架。
- 隐私与安全： 减轻敏感时间性数据中的数据泄露和对抗性攻击风险。
- LLM 智能体 (Agents)： 使时间序列系统具备鲁棒且具备不确定性感知能力的决策能力。
4. 主要发现与结果
本综述综合了当前的技术现状，并未呈现新的实验结果，重点强调了以下趋势和观察：
- 重用 vs. 预训练： 存在双重趋势，即研究人员要么重用现有的 LLM（通过提示或重编程，例如 Time-LLM, PromptCast），要么开发专门的 PFM，在海量时间性语料库上进行预训练（例如 Chronos, Pangu-Weather）。
- 领域适配： 在领域特定应用方面取得了显著进展。在医疗保健领域，如 NYUTron 和 MedTsLLM 等模型在临床事件预测方面展现出潜力。在金融领域，模型如 M2VN 和 GPT4FTS 将文本新闻与数值数据相结合，用于波动率预测。在气候领域，Pangu-Weather 和 ClimaX 等模型以高精度和降低计算成本的方式彻底改变了全球预测。
- 时空复杂性： 对于时空图和视频，大模型越来越多地被用于将文本语义与结构化或视觉数据进行整合。模型如 STG-LLM 和 Video-LLaMA 展示了处理复杂交互和长程依赖的能力。
- 挑战： 综述指出，尽管取得了进展，但挑战依然存在，包括高质量大规模时间性数据集的匮乏、将符号化图动力学与连续时间变化进行对齐的难度，以及处理长视频序列或大型动态网络时的计算成本问题。
5. 意义与展望
本文旨在成为兴起的面向时间性数据的大模型领域的催化剂。其意义在于：
- 整合： 它弥合了时间序列分析与时空分析之间的鸿沟，促进了此前被孤立研究的领域之间的思想交叉渗透。
- 标准化： 通过提供统一的分类法，它有助于标准化模型的术语和分类，从而辅助不同方法的比较。
- 资源获取： 整理数据集和工具降低了新研究人员的入门门槛。
- 方向设定： 通过概述具体的未来方向（如迁移性的理论分析、隐私保护的 PFM），本文引导社区去解决当前方法论的根本局限性。
作者总结道，虽然将大模型整合进时间性数据分析面临着独特的挑战，但通过理解和处理时间动态性来推动通用人工智能 (AGI) 发展的潜力是巨大的。本综述旨在激发这一动态领域中的进一步好奇心与研究。
每周获取最佳 machine learning 论文。
受到斯坦福、剑桥和法国科学院研究人员的信赖。
请查收邮箱确认订阅。
出了点问题，再试一次？
无垃圾邮件，随时退订。