🤖 machine learning

NeST: Neighborhood-aware semantic alignment and temporal modulation for LLM based time series forecasting

本文提出了 NeST，这是一个通过生成邻域感知文本原型、通过对比学习将其与时间表示对齐、并应用原型调节的时间调制来实现卓越性能和跨多样化基准及真实任务泛化能力的创新框架，从而增强了基于大语言模型（LLM）的时间序列预测。

原作者： Jayanie Bogahawatte, Sachith Seneviratne, Maneesha Perera, Saman Halgamuge

发布于 2026-08-25

📖 1 分钟阅读☕ 轻松阅读

原作者： Jayanie Bogahawatte, Sachith Seneviratne, Maneesha Perera, Saman Halgamuge

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

预测随时间变化的数字的未来，是一项塑造我们如何为城市供电、管理财务以及应对天气变化的任务。几十年来，科学家们一直依赖专门的数学工具来预测这些被称为“时间序列”的模式。当数据表现出可预测的行为时，这些工具运作良好，但当模式变得复杂、混乱，或者学习数据极少时，它们往往会显得力不从心。近年来，一种被称为“大语言模型”的新型人工智能出现了。这些模型最初旨在理解人类语言，它们在识别单词序列中的模式方面表现得极其出色。由于时间序列数据也是一种序列，研究人员开始尝试教导这些语言模型去预测数字而非句子。挑战在于，如何弥合语言模型所熟知的离散、截然不同的单词与现实世界中如用电量或温度这类平滑、连续的数据流之间的鸿 meant 鸿沟。

墨尔本大学的一个研究小组开发了一种名为 NeST 的新方法来解决这个问题。他们的研究重点在于如何最好地将语言模型对单词的理解转化为对时间的理解。NeST 并没有强迫模型仅仅将数字列表视为单词来读取，也没有使用需要大量计算能力的笨重技术，而是创建了一组“文本原型”。可以将这些原型想象成精心挑选的代表性锚点，它们捕捉了语言模型庞大词汇表中的局部意义领域。研究人员训练该系统以确保这些锚点始终忠于语言模型知识的原始结构，而不是漂移到模型无法真正理解的区域。

一旦建立了这些文本锚点，系统就会将其与需要预测的实际时间序列数据进行对齐。它通过寻找数据与文本锚点之间的最接近匹配来实现这一点，从而确保语言模型的语义知识与数字中的特定模式直接相关。至关重要的是，NeСТ 并没有将文本和数字以可能干扰模型内部时序的方式混合在一起，而是利用文本锚点来温和地调整数据。它缩放并偏移数值特征，使语言模型能够在不破坏时间序列自然节奏的情况下，应用其学到的智慧。这一过程非常高效，仅需对模型的极小部分设置进行更改，即可保持其庞大知识库的完整。

这种新方法的测试结果稳健且一致。在针对长期预测的标准基准测试（如预测电力需求或交通流量）中，NeST 的表现优于目前的最佳方法，将预测误差平均降低了 1.2%。这看起来可能是一个很小的数字，但在预测领域，即使是微小的改进也能带来显著的成本节约和更好的决策。该方法在数据匮乏的情况下也表现得异常有效。在模型只能从极少量可用数据中学习，或者必须预测从未见过的全新类型数据的情况下，NeST 依然保持了高准确度，与其它方法相比，其误差减少了近 5%。

除了标准测试外，研究人员还将 NeST 应用于一个现实世界的挑战：预测分布式太阳能电池板的功率输出。太阳能发电的预测极其困难，因为它取决于波动的天气条件，并且因地理位置而异。该系统在来自不同地理区域的九个太阳能站数据集上进行了测试。在每种情况下，NeST 都提供了最佳的整体性能，与专门为太阳能设计的现有方法相比，其预测准确度平均提高了 3.3%。这表明该框架不仅是一个理论上的改进，更是一个能够处理现实世界能源系统中混乱、多变特性的实用工具。

NeST 的成功在于它能够尊重语言与时间各自的独特本质。通过保留语言模型词汇中的几何关系，并利用它们在不强加僵化连接的前提下引导数值数据，研究人员创建了一个既灵活又精确的系统。他们工作的可视化结果显示，该方法使文本锚点牢牢扎根在语言模型知识的密集、有意义的区域内，不像以往的方法那样允许这些锚点漂移到空白或无关的空间。这种精细的对齐使得模型能够利用其对模式的深度理解来进行更好的预测，即使在数据存在噪声或不完整的情况下也是如此。

最终，这项工作证明了大语言模型可以有效地被改编用于时间序列预测，而不会丢失其核心优势。NeST 框架提供了一种将文本知识整合进数值预测的方法，这种方法既具有计算效率，又具有高度的准确性。随着世界产生更多数据并面临更复杂的预测挑战，这类方法提供了一条可靠的路径，证明了我们理解语言的工具也可以帮助我们理解物理世界的律动。研究结果表明，只要方法得当，文本与时间之间的鸿沟是可以被跨越的，这将为从能源管理到经济规划等领域的更准确预测带来希望。

技术摘要：NeST —— 用于基于 LLM 的时间序列预测的邻域感知语义对齐与时间调制

1. 问题陈述

将预训练于离散文本数据的大语言模型（LLMs）适配到连续时间序列信号的预测中，面临着显著的挑战。虽然通过微调 LLM 可以实现这种适配，但现有方法存在三个主要局限性：

无效的提示集成（Ineffective Prompt Integration）： 现有方法通常通过简单的拼接或参数沉重的交叉注意力机制来结合文本和时间序列模态。这产生了一种僵化的耦合，可能会破坏时间序列嵌入固有的时间结构，并且在控制语义先验如何与时间特征交互方面能力有限。
次优的原型学习（Suboptimal Prototype Learning）： 当前的方法通过线性探测或预定义的固定集合来生成文本原型。这些方法往往无法保持预训练词标记嵌入空间的几何结构，导致原型可能落在 LLM 有效流形的之外。这在少样本（few-shot）场景下尤为不利，因为有限的监督可能会导致过拟合。
不充分的时间分解（Inadequate Temporal Decomposition）： 许多方法依赖于分解技术（如 STL）来学习时间序列嵌入。然而，这些技术可能无法充分捕捉现实应用中常见的时间序列复杂的非平稳动态特性。

2. 方法论：NeST 框架

作者提出了 NeST（Neighborhood-aware Semantic Alignment and Temporal Modulation，邻域感知语义对齐与时间调制），该框架旨在构建一种新的、用于微调 LLM 的文本集成时间序列提示。该架构由五个模块组成：

模块 1：时间序列表示学习

输入的多元时间序列被划分为单变量通道。每个通道使用可逆实例归一化（RevIN）进行归一化，以减轻分布偏移。随后，数据通过补丁嵌入层（1D 卷积）被划分为补丁（局部时间窗口），接着通过一个线性层生成时间序列补丁嵌入（ $P^{(i)}$ ）和全局输入嵌入（ $Z^{(i)}$ ）。

模块 2：邻域感知文本原型学习

NeST 并非仅通过预测损失来学习原型，而是引入了一种机制来保留 LLM 的语义几何结构。

初始化： 初始化一组可学习的文本原型（ $E$ ）。
优化： 原型被优化为预训练词标记嵌入（ $W$ ）局部邻域的质心。这是通过最小化每个冻结的词标记与其最近文本原型之间的均方误差（MSE）来实现的。这确保了原型保持在预训练嵌入流形的密集区域内，从而保留了语义先验。

模块 3：基于最近邻对比学习（NNCL）的对齐

为了将学习到的文本原型与时间序列表示进行对齐，NeST 采用了最近邻对比学习目标。

支持集： 一个先进先出（FIFO）队列（ $Q$ ）维护着来自先前批次的、大量的文本原型，以近似完整的分布。
对比目标： 对于给定的时间序列嵌入 $Z^{(i)}$ ，从支持集中检索前 $k$ 个最近的文本原型。计算对比损失（ $L_{NNCL}$ ），将时间序列嵌入拉向这些相关的文本原型，确保原型能够代表时间序列的特征。

模块 4：文本原型调节的时间调制

该模块在不改变标记序列或引入辅助标记的情况下，将语义信息集成到时间序列中。

聚合： 将检索到的前 $k$ 个文本原型聚合为一个全局文本上下文向量（ $C$ ）。
调制： 一个轻量级的投影函数将 $C$ 映射为特征维度的缩放参数（ $\gamma$ ）和偏移参数（ $\beta$ ）。
应用： 这些参数通过残差插值应用于时间序列补丁嵌入： $P^{(i)*} = \gamma \odot P^{(i)} + \beta$ 。这使得时间序列特征能够根据语义上下文进行自适应的缩放和偏移，同时保留了固有的时间结构。

模块 5：LLM 微调与输出

调制后的嵌入作为 LLM 的输入提示。为了保持预训练先验并降低计算开销，NeST 冻结了 LLM 的多头注意力层和前馈层。仅微调**位置嵌入（positional embeddings）和层归一化（layer normalization）**参数。LLM 的输出被展平并传递通过一个线性层，以生成最终预测。

总损失： 优化目标结合了预测损失（ $L_{forecast}$ ）、原型学习损失（ $L_{proto}$ ）和对比对齐损失（ $L_{NNCL}$ ），并由超参数 $\lambda$ 进行加权。

3. 核心贡献

邻域感知文本原型学习： 一种通过显式保留预训练 LLM 词标记嵌入空间内的局部邻域结构，作为语义区域代表性锚点的机制，来学习文本原型。
基于 NNCL 的跨模态对齐： 引入了最近邻对比学习目标，利用支持集来对齐学习到的文本原型与时间序列表示，从而增强在少样本场景下的鲁棒性。
原型调节的时间调制： 一种特征维度的调节机制，通过自适应缩放和偏移将文本语义注入时间序列表示，避免了通过标记拼接或交叉注意力带来的僵化耦合和计算成本。
全面的实证评估： 在长短期预测及少样本、零样本预测基准测试中展示了最先进（SOTA）的性能。
现实世界验证： 在九个数据集上成功应用于分布式光伏（PV）功率预测，证明了其在可再生能源集成场景中的鲁棒性。

4. 实验结果

作者在七个长时预测基准数据集（ETTh1, ETTh2, ETTm1, ETTm2, Weather, Traffic, 和 ECL）、M4 短时预测基准以及九个真实世界 PV 数据集上对 NeST 进行了评估。

长时预测： 在七个长时预测基准中，NeST 的平均 MSE 比第二好的 SOTA 方法降低了 1.2%。它持续优于 S2TS-LLM、Time-LLM 和 PatchTST 等基准模型。
少样本预测： 仅使用 10% 的训练数据，NeST 表现出强劲的性能，在四个 ETT 数据集中的三个上取得了最佳结果，展示了在数据匮乏条件下的鲁棒性。
零样本预测： 在跨领域迁移设置（在一个数据集上训练，在另一个数据集上测试）中，NeST 在八个迁移场景中的七个中优于现有基准，根据迁移对的不同，MSE 降低幅度在 1.9% 到 11.5% 之间。
短时预测（M4 基准）： NeST 在对比方法中取得了最佳的 SMAPE (11.940) 和 MASE (1.607)，在各种采样间隔下均表现出极具竞争力的性能。
真实世界 PV 预测： 在分布式 PV 功率数据集上，与针对 PV 预测设计的第二好的 LLM 方法相比，NeST 在第一个数据集（五个站点）上的平均 $R^2$ 分数提高了 4.9%，在第二个数据集（四个站点）上提高了 1.2%。
消融实验： 实验证实了每个组件（邻域感知学习、NNCL、时间调制）都对性能有积极贡献，其中在少样本设置中观察到的增益最为显著。
可视化： UMAP 可视化证实，与产生孤立结构的线性探测方法不同，NeST 的原型始终嵌入在预训练标记流形的密集区域内。

5. 重要性与主张

论文声称 NeST 解决了有效地将文本与时间序列模态集成到 LLM 预测中的关键差距。通过保留 LLM 的语义几何结构并利用参数高效的调制策略，NeST 提供了一个通用的框架，该框架具有以下特点：

增强泛化能力： 展示了强大的零样本和少样本能力，这对于标签数据有限的场景至关重要。
保持时间完整性： 通过避免使用僵化的标记拼接，避免了破坏时间序列数据的固有时间结构。
提供实用价值： 证明了其不仅在标准学术基准上有效，而且在处理涉及非平稳和多变数据的复杂现实世界可再生能源预测任务中同样有效。

作者将 NeST 定位为一个鲁棒且实用的框架，无需大规模的架构修改或计算昂贵的注意力机制，即可将 LLM 适配到多样化的时间序列预测任务中。