💻 computer science

Learning by Shifting: Temporal View Construction for Time Series Contrastive Learning

本文介绍了 ShiFT，这是一个用于时间序列的自监督对比学习框架，它通过使用基于时间平移不变性的简单、确定性的视图构建方法来取代复杂的、手工设计的增强方法，从而在多种基准测试中实现了最先进的性能。

原作者： Abdul-Kazeem Shamba, Kerstin Bach, Gavin Taylor

发布于 2026-06-23

📖 1 分钟阅读☕ 轻松阅读

原作者： Abdul-Kazeem Shamba, Kerstin Bach, Gavin Taylor

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正试图通过观察舞蹈视频来教一个机器人识别不同的舞蹈动作。问题在于，你并没有标签来告诉机器人“这是华尔兹”或“这是萨尔萨舞”。你拥有的只有数小时的原始、无标签视频。

这就是时间序列数据（如心跳、机器人运动或股票价格）所面临的挑战。通常情况下，要教会计算机，需要人类专家为成千上万个样本进行标注，这既昂贵又缓慢。

这篇论文介绍了一种名为 ShiFT（移位不变特征训练，Shift Invariant Feature Training）的新方法，它能让计算机进行自主学习，而不需要那些昂贵的标签。以下是其工作原理的简单解释：

旧方法：“扭曲的镜子”

此前，为了教计算机理解时间序列，研究人员使用了一种名为对比学习（Contrastive Learning）的技术。其核心思想是向计算机展示两个略有不同的同一舞蹈动作的版本，并告诉它：“它们是相同的！”同时向它展示不同的动作，并告诉它：“它们是不同的！”

为了制造这些“不同”的版本，他们使用了增强手段（人工变化的手段）。他们会：

添加静态噪声（就像旧电视上的雪花点）。
加速或减慢视频速度。
遮挡视频的一部分（掩码处理）。

问题在于： 这些变化就像是通过一面扭曲的镜子在看舞蹈。有时，这种扭曲会改变动作的含义。如果你把一段慢舞加速得太快，它看起来可能就像另一种完全不同的舞蹈。计算机会感到困惑，它学到的是如何识别扭曲本身，而不是实际的舞蹈。这就像是通过一台坏掉的收音机去学习一种语言。

新方法：“滑动窗口”（ShiFT）

论文作者提出了一个简单的问题：只要动作本身还在，动作具体在什么时候开始重要吗？

如果你看到一个“旋转”动作，无论它发生在第10秒还是第12秒，它仍然是一个旋转。这被称为时间移位不变性（Temporal Shift Invariance）。

与其扭曲视频，ShiFT 使用了一个简单的、确定性的技巧：

获取一段长舞蹈视频。
将其切割成两个重叠的部分。
将第二个部分向右稍微移动，使它们共享中间的一个部分，但起始点和结束点各不相同。

类比： 想象你在阅读一个句子：“The quick brown fox jumps.”（敏捷的棕色狐狸跳跃。）

旧方法： 你可能会改变字体、添加错别字或划掉单词。很难判断它是否还是同一个句子。
ShiFT 方法： 你拿一张纸，在句子上方滑动。
- 视图 1："The quick brown fox jumps"
- 视图 2："quick brown fox jumps"（稍微偏移了位置）
- 它们共享中间部分（"brown fox"），但开头和结尾不同。

计算机学习到：“即使开头和结尾不同，中间部分也是一样的，所以这两个视图必须代表相同的东西。”

为什么这意义重大

论文声称，这种简单的“滑动窗口”方法实际上比之前使用的复杂、混乱的方法更好、更快。

它更快： 因为计算机只需要处理稍短的片段（重叠的部分），而不是处理整个混乱且扭曲的视频，所以它的训练速度极快。论文指出，它比其他方法快了多达 7 倍。
它更聪明： 通过不添加随机噪声，计算机学习到了数据的真实结构。在针对六个不同现实世界数据集（如心率监测仪和运动传感器）的测试中，ShiFT 击败了所有其他顶尖方法。
它更简单： 你不需要一个专家团队来研究针对你的特定数据哪些“扭曲”效果最好。滑动窗口在任何地方都适用。

一个意外的发现

研究人员还发现了一些关于计算机如何学习的有趣现象。在图像识别（如识别猫和狗）中，使用一大组示例（大批次/large batch）有助于计算机更好地学习。

然而，对于时间序列数据（如心跳），大批次反而会损害性能。

类比： 想象一个教室，其中 90% 的学生都穿着一模一样的红衬衫。如果你要求老师在一大群人中找出“异类”，他们可能会不小心选出两个穿红衬衫的学生，并因为他们在房间里离得很远而认为他们是不同的。
在时间序列中，许多数据点看起来非常相似。如果你一次比较太多，计算机就会感到困惑，并误认为相似的事物是不同的。论文发现，中等规模的组对于时间序列效果最好。

核心结论

该论文认为，我们不需要对时间序列的 AI 进行过度设计。与其尝试用复杂的技巧去破坏并重建数据，我们只需在数据上滑动一个窗口即可。这种简单、逻辑化的方法能让计算机比目前正在使用的复杂方法更准确、更快速地识别模式。

简而言之：不要去折腾信号；只需转换你的视角。

技术摘要：学习偏移（Learning by Shifting, ShiFT）

问题陈述

时间序列分类的监督学习受到标注数据稀缺的限制，因为标注成本高昂、耗时且需要领域专家知识。虽然自监督学习（SSL），特别是对比学习（CL），通过利用无标签数据提供了一种替代方案，但现有的时间序列对比学习方法面临着重大挑战。目前的方法过度依赖手工设计的增强手段（如抖动、缩放、时间扭曲）以及复杂的掩码启发式算法。这些方法嵌入了强烈的、往往是武断的领域假设，即哪些信号属性在语义上是无关的。因此，它们存在引入伪相关、限制在多样化时间模式下的泛化能力，以及由于复杂的采样策略而导致高计算开销的风险。此外，目前缺乏关于批大小（batch size）和负样本数量等超参数如何影响时间序列设置中性能的系统性理解（与计算机视觉领域相比）。

方法论：ShiFT

作者提出了偏移不变特征训练（Shift Invariant Feature Feature Training, ShiFT），这是一个挑战随机增强范式的对比学习框架。ShiFT 不再应用随机扰动，而是通过一种简单的、确定性的视图构建策略来编码时间偏移不变性。

核心机制

确定性视图构建： 给定一个长度为 $T$ 的时间序列实例 $x$ ，ShiFT 根据固定的重叠比例 $\rho$ （默认 $\rho=0.5$ ）将序列划分为两个重叠的子序列（视图）：
- 视图 1 ( $x^{(1)}$ )：序列的前缀。
- 视图 2 ( $x^{(2)}$ )：序列的后缀。
- 这两个视图共享一个共同的重叠区域（语义锚点），同时保持非重叠区域以确保非平凡性。
- 时间偏移 $\delta$ 是序列长度和重叠比例的确定性结果，无需针对变换幅度进行随机采样或超参数搜索。
理论依据： 作者认为，对于许多时间序列任务，类标签取决于模式是否出现，而不是何时出现。因此，时间平移不变性是一种自然的存在归纳偏置。与抖动（增加噪声）或掩码（丢弃信号）不同，时间偏移在保持两个视图之间高互信息量 ( $I(V_1; V_2)$ ) 的同时，保留了视图与标签之间的互信息 ( $I(V; y)$ )。该策略避免了其他增强技术中常见的“标签保持”和“类别信息量”违规问题。
训练目标： 模型采用标准的归一化温度缩放交叉熵（NT-Xent）损失（InfoNCE）。编码器被训练以对齐同一实例的两个偏移视图的表示，同时排斥来自不同实例的视图。该框架使用共享编码器（InceptionTime 主干网络）和投影头（MLP），在评估时丢弃投影头。

核心贡献

视图构建的范式转变： 论文证明，一种简单的、基于确定性偏移的视图选择策略可以媲美甚至超越依赖手工设计增强或掩码方案的复杂方法，用于时间序列分类，同时减少了训练时间。
对比学习动态的系统分析： 作者提供了关于时间序列对比学习的实证见解，具体研究了以下影响：
- 批大小（Batch Size）： 与计算机视觉中的发现相反，较大的批大小并不总能提高时间序列的性能；由于高类内相似性导致大批次中出现假负例，中等规模（128–256）的批大小是最优的。
- 投影头（Projection Heads）： 线性与非线性投影头在时间序列中的表现相似，这表明瓶颈在于视图构建而非投影容量。
- 温度与重叠： 研究分析了温度缩放与重叠比例在线性探测（linear probing）与 kNN 性能之间的权衡。
全面的验证： ShiFT 在六个大规模真实世界数据集（>20k 样本）以及完整的 UCR 和 UEA 存档上得到了验证，展示了在单变量和多变量设置下持续的最先进（SOTA）性能。

实验结果

ShiFT 与包括 SimCLR、TS2Vec、InfoTS 和 SimMTM 在内的最先进基准方法进行了对比评估。

性能表现：
- 大规模数据集： 在六个大规模数据集上，ShiFT 取得了最高的平均线性探测准确率（81.49%）和 1-最近邻（1NN）准确率（67.17%），优于次优方法（TS2Vec 和 SimCLR）。
- UCR 和 UEA 存档： ShiFT 在两个存档中均取得了最佳平均准确率（UCR 为 80.99%，UEA 为 70.26%）和最佳平均排名。
- 聚类： ShiFT 生成了全局组织最良好的嵌入空间，在标准化互信息（NMI）和调整兰德指数（ARI）指标上达到了最佳平均排名。
- t-SNE 可视化： 可视化结果显示，ShiFT 生成了紧凑且分离度高的簇，成功解构了在基准表示中仍处于纠缠状态的类别。
效率：
- ShiFT 在所有基准设置中实现了最快的训练时间。
- 这种加速归功于其视图构建策略：当 $\rho=0.5$ 时，每个视图仅处理原序列长度的 $2/3$ ，在不使用近似的情况下，将编码器的计算成本降低了约 33%。
- 与其它 SSL 方法相比，ShiFT 将训练时间缩短了 1.94 倍至 7.26 倍不等。

意义与主张

论文认为，通常与时间序列对比学习相关的复杂性是不必要的。通过利用时间平移不变性的自然特性，ShiFT 证明了视图构建的简单性并不会损害表示质量。

作者声称，他们的发现挑战了直接将计算机视觉假设（如对大批次规模的必要性）迁移到时间序列领域的做法。他们指出，对于时间序列，应用“正确的归纳偏置”（时间偏移不变性）比涉及复杂增强流水线的精细工程更简单且更有效。这项工作将 ShiFT 定位为既是一个强大的实用基准，也是一个关于原则性简约（principled simplicity）在时间表示学习中重要性的概念性论据。