🤖 machine learning

Contrast All the Time: Learning Time Series Representation from Temporal Consistency

该论文引入了 CaTT，一种用于时间序列的新型无监督对比学习框架，它通过利用可扩展的 NT 对形式化方法来并行对比所有时间步，从而消除了对数据增强或启发式配对选择的需求，进而提升了下游任务的性能和训练效率。

原作者： Abdul-Kazeem Shamba, Kerstin Bach, Gavin Taylor

发布于 2026-06-24

📖 1 分钟阅读☕ 轻松阅读

原作者： Abdul-Kazeem Shamba, Kerstin Bach, Gavin Taylor

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正试图教一个机器人理解一首歌的节奏，但你没有乐谱，也没有任何标签来告诉它音符的含义。你手里只有一段长长的、连续的音频流。

这就是 “Contrast All The Time” (CaTT) 这篇论文试图解决的问题——针对时间序列数据（如心跳、股票价格或天气模式）的学习问题。以下是他们是如何实现的，用简单的语言进行了解释。

问题所在：“快照”陷阱

目前大多数教计算机理解时间序列数据的方法都像是拍照片。

它们将一段长视频切成一个个微小的、独立的画面。
它们试图通过随机打乱顺序或应用过滤器（比如让图片变模糊或改变颜色）来猜测哪些画面看起来相似。
缺陷： 在视频中，紧接着当前帧的下一帧通常与当前帧非常相似。通过将它们切碎并进行随机猜测，这些方法忽略了故事的自然流动。这非常低效，就像是通过背诵随机的单词而不是阅读句子来学习语言一样。

解决方案：“链条连接”法 (CaTT)

作者 Abdul-Kazeem Shamba 及其同事提出了一种名为 CaTT (Contrast All The Time) 的新方法。他们不再拍摄快照，而是观察整个链条。

把时间序列数据集想象成一条由珠子组成的项链。

旧方法： 拿起一颗珠子，在项链的其他地方找一颗随机的珠子，然后问：“这两颗珠子像吗？”如果它们不像，就把它们拉开。这很慢，而且经常会选到不该进行比较的珠子。
CaTT 方法： 观察这条项链并意识到：“每一颗珠子天生就与紧邻它的下一颗珠子相连。”
- 他们将链条中的每一颗珠子都视为与其相邻珠子的“正样本对”（positive pair）。
- 他们将链条中所有其他珠子视为“负样本对”（negative pairs，即不同的事物）。
- 他们同时对每一颗珠子进行这种操作，而不是一个接一个地处理。

核心秘诀：MP-Xent 损失函数

为了让这一切在不让计算机因复杂的数学运算而崩溃的情况下运作，他们发明了一个新的公式，叫做 MP-Xent (Multiple Positive Cross-Entropy，多正样本交叉熵)。

类比： 想象一个教室，老师要求每个学生站在自己最好的朋友（时间上的邻居）旁边并手拉手。
旧方式： 老师挑选一名学生，找到他的一个朋友，然后告诉他们手拉手。接着再挑选另一名学生。这太慢了。
CaTT 方式： 老师大喊一声：“所有人，抓住你们左边和右边的人的手！”
结果： 整个班级瞬间组织成了一个紧密、逻辑清晰的链条。那些距离较远的学生（不同时间点）会自然而然地远离彼此。

这是一个巨大的、高效的步骤。论文称之为“全程对比”（Contrast All The Time），因为他们在同时对比所有的时刻，而不是随机挑选几个。

研究发现 (结果)

团队在三个现实世界的挑战上测试了这种“链条连接”法：

识别人类活动： 根据运动传感器判断一个人是在走路、跑步还是睡觉。
睡眠阶段： 根据脑电波判断一个人是在清醒、深睡还是做梦。
心律： 检测不规则心跳（房颤）。

最终结果：

更快： CaTT 的训练速度比其他方法快得多。当其他方法需要数小时（甚至对于某些方法需要数天）时，CaTT 仅需几秒或几分钟即可完成。
更聪明： 它们的“嵌入”（即计算机构建的数据内部地图）表现更好。当他们使用这些地图来解决问题时，CaTT 获得了比以往最佳方法更高的分数。
可扩展性： 由于它不依赖于复杂的随机猜测，因此即使处理海量数据，它也能表现出色。

为什么这很重要

论文认为，我们不需要发明复杂的规则或“增强手段”（伪造数据的技巧）来教计算机关于时间的事。时间序列数据有其自身的自然结构：现在发生的事情与一秒钟前发生的事情密切相关。

CaTT 仅仅是尊重了这种自然的流动。它将数据视为一个连续的故事，而不是一堆脱节的快照。通过这样做，它学得更快，学得更好，并且为那些对速度和准确性要求极高的现实世界应用做好了准备。

简而言之： CaTT 不再试图去猜哪些时间步相似，而是假设一切都与其邻居相连，利用这个简单的真理构建了一个超高效的学习系统。

技术摘要：CaTT (Contrast All The Time)

问题陈述
时间序列（TS）表示学习对于下游任务至关重要，然而由于标注成本高昂，大规模无标签时间序列数据仍未得到充分利用。虽然自监督对比学习在计算机视觉（CV）和自然语言处理（NLP）领域取得了成功，但其在时间序列领域的应用面临着特定的挑战。现有的时间序列对比学习方法通常依赖于数据增强，这可能会引入归纳偏置，或者依赖于启发式的对选择策略（例如，从批次中选择特定的正/负对）。这些选择策略往往效率低下，无法充分利用数据的完整时间维度，并且在动态、现实世界的流式环境中难以实现可扩展性。此外，许多方法未能有效利用内在的时间一致性，即相邻的时间步理应自然地共享相似的表示。

方法论
作者提出了 CaTT (Contrast All The Time)，这是一个全新的无监督对比学习框架，旨在通过利用数据的自然时间结构来学习时间序列表示，而不依赖于数据增强或复杂的对选择启发式算法。

核心概念： CaTT 偏离了传统方法，通过并行对比所有时间步来进行学习。它不再为每个锚点（anchor）选择单个正对，而是利用完整的时间维度，将相邻的时间步视为隐式正对，并将所有其他非相邻步视为负对。
MP-Xent 损失： 该框架引入了 多正例交叉熵（MP-Xent）损失。这是对经典 N-pair 损失（Sohn, 2020）和 NT-Xent 损失（SimCLR）的改进。
- 对于长度为 $T$ 的 $N$ 个序列组成的批次，CaTT 形成了一个 NT-tuple 损失。
- 对于参考时间步 $z_{i,t}$ ，其相邻步骤（ $z_{i,t-1}$ 和 $z_{i,t+1}$ ）作为多个正对。
- 序列中的所有其他步骤（排除参考步及其直接邻居）则作为负对。
- 损失函数的设计旨在最大化锚点与其多个正例之间的相似度，同时最小化与所有负例的相似度，所有计算均通过矩阵运算高效完成，以避免朴素切片带来的高计算复杂度。
架构： 该方法采用简单的一维卷积神经网络（1D CNN）作为编码器主干。输入是一个长度为 $T$ 的时间序列 $x$ ，并将其投影到表示空间 $z$ 。训练是端到端的，不需要单独的步骤来识别正对。
预处理： 对于特定数据集（例如医疗信号），作者应用短时傅里叶变换（STFT）处理子窗口，以生成具有时间依赖性的实例，从而确保“连续实例共享相似特征”的假设成立。

主要贡献

CaTT 框架： 一种全新的用于时间序列的无监督对比学习框架，通过使用 NT-pair 公式将正对选择直接集成到学习过程中，消除了对外部正对选择启发式算法的需求。
MP-Xent 损失： 对 N-pair 损失进行了改进，在归一化温度缩放交叉熵目标中引入了多个正对（相邻时间步）。这种改进通过在每次更新时考虑更多配对来加速学习，并提高收敛性。
广泛评估： 作者在四个不同下游任务的 16 个公开数据集上进行了实验：
- 线性微调分类（冻结主干）。
- 半监督分类。
- 时间序列预测（短期和长期）。
- 异常检测。

结果
论文报告称，CaTT 在所有评估任务中生成的嵌入表示均优于最先进的基准模型（包括 TS2Vec, InfoTS, CoST, SimMTM 和 MF-CLR）：

分类： 在 HARTH、SLEEPEEG 和 ECG 数据集上，CaTT 取得了最高的准确率、F1 分数、精确率和召回率。值得注意的是，它在取得这些结果的同时，训练时间显著缩短（例如，在 HARTH 数据集上，CaT 为 6.12s，而 MF-CLR 为 2322.75s）。
半监督学习： CaTT 在有限标注数据（5%, 10%, 20%）下表现出强大的鲁棒性，在准确率上持续优于基准模型。
预测： 在 ETT 和 Weather 数据集上，CaTT 提供了极具竞争力的均方误差（MSE）和平均绝对误差（MAE）结果，通常优于或匹配了如 MF-CLR 和 CoST 等专门的预测模型，同时保持了更优的预训练效率。
异常检测： 在 TSB-AD 基准测试中，CaTT 在检测指标（VUS-PR）方面表现出竞争力，并且是所测试方法中最快的方法。
效率： 一个主要的发现是，CaTT 的训练速度明显快于现有的对比学习方法，使其适用于大规模应用。

意义与主张
论文声称，CaTT 代表了利用时间一致性进行对比学习方式的一种转变。通过从数据增强和选择性配对采样转向“始终对比（contrast all the time）”的方法，该方法直接从时间数据的自然结构中学习。作者断言：

在 NT-tuple 损失中使用多个正对（相邻时间步）对于学习具有语义意义的表示并确保训练稳定性至关重要（单正例方法经常导致 NaN 损失）。
该方法具有高度的效率，提供了高性能与低计算成本之间的平衡，特别适用于对推理速度和可扩展性要求极高的现实世界动态时间序列应用。
该方法具有通用性，无需针对特定任务进行架构更改，即可在分类、预测和异常检测任务中有效执行。

该方法的源代码已公开，便于复现和进一步研究。