⚡ electrical engineering

Auto-Augmentation Contrastive Learning for Wearable-based Human Activity Recognition

本文提出了 AutoCL，这是一个端到端的自动增强对比学习框架，该框架利用带有嵌入式生成器的孪生网络和专门的训练策略来自动学习最优的数据增强，从而在不依赖人工设计增强方案的情况下，显著提高了基于可穿戴设备的动作识别准确率。

原作者： Qingyu Wu, Jianfei Shen, Feiyi Fan, Yang Gu, Chenyang Xu, Yiqiang Chen

发布于 2026-02-04

📖 1 分钟阅读☕ 轻松阅读

原作者： Qingyu Wu, Jianfei Shen, Feiyi Fan, Yang Gu, Chenyang Xu, Yiqiang Chen

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正试图教会一个机器人如何识别人类的活动——比如走路、跑步或爬楼梯——而仅仅依靠智能手表或健身追踪器提供的数据。这被称为人体活动识别（Human Activity Recognition, HAR）。

问题在于，这些来自手表的监测数据是“嘈杂”的，而且没有明显的图像或文字附着其上。它仅仅是一串原始数字。为了教会机器人，我们通常需要人类坐在那里，为成千上轴小时的数据进行标注（例如：“这是走路”、“这是坐着”）。这既缓慢、昂贵，又枯燥乏味。

为了解决这个问题，研究人员使用了一种叫做**对比学习（Contrastive Learning）**的技术。你可以把它想象成一场“找不同”的游戏。你向机器人展示两个略有差异的同一活动的版本（例如：一个加入了少量静态噪声的走路信号，以及原始的走路信号），机器人的任务是意识到：“嘿，它们是同一种活动！”并从中学习哪些特征使它们相似。

旧有的问题：“人工增强”的瓶颈

在过去，为了为这个游戏创造这些“不同的版本”，人类必须手动决定如何去“弄乱”数据。他们会说：“在这里加入一些噪声，”或者“把信号翻转过来。”

但问题在于：对一种活动有效的方法，可能会毁掉另一种活动。 就像你不会用同样的调料去烹饪牛排和沙拉一样，针对跑步信号的最佳“干扰方式”与针对睡眠信号的干扰方式是不同的。人类必须为每一个新数据集去猜测并测试不同的组合，这不仅是一个沉重的负担，而且往往效果并不理想。

新的解决方案：AutoCL（自学成才的大厨）

该论文介绍了一种名为 AutoCL（自动增强对比学习）的新方法。与其让“人类大厨”去猜测该添加什么调料，AutoCL 更像是一个自学成才的大厨，它能学会如何为数据进行“调味”。

它是这样运作的，这里使用了一些简单的类比：

智能生成器（大厨）：
系统不是直接喂给机器人原始且混乱的传感器数据，而是首先观察数据的“本质”或“风味”（称为特征嵌入/feature embeddings）。它忽略背景噪声，专注于核心模式。
- 类比： 想象你在尝试辨别一首歌。与其听整段嘈杂的录音，你首先先哼出主旋律。这个“大厨”（AI 的一个特殊部分）会观察这个旋律，然后决定：“好吧，为了制作一个好的练习版本，我应该把速度稍微加快一点，”或者“我应该反转节奏。”它会自动创建一个新的版本。
孪生兄弟（双胞胎）：
系统使用了一个“孪生网络（Siamese Network）”，这就像拥有两个一模一样的双胞胎。
- 双胞胎 A 观察原始活动。
- 双胞胎 B 观察由“大厨”创造的那个新版本。
- 系统强制要求这对双胞胎达成一致，认为他们看到的是同一种活动。如果他们达成一致，系统就完成了学习。
“梯度停止”技巧（蒙眼术）：
其中一个最大的风险是“大厨”可能会变得偷懒，直接复制原始的歌曲。如果新版本与旧版本完全相同，双胞胎就学不到任何新东西。
- 为了阻止这种情况，研究人员使用了**梯度停止（Stop-Gradient）*设计。这就像在学习过程中给其中一个双胞胎戴上眼罩。在制作新版本时，“大厨”无法看到原始数据的精确细节；它必须依赖于之前学到的“本质”。这迫使系统去学习活动的真实含义*，而不是仅仅死记硬背噪声。
“相关性降低”（多样性俱乐部）：
系统还有一个规则：“不要让新版本与旧版本过于相似。”它会主动尝试让两个版本之间产生足够的差异，使其成为一个挑战，但同时又要保持足够的相似性以确保它们属于同一种活动。这确保了机器人学习到的是鲁棒的特征，而不仅仅是靠运气猜对。

结果：为什么这很重要

研究人员在四个不同的真实世界数据集（如 PAMAP2 和 UCIHAR）上测试了这个“自学成才的大厨”。

旧方法： 人类必须尝试不同的手动技巧组合（噪声、翻转、缩放）来观察哪种效果最好。有时有效，有时则不然。
AutoCL 方法： 系统能够自行找出最佳的“弄乱”数据的方式，无需人类帮助。

结果： AutoCL 在几乎所有的测试中都击败了现有的最佳方法。即使在初始标注数据非常少的情况下，它也能更准确地识别活动。

核心结论

这篇论文表明，我们不再需要人类去手动猜测如何调整传感器数据。通过让 AI 根据数据自身的模式来学习如何创建自己的训练样本，我们可以构建出更聪明、更灵活的活动识别系统，它们不仅效果更好，而且需要的人力投入更少。这就像是从一个只会死记硬背教科书的学生，进化到了一个学会如何编写教科书本身的学生。

技术摘要：用于基于可穿戴设备的人类活动识别的自动增强对比学习

问题陈述

利用可穿戴传感器（如 IMU）进行的人类活动识别（HAR）传统上依赖于监督学习，这带来了沉重的手动标注负担，并且在应用于新任务、新传感器类型或新位置时缺乏鲁棒性。自监督学习（SSL），特别是对比学习（CL），已成为一种高性能的替代方案，用于在无需标签的情况下学习表示。然而，目前的 CL 方法面临一个关键瓶板：它们高度依赖于手动数据增强策略来构建正样本对。

在可穿戴 HAR 的背景下，传感器信号与图像相比具有低语义信息。因此，选择有效的增强策略（例如抖动、缩放、置换）是非直观且高度依赖于任务的。最优策略会根据传感器数量、采样率和模态而变化，使得现有的 CL 方法缺乏泛化性和灵活性。目前需要一种端到端的方法，以消除为低语义传感器数据设计增强策略的人工负担。

方法论：AutoCL

作者提出了 AutoCL，这是一个专门为基于可穿戴设备的 HAR 设计的端到端自动增强对比学习框架。其核心创新是在网络中嵌入了一个生成器，该生成器学习直接从数据中产生增强视图，而不是依赖于预定义的手动变换。

架构

AutoCL 使用带有共享骨干网络和嵌入式生成器的孪生网络架构（Siamese network architecture）：

编码器 ( $f_\theta$ ) 与投影器 ( $p_\theta$ )： 一个 3 层全卷积网络（FCN）作为骨干网络，用于从原始传感器时间序列数据中提取特征嵌入。一个多层感知器（MLP）将这些嵌入投影到潜空间中。
生成器 ( $g_\xi$ )： 与标准 CL 在原始输入上应用增强不同，AutoCL 的生成器将来自骨干网络的特征嵌入 ( $y_\theta$ ) 作为输入。这一设计选择的动机是减少原始传感器信号中固有的噪声和冗余信息的影响。该生成器使用一个 3 层双向门控循环单元（BiGRU）后接一个 1-D 分组卷积层来生成自动增强样本 ( $x'_{\theta, \xi}$ )。
训练目标： 模型使用 NT-Xent 损失函数，最大化原始样本的投影与自动增强样本的投影之间的成对一致性。

关键技术策略

为了确保生成器学习到有意义的增强，而不是坍缩为恒等映射（这会降低对比难度），作者引入了两个特定的机制：

相关性削减（Correlation Reduction）： 在损失函数中添加了一个正则化项，以最大化原始样本与增强样本之间的多样性。这防止了生成器仅仅是复制输入（近似于自动编码器），并鼓励学习具有语义一致性的不同变体。
梯度停止（Stop-Gradient）： 在更新生成器时，对原始样本的投影 ( $y_\theta$ ) 应用梯度停止操作。这确保了生成器学习基于当前的特征表示进行增强，而不会通过反向传播循环使编码器的训练动态变得不稳定。

核心贡献

首个用于可穿戴 HAR 的端到端自动增强： 本文提出了第一项针对可穿戴传感器信号进行端到端自动增强对比学习的研究，消除了手动构建增强策略的需求。
新颖的架构设计： 作者设计了一个框架，其中生成器从潜在特征嵌入而非原始数据中学习自动增强。实验证明，这种基于嵌入的方法优于直接从原始信号生成增强的方法，因为它过滤掉了噪声和冗余。
增强的表示学习： 提出了集成**梯度停止（Stop-Gradient）和相关性削减（Correlation Reduction）**策略，以增强编码器的表示学习能力，防止过拟合并确保对比任务保持挑战性。
数据驱动的灵活性： 研究表明，模型学习到的数据驱动增强操作空间远比人类指定的策略更为广阔，能够更好地适应多样化的 HAR 场景。

实验结果

AutoCL 方法在四个广泛使用的 HAR 数据集上进行了评估：PAMAP2、UCIHAR、UTD-MHAD 和 DSADS。评估遵循标准的 SSL 协议：在无标签数据上进行预训练，随后进行少样本分类（在 20% 有标签数据上进行微调）。

性能： AutoCL 在所有四个数据集上均达到了最先进水平（SOTA），显著超越了依赖于各种手动增强策略组合（抖动、缩排、置换）的现有 CL 基准模型（SimCLR, SimSiam, BYOL, NNCLR）。
- 示例： 在 DSADS 数据集上，AutoCL 达到了 96.05% 的准确率，超过了表现最好的手动增强基准（使用 S+J 的 BYOL），后者达到了 95.77%。
消融实验： 去除**梯度停止（SG）或相关性削减（CR）**策略会导致性能下降，证实了它们对于自动增强过程的稳定性和有效性的必要性。
架构实证研究： 将 AutoCL（基于特征嵌入）与从原始数据生成增强的变体（AutoCL-D）进行比较，结果显示基于嵌入的方法（AutoCL-E）始终产生更好的结果，尤其是在具有高噪声或连续活动变化的数据集上。
可视化： 与基准模型相比，t-SNE 可视化展示了 AutoCL 学习到的表示具有更清晰且分离度更高的簇。此外，通过可视化生成的样本发现，该模型学习到了多样化的操作（缩放、反转、裁剪），这些操作超越了简单的、由人类定义的规则。

意义与主张

本文声称 AutoCL 解决了将对比学习应用于可穿戴 HAR 时的一个根本限制：即对手动、不可泛化增强策略的依赖。通过将增强过程转向在潜空间中运行的可学习的数据驱动组件，该方法：

减轻了设计低语义传感器数据增强流水线的人工负担。
通过学习基于特征表示进行增强，提高了鲁棒性，从而减轻了传感器噪声的影响。
展示了卓越的泛化能力，因为学习到的增强策略可以无需人工干预即可适应特定数据集的特征。

作者得出结论，对于低语义数据，数据驱动的自动化增强方法在语义一致性和性能方面比手动实现的策略具有更大的潜力，这为未来可穿戴计算中的通用模型提供了一个充满希望的方向。