⚡ electrical engineering

Auto-Augmentation Contrastive Learning for Wearable-based Human Activity Recognition

Dieses Paper schlägt AutoCL vor, ein End-to-End-Auto-Augmentation-Kontrastives-Lern-Framework, das ein Siamese-Netzwerk mit einem eingebetteten Generator und spezialisierten Trainingsstrategien nutzt, um automatisch optimale Datenaugmentationen zu erlernen und dadurch die Genauigkeit der tragbaren menschlichen Aktivitätserkennung signifikant zu verbessern, ohne auf manuelles Augmentationsdesign angewiesen zu sein.

Ursprüngliche Autoren: Qingyu Wu, Jianfei Shen, Feiyi Fan, Yang Gu, Chenyang Xu, Yiqiang Chen

Veröffentlicht 2026-02-04

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Qingyu Wu, Jianfei Shen, Feiyi Fan, Yang Gu, Chenyang Xu, Yiqiang Chen

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie versuchen, einem Roboter beizubringen, menschliche Aktivitäten zu erkennen – wie Gehen, Laufen oder Treppensteigen – und zwar ausschließlich mithilfe von Daten einer Smartwatch oder eines Fitness-Trackers. Dies wird als Human Activity Recognition (HAR) bezeichnet.

Das Problem ist, dass die Daten von diesen Uhren "verrauscht" sind und keine offensichtlichen Bilder oder Wörter angehängt haben. Es sind einfach nur rohe Zahlen. Um den Roboter zu lehren, müssen wir normalerweise einen Menschen bereitstellen, der dort sitzt und tausende Stunden an Daten beschriftet ("Das ist Gehen", "Das ist Sitzen"). Das ist langsam, teuer und langweilig.

Um dies zu lösen, verwenden Forscher eine Technik namens Contrastive Learning (kontrastives Lernen). Denken Sie an dies wie an ein Spiel von "Finde den Unterschied". Man zeigt dem Roboter zwei leicht unterschiedliche Versionen derselben Aktivität (z. B. ein Gehsignal mit etwas hinzugefütem statischem Rauschen und das Original-Gehsignal) und der Roboter hat die Aufgabe zu erkennen: "Hey, das ist dieselbe Aktivität!" und lernt, was sie ähnlich macht.

Das alte Problem: Der Flaschenhals der "Manuellen Augmentierung"

In der Vergangenheit mussten Menschen, um diese "verschiedenen Versionen" für das Spiel zu erstellen, manuell entscheiden, wie sie die Daten verändern sollten. Sie sagten: "Lass uns etwas Rauschen hier hinzufügen" oder "Lassen Sie uns das Signal umdrehen".

Aber hier ist der Haken: Was für eine Aktivität funktioniert, könnte eine andere ruinieren. Genau wie man nicht dasselbe Gewürz verwenden würde, um ein Steak und einen Salat zu kochen, ist die "beste" Art, ein Laufsignal zu verändern, eine andere als bei einem Schlafsignal. Menschen mussten für jeden neuen Datensatz verschiedene Kombinationen raten und testen, was eine enorme Belastung darstellte und oft nicht in allen Situationen funktionierte.

Die neue Lösung: AutoCL (Der selbstlernende Koch)

Das Paper stellt eine neue Methode namens AutoCL (Auto-Augmentation Contrastive Learning) vor. Anstatt dass ein menschlicher Koch raten muss, welche Gewürze er hinzufügen soll, ist AutoCL wie ein selbstlernender Koch, der lernt, die Daten selbst zu "würzen".

So funktioniert es, unter Verwendung einfacher Analogien:

Der intelligente Generator (Der Koch):
Anstatt dem Roboter rohe, unordentliche Sensordaten zu füttern, betrachtet das System zuerst das "Wesen" oder den "Geschmack" der Daten (genannt Feature Embeddings). Es ignoriert das Hintergrundrauschen und konzentriert sich auf das Kernmuster.
- Analogie: Stellen Sie sich vor, Sie versuchen, ein Lied zu erkennen. Anstatt der gesamten verrauschten Aufnahme zuzuhören, summen Sie zuerst die Hauptmelodie. Der "Koch" (ein spezieller Teil der KI) betrachtet diese Melodie und entscheidet: "Okay, um eine gute Übungsversion dieses Liedes zu erstellen, sollte ich es ein wenig beschleunigen" oder "Ich sollte den Rhythmus umkehren". Er erstellt eine neue Version automatisch.
Die siamesischen Zwillinge (Die Zwillinge):
Das System verwendet ein "Siamese Network", was so ist, als hätte man zwei identische Zwillinge.
- Zwilling A betrachtet die ursprüngliche Aktivität.
- Zwilling B betrachtet die vom "Koch" neu erstellte Version.
- Das System zwingt die Zwillinge dazu, sich darauf zu einigen, dass sie dieselbe Aktivität betrachten. Wenn sie sich einig sind, lernt das System.
Der "Stop-Gradient"-Trick (Die Augenbinde):
Eines der größten Risiken ist, dass der "Koch" faul werden und einfach das Original lied exakt kopieren könnte. Wenn die neue Version identisch mit der alten ist, lernen die Zwillinge nichts Neues.
- Um dies zu verhindern, verwenden die Forscher ein Stop-Gradient-Design. Es ist, als würde man einem der Zwillinge während des Lernprozesses eine Augenbinde anlegen. Der "Koch" kann nicht die exakten Details der Originaldaten sehen, während er die neue Version erstellt; er muss sich auf das "Wesen" verlassen, das er zuvor gelernt hat. Dies zwingt das System, die wahre Bedeutung der Aktivität zu lernen, nicht nur das Rauschen auswendig zu lernen.
Die "Korrelationsreduktion" (Der Varietätenclub):
Das System hat auch eine Regel: "Mache die neue Version nicht zu ähnlich zur alten." Es versucht aktiv, die beiden Versionen unterschiedlich genug zu machen, um eine Herausforderung darzustellen, aber ähnlich genug, um dieselbe Aktivität zu sein. Dies stellt sicher, dass der Roboter robuste Merkmale lernt und nicht nur Glückstreffer landet.

Die Ergebnisse: Warum es wichtig ist

Die Forscher haben diesen "Selbstlernenden Koch" auf vier verschiedenen realen Datensätzen (wie PAMAP2 und UCIHAR) getestet.

Der alte Weg: Menschen mussten verschiedene Kombinationen manueller Tricks (Rauschen, Umdrehen, Skalieren) ausprobieren, um zu sehen, was am besten funktionierte. Manchmal funktionierte es, manchmal nicht.
Der AutoCL-Weg: Das System fand selbst heraus, wie es die Daten am besten "verändern" kann, ohne menschliche Hilfe.

Das Ergebnis: AutoCL schlug in fast allen Tests die besten bestehenden Methoden. Es erkannte Aktivitäten präziser, selbst wenn zu Beginn nur sehr wenige gelabelte Daten zur Verfügung standen.

Das Fazbeispiel

Dieses Paper zeigt, dass wir keine Menschen mehr brauchen, die manuell raten müssen, wie sie Sensordaten anpassen sollen. Indem wir die KI lernen lassen, ihre eigenen Trainingsbeispiele basierend auf den eigenen Mustern der Daten zu erstellen, können wir intelligentere, flexiblere Aktivitätserkenner bauen, die besser funktionieren und weniger menschliche Anstrengung erfordern. Es ist wie der Übergritt von einem Schüler, der ein Lehrbuch auswendig lernt, zu einem Schüler, der lernt, das Lehrbuch selbst zu schreiben.

Technisches Resümee: Auto-Augmentation Contrastive Learning für Wearable-basiertes Human Activity Recognition

Problemstellung

Die Erkennung menschlicher Aktivitäten (Human Activity Recognition, HAR) mittels tragbarer Sensoren (z. B. IMUs) stützt sich traditionell auf überwachtes Lernen, was eine hohe Last durch manuelle Annotation mit sich bringt und an Robustheit mangelt, wenn es auf neue Aufgaben, Sensortypen oder Positionen angewendet wird. Selbstüberwachtes Lernen (Self-Supervised Learning, SSL), insbesondere Contrastive Learning (CL), hat sich als leistungsstarke Alternative etabliert, um Repräsentationen ohne Labels zu erlernen. Aktuelle CL-Ansätze stehen jedoch vor einem kritischen Engpass: Sie hängen stark von manuellen Datenausaugmentierungsstrategien ab, um positive Probenpaare zu konstruieren.

Im Kontext von Wearable-HAR besitzen Sensordaten im Vergleich zu Bildern einen geringen semantischen Informationsgehalt. Folglich ist die Auswahl effektiver Augmentierungsstrategien (z. B. Jittering, Skalierung, Permutation) nicht intuitiv und stark aufgabenabhängig. Die optimale Strategie variiert je nach Sensoranzahl, Abtastraten und Modalitäten, was bestehende CL-Methoden wenig generalisierbar und unflexibel macht. Es besteht ein Bedarf an einer End-to-End-Methode, die den manuellen Aufwand für das Design von Augmentierungsstrategien für Sensordaten mit geringem semantischem Gehalt eliminiert.

Methodik: AutoCL

Die Autoren schlagen AutoCL vor, ein End-to-End Auto-Augmentation Contrastive Learning Framework, das speziell für Wearable-basiertes HAR entwickelt wurde. Die zentrale Innovation ist ein Generator, der in das Netzwerk eingebettet ist und lernt, augmentierte Ansichten direkt aus den Daten zu erzeugen, anstatt sich auf vordefinierte manuelle Transformationen zu verlassen.

Architektur

AutoCL nutzt eine Siamese-Netzwerkarchitektur mit einem gemeinsamen Backbone und einem eingebetteten Generator:

Encoder ( $f_\theta$ ) & Projector ( $p_\theta$ ): Ein 3-lagiges Fully Convolutional Network (FCN) dient als Backbone, um Feature-Embeddings aus den rohen Sensortime-Series-Daten zu extrahieren. Ein Multi-Layer Perceptron (MLP) projiziert diese Embeddings in einen latenten Raum.
Generator ( $g_\xi$ ): Im Gegensatz zum Standard-CL, bei dem die Augmentierung auf die Rohdaten angewendet wird, nimmt der AutoCL-Generator die Feature-Embeddings ( $y_\theta$ ) vom Backbone als Input entgegen. Diese Designentscheidung ist motiviert durch die Notwendigkeit, den Einfluss von Rauschen und redundanten Informationen zu reduzieren, die in rohen Sensorsignalen inhärent sind. Der Generator verwendet eine 3-lagige bidirektionale Gated Recurrent Unit (BiGRU), gefolgt von einer 1-D Group Convolutional Layer, um eine auto-augmentierte Probe ( $x'_{\theta, \xi}$ ) zu erzeugen.
Trainingsziel: Das Modell maximiert die paarweise Übereinstimmung zwischen der Projektion der Originalprobe und der Projektion der auto-augmentierten Probe unter Verwendung des NT-Xent-Loss.

Zentrale technische Strategien

Um sicherzustellen, dass der Generator aussagekräftige Augmentierungen lernt und nicht zu einer Identity-Mapping kollabiert (was die Kontrast-Schwierigkeit verringern würde), führen die Autoren zwei spezifische Mechanismen ein:

Korreduktion (Correlation Reduction): Ein Regularisierungsterm wird zur Verlustfunktion hinzugefügt, um die Diversität zwischen der Originalprobe und der augmentierten Probe zu maximieren. Dies verhindert, dass der Generator einfach den Input kopiert (was einem Auto-Encoder nahekäme) und fördert das Lernen distinkter, semantisch konsistenter Variationen.
Stop-Gradient: Eine Stop-Gradient-Operation wird auf die Projektion der Originalprobe ( $y_\theta$ ) während des Generator-Updates angewendet. Dies stellt sicher, dass der Generator lernt, basierend auf der aktuellen Feature-Repräsentation zu augmentieren, ohne die Trainingsdynamik des Encoders durch Backpropagation-Schleifen zu destabilisieren.

Zentrale Beiträge

Erste End-to-End Auto-Augmentation für Wearable-HAR: Die Arbeit präsentiert die erste Studie, die End-to-End Auto-Augmentation Contrastive Learning für tragbare Sensorsignale durchführt und somit die Notwendigkeit der manuellen Konstruktion von Augmentierungsstrategien eliminiert.
Neuartiges Architekturdesign: Die Autoren entwerfen ein Framework, in dem ein Generator Auto-Augmentierung aus latenten Feature-Embeddings statt aus Rohdaten lernt. Dieser Ansatz erweist sich empirisch als überlegen gegenüber der Generierung von Augmentierungen direkt aus Rohsignalen, da er Rauschen und Redundanzen herausfiltert.
Verbessertes Repräsentationslernen: Die Integration der Stop-Gradient- und Correlation Reduction-Strategien dient dazu, die Fähigkeit des Encoders zum Repräsentationslernen zu verbessern, Overfitting zu verhindern und sicherzustellen, dass die kontrastive Aufgabe herausfordernd bleibt.
Datengesteuerte Flexibilität: Die Studie zeigt, dass der durch das Modell gelernte Raum für datengesteuerte Augmentierungsoperationen weitaus expansiver ist als menschen spezifizierte Strategien, was eine bessere Anpassungsfähigkeit an diverse HAR-Szenarien bietet.

Experimentelle Ergebnisse

Die AutoCL-Methode wurde auf vier weit verbreiteten HAR-Datensätzen evaluiert: PAMAP2, UCIHAR, UTD-MHAD und DSADS. Die Evaluierung folgte einem Standard-SSL-Protokoll: Pre-training auf ungelabelten Daten, gefolgt von Few-Shot-Klassifizierung (Fine-Tuning auf 20 % gelabelten Daten).

Leistung: AutoCL erreichte eine State-of-the-Art (SOTA) Performance über alle vier Datensätze hinweg und übertraf signifikant bestehende CL-Baselines (SimCLR, SimSiam, BYOL, NNCLR), die auf verschiedenen Kombinationen manueller Augmentierungsstrategien (Jittering, Skalierung, Permutation) basierten.
- Beispiel: Auf dem DSADS-Datensatz erreichte AutoCL eine Genauigkeit von 96,05 % und übertraf damit die beste manuelle Augmentierungs-Baseline (BYOL mit S+J), die 95,77 % erreichte.
Ablationsstudien: Das Entfernen der Stop-Gradient (SG) oder Correlation Reduction (CR) Strategien führte zu Leistungseinbußen, was deren Notwendigkeit für die Stabilität und Effektivität des Auto-Augmentierungsprozesses bestätigt.
Empirische Architekturstudie: Ein Vergleich von AutoCL (basierend auf Feature-Embeddings) gegen eine Variante, die Augmentierungen aus Rohdaten generiert (AutoCL-D), zeigte, dass der Embedding-basierte Ansatz (AutoCL-E) konsistent bessere Ergebnisse lieferte, insbesondere bei Datensätzen mit hohem Rauschen oder kontinuierlichen Aktivitätsvariationen.
Visualisierung: t-SNE-Visualisierungen der gelernten Repräsentationen zeigten, dass AutoCL im Vergleich zu den Baselines deutlicher unterscheidbare und besser getrennte Cluster erzeugt. Darüber hinaus offenbarte die Visualisierung der generierten Proben, dass das Modell diverse Operationen (Skalierung, Umkehrung, Cropping) lernt, die über einfache, vom Menschen definierte Regeln hinausgehen.

Bedeutung und Ansprüche

Das Paper behauptet, dass AutoCL eine fundamentale Einschränkung bei der Anwendung von Contrastive Learning auf Wearable-HAR adressiert: die Abhängigkeit von manuellen, nicht generalisierbaren Augmentierungsstrategien. Durch die Verlagerung des Augmentierungsprozesses auf eine lernbare, datengesteuerte Komponente im latenten Raum erreicht die Methode:

Eine Verringerung des manuellen Aufwands für das Design von Augmentierungs-Pipelines für Sensordaten mit geringem semantischem Gehalt.
Eine verbesserte Robustheit, indem gelernt wird, basierend auf Feature-Repräsentationen zu augmentieren, wodurch Sensorrauschen gemildert wird.
Eine überlegene Generalisierbarkeit, da die gelernte Augmentierungsstrategie sich ohne menschliches Eingreifen an die spezifischen Charakteristika des Datensatzes anpasst.

Die Autoren kommen zu dem Schluss, dass für Daten mit geringem semantischem Gehalt ein datengesteuerter, automatisierter Augmentierungsansatz ein größeres Potenzial für semantische Konsistenz und Leistung besitzt als manuell implementierte Strategien, was einen vielversprechenden Weg für zukünftige generische Modelle im Bereich Wearable Computing aufzeigt.