Securing Contrastive mmWave-based Human Activity Recognition against Adversarial Label Flipping
Diese Arbeit präsentiert die erste systematische Untersuchung der Anfälligkeit von auf Supervised Contrastive Learning basierender mmWave-menschlicher Aktivitätserkennung gegenüber Label-Flipping-Poisoning-Angriffen, wobei drei spezifische Angriffsvektoren identifiziert und entsprechende Gegenmaßnahmen vorgeschlagen werden, die an einem Prototypsystem validiert wurden.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie hätten ein superkraftfähiges, unsichtbares Auge, das durch Wände sehen kann, ohne jemals eine Kamera zu benötigen. Das ist keine Magie; es ist eine Technologie namens Millimeterwellen-Radar (mmWave). Denken Sie an einen Fledermaus-ähnlichen Einsatz von Echolokation, aber anstatt Schall verwendet es hochfrequente Radiowellen, um eine detaillierte, bewegliche Wärmekarte Ihres Körpers zu erstellen. Wenn Sie mit der Hand winken, sieht das Radar die Form und die Geschwindigkeit dieser Welle. Wissenschaftler nutzen dies, um „Human Activity Recognition“ (HAR)-Systeme aufzubauen, die wie digitale Detektive sind und erkennen können, ob Sie eine Tür drücken, eine Schublade ziehen oder sich umdrehen – und das alles, ohne dass Sie eine Uhr oder einen Sensor tragen müssen.
Um diese digitalen Detektive wirklich intelligent zu machen, lehren Forscher sie mit einer Methode namens „Supervised Contrastive Learning“. Sie können sich das wie ein Lehrer vorstellen, der einem Schüler zwei Bilder einer Katze zeigt und sagt: „Siehst du? Das sind die gleichen Tierarten“, und dann ein Bild eines Hundes zeigt und sagt: „Das ist etwas anderes“. Das Ziel ist, dass der Computer lernt, dass alle „Drück“-Bewegungen einander ähnlich sehen und sehr verschieden von „Ziehen“-Bewegungen sind. Aber hier ist der Haken: Was, wenn sich jemand in das Klassenzimmer des Lehrers schleicht und die Etiketten auf den Lernkarten vertauscht? Was, wenn er dem Computer sagt, dass ein „Drücken“ eigentlich ein „Ziehen“ ist? Dies wird als „Label Flipping“-Angriff bezeichnet, und das ist die Gefahr, die diese Arbeit untersucht.
Die Forscher der Purdue University und ihre Kollegen beschlossen zu untersuchen, wie verwundbar diese mmWave-Aktivitätsdetektoren gegenüber dieser Art von Täuschung sind. Sie bauten ein Prototyp-System, das sechs verschiedene Handbewegungen erkennen konnte: Drücken, Ziehen, nach links gleiten, nach rechts gleiten sowie im Uhrzeigersinn oder gegen den Uhrzeigersinn drehen. Sie stellten dann eine schwierige Frage: Wenn ein Angreifer die Etiketten der Trainingsdaten ändert, wie sehr bricht das System zusammen?
Sie fanden heraus, dass das System überraschend fragil ist. Sie identifizierten drei spezifische Wege, wie ein Angreifer die Dinge durcheinanderbringen könnte. Erstens: Er könnte einfach die Etiketten zufällig vertauschen, indem er dem Computer sagt, dass ein „Drücken“ ein „Gleiten“ ist. Zweitens: Er könnte die Etiketten zwischen Aktivitäten vertauschen, die sich in völlig unterschiedliche Richtungen bewegen (wie ein Drücken gegenüber einem Gleiten). Drittens: Die besonders hinterlistige Methode – er könnte die Etiketten zwischen Aktivitäten vertauschen, die sich sehr ähnlich sehen, wie etwa ein „Drücken“ und ein „Ziehen“, welche im Grunde nur entgegengesetzte Richtungen derselben Bewegung sind.
Die Ergebnisse waren etwas erschreckend. Als die Forscher diese gefälschten Etiketten einführten, brach die Fähigkeit des Systems, Aktivitäten voneinander zu unterscheiden, zusammen. Tatsächlich brach die fortschrittliche Lernmethode, die sie verwendeten (Supervised Contrastive Learning), schneller als die Standardmethode, wenn die Etiketten vergiftet wurden. Es ist wie ein Hochleistungs-Sportwagen, der einen Schlagloch schlechter bewältigt als eine normale Limousine, weil seine Aufhängung so präzise abgestimmt ist. Als 40 % der Trainings-Etiketten vertauscht wurden, wurde das System fast unbrauchbar; es vermischte alle Handbewegungen so sehr, dass es nicht einmal mehr zwischen einem Drücken und einer Drehung unterscheiden konnte.
Aber das Team hörte nicht nur bei der Feststellung des Problems auf; sie bauten einen Schutzschild. Sie entwickelten einen Abwehrmechanismus, den sie „Sel-CL“ (Selective Contrastive Learning) nennen. Stellen Sie sich einen Detektiv vor, der nicht jeden Hinweis einfach als gegeben hinnimmt. Stattdessen prüft dieser Detektiv die Hinweise, findet diejenigen, die am ehesten zusammenpassen, und ignoriert die, die verdächtig erscheinen. Ihr System versucht zuerst herauszufinden, welche Datenpunkte „konfident“ sind – das heißt, der Computer ist sich sicher über das, was er sieht – bevor er den zugehörigen Etiketten vertraut. Es filtert die verrauschten, wahrscheinlich gefälschten Daten heraus und lernt nur aus den sauberen, zuverlässigen Beispielen.
Die Verteidigung arbeitete bemerkenswert gut. Selbst als die Trainingsdaten mit 40 % gefälschten Etiketten infiziert waren, hielt ihr neues System eine Genauigkeit von über 90 %. Es war in der Lage, die Verwirrung zu ignorieren und immer noch korrekt zu identifizieren, dass ein „Drücken“ ein „Drücken“ war. Tatsächlich, als sie es mit bis zu 80 % vergifteten Daten testeten, schnitt es immer noch besser ab als die anderen Systeme, die bereits völlig aufgegeben hatten und nur noch zufällig ratierten.
Die Arbeit kommt zu dem Schluss, dass diese mmWave-Systeme zwar leistungsstark und nicht-invasiv sind, sie aber von Anfang an mit Blick auf die Sicherheit gebaut werden müssen. Die Forscher haben gezeigt, dass wir, indem wir klug entscheiden, welchen Daten wir während des Trainings vertrauen, diese unsichtbaren Augen vor Täuschungen durch bösartige Label-Flipping-Angriffe schützen können. Ihre Erkenntnisse legen nahe, dass dieser Ansatz nicht nur für mmWave, sondern auch für andere drahtlose Sensoriksysteme verwendet werden kann, um sicherzustellen, dass unsere zukünftigen Smart Homes und Sicherheitssysteme zuverlässig bleiben, selbst wenn jemand versucht, uns hinters Licht zu führen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.