Physically Real-time Infrared Attack against Optical Flow Estimation Networks
Dieses Paper präsentiert einen neuartigen, nicht-invasiven Angriff in der physischen Welt auf Optical-Flow-Estimation-Netzwerke, der unauffällige Infrarotlichter und vorab berechnete adversarielle Beispiele nutzt, um unter verschiedensten Umweltbedingungen in Echtzeit gezielte Störungen zu erzeugen, ohne das Opfer-System zu modifizieren.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, die Welt sei voller unsichtbarer Augen, die alles beobachten. Dies sind keine menschlichen Augen, sondern Kameras, die mit superintelligenten Computergehirnen namens „Optical Flow Estimation Networks“ verbunden sind. Betrachten Sie diese Netzwerke als die ultimativen Bewegungsmelder. Sie sehen nicht nur ein Bild; sie beobachten, wie sich jedes einzelne Pixel in diesem Bild von einem Frame zum nächsten bewegt. Wenn ein Auto vorbeifährt, berechnet das Netzwerk exakt, wie schnell und in welche Richtung sich jeder Teil dieses Autos bewegt. Dies ist das Geheimrezept dahinter, dass selbstfahrende Autos Hindernissen ausweichen und Sicherheitssysteme Diebe verfolgen. Aber hier ist der Haken: Diese Computergehirne haben eine geheime Schwäche. Genau wie ein Magier das menschliche Auge mit einer Fingerfertigkeit täuschen kann, können Hacker diese Netzwerke mit „adversarial examples“ austricksen – winzigen, fast unsichtbaren Fehlern, die den Computer dazu bringen, Dinge zu sehen, die nicht da sind, oder Dinge zu übersehen, die eigentlich da sind. Die große Frage, die sich Wissenschaftler stellen, la ist: Können wir diese Bewegungsmelder in der realen Welt austricksen, nicht nur auf einem Computerbildschirm, ohne dass es jemand bemerkt?
Dieses Paper stellt einen listigen neuen Weg vor, genau das zu tun, indem es ein Werkzeug nutzt, das für uns Menschen praktisch unsichtbar ist: Infrarotlicht. Die Autoren, ein Team von Forschern, schlagen eine Methode vor, die sie eine „Physically Real-time Infrared Attack“ nennen. Anstatt zu versuchen, ein seltsames Muster auf ein Auto zu malen (was man leicht sehen und abwischen könnte), kleben sie kleine Infrarotlichter an das Zielobjekt. Für unsere Augen sieht das Auto ganz normal aus. Aber für die Kamera, die Infrarot sehen kann, blinkt das Auto einen geheimen, chaotischen Code. Die Forscher fanden heraus, dass sie durch das Ein- und Ausschalten dieser Lichter in einem sehr spezifischen, schnellen Rhythmus den Bewegungsmelder des Computers verwirren können. Es ist, als würde man versuchen, einen Läufer zu verfolgen, aber jedes Mal, wenn er einen Schritt macht, blitzt ein Stroboskoplicht auf, das ihn so aussehen lässt, als würde er teleportieren oder stillstehen. Der Computer wird durch die plötzlichen Helligkeitsänderungen so verwirrt, dass er die Verfolgung des Objekts vollständig einstellt.
Das Team hat nicht nur geraten, dass dies funktionieren würde; sie bauten eine physische Teststrecke, um es zu beweisen. Sie stellten eine Kamera, ein bewegliches Objekt (eine Plastikplatte mit Lichtern) und einen Controller auf. Zuerst verwendeten sie einen „Genetic Algorithm“ – denken Sie an einen digitalen Evolutionssimulator – um das perfekte Muster der Lichtblitze zu ermitteln. Dieser Teil nahm Zeit in Anspruch, ähnlich wie die Zucht eines perfekten Rennpferdes. Soblich sie das Gewinnermuster gefunden hatten, trainierten sie ein schnelles, einfaches neuronales Netzwerk (ein „Adversarial Generative Network“), um dieses Muster sofort zu kopieren. Dies ermöglichte es ihnen, die Lichter in Echtzeit ein- und auszuschalten, schneller als die Kamera blinzeln konnte.
Die Ergebnisse waren sehr überzeugend. Als sie dies gegen zwei populäre Bewegungstracking-Systeme (RAFT und PWC-Net) testeten, war der Angriff hocheffektiv. Die „Vision“ des Computers für das bewegte Objekt verwandelte sich in ein leeres, chaotisches Chaos. In vielen Tests versagte das System dabei, das Objekt überhaupt in Bewegung zu sehen, oder es sah einen völlig falschen Pfad. Die Forscher zeigten, dass dieser Trick selbst dann funktionierte, wenn sich das Objekt mit unterschiedlichen Geschwindigkeiten bewegte, wenn sich die Raumbeleuchtung von dunkel zu hell änderte und selbst wenn die Kamera weiter entfernt positioniert wurde. Sie fanden heraus, dass der Angriff am effektivsten war, wenn der Raum nicht zu hell war, da starkes Sonnenlicht das Infrarotsignal überlagern kann, aber er bestand dennoch unter einem breiten Spektrum an Bedingungen.
Entscheidend ist, dass das Paper gegen ältere Methoden argumentiert, die versuchten, klebrige, sichtbare Aufkleber auf Autos zu drucken oder digitale Simulationen zu nutzen, die in der realen Welt nicht funktionieren. Die Autoren schlagen vor, dass diese Methoden oft scheitern, weil reale Kameras Rauschen erfassen und die gedruckten Muster für Menschen zu offensichtlich aussehen. Ihr Infrarot-Ansatz hingegen bleibt vor den menschlichen Augen verborgen, während er die Vision der Maschine verwüstet. Sie entdeckten auch, dass das „Blitzen“ des Lichts – also wie stark der Unterschied in der Helligkeit zwischen zwei aufeinanderfolgenden Frames ist – der wichtigste Teil des Tricks war. Ohne diese schnelle Änderung hätte der Computer die Bewegung immer noch erkennen können.
Kurz gesagt deutet das Paper darauf hin, dass die Sicherheitssysteme, die auf Bewegungstracking basieren, fragiler sind, als wir dachten. Durch den Einsatz einer einfachen, unsichtbaren Taschenlampe und ein wenig kluger Zeitplanung ist es möglich, ein bewegtes Objekt aus dem Blickfeld eines Computers verschwinden zu lassen. Das bedeutet zwar nicht, dass selbstfahrende Autos morgen abstürzen werden, aber es zeigt, dass die „Augen“ unserer automatisierten Welt durch ein wenig unsichtbares Licht geblendet werden können und dass wir stärkere Abwehrmechanismen gegen diese Arten von physischen Tricks benötigen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.