Building an Adversarial Malware Dataset by Family and Type: Generation, Evasion, and Poisoning Evaluation
Dieser Beitrag stellt einen öffentlich verfügbaren Datensatz mit über 77.000 adversarialen PE-Malware-Proben vor, die aus der RawMal-TF-Sammlung abgeleitet wurden, und zeigt deren hohe Umgehungsquoten gegenüber dem EMBER-Klassifikator sowie deren erhebliche Auswirkungen auf die Vergiftung von auf maschinellem Lernen basierenden Erkennungssystemen auf.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich ein hochriskantes Spiel „Finde den Fälscher" vor, das zwischen zwei Teams ausgetragen wird: den Verteidigern (Cybersicherheitsexperten) und den Angreifern (Hackern).
Seit Jahren nutzen die Verteidiger einen sehr klugen, automatisierten Schiedsrichter namens EMBER. Dieser Schiedsrichter betrachtet Computerprogramme (speziell Windows-Dateien) und entscheidet: „Das sieht nach einem Virus aus" oder „Das sieht sicher aus". Die Verteidiger trainieren diesen Schiedsrichter, indem sie ihm Millionen von Beispielen für schlechte und gute Dateien zeigen.
Die Angreifer hingegen werden immer schlauer. Sie schreiben nicht nur neue Viren; sie lernen, wie sie ihre Viren verkleiden können, damit der Schiedsrichter glaubt, sie seien harmlos. Dies wird als „adversarial attack" (Gegnerischer Angriff) bezeichnet.
Diese Arbeit handelt von einem Forscherteam, das beschloss, eine massive Trainingshalle für die Verteidiger zu bauen. Sie wollten eine riesige Sammlung von „verkleideten" Viren erstellen, um zu sehen, wie gut der Schiedsrichter diese erkennen kann, und um zu testen, was passiert, wenn der Schiedsrichter während seines Trainings getäuscht wird.
Hier ist die Aufschlüsselung ihrer Arbeit, unter Verwendung einfacher Analogien:
1. Das Rohmaterial: Der „Monster-Zoo"
Die Forscher starteten mit einer öffentlichen Sammlung realer Malware namens RawMal-TF. Stellen Sie sich dies als einen Zoo vor, der Tausende von echten, gefährlichen Monstern (Viren) beherbergt.
- Gruppe A (Der Familien-Zoo): Sie sortierten diese Monster nach ihren „Familiennamen" (z. B. alle „Trojaner"-Brüder, alle „Spyware"-Verwandten).
- Gruppe B (Der Typen-Zoo): Sie sortierten sie nach ihren „Aufgabenbeschreibungen" (z. B. „Dieser stiehlt Passwörter", „Dieser löscht Dateien").
2. Die Verkleidungskünstler: Die „Generatoren"
Um den adversarialen Datensatz zu erstellen, kopierten die Forscher die Monster nicht einfach; sie stellten ein Team von Verkleidungskünstlern ein (Software-Tools namens Generatoren).
- Das Ziel: Ein echtes Monster nehmen und es gerade so lange anpassen, bis der Schiedsrichter (EMBER) glaubt, es sei ein harmloser Welpe, das Monster aber trotzdem seine böse Arbeit verrichtet.
- Die Werkzeuge: Sie nutzten fünf verschiedene Künstler (wie MalwareTotal, MAB-Malware und GAMMA Sections). Einige Künstler waren wie Maler (sie fügten harmlose Farbe zur Datei hinzu), während andere wie Schneider waren (sie nähten zusätzlichen Stoff ein, um die Form zu verbergen).
- Das Ergebnis: Sie schufen zwei massive neue Sammlungen:
- 44.347 verkleidete, familienkodierte Monster.
- 33.596 verkleidete, typenkodierte Monster.
Der Zaubertrick: Diese Künstler waren unglaublich gut. Gegen den Standard-Schiedsrichter (EMBER) gelang es 98 % der familienkodierten Monster und 92 % der typenkodierten Monster, den Schiedsrichter erfolgreich zu täuschen, sodass er glaubte, sie seien sicher.
3. Das „vergiftete" Trainingsexperiment
Dies ist der kritischste Teil der Arbeit. Die Forscher stellten die Frage: „Was passiert, wenn wir den Schiedsrichter täuschen, während er lernt?"
Stellen Sie sich vor, der Schiedsrichter ist ein Schüler, der für eine Prüfung lernt. Die Forscher nahmen ihre neue Sammlung verkleideter Monster und mischten sie in den Lernleitfaden des Schülers.
- Die Falle: Sie sagten dem Schüler: „Diese verkleideten Monster sind tatsächlich sicher." (In Wirklichkeit sind sie immer noch gefährlich).
- Der Test: Sie vergifteten nur 0,5 % des Lernleitfadens (eine winzige Menge).
Das schockierende Ergebnis:
- Vor der Vergiftung konnte der Schüler etwa 74 % der verkleideten Monster fangen.
- Nachdem er mit diesem winzigen 0,5 % an Lügen getäuscht worden war, sank die Fähigkeit des Schülers, die Monster zu fangen, auf nur noch 7 %.
- Die Lehre: Eine winzige Menge „vergifteter" Informationen (falsch beschrifteter Daten) kann die Fähigkeit des Schülers, seine Arbeit zu erledigen, vollständig zerstören, selbst wenn er bei regulären Tests immer noch gut zu sein scheint.
4. Der Lichtblick: „Adversarial Training"
Die Forscher testeten auch das gegenteilige Szenario. Was wäre, wenn sie die verkleideten Monster in den Lernleitfaden mischten, aber korrekt als „GEFÄHRLICH" kennzeichneten?
- Das Ergebnis: Der Schüler wurde tatsächlich besser. Indem er die Verkleidungen studierte, lernte er, sie zu erkennen. Dies wird als „adversarial training" bezeichnet.
- Das Fazit: Wenn Sie dem Verteidiger die Tricks zeigen, die der Angreifer verwendet (und diese korrekt kennzeichnen), wird der Verteidiger viel stärker.
5. Das letzte Geschenk: Eine öffentliche Bibliothek
Die Forscher behielten diese Ergebnisse nicht nur für sich. Sie packten alles – die ursprünglichen Monster, die verkleideten Versionen und alle Notizen darüber, wie sie verkleidet wurden – in eine öffentliche Bibliothek (einen Datensatz).
- Warum? Damit andere Forscher diese „Trainingshalle" nutzen können, um bessere Schiedsrichter zu bauen, die nicht durch diese Tricks getäuscht werden können.
- Der Haken: Sie gaben zu, dass ihre Tricks zwar gegen den Standard-Schiedsrichter (EMBER) hervorragend funktionierten, aber weniger erfolgreich gegen die „Super-Schiedsrichter" (kommerzielle Antivirensoftware, die von echten Unternehmen eingesetzt wird) waren. Das bedeutet, dass die Angreifer noch viel Arbeit haben, um die besten Verteidigungen zu täuschen.
Zusammenfassung
Kurz gesagt ist diese Arbeit ein massives Verkleidungs-Set für Malware. Die Autoren zeigten, dass:
- Es sehr einfach ist, aktuelle KI-Malware-Erkennungssysteme mit den richtigen Werkzeugen zu täuschen.
- Wenn man der KI während ihres Trainings lügt (selbst ein wenig), kann man sie vollständig zerstören.
- Wenn man die Wahrheit sagt und der KI die Verkleidungen zeigt, kann man sie viel stärker machen.
Sie haben dieses Set der Welt zur Verfügung gestellt, damit die Verteidiger üben können, diese Verkleidungen zu erkennen, bevor die Bösen sie tatsächlich einsetzen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.