🤖 machine learning

CAM-Guided Saliency Cutout and Image-Based Malware Classification

Diese Arbeit untersucht die Wirksamkeit von CAM-gesteuertem Saliency Cutout für die Klassifizierung von Malware-Bildern unter Verwendung des RawMal-TF-Datensatzes und stellt fest, dass im Gegensatz zu natürlichen Bildern, bei denen Low-Saliency Cutout die Leistung verbessert, Saliency-gesteuerte Cutout-Strategien die Genauigkeit bei Malware tatsächlich verschlechtern, was signifikante Domänenunterschiede zwischen diesen beiden Bildtypen hervorhebt.

Ursprüngliche Autoren: Yasaman Ebrahimi, Martin Jurecek, Mark Stamp

Veröffentlicht 2026-08-13

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Yasaman Ebrahimi, Martin Jurecek, Mark Stamp

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie versuchen, einem Roboter beizubringen, verschiedene Arten von Autos zu erkennen, indem Sie ihm tausende Fotos zeigen. Wenn Sie dem Roboter jedes Mal exakt dasselbe Bild zeigen, lernt er vielleicht nur den Hintergrund oder eine spezifische glänzende Radkappe auswendig, anstatt zu lernen, was ein Auto eigentlich ausmacht. Um dieses „Auswendiglernen“ zu verhindern, nutzen Wissenschaftler einen Trick namens Dropout. Es ist so, als würde man dem Roboter sagen: „Okay, jetzt werde ich einen Teil des Bildes mit einem schwarzen Quadrat verdecken. Kannst du immer noch erraten, was es ist?“ Dies zwingt den Roboter dazu, das gesamte Bild zu betrachten und tiefere Muster zu lernen, anstatt sich nur auf einen glücklichen Punkt zu verlassen. Dies ist der Kern von Cutout, einer Technik, die Computervisions-Modelle intelligenter macht und es wahrscheinlicher macht, dass sie nicht scheitern, wenn sie etwas Neues sehen.

Aber hier kommt die große Frage: Wo sollten wir dieses schwarze Quadrat platzieren? Sollten wir es einfach irgendwo zufällig werfen oder sollten wir klug vorgehen? Einige Forscher dachten sich: „Lass uns das Bild betrachten und die wichtigsten Teile finden (die ‚Salienz‘), dann verstecken wir den langweiligen Kram, damit der Roboter sich auf die spannenden Teile konzentriert.“ Diese Arbeit untersucht diese Idee, aber mit einem Twist: Anstatt Fotos von Katzen oder Autos zu betrachten, schauen sie sich auf Malware an. Malware ist das digitale Äquivalent zu einem Virus; es ist ein bösartiges Computerprogramm. Wissenschaftler haben einen Weg gefunden, den unsichtbaren Code dieser Viren in Graustufenbilder umzuwandeln, die ein wenig wie das Rauschen eines alten Fernsehers aussehen. Das Ziel ist es zu sehen, ob der „kluge Versteck“-Trick bei diesen Virusbildern genauso gut funktioniert wie bei Fotos aus der natürlichen Welt.

Das Experiment: Das Richtige (oder Falsche) zu verstecken

Die Forscher bauten einen massiven digitalen Spielplatz, um dies zu testen. Sie verwendeten ein Standard-Robotergehirn (ein neuronales Netzwerk namens ResNet18) und gaben ihm zwei sehr unterschiedliche Aufgabenstellungen. Der erste Satz war RawMal-TF, eine Sammlung von 17.000 Graustufenbildern von Computerviren, mit 1.000 Beispielen für jede der 17 Virusfamilien. Der zweite Satz war CIFAR-100, eine berühmte Sammlung von 100.000 Fotos von alltäglichen Dingen wie Äpfeln, Lastwagen und Fröschen, die als Kontrollgruppe dienten, um zu sehen, wie der Trick bei normalen Bildern reagiert.

Sie testeten vier verschiedene Arten, den Roboter zu trainieren:

Kein Cutout: Der Roboter sieht die Bilder genau so, wie sie sind.
Random Cutout: Der Roboter sieht das Originalbild plus Kopien, bei denen ein zufälliges Quadrat schwarz überdeckt ist.
Low-Saliency Cutout: Der Roboter sieht Kopien, bei denen das schwarze Quadrat über den „langweiligen“, unwichtigen Teilen des Bildes platziert wurde (laut einem intelligenten Lehrer-Modell).
High-Saliency Cutout: Der Roboter sieht Kopien, bei denen das schwarze Quadrat über den „spannenden“, wichtigsten Teilen des Bildes platziert wurde.

Sie testeten verschiedene Größen für diese schwarzen Quadrate (die 5 %, 10 %, 20 % oder 30 % des Bildes abdecken) und unterschiedliche Anzahlen an zusätzlichen Kopien (4 oder 8 pro Originalbild).

Die Ergebnisse: Eine Geschichte von zwei Welten

Die Erkenntnisse waren eine faszinierende Mischung aus „Es funktioniert!“ und „Warte, nein, tut es nicht doch“.

Bei den natürlichen Bildern (CIFAR-100):
Die „kluge Versteck“-Strategie funktionierte tatsächlich! Als die Forscher den Low-Saliency Cutout verwendeten (die langweiligen Teile versteckten), wurde der Roboter besser in seinem Job. Speziell als sie 10 % des Bildes an den am wenigsten wichtigen Stellen versteckten, stieg die Genauigkeit des Roboters auf 63,51 % und schlug damit den Standardwert von 62,65 % ohne Verdeckung. Es scheint, dass es für Fotos von Objekten der realen Welt eine großartige Methode ist, dem Roboter zu sagen, dass er den Hintergrund ignorieren und sich auf das Hauptmotiv konzentrieren soll. Wenn sie jedoch versuchten, die wichtigsten Teile zu verstecken (High-Saliency), wurde der Roboter verwirrt und die Leistung sank deutlich.

Bei den Malware-Bildern (RawMal-TF):
Hier nahm die Geschichte eine scharfe Wendung. Die „kluge Versteck“-Strategie versagte. Tatsächlich verschlechterte sie die Dinge sogar. Das beste Ergebnis für die Virusbilder kam aus der No Cutout Gruppe, in der der Roboter die Bilder perfekt sah, und erreichte einen Wert von 72,83 %. Jede einzelne Version des „Versteck“-Tricks – ob zufällig, Low-Saliency oder High-Saliency – senkte den Wert.

Der beste Versuch des „Versteckens“ (Random Cutout mit einem 30 %-Quadrat) erreichte nur 71,55 %.
Die „Low-Saliency“-Strategie (das Verstecken der langweiligen Teile) war manchmal etwas besser als zufällig, aber oft auch etwas schlechter und übertraf niemals den „No Cutout“-Wert.
Die „High-Saliency“-Strategie war konsistent am schlechtesten und senkte die Werte erheblich.

Was das bedeutet: Viren sind nicht einfach nur Bilder

Die Autoren vermuten, dass dieser Unterschied daher rührt, dass Malware-Bilder und natürliche Bilder grundlegend verschieden sind. Wenn man ein Foto eines Hundes betrachtet, sind die „wichtigen“ Teile das Gesicht und die Ohren des Hundes. Das Verstecken des Grases im Hintergrund (Low-Saliency) hilft dem Roboter, sich auf den Hund zu konzentrieren.

Aber ein Malware-Bild ist lediglich eine Übersetzung von Computercode in ein Bild. Die „wichtigen“ Teile, die der Computer sieht, könnten spezifische Byte-Muster, Datei-Header oder Padding sein, die für uns wie zufälliges Rauschen aussehen. Als die Forscher die „kluge“ Methode anwandten, um die „langweiligen“ Teile zu verstecken, deckten sie möglicherweise versehentlich entscheidende strukturelle Hinweise ab, die zur Identifizierung der Virusfamilie notwendig sind. Es ist, als würde man versuchen, eine Sprache zu lernen, indem man die Vokale abdeckt; man glaubt vielleicht, man konzentriert sich auf die Konsonanten, aber man hat in Wirklichkeit die Satzstruktur zerstört.

Die Arbeit kommt zu dem Schluss, dass Saliency-Guided Cutout zwar ein mächtiges Werkzeug für natürliche Bilder ist, aber nicht automatisch für Malware funktioniert. Die „kluge“ Art, Teile eines Virusbildes zu verstecken, ist nicht nur eine Frage des Betrachtens des Bildes; sie erfordert ein Verständnis der verborgenen Struktur des Codes selbst. Vorerst bleibt der einfachste Ansatz – dem Roboter das vollständige, unmaskierte Bild zu zeigen – der Champion bei der Identifizierung dieser digitalen Bedrohungen.

Technisches Resümee: CAM-gesteuerter Saliency Cutout und bildbasierte Malware-Klassifizierung

Problemstellung

Die bildbasierte Malware-Klassifizierung wandelt binäre ausführbare Dateien in Graustufenbilder um, um Convolutional Neural Networks (CNNs) für die Analyse zu nutzen. Während CNNs in diesem Bereich modernste Ergebnisse erzielen, bleibt Overfitting ein Problem. Dropout und Cutout-Regularisierung sind Standardtechniken zur Bekämpfung von Overfitting; Cutout maskiert speziell zufällige räumliche Regionen von Trainingsbildern, um das Modell dazu zu zwingen, aus vielfältigen visuellen Mustern zu lernen, anstatt sich auf einzelne lokale Merkmale zu verlassen.

Die zentrale Forschungsfrage dieser Arbeit ist, ob die Cutout-Regularisierung durch die Steuerung der Platzierung der maskierten Region mittels High-Resolution Class Activation Mapping (HiResCAM) verbessert werden kann. Insbesondere untersuchen die Autoren, ob das Entfernen von Regionen, die als „low-saliency“ (weniger wichtig für die Vorhersage des Modells) oder „high-saliency“ (am wichtigsten) identifiziert wurden, im Vergleich zum standardmäßigen zufälligen Cutout eine bessere Klassifizierungsleistung liefert. Ein sekundäres Ziel ist festzustellen, ob in natürlichen Bilddatensätzen beobachtete Verhaltensweisen (wie CIFAR-100) auf die Domäne der Malware übertragbar sind oder ob Malware-Bilder aufgrund ihrer strukturellen Unterschiede zu natürlichen Bildern eine andere Behandlung erfordern.

Methodik

Die Studie verwendet ein kontrolliertes experimentelles Design unter Verwendung von ResNet18 als Baseline-Architektur. Die Experimente werden auf zwei Datensätzen durchgeführt:

RawMal-TF: Ein Malware-Datensatz, der 17 Familien mit jeweils 1.000 Stichproben enthält, die in Standard-Graustufenbilder umgewandelt wurden.
CIFAR-100: Ein Datensatz für natürliche Bilder, der als Vergleichsbenchmark dient.

Experimentelle Bedingungen

Vier Trainingsszenarien werden verglichen:

No Cutout: Die Baseline unter Verwendung der ursprünglichen Trainingsbilder.
Random Cutout: Standard-Cutout, bei dem quadratische Regionen zufällig ausgewählt werden.
Low-Saliency Cutout: Die maskierte Region wird aus Bereichen mit geringer Aktivierung in einer HiResCAM-Map ausgewählt, die von einem „Lehrer-Modell“ (einem ohne Cutout trainierten ResNet18 auf denselben Daten) generiert wurde.
High-Saliency Cutout: Die maskierte Region wird aus Bereichen mit hoher Aktivierung in der HiResCAM-Map ausgewählt.

Implementierungsdetails

Lehrer-Modell: Ein ohne Cutout trainiertes ResNet18 generiert HiResCAM-Saliency-Maps für die Trainingsbilder.
Augmentierung: Für jedes Originalbild werden $M$ augmentierte Kopien erstellt ( $M \in \{4, 8\}$ ). Jede Kopie hat eine maskierte quadratische Region (mit Schwarz gefüllt).
Cutout-Bereiche: Die Experimente testen Maskengrößen, die 5 %, 10 %, 20 % und 30 % der Bildfläche abdecken.
Auswahllogik: Für den CAM-gesteuerten Cutout werden Kandidatenfenster nach der durchschnittlichen Saliency bewertet. Die Methode wählt ein Fenster aus den untersten 10 % (low-saliency) oder obersten 10 % (high-saliency) der Kandidaten aus, um Diversität unter den $M$ Kopien zu gewährleisten, anstatt immer das absolute Minimum oder Maximum zu wählen.
Trainingskonfiguration: 100 Epochen, SGD-Optimizer, Batch-Größe 128, Lernrate 0,1 mit Cosine-Scheduling. Drei Random Seeds (42, 43, 44) werden verwendet, um die Robustheit zu bewerten. Validierungsdaten werden niemals maskiert.

Zentrale Ergebnisse

RawMal-TF (Malware) Ergebnisse

Die Ergebnisse für den Malware-Datensatz sind hinsichtlich des Nutzens von Saliency-gesteuertem Cutout negativ:

Überlegenheit der Baseline: Die No Cutout Baseline erreichte die höchste mittlere beste Validierungsgenauigkeit (72,83 % ± 0,16 %).
Degradation durch Cutout: Alle Cutout-Bedingungen (Random, Low-Saliency und High-Saliency) führten zu einer geringeren mittleren Validierungsgenauigkeit als die Baseline.
- Bestes Random Cutout ( $M=4$ , 30 % Fläche): 71,55 %.
- Bestes Low-Saliency Cutout ( $M=4$ , 30 % Fläche): 71,43 %.
- Bestes High-Saliency Cutout: ~70,66 %.
Saliency vs. Random: Low-Saliency Cutout zeigte inkonsistente Ergebnisse im Vergleich zu Random Cutout, mit Differenzen zwischen -0,56 und +0,46 Prozentpunkten über verschiedene Konfigurationen hinweg. High-Saliency Cutout war konsistent schlechter als Random Cutout, mit Defiziten von bis zu -2,00 Prozentpunkten.
Fazit: Die Saliency-gesteuerte Platzierung verbesserte die Malware-Klassifizierung nicht; tatsächlich schnitt der standardmäßige zufällige Ansatz besser ab als die geführten Ansätze, obwohl beide schlechter als die Augmentierung ohne Cutout waren.

CIFAR-100 (Natürliche Bilder) Ergebnisse

Im Gegensatz dazu zeigten die Ergebnisse für den natürlichen Bilddatensatz positive Resultate für spezifische Saliency-gesteuerte Strategien:

Baseline: No Cutout Genauigkeit war 62,65 % ± 0,57 %.
Verbesserung durch Low-Saliency: Low-Saliency Cutout mit $M=4$ und 10 % Fläche erreichte 63,51 % ± 0,36 %, was die Baseline um 0,86 Prozentpunkte und den entsprechenden Random Cutout um 1,25 Prozentpunkte übertraf.
Schaden durch High-Saliency: High-Saliency Cutout war konsistent schädlich und schnitt signifikant schlechter ab als sowohl die Baseline als auch der Random Cutout in allen Konfigurationen.
Robustheit: Low-Saliency Cutout blieb auch bei zunehmender Maskenfläche (20 % und 30 %) robust, während die Performance von Random und High-Saliency Cutout rapide sank.

Wichtigste Beiträge und Bedeutung

Der primäre Beitrag des Papers ist der empirische Nachweis, dass Saliency-gesteuerter Cutout domänenspezifisch ist.

Domänenunterschied: Die Studie stellt fest, dass Techniken, die für natürliche Bilder effektiv sind (speziell Low-Saliency Cutout), nicht automatisch auf Malware-Bilder übertragbar sind. In der Malware-Domäne entsprechen die von HiResCAM identifizierten „Low-Saliency“-Regionen nicht zwangsläufig nicht-kritischen Hintergrundinformationen, wie sie in natürlichen Bildern vorkommen könnten.
Natur von Malware-Bildern: Die Autoren argumentieren, dass Malware-Bilder aus Byte-Sequenzen und binären Strukturen (z. B. PE-Header, Sektionsgrenzen) abgeleitet sind. Eine lokale quadratische Maske in einem Malware-Bild kann zusammenhängende Byte-Regionen entfernen, die kritische strukturelle Informationen für die Familienklassifizierung kodieren, unabhängig von der Pixelintensität oder dem Saliency-Score. Folglich kann das Maskieren dieser Regionen (selbst wenn sie von einem Lehrer-Modell als „low-saliency“ eingestuft werden) die Repräsentation beschädigen, anstatt sie zu regularisieren.
Risiko durch High-Saliency: Die Ergebnisse bestätigen, dass das Maskieren von High-Saliency-Regionen generell schädlich ist, da es die entscheidenden Merkmale entfernt, auf die das Modell angewiesen ist.
Zukünftige Richtung: Das Paper legt nahe, dass Maskierungsstrategien für Malware struktur-bewusst sein sollten (ausgerichtet auf Binär-Offsets, PE-Sektionen oder Entropie-Übergänge), anstatt sich allein auf bildbasierte Saliency-Maps zu verlassen, die auf Annahmen natürlicher Bilder beruhen.

Einschränkungen und Umfang

Die Autoren weisen explizit auf mehrere Einschränkungen hin:

Architekturspezifität: Die Ergebnisse basieren ausschließlich auf ResNet18; die Performance kann mit anderen Architekturen (z. B. ViT, EfficientNet) variieren.
Bildrepräsentation: Die Studie beschränkt sich auf Graustufenbilder; andere Binär-zu-Bild-Transformationen wurden nicht getestet.
Statistische Aussagekraft: Obwohl drei Seeds verwendet wurden, ist die Stichprobengröße klein, und die Konfidenzintervalle sollten als explorativ betrachtet werden.
Rechenbudget: Die augmentierten Trainingssets ( $M=4$ oder $8$) beinhalten mehr Trainingsbeispiele als die Baseline, was bedeutet, dass der Vergleich hinsichtlich der Optimizer-Schritte nicht strikt rechengleich ist.

Zusammenfassend kommt das Paper zu dem Schluss, dass Saliency-gesteuerter Cutout zwar die Klassifizierung natürlicher Bilder verbessern kann, derzeit jedoch keinen Nutzen bietet – und für die Graustufen-Malware-Klassifizierung sogar schädlich sein kann –, was die Notwendigkeit domänenspezifischer Augmentierungsstrategien in der Malware-Analyse unterstreicht.