🤖 machine learning

CAM-Guided Saliency Cutout and Image-Based Malware Classification

Cet article étudie l'efficacité de la découpe par saillance guidée par CAM pour la classification d'images de malwares à l'aide du jeu de données RawMal-TF, constatant qu'à l'inverse des images naturelles où la découpe de faible saillance améliore la performance, les stratégies de découpe guidées par la saillance dégradent en réalité la précision pour les malwares, soulignant ainsi des différences de domaine significatives entre ces deux types d'images.

Auteurs originaux : Yasaman Ebrahimi, Martin Jurecek, Mark Stamp

Publié 2026-08-13

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Yasaman Ebrahimi, Martin Jurecek, Mark Stamp

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayiez d'apprendre à un robot à reconnaître différents types de voitures en lui montant des milliers de photos. Si vous montrez au robot exactement la même image à chaque fois, il pourrait simplement mémoriser l'arrière-plan ou un enjoliveur brillant spécifique au lieu d'apprendre ce qui fait d'une voiture une voiture. Pour empêcher cette « mémorisation », les scientifiques utilisent une astuce appelée dropout. C'est comme dire au robot : « D'accord, maintenant je vais cacher une partie de l'image avec un carré noir. Peux-tu toujours deviner ce que c'est ? » Cela force le robot à regarder l'image dans sa globalité et à apprendre des motifs plus profonds, et non pas seulement un point chanceux. C'est le cœur du Cutout, une technique utilisée pour rendre les modèles de vision par ordinateur plus intelligents et moins susceptibles d'échouer lorsqu'ils voient quelque chose de nouveau.

Mais voici la grande question : Où devrions-nous placer ce carré noir ? Devons-nous le jeter n'importe où de manière aléatoire, ou devons-nous être intelligents à ce sujet ? Certains chercheurs ont pensé : « Regardons l'image et trouvons les parties les plus importantes (la « saillance »), puis cachons les parties ennuyeuses pour que le robot se concentre sur les parties passionnantes. » Ce document explore cette idée, mais avec un tournant : au lieu de regarder des photos de chats ou de voitures, ils regardent des malwares. Un malware est l'équivalent numérique d'un virus ; c'est un programme informatique malveillant. Les scientifiques ont découvert un moyen de transformer le code invisible de ces virus en images en niveaux de gris, ressemblant un peu à de la neige sur une vieille télévision. Le but est de voir si l'astuce du « masquage intelligent » fonctionne sur ces images de virus de la même manière qu'elle fonctionne sur les photos du monde naturel.

L'expérience : Cacher les bonnes (ou les mauvaises) choses

Les chercheurs ont mis en place un immense terrain de jeu numérique pour tester cela. Ils ont utilisé un cerveau de robot standard (un réseau neuronal appelé ResNet18) et lui ont donné deux ensembles de devoirs très différents. Le premier ensemble était RawMal-TF, une collection de 17 000 images en niveaux de gris de virus informatiques, avec 1 000 exemples pour chacune des 17 familles de virus. Le second était CIFAR-100, une célèbre collection de 100 000 photos de choses du quotidien comme des pommes, des camions et des grenouilles, utilisée comme groupe de contrôle pour voir comment l'astuce se comporte sur des images normales.

Ils ont testé quatre façons différentes d'entraîner le robot :

Pas de Cutout : Le robot voit les images exactement telles qu'elles sont.
Cutout Aléatoire : Le robot voit l'image originale plus des copies où un carré est masqué en noir.
Cutout de Faible Saillance : Le robot voit des copies où le carré noir est placé sur les parties « ennuyeuses » et sans importance de l'image (selon un modèle d'enseignant intelligent).
Cutout de Haute Saillance : Le robot voit des copies où le carré noir est placé sur les parties « passionnantes », les plus importantes de l'image.

Ils ont testé différentes tailles pour ces carrés noirs (couvrant 5 %, 10 %, 20 % ou 30 % de l'image) et différents nombres de copies supplémentaires (4 ou 8 par image originale).

Les résultats : Un conte de deux mondes

Les conclusions ont été un mélange fascinant de « ça marche ! » et de « attendez, non, ça ne marche pas ».

Sur les images naturelles (CIFAR-100) :
La stratégie de « masquage intelligent » a réellement fonctionné ! Lorsque les chercheurs ont utilisé le Cutout de Faible Saillance (cacher les parties ennuyeuses), le robot s'est amélioré dans sa tâche. Plus précisément, lorsqu'ils ont caché 10 % de l'image dans les endroits les moins importants, la précision du robot est passée à 63,51 %, battant le score standard de « pas de masquage » de 62,65 %. Il semble que pour les photos d'objets du monde réel, dire au robot d'ignorer l'arrière-plan et de se concentrer sur le sujet principal soit un excellent moyen d'apprendre. Cependant, s'ils essayaient de cacher les parties les plus importantes (Haute Saillance), le robot se perdait et ses performances chutaient considérablement.

Sur les images de Malwares (RawMal-TF) :
Ici, l'histoire a pris un tournant radical. La stratégie de « masquage intelligent » a échoué. En fait, elle a empiré les choses. Le meilleur résultat pour les images de virus est venu du groupe Pas de Cutout, où le robot voyait les images parfaitement, atteignant un score de 72,83 %. Chaque version de l'astuce de « masquage » — qu'il s'agisse du masquage aléatoire, de faible saillance ou de haute saillance — a fait chuter le score.

Le meilleur essai de « masquage » (Cutout Aléatoire avec un carré de 30 %) n'a atteint que 71,55 %.
La stratégie de « Faible Saillance » (cacher les parties ennuyeuses) était parfois légèrement meilleure que l'aléatoire, mais souvent légèrement pire, et n'a jamais battu le score du « Pas de Cutout ».
La stratégie de « Haute Saillance » (cacher les parties importantes) a été systématiquement la pire, faisant chuter les scores de manière significative.

Ce que cela signifie : Les virus ne sont pas de simples images

Les auteurs suggèrent que cette différence provient du fait que les images de malwares et les images naturelles sont fondamentalement différentes. Quand on regarde la photo d'un chien, les parties « importantes » sont le visage et les oreilles du chien. Cacher l'herbe en arrière-plan (faible saillance) aide le robot à se concentrer sur le chien.

Mais une image de malware est simplement une traduction de code informatique en image. Les parties « importantes » que l'ordinateur voit pourraient être des motifs spécifiques d'octets, d'en-têtes de fichiers ou de remplissages (padding) qui ressemblent à de la neige aléatoire pour nous. Lorsque les chercheurs ont utilisé la méthode « intelligente » pour cacher les parties « ennuyeuses », ils ont peut-être accidentellement couvert des indices structurels cruciaux dont la famille de virus a besoin pour être identifiée. C'est comme essayer d'apprendre une langue en cachant les voyelles ; vous pensez vous concentrer sur les consonnes, mais vous avez en réalité détruit la structure de la phrase.

L'article conclut que bien que le cutout guidé par la saillance soit un outil puissant pour les images naturelles, il ne fonctionne pas automatiquement pour les malwares. La façon « intelligente » de masquer des parties d'une image de virus n'est pas seulement de regarder l'image ; elle nécessite de comprendre la structure cachée du code lui-même. Pour l'instant, l'approche la plus simple — montrer au robot l'image complète, sans masque — reste la championne pour identifier ces menaces numériques.

Résumé technique : Découpe par saillance guidée par CAM et classification de malwares basée sur l'image

Énoncé du problème

La classification de malwares basée sur l'image convertit des fichiers exécutables binaires en images en niveaux de gris pour exploiter les réseaux de neurones convolutionnels (CNN) pour l'analyse. Bien que les CNN atteignent des résultats de pointe dans ce domaine, le surapprentissage (overfitting) reste une préoccupation. Le Dropout et la régularisation par Cutout sont des techniques standard pour atténuer le surapprentissage ; le Cutout masque spécifiquement des régions spatiales aléatoires des images d'entraînement pour forcer le modèle à apprendre à partir de motifs visuels diversifiés plutôt que de dépendre de caractéristiques locales uniques.

La question de recherche centrale de cet article est de savoir si la régularisation par Cutout peut être améliorée en guidant le placement de la région masquée à l'aide de la cartographie d'activation de classe à haute résolution (HiResCAM). Plus précisément, les auteurs examinent si le retrait de régions identifiées comme étant de « faible saillance » (moins importantes pour la prédiction du modèle) ou de « haute saillance » (les plus importantes) produit de meilleures performances de classification par rapport au Cutout aléatoire standard. Un objectif secondaire est de déterminer si les comportements observés dans les jeux de données d'images naturelles (comme CIFAR-100) se transposent au domaine des malwares, ou si les images de malwares nécessitent un traitement distinct en raison de leurs différences structurelles par rapport aux images naturelles.

Méthodologie

L'étude utilise un design expérimental contrôlé utilisant ResNet18 comme architecture de base. Les expériences sont menées sur deux jeux de données :

RawMal-TF : Un jeu de données de malwares contenant 17 familles avec 1 000 échantillons chacune, converties en images standards en niveaux de gris.
CIFAR-100 : Un jeu de données d'images naturelles utilisé comme référence comparative.

Conditions expérimentales

Quatre scénarios d'entraînement sont comparés :

Sans Cutout (No Cutout) : La base utilisant les images d'entraînement originales.
Cutout Aléatoire (Random Cutout) : Le Cutout standard où les régions carrées sont sélectionnées de manière aléatoire.
Cutout à Faible Saillance (Low-Saliency Cutout) : La région de découpe est sélectionnée dans des zones présentant une faible activation dans une carte de saillance HiResCAM générée par un modèle « enseignant » (un ResNet18 sans cutout entraîné sur les mêmes données).
Cutout à Haute Saillance (High-Saliency Cutout) : La région de découpe est sélectionnée dans des zones présentant une forte activation dans la carte HiResCAM.

Détails de mise en œuvre

Modèle Enseignant : Un ResNet18 entraîné sans cutout génère des cartes de saillance HiResCAM pour les images d'entraînement.
Augmentation : Pour chaque image originale, $M$ copies augmentées sont créées ( $M \in \{4, 8\}$ ). Chaque copie possède une région carrée masquée (remplie de noir).
Zones de Cutout : Les expériences testent des tailles de masques couvrant 5 %, 10 %, 20 % et 30 % de la surface de l'image.
Logique de sélection : Pour le cutout guidé par CAM, les fenêtres candidates sont évaluées par saillance moyenne. La méthode sélectionne une fenêtre parmi les 10 % inférieurs (faible saillance) ou les 10 % supérieurs (haute saillance) des candidats pour assurer la diversité parmi les $M$ copies, plutôt que de toujours choisir le minimum ou le maximum absolu.
Configuration de l'entraînement : 100 époques, optimiseur SGD, taille de lot (batch size) de 128, taux d'apprentissage de 0,1 avec planification cosinus (cosine scheduling). Trois graines aléatoires (42, 43, 44) sont utilisées pour évaluer la robustesse. Les données de validation ne sont jamais masquées.

Résultats clés

Résultats RawMal-TF (Malware)

Les résultats pour le jeu de données de malwares sont négatifs concernant l'utilité du cutout guidé par la saillance :

Supériorité de la base (Baseline) : La base Sans Cutout a atteint la meilleure précision de validation moyenne la plus élevée (72,83 % ± 0,16 %).
Dégradation par Cutout : Toutes les conditions de cutout (Aléatoire, Faible Saillance et Haute Saillance) ont entraîné des précisions de validation moyennes inférieures à la base.
- Meilleur Cutout Aléatoire ( $M=4$ , zone de 30 %) : 71,55 %.
- Meilleur Cutout à Faible Saillance ( $M=4$ , zone de 30 %) : 71,43 %.
- Meilleur Cutout à Haute Saillance : ~70,66 %.
Saillance vs Aléatoire : Le cutout à faible saillance a montré des résultats incohérents par rapport au cutout aléatoire, avec des différences allant de -0,56 à +0,46 point de pourcentage selon les configurations. Le cutout à haute saillance était systématiquement moins performant que le cutout aléatoire, avec des déficits allant jusqu'à -2,00 points de pourcentage.
Conclusion : Le placement guidé par la saillance n'a pas amélioré la classification des malwares ; en fait, l'approche aléatoire standard a mieux performé que les approches guidées, bien que les deux soient inférieures à l'absence d'augmentation.

Résultats CIFAR-100 (Images Naturelles)

En revanche, le jeu de données d'images naturelles a montré des résultats positifs pour des stratégies spécifiques guidées par la saillance :

Base : La précision sans Cutout était de 62,65 % ± 0,57 %.
Amélioration par Faible Saillance : Le cutout à faible saillance avec $M=4$ et une zone de 10 % a atteint 63,51 % ± 0,36 %, surpassant la base de 0,86 point de pourcentage et le cutout aléatoire correspondant de 1,25 point de pourcentage.
Dégradation par Haute Saillance : Le cutout à haute saillance était systématiquement préjudiciable, performant de manière nettement inférieure à la fois à la base et au cutout aléatoire dans toutes les configurations.
Robustesse : Le cutout à faible saillance est resté robuste même lorsque la zone de masque augmentait (20 % et 30 %), tandis que les performances du cutout aléatoire et à haute saillance se détérioraient rapidement.

Contributions et significativité

La principale contribution de l'article est la démonstration empirique que le Cutout guidé par la saillance dépend du domaine.

Disparité de domaine : L'étude établit que les techniques efficaces pour les images naturelles (spécifiquement le cutout à faible saillance) ne se transfèrent pas automatiquement aux images de malwares. Dans le domaine des malwares, les régions de « faible saillance » identifiées par HiResCAM ne correspondent pas nécessairement à des informations de fond non critiques, comme elles pourraient l'être dans les images naturelles.
Nature des images de malwares : Les auteurs soutiennent que les images de malwares sont dérivées de séquences d'octets et de structures binaires (ex: en-têtes PE, limites de sections). Un masque carré local dans une image de malware peut supprimer des régions d'octets contiguës qui encodent des informations structurelles critiques pour la classification des familles, indépendamment de l'intensité des pixels ou du score de saillance. Par conséquent, masquer ces régions (même si elles sont jugées à « faible saillance » par un modèle enseignant) peut endommager la représentation plutôt que de la régulariser.
Risque de Haute Saillance : Les résultats confirment que masquer les régions de haute saillance est généralement préjudiciable dans les deux domaines, car cela supprime les caractéristiques les plus discriminantes sur lesquelles le modèle s'appuie.
Direction future : L'article suggère que pour les malwares, les stratégies de masquage devraient être sensibles à la structure (alignées sur les décalages binaires, les sections PE ou les transitions d'entropie) plutôt que de reposer uniquement sur des cartes de saillance d'images basées sur les hypothèses des images naturelles.

Limites et portée

Les auteurs notent explicitement plusieurs limites :

Spécificité de l'architecture : Les résultats sont basés uniquement sur ResNet18 ; les performances peuvent différer avec d'autres architectures (ex: ViT, EfficientNet).
Représentation d'image : L'étude est limitée aux images en niveaux de gris ; d'autres transformations binaire-vers-image n'ont pas été testées.
Puissance statistique : Bien que trois graines aient été utilisées, la taille de l'échantillon est petite, et les intervalles de confiance doivent être considérés comme exploratoires.
Budget de calcul : Les ensembles d'entraînement augmentés ( $M=4$ ou $8$) impliquent plus d'exemples d'entraînement que la base, ce qui signifie que la comparaison n'est pas strictement équivalente en termes d'étapes d'optimisation.

En résumé, l'article conclut que si le Cutout guidé par la saillance peut améliorer la classification d'images naturelles, il n'offre actuellement aucun avantage — et peut même être préjudiciable — pour la classification de malwares en niveaux de gris, soulignant la nécessité de stratégies d'augmentation spécifiques au domaine pour l'analyse de malwares.