🤖 machine learning

SEED: Semi-supervised Continual MalwarE Detection for Tackling ConcEpt Drift on a BuDget

Le papier propose SEED, un cadre d'apprentissage continu semi-supervisé qui combine une fonction objectif d'entropie croisée binaire adaptée, l'apprentissage actif et la décomposition en valeurs singulières pour détecter efficacement les logiciels malveillants en présence de dérive conceptuelle avec des données étiquetées limitées, surpassant significativement les méthodes existantes d'apprentissage contrastif hiérarchique sur des ensembles de données aux structures sémantiques faibles.

Auteurs originaux : Suresh Kumar Amalapuram, Bikraj Shresta, Siva Ram murthy Chebiyam, Bheemarjuna Reddy Tamma, Sumohana S Channappayya

Publié 2026-05-26

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Suresh Kumar Amalapuram, Bikraj Shresta, Siva Ram murthy Chebiyam, Bheemarjuna Reddy Tamma, Sumohana S Channappayya

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous êtes agent de sécurité dans un aéroport très fréquenté. Votre travail consiste à repérer les méchants (malwares) parmi des milliers de voyageurs innocents (applications bénignes).

Le Problème : Les Criminels « Caméléons »
Le problème, c'est que les méchants changent constamment de déguisement. Il y a un mois, un criminel portait peut-être un chapeau rouge ; aujourd'hui, il porte un chapeau bleu. Dans le monde de l'informatique, cela s'appelle la Dérive de Concept. Si votre système de sécurité a été entraîné uniquement sur des « chapeaux rouges », il manquera les « chapeaux bleus » qui apparaîtront plus tard.

Pour suivre le rythme, vous devez réentraîner votre système de sécurité chaque mois. Mais il y a un hic : L'étiquetage est coûteux et lent. Pour enseigner au système à quoi ressemble un « méchant », un expert humain doit inspecter et étiqueter manuellement des échantillons. Vous ne pouvez pas vous permettre d'embaucher assez d'experts pour étiqueter chaque voyageur. Vous n'avez qu'un tout petit budget pour en étiqueter quelques-uns.

L'Ancienne Méthode : Le Piège du « Appariement »
Les méthodes précédentes tentaient de résoudre ce problème en utilisant une technique appelée Apprentissage Contrastif. Imaginez cela comme un jeu de « Trouver le Jumeau ». Le système tente de regrouper les personnes qui se ressemblent.

Le Défaut : Ce jeu fonctionne très bien si vous avez un album photo de tout le monde correctement étiqueté. Mais si vous n'avez que quelques photos étiquetées (le budget limité), le système se perd. Il essaie de trouver des jumeaux parmi des étrangers et finit par regrouper des innocents avec des criminels, ou vice versa. L'article montre que lorsque vous essayez d'utiliser cette méthode d'« appariement » avec un nombre limité d'étiquettes, les performances du système de sécurité chutent considérablement.

La Nouvelle Solution : SEED (Le Cupidon Intelligent)
Les auteurs proposent une nouvelle méthode appelée SEED. Imaginez SEED non pas comme un jeu de jumeaux, mais comme un Cupidon Intelligent qui utilise une « Banque de Mémoire ».

Voici comment SEED fonctionne en trois étapes simples :

1. La « Banque de Mémoire » (Tampon)

SEED conserve une petite collection soigneusement sélectionnée d'exemples passés (bons et mauvais) dans une banque de mémoire spéciale. Il ne les stocke pas au hasard ; il les organise à l'aide d'une astuce mathématique appelée SVD (Décomposition en Valeurs Singulières).

L'Analogie : Imaginez que la banque de mémoire est une bibliothèque. Au lieu de garder chaque livre, le bibliothécaire (SVD) crée une « carte résumée » des histoires les plus importantes. Cette carte est compacte mais capture l'essence de tout ce qui s'est passé auparavant. Cela aide SEED à se souvenir du passé sans être submergé par trop de données.

2. Le « Cupidon » (Pour les Tâches Visibles)

Lorsqu'un nouveau voyageur non étiqueté arrive, SEED ne devine pas. Au lieu de cela, il le projette sur la « carte résumée » de la Banque de Mémoire.

L'Analogie : Il demande : « Qui dans notre histoire ressemble le plus à cette personne ? » Il trouve la correspondance la plus proche dans le passé. Si la nouvelle personne ressemble beaucoup à un criminel connu du mois dernier, SEED la traite comme un criminel aussi. Si elle ressemble à une personne innocente connue, il la traite comme innocente.
Le Bénéfice : Cela permet au système d'apprendre de la majorité non étiquetée en les connectant à la minorité étiquetée, sans avoir besoin de les forcer dans des paires de « jumeaux » rigides.

3. Le « Détecteur d'Incertitude » (Pour les Tâches Invisibles)

Parfois, un tout nouveau type de criminel apparaît qui ne ressemble à personne dans la Banque de Mémoire.

L'Analogie : SEED calcule à quel point il est « confus » au sujet de cette nouvelle personne. Si la personne est très éloignée de tout le monde dans la banque de mémoire (incertitude élevée), SEED l'alerte.
L'Action : Il dit à l'expert humain : « Je ne suis pas sûr de celui-ci. Veuillez jeter un coup d'œil et me dire s'ils sont bons ou mauvais. » Cela garantit que l'humain ne consacre son budget limité qu'aux échantillons qui ont réellement besoin d'aide.

4. La Période de « Refroidissement » (Mise à Jour Différée du Tampon)

L'un des plus grands risques en sécurité est les Étiquettes Bruyantes. Parfois, même les experts font des erreurs, ou des outils automatisés donnent une mauvaise étiquette. Si vous mettez immédiatement une mauvaise étiquette dans votre Banque de Mémoire, le système apprend la mauvaise leçon et propage cette erreur aux tâches futures.

L'Analogie : SEED introduit une période de « Refroidissement ». Lorsqu'une nouvelle étiquette est reçue, elle n'entre pas directement dans la Banque de Mémoire. Elle attend quelques mois (un délai).
Pourquoi ? En attendant, le système laisse le temps à l'étiquette d'être vérifiée ou à la « vérité » de se stabiliser. Si une étiquette était une erreur, elle pourrait être corrigée avant d'être stockée. Cela empêche le système de « polluer » sa propre mémoire avec de mauvaises données.

Les Résultats : Pourquoi Cela Compte

L'article a testé SEED sur des données réelles provenant de systèmes Android et Windows.

La Victoire : Par rapport aux anciennes méthodes d'« Appariement », SEED était beaucoup plus efficace pour attraper de nouveaux criminels invisibles, surtout lorsque les experts humains ne pouvaient étiqueter qu'un petit pourcentage (20 %) des données.
L'Amélioration : Sur un jeu de données, SEED a amélioré la détection de 40 % par rapport à l'ancienne méthode lorsque les étiquettes étaient rares. Sur un autre, l'amélioration était de 14 %.
La Robustesse : Même lorsque les étiquettes étaient bruyantes (pleines d'erreurs), la stratégie de « Refroidissement » de SEED a maintenu le système stable, tandis que d'autres méthodes s'effondraient.

En Résumé
SEED est une façon plus intelligente d'entraîner des agents de sécurité. Au lieu de les forcer à mémoriser chaque visage (ce qui est trop coûteux), il les aide à connecter de nouveaux visages à une mémoire compacte et organisée du passé. Il sait quand demander de l'aide, et il attend pour s'assurer que l'aide est précise avant de mettre à jour sa mémoire. Cela maintient le système de sécurité affûté, même lorsque les criminels continuent de changer de déguisement.

Résumé Technique : SEED - Détection Continue Semi-supervisée de Malwares

1. Énoncé du Problème

Les détecteurs de malwares basés sur l'apprentissage automatique font face à une obsolescence significative au fil du temps en raison de la dérive conceptuelle, où les propriétés statistiques des applications bénignes et malveillantes évoluent. Ce phénomène nécessite une adaptation continue (Apprentissage en Monde Ouvert) tout en maintenant la stabilité contre l'oubli catastrophique des connaissances précédemment acquises.

Un goulot d'étranglement critique dans le déploiement de tels systèmes est le budget d'étiquetage. Dans le domaine de la sécurité, l'obtention de données entièrement étiquetées est ardue, coûteuse et souvent peu fiable en raison des dynamiques d'étiquetage et des délais de vérification. Bien que les méthodes récentes de l'état de l'art (SOTA) comme HCL (Apprentissage Contrastif Hiérarchique) exploitent les structures sémantiques pour gérer la dérive, elles reposent fortement sur des données entièrement étiquetées. Les auteurs observent que lorsque HCL est adapté à des contextes semi-supervisés (n'utilisant que des étiquettes partielles, noté HCL*), ses performances se dégradent considérablement, en particulier sur des ensembles de données dépourvus de structures sémantiques intrinsèques fortes (par exemple, BODMAS et AndroZoo). Par exemple, sur l'ensemble de données BODMAS, HCL* chute d'une AUT (Aire sous la courbe temporelle) de 0,795 à 0,613 par rapport à son homologue entièrement supervisé.

L'article aborde le défi de maintenir une détection de malwares robuste sous une supervision limitée et une dérive conceptuelle, spécifiquement lorsque des structures sémantiques fortes sont absentes ou lorsque les budgets d'étiquetage sont contraints.

2. Méthodologie : SEED

La méthode proposée, SEED (Détection Continue Semi-supervisée de Malwares pour Traiter la Dérive Conceptuelle sur un Budget), est un cadre d'apprentissage continu semi-supervisé qui intègre l'apprentissage actif et une stratégie de mise à jour différée du tampon. Elle opère en deux phases distinctes : l'entraînement sur des tâches « vues » (partiellement étiquetées) et des tâches « non vues » (entièrement non étiquetées).

2.1 Entraînement avec des Tâches Vues (Données Partiellement Étiquetées)

Pour les tâches contenant à la fois des échantillons étiquetés ( $D^l_t$ ) et non étiquetés ( $D^u_t$ ), SEED emploie un processus en deux étapes pour exploiter les données non étiquetées sans recourir à une perte contrastive :

Construction de l'Espace de Représentation via SVD : La méthode construit un espace de représentation latente en utilisant les exemplaires étiquetés des tâches passées. Au lieu de stocker toutes les représentations brutes, elle applique la Décomposition en Valeurs Singulières (SVD) aux vecteurs latents encodés pour extraire des vecteurs de base orthonormés. Cela réduit les coûts de stockage et capture les caractéristiques les plus saillantes des données.
Sélection d'Exemplaires et Apprentissage par Paires : Pour chaque échantillon non étiqueté, SEED le projette dans l'espace de représentation basé sur la SVD. Il calcule ensuite les distances cosinus pour trouver l'exemplaire étiqueté le plus approprié (ou un groupe d'exemplaires) dans le tampon. Un mécanisme de seuillage adaptatif sélectionne la meilleure correspondance en fonction du ratio actuel de données étiquetées.
Fonction de Perte : Au lieu d'une perte contrastive, SEED utilise une perte BCE (Entropie Croisée Binaire) adaptée. Elle impose une similarité représentationnelle entre un échantillon non étiqueté et son homologue étiqueté sélectionné dans l'espace latent.
Mémoire de Projection de Gradient (GPM) : Pour atténuer l'oubli catastrophique, SEED utilise la GPM. Les gradients de la tâche actuelle sont projetés orthogonalement aux directions des gradients des tâches précédentes (spécifiquement pour les classes de malwares), garantissant que l'apprentissage de nouvelles caractéristiques n'interfère pas avec les définitions de malwares précédemment apprises.

2.2 Entraînement avec des Tâches Non Vues (Données Entièrement Non Étiquetées)

Lorsqu'il rencontre des tâches sans étiquettes, SEED emploie une stratégie d'apprentissage actif pour transformer la tâche en une tâche partiellement étiquetée :

Quantification de l'Incertitude : Le modèle calcule l'incertitude des échantillons non étiquetés en mesurant leur distance cosinus moyenne vers les groupes bénins et malveillants stockés dans le tampon.
Sélection Équilibrée : Pour éviter un biais vers la classe majoritaire (bénigne), la méthode sélectionne des échantillons pour l'étiquetage par un analyste sur la base d'une stratégie de classement équilibrée (sélectionnant des échantillons éloignés ou proches de groupes spécifiques pour assurer la représentation des deux classes).
Transition : Une fois qu'un sous-ensemble d'échantillons est étiqueté par un analyste en sécurité, la tâche est traitée comme une « tâche vue » et traitée selon la méthodologie décrite dans la section 2.1.

2.3 Stratégie de Mise à Jour Différée du Tampon

Pour résoudre le problème du bruit d'étiquetage (courant dans l'étiquetage de sécurité où les verdicts initiaux peuvent être incorrects ou instables), SEED introduit une mise à jour différée du tampon. Les échantillons nouvellement étiquetés ne sont pas immédiatement ajoutés au tampon de rejeu. Au lieu de cela, ils sont maintenus pendant une période de délai fixe (par exemple, 1, 3 ou 11 mois) pour permettre aux étiquettes de se stabiliser (imitant la convergence des verdicts d'antivirus multi-moteurs). Cela empêche les étiquettes bruyantes de se propager pendant le processus d'apprentissage basé sur le rejeu.

3. Contributions Clés

Identification des Limites de l'Apprentissage Contrastif : L'article démontre que les méthodes d'apprentissage contrastif (comme HCL) subissent une dégradation significative des performances dans des contextes semi-supervisés lorsque des structures sémantiques fortes sont absentes, soulignant le besoin d'approches alternatives.
Cadre SEED : Une nouvelle méthode d'apprentissage continu semi-supervisé qui :
- Utilise la SVD pour construire un espace de représentation robuste à partir de données étiquetées limitées.
- Remplace la perte contrastive par une approche d'apprentissage de similarité par paires utilisant une perte BCE adaptée.
- Intègre l'apprentissage actif pour sélectionner des échantillons informatifs à partir de tâches entièrement non étiquetées.
Atténuation du Bruit : L'introduction d'une stratégie de mise à jour différée du tampon pour atténuer les effets néfastes du bruit d'étiquetage, montrant une robustesse même avec des ratios de bruit élevés (jusqu'à 80 %).
Évaluation Complète : Des expériences extensives sur des ensembles de données Windows (BODMAS) et Android (AndroZoo, APIGraph) démontrant l'efficacité de la méthode sous divers budgets d'étiquetage et niveaux de bruit.

4. Résultats Expérimentaux

Les auteurs ont évalué SEED par rapport à des bases de référence classiques d'apprentissage continu (EWC, A-GEM, MIR, CBRS) et à des méthodes d'apprentissage contrastif (CADE, HCL, HCL*).

Performance sur BODMAS (Windows) : SEED a réalisé une amélioration moyenne de 40 % en AUT (détection de malwares non vus) par rapport à HCL* sur divers budgets d'étiquetage. Il a nettement surpassé HCL* (0,810 contre 0,613) et CADE.
Performance sur AndroZoo (Android) : SEED a montré une amélioration moyenne de 14 % par rapport à HCL* (0,855 contre 0,780).
Performance sur APIGraph (Android) : Sur cet ensemble de données, qui possède des structures sémantiques fortes (appels API), SEED est resté compétitif avec HCL*, atteignant une AUT de 0,930 contre 0,948 pour HCL*. Cela suggère que SEED est polyvalent, performant même lorsque des structures sémantiques existent, bien qu'il excelle particulièrement là où elles sont absentes.
Robustesse au Bruit d'Étiquetage : Sous un bruit d'étiquetage élevé (jusqu'à 80 %), SEED avec la stratégie de tampon différé a maintenu des performances stables (par exemple, AUT(A) non vu autour de 0,85–0,90 sur AndroZoo), tandis que les modèles entraînés directement sur des étiquettes bruyantes se sont dégradés drastiquement.
Analyse de Sensibilité : La méthode a montré des améliorations constantes avec des ratios d'étiquetage plus élevés, en particulier sur BODMAS, et a démontré que le seuil SVD de 95 % et les métriques de distance cosinus offraient les performances les plus stables.

5. Signification et Revendications

L'article revendique que SEED fournit une solution pratique pour la détection de malwares dans des environnements ouverts contraints par les ressources, où des données entièrement étiquetées sont indisponibles. Sa signification principale réside dans :

Découplage de la Structure Sémantique : Contrairement aux méthodes contrastives qui nécessitent des relations sémantiques fortes pour former des paires positives/négatives, SEED repose sur une projection dans un espace de vecteurs de base, ce qui le rend efficace sur des ensembles de données diversifiés indépendamment de la structure inhérente.
Efficacité Budgétaire : Il exploite efficacement une petite fraction de données étiquetées (par exemple, 20 %) pour s'adapter à la dérive conceptuelle, réduisant la dépendance à un étiquetage manuel exhaustif.
Stabilité face au Bruit : En reconnaissant la nature dynamique des étiquettes de sécurité, la stratégie de tampon différé offre un mécanisme réaliste pour gérer le bruit d'étiquetage sans modélisation complexe du bruit.

Les auteurs concluent que SEED est robuste sous une supervision limitée, surpassant l'apprentissage contrastif en l'absence de structure sémantique forte tout en restant compétitif lorsque cette structure est présente, offrant ainsi une approche équilibrée pour la détection continue de malwares.