💻 computer science

Quantifiable Uncertainty: A Stochastic Consensus Multi-Agent RAG Framework for Robust Malware Detection

L'article présente MAGMA, un cadre RAG multi-agents à consensus stochastique qui améliore la détection robuste des malwares en découplant la récupération de code sémantique de la vérification probabiliste pour quantifier l'incertitude épistémique et rejeter efficacement les échantillons ambigus, atteignant un taux de détection de 98,4 %.

Auteurs originaux : ElMouatez Billah Karbab

Publié 2026-05-12

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : ElMouatez Billah Karbab

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous êtes un agent de sécurité dans une banque de haute technologie. Votre travail consiste à repérer les voleurs (malwares) qui tentent de se faufiler.

Pendant longtemps, les agents de sécurité ont utilisé une méthode simple : ils mémorisaient les visages des voleurs connus. Si un visage correspondait à une photo dans leur livre, ils déclenchaient l'alarme. C'est l'équivalent des logiciels antivirus traditionnels. Mais des voleurs astucieux ont commencé à porter des masques, à changer de coiffure ou à utiliser de fausses cartes d'identité (mutations structurelles). Les agents, qui ne regardaient que la surface, se faisaient berner. Ils affirmaient avec assurance : « C'est un client normal », alors qu'il s'agissait d'un voleur déguisé. C'est ce que l'article appelle la « Fausse Certitude ».

Les auteurs de cet article, dirigés par ElMouatez Billah Karbab, ont construit un nouveau système appelé MAGMA pour remédier à cela. Au lieu de simplement regarder une photo, MAGMA agit comme une équipe d'enquêteurs experts qui ne se contentent pas de deviner – ils enquêtent.

Voici comment MAGMA fonctionne, décomposé en étapes simples :

1. L'appareil photo à deux objectifs (Dual-Stream Lifting)

Lorsqu'un nouveau fichier arrive, MAGMA ne se contente pas d'examiner le code brut (qui ressemble à un enchevêtrement de nombres). Il utilise deux « objectifs » différents pour visualiser le fichier simultanément :

L'objectif Assembleur : Il examine les instructions de bas niveau et mécaniques (comme les pièces du moteur d'une voiture). Il voit exactement comment la machine est construite.
L'objectif Pseudo-code : Il examine la logique de haut niveau (comme le manuel d'utilisation de la voiture). Il comprend ce que le code tente de faire, en ignorant les détails désordonnés.

En utilisant les deux objectifs, MAGMA peut déjouer les astuces. Si un voleur modifie les pièces du moteur pour qu'elles paraissent différentes (Assembleur), la logique de la voiture (Pseudo-code) reste généralement la même. S'ils modifient la logique, les pièces du moteur les trahissent généralement.

2. La bibliothèque de l'enquêteur (Retrieval-Augmented Generation)

Au lieu d'essayer de mémoriser chaque voleur possible, MAGMA dispose d'une immense bibliothèque de « Fonctions Critiques pour la Décision » (DCFs) vérifiées. Ce sont des extraits de code connus pour être malveillants, comme une « Affiche de recherche » pour des comportements criminels spécifiques.

Lorsqu'un nouveau fichier arrive, MAGMA ne devine pas. Il recherche immédiatement dans sa bibliothèque pour voir si le code du fichier correspond à l'un de ces extraits « recherchés ». Cela ancre le système dans des preuves réelles plutôt que dans de simples suppositions.

3. Le jury d'enquêteurs (Stochastic Consensus Ensemble)

C'est la partie la plus unique. Au lieu qu'un seul enquêteur prenne une décision, MAGMA envoie les preuves à cinq enquêteurs IA différents (agents).

Ces agents sont identiques, mais on leur demande de réfléchir avec un peu de « hasard » (comme leur demander d'envisager différentes possibilités).
Ils examinent tous les preuves indépendamment et votent : « Coupable » (Malveillant) ou « Non Coupable » (Bénin).

4. Les deux bulletins de score (FES et ECS)

Après que les cinq enquêteurs ont voté, MAGMA calcule deux scores pour décider quoi faire :

Score 1 : Force des preuves (FES) : Cela demande : « Quelle est la solidité de la preuve ? » Si les enquêteurs ont trouvé une correspondance parfaite avec une affiche de recherche connue, ce score est élevé. S'ils devinent simplement, le score est faible.
Score 2 : Score de conflit (ECS) : Cela demande : « Les enquêteurs se disputent-ils ? »
- Si les 5 enquêteurs sont d'accord, le score est faible (forte confiance).
- Si 3 disent « Coupable » et 2 disent « Non Coupable », le score est élevé. Cela signifie que le fichier est confus ou astucieux.

5. Le bouton « Je ne sais pas » (La politique de rejet)

Dans l'ancien système, l'agent devait dire « Coupable » ou « Non Coupable », même s'il était incertain. Cela menait à des erreurs.

MAGMA offre une troisième option : « Incertain ».

Si le Score de Conflit est trop élevé (les enquêteurs se disputent), MAGMA refuse de prendre une décision finale.
Au lieu de cela, il marque le fichier et déclare : « C'est trop confus pour une machine. Envoyez-le à un expert humain pour examen. »

Les résultats

L'article a testé ce système contre des milliers d'échantillons de malwares réels, y compris des cas très astucieux qui changent de forme pour se cacher.

Anciens systèmes : Se sont perdus face aux astuces et ont commis des erreurs avec assurance.
MAGMA : A détecté 98,4 % des malwares.
Le filet de sécurité : Lorsque MAGMA n'était pas sûr, il s'est arrêté et a demandé de l'aide, ce qui l'a empêché de commettre des erreurs de « Fausse Certitude ».

Le compromis

L'article admet qu'il y a un coût. Parce que MAGMA utilise cinq enquêteurs et recherche dans une bibliothèque, il faut plus de temps pour vérifier un fichier (environ 42 secondes) par rapport aux anciens systèmes qui vérifient en une fraction de seconde.

Les auteurs suggèrent que MAGMA ne devrait pas remplacer le scanner initial rapide. Au lieu de cela, il devrait agir comme un expert de deuxième ligne pour les fichiers astucieux que le scanner rapide ne peut pas trancher. C'est la différence entre une caméra de sécurité qui se contente de prendre une photo et une équipe d'experts en criminalistique qui analyse la photo pour résoudre le crime.

Résumé Technique : MAGMA – Un Cadre Multi-Agents RAG Consensus Stochastique pour la Détection Robuste de Malwares

1. Énoncé du Problème

Les détecteurs de malwares contemporains basés sur l'apprentissage profond (DL), bien que dominants, souffrent d'une vulnérabilité critique : l'aveuglement sémantique. En traitant le code binaire comme des données statistiques non structurées (par exemple, des séquences d'octets brutes), ces modèles agissent comme des matcheurs de motifs stochastiques dépourvus de véritable raisonnement sémantique. Cette limitation se manifeste par une « Certitude Erronée », où un modèle émet un verdict à haute confiance (par exemple, >99 % bénin) sur un échantillon malveillant simplement parce qu'une transformation adversaire (par exemple, substitution d'instructions, insertion de code mort) déplace l'entrée vers une région sparse de l'espace d'embedding, franchissant la frontière de décision sans altérer la fonctionnalité malveillante sous-jacente.

Les systèmes actuels de l'état de l'art manquent d'un mécanisme formel pour quantifier l'incertitude épistémique (l'ignorance du modèle). Par conséquent, ils imposent des décisions binaires même lorsque les entrées se situent en dehors de la distribution d'entraînement, échouant à signaler les cas anormaux pour examen humain et commettant ainsi des erreurs automatisées catastrophiques.

2. Méthodologie : Le Cadre MAGMA

Les auteurs proposent MAGMA (Multi-Agent Generative Malware Analysis), un cadre qui reformule la détection d'un appariement de motifs statique vers un processus probabiliste de collecte de preuves. L'architecture découple la représentation structurelle du raisonnement probabiliste à travers quatre composants principaux :

A. Levage Dual-Stream

Pour surmonter l'opacité sémantique, MAGMA élève les binaires bruts vers deux représentations intermédiaires parallèles et lisibles par l'homme avant la vectorisation :

Flux Syntaxique ( $I_{ASM}$ ) : Un démontage linéaire produisant des instructions d'assemblage normalisées. Cela capture les dépendances architecturales granulaires, les manipulations de registres et les constantes cryptographiques souvent perdues dans la décompilation de haut niveau.
Flux Sémantique ( $I_{Code}$ ) : Une décompilation en code pseudo-C de haut niveau. Cela abstrait les détails spécifiques au compilateur pour isoler le graphe de flot de contrôle (CFG), les dépendances de données et les séquences d'API principales.
Ces deux embeddings sont concaténés pour former un vecteur de requête composite, garantissant que l'obfuscation syntaxique (par exemple, le renommage de registres) n'échappe pas à la détection si l'intention sémantique reste malveillante, et vice versa.

B. Génération Augmentée par la Récupération (RAG)

Au lieu de s'appuyer sur la mémoire paramétrique figée d'un Grand Modèle de Langage (LLM), MAGMA interroge une Base de Connaissances Vectorielle (KB) remplie de Fonctions Critiques pour la Décision (DCF) vérifiées et curatées par des analystes.

Le système récupère les $k$ plus proches voisins (DCF) basés sur la similarité cosinus dans l'espace latent.
Cette étape ancre le processus génératif dans une intelligence de menace connue, empêchant les hallucinations et transformant la tâche de classification en une tâche d'évaluation de preuves.

C. Ensemble de Cohérence Stochastique

Pour sonder la stabilité du processus de raisonnement, MAGMA emploie un Ensemble d'Agents Homogènes composé de $N$ instances identiques de LLM.

Échantillonnage Stochastique : Contrairement au décodage glouton, les agents opèrent avec une température $T > 0$ , forçant le modèle à explorer des chemins de raisonnement alternatifs et moins probables.
Raisonnement Indépendant : Chaque agent évalue indépendamment les DCF récupérées et le contexte dual-stream pour produire un verdict binaire (Malveillant/Bénin).
Consensus : Le système agrège ces sorties indépendantes pour mesurer la stabilité de la prédiction.

D. Métriques d'Incertitude Quantifiables

Le cadre dérive deux métriques complémentaires pour quantifier l'incertitude et guider la prise de décision :

Force de Preuve Fonctionnelle (FES) : Une agrégation pondérée de la confiance de récupération. Elle calcule la masse de probabilité moyenne attribuée à la classe « Malveillant » sur tous les agents, mise à l'échelle par le poids de similarité du contexte récupéré. Cela empêche le « consensus halluciné » où les agents s'accordent sur un verdict sans solide appui probatoire.
Score de Conflit de Preuve (ECS) : Défini comme l'entropie de Shannon de la distribution prédictive de l'ensemble.
- Un ECS faible ( $\approx 0$ ) indique un fort consensus (prédiction stable).
- Un ECS élevé ( $\approx 1$ ) indique un désaccord significatif entre les agents, signalant une ambiguïté structurelle, une perturbation adversaire ou des entrées Hors-Distribution (OOD).

E. Politique de Décision Tri-État

MAGMA remplace la classification binaire par une politique tri-état :

Malveillant : FES élevé ET ECS faible.
Bénin : FES faible ET ECS faible.
Incertertain (Rejet) : ECS élevé (dépassant le seuil $\tau_{stable}$ ).
Les entrées marquées « Incertaines » sont automatiquement rejetées et acheminées vers l'examen par un analyste humain, empêchant le système de rendre des verdicts confiants mais erronés sur des échantillons ambigus.

3. Contributions Clés

Architecture RAG Dual-Stream : Un mécanisme novateur mappant l'assemblage syntaxique et le pseudo-code sémantique vers un espace vectoriel conjoint, ancrant l'inférence dans une KB curatée de Fonctions Critiques pour la Décision pour atténuer l'opacité des réseaux de neurones.
Attribution Quantifiable (FES) : Introduction de la métrique Force de Preuve Fonctionnelle, qui pondère l'influence des contextes récupérés, transformant les prédictions boîte noire en chaînes de preuves auditable.
Auto-Cohérence Stochastique : Modélisation de la détection de malwares comme un jeu de consensus probabiliste où un ensemble multi-agents (avec $T>0$ ) évalue les preuves contre des critères adverses pour produire une distribution prédictive bornée.
Rejet Formalisé par l'Entropie : Définition du Score de Conflit de Preuve (ECS) comme proxy de la sensibilité aux perturbations adverses, permettant une politique de « option de rejet » fondée sur des principes qui arrête la classification lorsque l'incertitude épistémique est trop élevée.
Évaluation Étendue : Tests complets contre des variantes hautement polymorphes et des bases de référence établies (MalConv, ResNeXt+), démontrant l'efficacité de la politique de rejet guidée par l'entropie.

4. Résultats Expérimentaux

Le cadre a été évalué sur un ensemble de données de 40 814 binaires (Wild-Augmented Benchmark), divisé temporellement pour prévenir le biais de prévision.

Performance de Détection : MAGMA a obtenu un score F1 de 98,4 %, surpassant la base de référence externe la plus forte (ResNeXt+) de 1,3 point de pourcentage et MalConv de 4,2 points de pourcentage.
Réduction des Erreurs : L'application de la politique de rejet guidée par l'entropie a entraîné une amélioration absolue de 4,2 % de la précision de détection face aux tentatives d'évasion et une réduction de 4,0 % du taux de faux positifs (FPR) par rapport aux bases de référence sans rejet.
Études d'Ablation :
- L'embedding dual-stream seul a atteint 95,8 % de F1, surpassant MalConv.
- L'ajout de l'ensemble LLM ( $N=5$ ) a fourni une augmentation supplémentaire de +2,6 pp, confirmant que la diversité de l'ensemble résout les cas limites que la récupération seule ne peut pas traiter.
- L'inférence LLM zero-shot (sans RAG) a mal performé (79,6 % de F1), soulignant la nécessité d'un ancrage par récupération augmentée.
Calibration de l'Incertitude : Les échantillons mal classés ont présenté des valeurs ECS significativement plus élevées ( $\sim 0,84$ ) par rapport aux prédictions correctes ( $\sim 0,13$ ), validant l'ECS comme un signal efficace pour le rejet dans une boucle humaine.
Latence : Le pipeline complet moyenne environ 42 secondes par binaire (dominé par l'inférence LLM), positionnant MAGMA comme une Couche de Vérification Cloud de Niveau 2 plutôt qu'un scanner de point de terminaison en temps réel.

5. Signification et Revendications

L'article revendique que MAGMA adresse l'asymétrie fondamentale dans la défense contre les malwares, où les défenseurs doivent borner toutes les variantes malveillantes tandis que les attaquants n'ont besoin que d'un seul chemin d'évasion réussi. En passant de l'appariement de motifs déterministe à la vérification probabiliste, MAGMA quantifie explicitement les angles morts du modèle lui-même.

La signification réside dans la capacité du système à :

Identifier l'Ambiguïté Structurelle : Utiliser la maximisation de l'entropie pour détecter lorsqu'une entrée est perturbée structurellement près de la frontière de décision, même si la fonctionnalité malveillante est préservée.
Prévenir la Certitude Erronée : Rejeter automatiquement les entrées ambiguës plutôt que de forcer une décision binaire, réduisant ainsi le risque d'erreurs automatisées catastrophiques.
Combler le Fossé Sémantique : Utiliser le RAG pour connecter la puissance discriminative des embeddings avec les capacités de raisonnement des LLM, ancrant l'analyse dans une intelligence de menace vérifiée plutôt que dans une inférence zero-shot hallucinée.

Les auteurs positionnent MAGMA non pas comme un remplacement des moteurs AV de point de terminaison à haut débit, mais comme une Couche de Vérification Robuste de Niveau 2 pour les échantillons de « zone grise » qui échappent aux filtres de signature mais manquent d'indicateurs comportementaux définitifs pour le sandboxing automatisé.