💻 computer science

An Explainable Agentic RAG Framework for Zero-Shot Phishing and Web Attack Detection

L'article présente XAR-Detect, un cadre RAG agentique explicable qui exploite un encodeur DeBERTa, la récupération dynamique de signatures de menaces et un raisonnement autonome pour parvenir à une détection zero-shot de haute précision des attaques de phishing et du web avec des justifications transparentes, surpassant de manière significative les méthodes de pointe existantes sans nécessifier de réentraînement.

Auteurs originaux : Mohammad Zahangir Alam, Mahdi H Miraz, Elhan Ayath, Sharmin Sultana, Nowshad Amin

Publié 2026-09-04

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Mohammad Zahangir Alam, Mahdi H Miraz, Elhan Ayath, Sharmin Sultana, Nowshad Amin

Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Dans le monde numérique, les menaces les plus persistantes arrivent souvent déguisées en messages ordinaires ou en requêtes de sites web de routine. Les courriels de phishing, conçus pour voler des mots de passe, et les attaques web, qui tentent de s'introduire dans des serveurs, sont devenus si sophistiqués qu'ils peuvent imiter une communication légitime avec une précision effrayante. Pendant des décennies, les systèmes de sécurité se sont appuyés sur une stratégie de reconnaissance : ils ont été entraînés sur de vastes bibliothèques d'exemples malveillants connus, apprenant à repérer les empreintes spécifiques des crimes passés. Cependant, cette approche présente une faiblesse fondamentale. Lorsqu'un attaquant invente une nouvelle ruse, une ruse qui n'a jamais été vue auparavant, ces systèmes statiques échouent souvent car ils n'ont aucun point de référence pour l'inconnu. Pour résoudre ce problème, les chercheurs explorent désormais une voie différente, qui combine la capacité d'apprendre du contexte avec le pouvoir de consulter des informations fraîches en temps réel, un peu comme un agent de sécurité qui ne connaîtrait pas seulement les visages des criminels connus, mais porterait également un flux d'alertes actuelles pour identifier un étranger dans la foule.

Une équipe de chercheurs a développé un nouveau système appelé XAR-Detect qui tente de combler ce fossé entre l'entraînement statique et la réalité dynamique. Au lieu de s'appuyer uniquement sur un modèle pré-entraîné qui fige ses connaissances au moment où il termine son apprentissage, ce cadre agit davantage comme un enquêteur intelligent. Il prend un courriel suspect ou une requête web et analyse d'abord son contenu pour comprendre sa structure et son sens. Ensuite, plutôt que de faire une supposition basée uniquement sur ce qu'il a mémorisé, il contacte immédiatement une base de données vivante d'intelligence sur les menaces mondiales. Cette base de données est constamment mise à jour avec des informations provenant de grands référentiels de sécurité, contenant des millions d'enregistrements sur les liens de phishing connus, le code malveillant et les vulnérabilités récentes. Le système récupère les avertissements les plus pertinents de ce flux en direct et les utilise pour éclairer sa décision. Si le message entrant partage des caractéristiques avec une menace récemment signalée, le système peut le signaler comme dangereux, même si le système lui-même n'a jamais été explicitement entraîné sur ce type spécifique d'attaque.

L'innovation centrale réside dans la manière dont le système traite cette information. Il ne se contente pas d'ajouter les nouvelles données aux anciennes ; il emploie un agent de raisonnement autonome qui agit comme un penseur critique. Cet agent pèse les preuves provenant du message lui-même par rapport à l'intelligence fraîche qu'il vient de récupérer. Il se demande si les modèles correspondent, considère le contexte, puis forme une hypothèse pour savoir si le message est sûr ou malveillant. Ce processus en plusieurs étapes permet au système de s'adapter aux nouvelles stratégies d'attaque sans avoir besoin d'être réentraîné de zéro. Lors de leurs expériences, les chercheurs ont testé cette approche sur divers ensembles de données du monde réel, incluant des milliers de courriels de phishing et des millions d'enregistrements de trafic web. Ils ont constaté que le système pouvait identifier correctement les attaques connues avec une précision de près de 98 pour cent, un niveau de performance qui surpassait les méthodes existantes par une marge significative. Plus important encore, lorsqu'il a été testé sur des types d'attaques totalement nouveaux qui étaient cachés à ses données d'entraînement, le système a tout de même réussi à les détecter avec une précision de 88,3 pour cent. Cela suggère que la capacité de rechercher les menaces actuelles en temps réel constitue un filet de sécurité puissant contre l'inconnu.

Au-delà de la simple capture des acteurs malveillants, les chercheurs se sont préoccupés du problème de la « boîte noire », où des systèmes informatiques complexes prennent des décisions que les humains ne peuvent comprendre. Dans les domaines de haute importance, savoir pourquoi un système a signalé un message est aussi important que le signalement lui-même. XAR-Detect répond à cela en fournissant une explication claire à deux niveaux pour chaque décision qu'il prend. Premièrement, il met en évidence quels éléments spécifiques du message — tels qu'un lien étrange ou un choix de mots inhabituel — ont le plus contribué à la suspicion. Deuxièmement, il montre quels éléments de l'intelligence externe sur les menaces ont été utilisés pour parvenir à la conclusion. Cette transparence permet aux analystes de sécurité humains de vérifier la logique du système, garantissant que la détection est basée sur des preuves solides plutôt que sur une supposition aléatoire. Les chercheurs ont mesuré la fiabilité de ces explications et les ont jugées très cohérentes, ce qui signifie que le système donne une raison stable pour ses choix, même lorsque l'entrée est légèrement reformulée.

L'étude a également révélé les limites de cette approche. La capacité du système à repérer de nouvelles menaces dépend entièrement de la qualité et de la couverture de la base de données vivante qu'il consulte. Si une attaque totalement inédite apparaît et n'a pas encore été enregistrée dans un quelconque référentiel mondial de menaces, le système ne peut pas la rechercher, et ses performances peuvent chuter. Les chercheurs reconnaissent que, bien que le système soit une avancée majeure, il n'est pas un bouclier parfait contre toute menace future possible. De plus, comme la partie de raisonnement du système repose sur des services informatiques externes puissants, il existe des considérations pratiques concernant la vitesse et le coût qui doivent être gérées dans les déploiements du monde réel. Malgré ces contraintes, les résultats démontrent une voie viable pour la défense cybernétique. En combinant une compréhension profonde du langage avec la capacité d'accéder à une intelligence en direct, XAR-Detect offre un moyen de détecter des menaces qui n'ont jamais été vues auparavant, fournissant une défense plus flexible et transparente pour le monde numérique.

Résumé Technique : Un Cadre RAG Agentique Explicable pour la Détection Zero-Shot du Phishing et des Attaques Web

1. Énoncé du Problème

Le phishing et les attaques web (par exemple, l'injection SQL, le XSS) demeurent des menaces critiques pour les systèmes industriels et d'entreprise, avec des volumes d'attaques qui augmentent de manière significative et évoluent rapidement. Les cadres de détection existants font face à trois limitations principales :

Généralisation Statique : La plupart des modèles supervisés et auto-supervisés reposent sur des distributions d'entraînement fixes. Une fois entraînés, ils ne peuvent pas se généraliser à des schémas d'attaque inédits sans réentraînement ou ajustement fin (fine-tuning).
Intensité des Données : Les modèles de haute performance nécessitent souvent de grands volumes de données étiquetées manuellement, ce qui est rare pour les menaces émergentes.
Manque de Transparence : De nombreuses méthodes adaptatives, telles que l'apprentissage par renforcement (RL) ou les classificateurs basés uniquement sur des LLM, fonctionnent comme des « boîtes noires », manquant de l'explicabilité requise pour la conformité réglementaire (par exemple, RGPD, NIS2) et la confiance des analystes.

Les approches actuelles ne traitent généralement qu'un seul aspect de ce défi (par exemple, l'adaptabilité sans l'explicabilité, ou l'explicabilité sans la capacité zero-shot). Il existe un manque pour un cadre unifié combinant la généralisation zero-shot, le raisonnement adaptatif agentique, l'ancrage dans la connaissance des menaces en temps réel et l'explicabilité transparente.

2. Méthodologie : XAR-Detect

Les auteurs proposent XAR-Detect (eXplainable Agentic Retrieval-Augmented Detection), un cadre conçu pour opérer dans un environnement de « monde ouvert » où il doit détecter des classes d'attaques non présentes dans ses données d'entraînement. Le système intègre quatre composantes clés :

A. Encodage Contextuel

Les données brutes d'e-mails et de requêtes HTTP sont traitées à l'aide de DeBERTa-v3, sélectionné pour son mécanisme d'attention désentrelacée et son encodage de position relative. Cet encodeur génère des représentations contextuelles riches ( $e_i$ ) à partir du texte d'entrée, capturant à la fois le contenu sémantique et les attributs structurels.

B. Génération Augmentée par Récupération (RAG)

Pour surmonter les limites des distributions d'entraînement statiques, XAR-Detect emploie un module RAG. Lors de l'inférence, la représentation contextuelle sert de requête pour récupérer les $K$ meilleures signatures de menaces sémantiquement correspondantes à partir d'une base de connaissances vivante ( $\mathcal{E}$ ). Cette base de connaissances agrège des données de :

PhishTank (URLs de phishing)
VirusTotal (signatures de malwares)
CVE (Common Vulnerabilities and Exposures)

Les signatures récupérées ( $\mathcal{R}_i$ ) sont agrégées via des mécanismes de pondération par attention et fusionnées avec la représentation de l'encodeur local pour créer une entrée augmentée ( $\tilde{x}_i$ ). Cela permet au système de tirer parti de l'intelligence sur les menaces externes pour les attaques exclues de son entraînement.

C. Raisonnement Agentique

Contrairement aux pipelines RAG standards qui concatènent passivement le contexte, XAR-Detect utilise un agent de raisonnement basé sur un LLM autonome (spécifiquement GPT-4o) pour traiter l'évidence augmentée. L'agent effectue un processus d'inférence structuré et multi-étapes :

Évaluation des Preuves : Évalue la cohérence entre les caractéristiques locales et les signatures de menaces récupérées.
Formation d'Hypothèses : Génère des étiquettes candidates (Bénin, Phishing, Attaque Web) avec des estimations de confiance.
Consolidation de la Décision : Résout les hypothèses concurrentes pour produire une prédiction finale.

Ce processus itératif permet au modèle d'affiner sa décision basée sur les preuves récupérées sans nécessiter les cycles d'entraînement de politique associés à l'apprentissage par renforcement.

D. Explicabilité à Double Couche

Pour assurer la transparence, le cadre fournit deux couches d'explication :

Attribution Globale : Utilise SHAP (SHapley Additive exPlanations) pour déterminer la contribution marginale de caractéristiques spécifiques et de dimensions de menaces récupérées à la prédiction sur l'ensemble de la population.
Attribution au Niveau de l'Instance : Agrège les cartes d'attention au niveau des tokens à travers les couches et les têtes de l'encodeur pour fournir des justifications spécifiques au cas, mettant en évidence les parties exactes de l'entrée et de l'évidence récupérée qui ont influencé la décision.

3. Principales Contributions

L'article présente cinq contributions majeures :

Cadre Unifié : La proposition de XAR-Detect, qui intègre le raisonnement basé sur les LLM, la récupération dynamique d'intelligence sur les menaces et l'explicabilité à double couche pour la détection du phishing et des attaques web.
Mécanisme Zero-Shot : Une architecture augmentée par RAG qui permet la détection de variantes d'attaques auparavant inconnues sans réentraînement ni ajustement fin.
Agent de Raisonnement Autonome : Un agent qui synthétise les représentations de caractéristiques locales avec les preuves récupérées par le biais d'une inférence multi-étapes, étendant le paradigme RAG agentique à la détection unifiée des menaces.
Transparence à Double Couche : L'implémentation de l'analyse SHAP globale combinée à l'attribution par attention au niveau de l'instance pour fournir une interprétabilité tant au niveau du modèle qu'au niveau du cas spécifique.
Validation Empirique : Une évaluation complète démontrant une performance supérieure par rapport aux lignes de base de l'état de l'art dans des scénarios équilibrés, déséquilibrés et zero-shot.

4. Résultats Expérimentaux

Le cadre a été évalué sur trois corpus de phishing (Nazario, Enron, Subhadeep) et le benchmark d'attaques web SR-BH.

Performance Globale (Équilibrée) : XAR-Detect a atteint un score F1 de 97,8 % et un taux de faux positifs (FPR) de 2,1 %. Cela a surpassé la meilleure ligne de base auto-supervisée (Ensemble SSL) de 2,4 points de pourcentage en F1 et a réduit le FPR de 2,7 points.
Robustesse (Déséquilibrée) : Sous une distribution réaliste où les attaques composaient environ 15 % des données, XAR-Detect a maintenu un F1 de 96,2 % avec un FPR de 3,8 %, montrant une dégradation de performance nettement moindre que les lignes de base.
Généralisation Zero-Shot : Testé sur des classes d'attaques entièrement exclues de l'entraînement, XAR-Detect a atteint un F1 de 88,3 %. Cela a dépassé l'Ensemble SSL de 34,2 points de pourcentage et CyberRAG de 14,1 points, démontrant l'efficacité du raisonnement augmenté par la récupération pour les menaces inconnues.
Études d'Ablation : Supprimer le module RAG a fait chuter le F1 de 1,7 point ; supprimer l'agent l'a fait chuter de 2,1 points. La combinaison des deux a produit un gain de 3,0 points par rapport à la ligne de base de l'encodeur seul, confirmant leur nature complémentaire.
Métriques d'Explicabilité : Le cadre a démontré une fidélité d'explication élevée (0,847) et une stabilité (0,913) par rapport aux lignes de base post-hoc.

5. Signification et Revendications

L'article affirme que XAR-Detect offre une voie pratique, interprétable et efficace en termes de labels vers une détection intelligente des cybermenaces. Sa signification réside dans le fait qu'il répond à la limitation du « monde fermé » des modèles traditionnels en ancrant les décisions dans une intelligence sur les menaces externes vivantes plutôt que dans des distributions d'entraînement figées.

Les auteurs soulignent que le cadre est prêt pour le mode fédéré, car le module de raisonnement opère sur des représentations encodées et de l'intelligence publique, supportant un déploiement distribué à travers des organisations sensibles à la confidentialité. Cependant, l'article maintient une position modeste concernant les limites :

Dépendance à la Couverture : La performance zero-shot est limitée par la densité de couverture ( $\rho$ ) de la base de connaissances externe ; des familles d'attaques entièrement nouvelles sans signatures similaires dans le répertoire peuvent encore entraîner des taux d'erreur élevés.
Contraintes Opérationnelles : La dépendance à GPT-4o introduit une dépendance aux API, une latence d'inférence et des coûts potentiels, ce qui peut restreindre le déploiement en temps réel à haut débit.
Validation par l'Analyste : Bien que les métriques techniques de fidélité d'explication soient fortes, l'article note que l'utilité pratique de ces explications pour les analystes de sécurité (par exemple, réduire le temps de triage) n'a pas encore été validée par des études impliquant des sujets humains.

En conclusion, XAR-Detect représente un changement de paradigme, passant d'une détection statique et gourmande en données vers des systèmes adaptatifs, ancrés dans la connaissance et transparents, capables de gérer le paysage évolutif des cybermenaces.