💻 computer science

Behavioral Anomaly Detection and Malicious Service Identification in the Tor Network Using Deep Learning

Ce document propose MBRD-Tor, un cadre d'apprentissage profond en trois étapes qui répond aux défis de l'homogénéisation des protocoles, du bruit de chiffrement et du déséquilibre extrême des classes dans le réseau Tor en fusionnant des signatures comportementales multi-échelles, en employant une estimation de la qualité basée sur un ensemble pour un pondération adaptative, et en utilisant des caractéristiques synthétiques générées par GAN pour atteindre une performance de détection de services malveillants supérieure.

Auteurs originaux : Amirhossein Saviz

Publié 2026-07-21

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Amirhossein Saviz

Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez l'internet comme une ville géante et bouillonnante où tout le monde est libre de se promener, mais où certains veulent porter des masques pour cacher leur visage. C'est cela, le réseau Tor, un outil numérique conçu pour protéger la vie privée en faisant rebondir les messages à travers une série de tunnels secrets afin que personne ne puisse voir qui a envoyé quoi. Cependant, tout comme dans une vraie ville, de mauvais acteurs utilisent parfois ces masques pour dissimuler leurs crimes, envoyant des commandes secrètes à des virus ou gérant des boutiques illégales. Le problème pour les gardes de sécurité de la ville est que Tor est si doué dans son travail qu'il fait en sorte que chaque message semble exactement identique : un bloc de données uniforme de 512 octets. C'est comme essayer de repérer un pickpocket dans une foule où tout le monde porte le même costume gris, se tient exactement dans la même pose et marche exactement à la même vitesse. Les outils de sécurité traditionnels, qui cherchent généralement des différences de taille ou de forme, sont complètement déroutés. Ils ne peuvent pas faire la différence entre un touriste inoffensif et un criminel parce que les « uniformes » sont identiques. Cela crée un énorme casse-tête pour les défenseurs : ils doivent trouver la petite aiguille d'une attaque malveillante cachée dans une botte de foin de milliards de blocs d'apparence identique, et les méchants deviennent plus intelligents pour effacer leurs traces.

C'est là qu'intervient une nouvelle étude d'Amirhossein Saviz, proposant une nouvelle façon ingénieuse d'attraper ces criminels numériques sans jamais avoir besoin de jeter un coup d'œil à l'intérieur de leurs valises verrouillées. L'article présente un système appelé MBRD-Tor, qui agit moins comme un garde de sécurité rigide vérifiant les pièces d'identité que comme un détective qui prête attention au rythme et au comportement de la foule. Au lieu d'essayer de lire le contenu des messages (qui est crypté et impossible à voir), le système observe comment les messages circulent : la vitesse à laquelle ils arrivent, la direction vers laquelle ils vont et l'ordre dans lequel ils apparaissent.

Les chercheurs ont réalisé que même si les « costumes » sont identiques, la façon dont un pickpocket se déplace dans une foule est différente de celle d'un touriste normal. Un criminel peut envoyer un signal, puis attendre qu'un gros colis revienne, créant ainsi un motif spécifique. Pour attraper cela, l'équipe a construit un processus en trois étapes. Premièrement, ils ont créé une « empreinte comportementale » en combinant le timing, la position et la direction en un résumé compact du trafic. Deuxièmement, ils ont été confrontés à un problème délicat : dans le monde réel, le trafic malveillant est incroyablement rare (parfois moins de 1 % de tout le trafic), et certaines données sont simplement « bruyantes » ou désordonnées. Pour corriger cela, ils ont utilisé un panel de cinq « juges » différents (un ensemble d'algorithmes) pour voter sur la fiabilité de chaque donnée, accordant plus de poids aux exemples clairs et nets et ignorant les plus confus. Enfin, pour résoudre le problème du manque d'exemples de trafic malveillant pour apprendre, ils ont utilisé un type spécial d'IA appelé Réseau Antagoniste Génératif (GAN). Voyez cela comme un faussaire numérique qui crée des copies parfaites et fausses des motifs criminels rares, mais seulement si un comité strict de juges convient que les copies fausses sont indiscernables des vraies. Cela permet au système d'apprendre à quoi ressemblent les criminels sans avoir besoin de millions d'exemples réels.

Lorsque l'équipe a testé son nouveau système sur un ensemble de données de trafic Tor réel, les résultats étaient prometteurs. Dans des conditions normales, où le trafic malveillant est un peu plus courant, leur système a atteint un score F1 (une mesure de la précision globale) de 73,70 %, ce qui est nettement supérieur aux meilleures méthodes précédentes. Mais la véritable magie s'est produite lorsqu'ils ont simulé les conditions extrêmes de l'internet réel, où le trafic malveillant ne représente que 1 % du total. Dans ce scénario, la plupart des autres systèmes ont complètement échoué, faisant chuter leur capacité à attraper les criminels à presque zéro. Cependant, MBRD-Tor a tenu bon, maintenant un taux de rappel de 21,1 % (la capacité à réellement trouver les méchants) et un score F1 de 33,3 %. L'étude suggère qu'en se concentrant sur les rythmes comportementaux subtils des données et en utilisant un processus intelligent en plusieurs étapes pour nettoyer les données d'entraînement, il est possible de repérer une activité malveillante même lorsqu'elle se cache à la vue de tous parmi des millions de blocs d'apparence identique. Les auteurs concluent que cette approche offre une manière robuste et respectueuse de la vie privée de maintenir la sécurité de la ville numérique sans avoir besoin de briser le chiffrement qui protège la vie privée de chacun.

Résumé Technique : Framework MBRD-Tor pour la Détection du Trafic Malveillant sur Tor

1. Énoncé du Problème

Le réseau Tor (The Onion Router), bien qu'essentiel pour la confidentialité des utilisateurs, est de plus en plus exploité par des acteurs malveillants pour la communication de Commande et Contrôle (C2), la coordination de ransomwares et l'hébergement de services illégaux sur le dark web. La détection de ces activités se heurte à trois défis techniques fondamentaux :

Homogénéisation au niveau du protocole : L'architecture de cellules de 512 octets fixes de Tor élimine les vecteurs de signature basés sur la taille, créant une homogénéité des caractéristiques que l'analyse de trafic standard ne peut pas facilement distinguer.
Qualité hétérogène des échantillons : Le chiffrement multicouche, les défenses de padding adaptatif et la gigue réseau entraînent une discriminabilité très variable selon les échantillons d'entraînement, rendant le traitement uniforme des données sous-optimal.
Déséquilibre extrême des classes : Dans le trafic périmétrique réel, les flux malveillants constituent souvent moins de 1 % à 5 % du trafic total. Les modèles de minimisation du risque empirique (ERM) standards, optimisés sur ces données, souffrent de chutes catastrophiques de rappel sur les comportements malveillants rares.

2. Méthodologie : Le Framework MBRD-Tor

L'article propose MBRD-Tor (Multi-scale Behavioral Representation and Data-centric refinement for Tor), un framework en trois étapes, centré sur les données, conçu pour déplacer l'attention de l'entraînement de classifieurs complexes vers l'amélioration de l'ingénierie de représentation et de la qualité des données d'entraînement.

Étape 1 : Apprentissage de Représentation Multi-échelle et Compression

Pour surmonter l'homogénéisation des cellules de taille fixe, le framework traite un flux Tor comme une séquence de cellules ( $n=50$ ), en extrayant trois attributs de métadonnées par cellule : l'intervalle inter-arrivée ( $\Delta t$ ), la position et la direction.

Embeddings Fusionnés : Trois embeddings complémentaires sont générés :
- Encodage Temporel : Temps inter-arrivées normalisés par logarithme et z-score.
- Encodage Positionnel : Fonctions sinusoïdales encodant l'ordre de la séquence.
- Encodage Directionnel : Représentation one-hot de la direction des cellules (entrante/sortante).
Contextualisation : Ces vecteurs sont combinés et enrichis avec des vecteurs de contexte local (fenêtre glissante) et global pour capturer les motifs directionnels, tels que le beaconing périodique.
Compression par Autoencodeur : Un autoencodeur feedforward à quatre couches compresse la représentation complète du flux en un espace latent compact ( $z \in \mathbb{R}^{64}$ ). Ce modèle est entraîné à l'aide d'une fonction de perte conjointe qui combine l'erreur de reconstruction avec une perte de classification auxiliaire pour garantir que l'espace latent conserve un pouvoir discriminatoire.

Étape 2 : Estimation de la Qualité et Raffinement des Données

Cette étape traite de la variance de la qualité des échantillons et du déséquilibre extrême des classes par une approche basée sur un ensemble.

Estimation de la Qualité par Ensemble : Cinq estimateurs d'anomalies et de densité complémentaires (Isolation Forest, Local Outlier Factor, One-Class SVM, Variational Autoencoder, et Masked Autoencoder for Density Estimation) sont ajustés sur les représentations latentes de chaque classe.
Pondération Adaptative : Les sorties de ces cinq modèles sont normalisées et agrégées en un « score de compatibilité » unifié. Ces scores sont convertis en poids d'entraînement normalisés par classe via une softmax contrôlée par température, permettant au modèle de prioriser les échantillons de haute qualité et de réduire le poids des données bruitées ou ambiguës.
Synthèse Multi-GAN : Pour contrer l'asymétrie extrême des classes sans brouiller les frontières de décision (un problème courant avec SMOTE), le framework entraîne trois GAN (Generative Adversarial Networks) structurellement distincts par classe :
- GAN-A (Superficiel) : Capture les distributions à grain grossier.
- GAN-B (Profond) : Capture les structures comportementales à grain fin.
- GAN-C (Résiduel) : Préserve le bruit d'entrée et stabilise les gradients.
Filtrage par Consensus Strict : Les échantillons synthétiques générés par les GAN sont soumis à un test d'acceptation strict. Seuls les vecteurs latents synthétiques dépassant un seuil de sécurité basé sur le consensus de l'ensemble sont injectés dans le pool d'entraînement, garantissant qu'ils restent « sur la variété » (on-manifold).

Étape aisseur 3 : Déploiement Agnostique au Classifieur

Le framework produit des embeddings latents validés qui sont « agnostiques au classifieur ». Cela permet aux opérateurs de sécurité d'intégrer divers classifieurs en aval (par exemple, des forêts de décision légères pour les appareils de bord ou des réseaux de neurones profonds pour les serveurs centraux) sans réentraîner le pipeline d'extraction de caractéristiques.

3. Contributions Clés

Signatures Comportementales Multi-échelles : Une méthode novatrice de fusion des embeddings de cellules temporels, positionnels et directionnels pour contourner les limitations de la taille fixe des paquets Tor.
Pondération d'Instance par Ensemble : Un mécanisme robuste utilisant cinq estimateurs hétérogènes pour calculer la compatibilité des échantillons, assurant la stabilité de l'entraînement même avec des données bruitées.
Synthèse GAN à Portillon de Consensus : Une approche de synthèse à multi-générateurs où les données synthétiques sont strictement filtrées par un consensus d'ensemble, empêchant l'introduction d'artefacts de dilution de frontière courants dans les techniques de suréchantillonnage standard.
Architecture Respectueuse de la Vie Privée : Le système opère uniquement sur des métadonnées observables (temps, position, direction) sans nécessiter d'inspection profonde de paquets (DPI) ou de déchiffrement, respectant ainsi les mandats internationaux de confidentialité.

4. Résultats Expérimentaux

Le framework a été évalué sur le jeu de données de malwares Tor de la CCS'22, qui contient du trafic authentifié provenant de 157 binaires malveillants et de flux de Tor Browser bénins.

Distribution Naturelle des Classes : Sous un ratio bénin-malveillant naturel (~6,5:1), MBRD-Tor a atteint un F1-score de 73,70 %. Cela représente une amélioration relative de 15,53 % par rapport au deuxième meilleur baseline (LightGBM) et surpasse de manière significative les autres modèles de deep learning et de machine learning traditionnels de pointe.
Déséquilibre Extrême des Classes : Dans un environnement simulé où le trafic malveillant ne représentait que 1 % du total, MBRD-Tor a maintenu un rappel de 21,1 % et un F1-score de 33,3 %. En revanche, les classifieurs génériques (incluant LightGBM et AN-Net) ont vu leur rappel chuter en dessous de 10 %, s'effondrant pratiquement sur la classe minoritaire.
Études d'Ablation :
- Le retrait de la couche de représentation multi-échelle (Étape 1) a entraîné une chute de 15,69 % du F1-score, confirmant la nécessité de capturer les dépendances temporelles-directionnelles.
- Le remplacement de la synthèse spécialisée par GAN par l'interpolation SMOTE standard a entraîné une chute de 7,76 % du F1-score et une perte significative de précision, démontrant la supériorité de la synthèse filtrée par consensus.

5. Signification et Revendications

L'article affirme que MBRD-Tor comble avec succès le fossé entre les modèles théoriques de deep learning et les contraintes pratiques de l'analyse du trafic Tor. Sa principale signification réside dans sa capacité à maintenir des capacités de détection élevées sous un déséquilibre extrême des classes (1 % de trafic malveillant) là où les modèles standards échouent.

En déplaçant l'accent de l'entraînement de classifieurs complexes vers l'amélioration de la qualité des données et de la représentation, le framework offre une solution modulaire qui est :

Robuste : Résiliente à l'homogénéisation des cellules Tor et au bruit du trafic chiffré.
Évolutive : La conception agnostique au classifieur permet un déploiement flexible à travers diverses contraintes matérielles (edge vs central).
Respectueuse de la vie privée : Elle détecte les menaces sans violer l'anonymat des utilisateurs par le déchiffrement ou l'inspection de la charge utile.
Sensible à la Nouveauté : Le score de compatibilité par ensemble permet au système de signaler des « anomalies inconnues » pour une inspection manuelle, fournissant un mécanisme de détection des menaces zero-day.

Les auteurs concluent que MBRD-Tor fournit un mécanisme de détection fiable et performant qui préserve les capacités critiques de détection de menaces dans des environnements où les modèles de deep learning standards souffrent d'un effondrement complet de la classe minoritaire.