Robust Unsupervised Network Intrusion Detection via Federated Learning with Selective Aggregation under Anomalous Sample Contamination

Imaginez l'internet comme une ville immense et bouillonnante où des milliards de petits appareils — réfrigérateurs connectés, caméras de surveillance et capteurs d'usine — discutent entre eux chaque seconde. C'est l'Internet des Objets (IoT). Bien que cette connectivité facilite la vie, elle transforme chaque appareil en une porte d'entrée potentielle pour les cambrioleurs numériques. Pour garder la ville en sécurité, des gardiens du réseau appelés Systèmes de Détection d'Intrusion Réseau (NIDS) scannent constamment le trafic à la recherche de comportements suspects. Traditionnellement, ces gardiens apprennent ce qu'est la « normalité » en étudiant une bibliothèque d'exemples étiquetés, comme une académie de police possédant un dossier sur chaque criminel connu. Mais dans le monde réel, de nouveaux types de malwares apparaissent plus vite que quiconque ne peut les étiqueter, et demander une liste parfaite et propre de trafic « bon » revient à demander une bibliothèque sans aucune faute de frappe.

C'est là qu'intervient l'« apprentissage non supervisé ». Au lieu d'avoir besoin d'un enseignant pour désigner les méchants, ces systèmes tentent d'apprendre par eux-mêmes la forme du comportement normal et de signaler tout ce qui semble étrange. Cependant, il y a un piège : et si la bibliothèque elle-même était déjà contaminée ? Et si le trafic « normal » que le système étudie incluait secrètement quelques appareils infectés ? Si le système apprend à partir de ces données sales, il pourrait commencer à penser que le malware est en fait normal, laissant la ville grande ouverte. L'article que vous allez lire s'attaque à ce problème précis : comment construire un garde du corps qui reste vigilant même lorsque les données d'entraînement sont secrètement empoisonnées par quelques acteurs malveillants, en utilisant une astuce ingénieuse impliquant le travail d'équipe et un peu de travail de détective mathématique.

---

Le puits empoisonné et la solution du travail d'équipe

Dans le monde de la cybersécurité, imaginez que vous essayez d'apprendre à un robot à reconnaître une fausse pièce. Vous lui donnez un seau de pièces à étudier, en espérant qu'elles soient toutes réelles. Mais, à votre insu, quelques mauvaises pièces se sont glissées dedans. Si le robot étudie trop de ces faux, il pourrait commencer à penser : « Oh, cette forme bizarre est en fait normale ! » et échouer à détecter les vrais faux plus tard. C'est le problème de la « contamination par échantillons anormaux ». Dans le monde réel, lorsque nous collectons le trafic réseau de milliers d'appareils IoT pour entraîner notre IA de sécurité, certains de ces appareils pourraient déjà être infectés. Nous ne pouvons pas facilement dire lesquels, donc les données d'entraînement « propres » que nous pensons avoir sont en réalité un mélange de bon et de mauvais.

Les auteurs de cet article, Shohei Kamiguchi et Takayuki Nishio, proposent une solution appelée FLANDRE (Federated Learning-assisted Anomalous Node Detection & REmoval). Leur grande idée est d'arrêter d'essayer de mélanger toutes les données dans un seul et même seau, et de plutôt laisser les appareils entraîner leurs propres petits modèles localement, puis de partager uniquement leurs « leçons apprises » (mises à jour mathématiques) avec un serveur central. Cette approche est appelée Apprentissage Fédéré (Federated Learning).

Habituellement, on pense que l'apprentissage fédéré concerne uniquement la confidentialité — garder les données hors d'un serveur central. Mais les auteurs ont découvert un super-pouvoir secret dans cette méthode. Ils ont réalisé que dans une équipe de 100 appareils, si seulement quelques-uns (disons 10 %) sont infectés, les données « mauvaises » sont une infime minorité. Dans l'apprentissage fédéré standard, le serveur central fait la moyenne des mises à jour de chacun. Parce que les appareils infectés sont très peu nombreux, leurs leçons bizarres et « empoisonnées » sont noyées par les centaines d'appareils « bons ». C'est comme essayer de changer la saveur d'une grande marmite de soupe en y ajoutant une seule goutte de sauce piquante ; la soupe reste majoritairement douce. Les auteurs ont décidé de tirer parti de cette faiblesse du « rejet de la minorité » pour en faire une force.

Le jeu de détective : Trouver les pommes pourries

Cependant, faire simplement la moyenne des mises à jour ne suffit pas si les mauvais appareils sont très bruyants ou si la contamination est élevée. Ainsi, FLANDRE ajoute une deuxième couche de défense : un mécanisme d'Agrégation Sélective. Imaginez le serveur central comme un détective tenant une carte de la position de chacun.

Voici comment le détective fonctionne :

1. La mise en chauffe : D'abord, le serveur laisse tout le monde s'entraîner pendant un certain temps.
2. Le contrôle de distance : Le serveur observe à quel point le nouveau modèle de chaque appareil a changé par rapport au modèle « moyen » du groupe.
3. Le regroupement (Clustering) : En utilisant un outil mathématique appelé algorithme d'Espérance-Maximisation (EM), le serveur regroupe les appareils en deux clusters basés sur leur distance par rapport au centre.
   • Cluster A : Les « Bons Garçons ». Leurs modèles sont proches de la moyenne car ils apprennent tous à partir d'un trafic normal.
   • Cluster B : Les « Mauvais Garçons ». Leurs modèles se sont éloignés car ils essaient d'apprendre à partir de données infectées et bizarres.
4. La coupe : Le serveur ignore simplement les « Mauvais Garçons » (Cluster B) et n'utilise que les mises à jour des « Bons Garçons » pour mettre à jour le modèle global principal.

C'est comme un enseignant qui remarque que quelques élèves essaient de résoudre un problème de mathématiques en utilisant une méthode complètement différente (et erronée). Au lieu de laisser ces quelques élèves confondre toute la classe, l'enseignant leur demande discrètement de rester en dehors de la discussion de groupe, garantissant que la réponse finale soit basée uniquement sur la logique correcte.

Ce qu'ils ont trouvé en laboratoire

Les auteurs ont testé cette idée sur trois jeux de données de cybersécurité célèbres : ToN IoT, CSE-CIC-IDS2018 et NF-UQ-NIDS-v2. Ils ont simulé un scénario où 10 % à 40 % du total des données d'entraînement étaient réellement malveillantes, cachées à l'intérieur des jeux de données de quelques appareils compromis.

Les résultats ont été impressionnants. Lorsqu'ils ont comparé FLANDRE à d'autres méthodes :

• Entraînement Centralisé Standard : Lorsqu'ils ont mélangé toutes les données ensemble (même les parties mauvaises) et entraîné un seul grand modèle, la performance a chuté de manière significative. Par exemple, sur le jeu de données IDS2018, le score F1 (une mesure de précision) est tombé à 0,590.
• Concurrents de pointe : Ils ont testé contre une méthode de haut niveau appelée LOE-S, qui tente de séparer mathématiquement les bonnes et les mauvaises données. LOE-S a obtenu un score de 0,586 sur ce même jeu de données, soit à peine mieux que l'approche standard.
• FLANDRE : Leur nouvelle méthode a obtenu un score de 0,823 sur IDS2018, 0,969 sur ToN IoT et 0,838 sur NF-UQ-NIDS.

Crucialement, les scores de FLANDRE étaient presque identiques au scénario « Idéal » — un monde parfait où les données d'entraînement étaient 100 % propres dès le départ. Sur le jeu de données ToN IoT, FLANDRE n'était qu'à 0,004 point du score idéal, alors que les autres méthodes étaient loin derrière. Cela suggère qu'en filtrant les clients suspects, FLANDRE peut essentiellement « désempoisonner » le processus d'entraînement.

Ils ont également testé comment le système gère différents niveaux d'infection. Même lorsque la quantité de mauvaises données dans le réseau augmentait, FLANDRE restait stable. Curieusement, ils ont constaté que si les appareils infectés contenaient une quantité très élevée de mauvaises données (comme 80 % de leurs fichiers locaux étant des malwares), le système fonctionnait toujours bien, mais si l'infection était très subtile, une variante spécifique de leur méthode (appelée FLANDRE-R, qui utilise une mesure différente) avait un peu plus de mal. Cependant, la méthode principale FLANDRE est restée robuste sur l'ensemble du spectre.

L'essentiel à retenir

Cet article ne prétend pas avoir résolu tous les problèmes de cybersécurité, mais il offre une façon ingénieuse et pratique de gérer un problème très réel : l'entraînement d'une IA sur des données qui pourraient être secrètement corrompues. En utilisant l'apprentissage fédéré non seulement pour la confidentialité, mais aussi pour supprimer naturellement l'influence de quelques acteurs malveillants, et en ajoutant ensuite une étape de « détective » pour éjecter les anomalies, les auteurs ont créé un système qui apprend ce que la « normalité » signifie réellement, même quand la salle de classe est pleine de tricheurs.

Dans leurs simulations, FLANDRE a prouvé qu'il n'est pas nécessaire de savoir exactement quels appareils sont infectés pour protéger le réseau. Il suffit de laisser la majorité voter, et d'avoir le courage d'ignorer la minorité bruyante. C'est un rappel que parfois, la meilleure façon de trouver la vérité est de cesser d'écouter ceux qui essaient de vous embrouiller.