🤖 machine learning

DQS: A Low-Budget Query Strategy for Enhancing Unsupervised Data-driven Anomaly Detection Approaches

Cet article introduit la stratégie de requête basée sur la dissimilarité (Dissimilarity-based Query Strategy, DQS), une nouvelle approche d'apprentissage actif qui améliore la détection d'anomalies de séries temporelles non supervisée en sélectionnant des échantillons diversifiés pour l'étiquetage par un oracle afin d'affiner la sélection du seuil, démontrant une performance supérieure dans des scénarios à faible budget malgré un étiquetage erroné potentiel.

Auteurs originaux : Lucas Correia, Jan-Christoph Goos, Thomas Bäck, Anna V. Kononova

Publié 2026-08-12

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Lucas Correia, Jan-Christoph Goos, Thomas Bäck, Anna V. Kononova

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous soyez le gardien d'une immense usine de machines vrombissantes. Chaque jour, des milliers de capteurs enregistrent le battement de cœur des machines : température, vibration, pression et vitesse. La plupart du temps, ces machines fonctionnent selon un rythme « nominal » (normal). Mais parfois, un engrenage glisse ou un roulement surchauffe, créant un bug étrange et « anomal ». Si vous attrapez ces bugs tôt, vous sauvez l'usine ; si vous les manquez, tout se casse. Le problème est que les données sont si vastes et complexes que les humains ne peuvent pas surveiller chaque seconde. C'est pourquoi nous utilisons des ordinateurs pour écouter les rythmes bizarres.

Mais voici le piège : les ordinateurs sont excellents pour repérer l'étrangeté, mais ils sont terribles pour savoir à quel point l'étrangeté est « trop étrange ». C'est comme un détecteur de fumée qui bipe à l'odeur du pain grillé mais reste silencieux pendant un incendie parce que vous ne lui avez jamais dit à quoi ressemble une vraie odeur de feu. Pour corriger cela, nous devons généralement montrer à l'ordinateur des exemples de machines « normales » et de machines « cassées » afin qu'il puisse apprendre la ligne de démarcation. Mais dans le monde réel, nous disposons rarement d'un tas d'exemples étiquetés de machines « cassées » prêts à l'emploi. Ce document vit dans un recoin de la science appelé détection d'anomalies non supervisée, où nous essayons de trouver les mauvais fruits sans avoir une liste préétablie de ce à quoi ressemblent les mauvais fruits. La grande question est la suivante : si nous ne pouvons pas tout étiqueter, comment enseigner à l'ordinateur juste assez pour qu'il réussisse sans dépenser une fortune en experts humains ?

Les auteurs de cet article, Lucas Correia et son équipe, ont décidé de s'attaquer à ce problème en mélangeant deux idées : l'apprentissage non supervisé (laisser l'ordinateur deviner par lui-même) et l'apprentissage actif (demander l'aide d'un expert humain uniquement quand cela est absolument nécessaire). Ils appellent leur nouvelle méthode DQS (Dissimilarity-based Query Strategy - Stratégie de requête basée sur la dissimilarité).

Considérez l'ordinateur comme un détective essayant de trouver un voleur dans une foule. Le détective possède un « score de suspicion » pour chaque personne. Si le score est trop élevé, la personne est un voleur ; s'il est bas, elle est innocente. Mais le détective ne sait pas où tracer la ligne. Habituellement, le détective se contente de deviner une ligne, ce qui mène souvent à des erreurs. Les auteurs suggèrent une méthode plus intelligente : au lieu de demander à l'expert humain de l'étiqueter des personnes au hasard, ou simplement de s'occuper des personnes que le détective juge les plus suspectes, le détective devrait interroger des personnes qui sont complètement différentes les unes des autres.

Voici comment fonctionne leur nouvelle stratégie, DQS : Imaginez que le détective ait une liste de « scores de suspicion » pour tout le monde. Pour choisir la prochaine personne à soumettre à l'expert humain, DQS examine les scores et demande : « Qui ici est le plus différent des personnes dont j'ai déjà interrogé l'expert ? » Ils utilisent un outil mathématique appelé Dynamic Time Warping (DTW - déformation temporelle dynamique) pour mesurer cette « différence ». Vous pouvez considérer le DTW comme un moyen de comparer deux chansons qui pourraient être jouées à des vitesses différentes. Même si une chanson est rapide et l'autre lente, le DTW peut déterminer s'il s'agit de la même mélodie ou de mélodies totalement différentes. DQS utilise cela pour trouver des scores d'anomalie aussi différents que possible de ceux déjà vérifiés. En choisissant les échantillons les plus diversifiés, les plus « étrangement différents » à montrer à l'humain, le détective apprend la ligne de démarcation beaucoup plus vite et avec plus de précision.

L'article teste cette idée sur un ensemble de données appelé PATH, qui simule le comportement complexe et changeant du moteur d'une voiture au fil du temps. Ils ont comparé DQS à trois autres façons de demander de l'aide :

Aléatoire (Random) : Choisir des personnes à interroger en lançant un dé.
Top : Ne demander qu'à propos des personnes ayant les scores de suspicion les plus élevés.
Incertitude (Uncertainty) : Interroger des personnes dont les scores se situent juste sur le bord de la prédiction actuelle.

Les résultats, mesurés par un score appelé F1 (qui équilibre la détection de tous les mauvais fruits sans trop crier au loup), ont montré des choses intéressantes. Lorsque l'expert humain dispose d'un petit budget (c'est-à-dire qu'il ne peut étiqueter que quelques échantillons, comme 1 ou 5), DQS est le grand vainqueur. Il trouve bien mieux le seuil que les autres méthodes. Cependant, les auteurs ont également testé ce qui se passe si l'expert humain fait des erreurs (mauvais étiquetage). Ils ont simulé des scénarios où l'expert se trompait 10 %, 20 % ou même 30 % du temps. Dans ces situations désordonnées et réalistes, DQS s'en est bien sorti, mais la stratégie « Top » (interroger les plus suspects) s'est avérée un peu plus tenace et robuste face aux erreurs de l'humain.

Crucialement, l'article montre qu'aucune stratégie unique n'est parfaite dans toutes les situations. DQS n'est pas une solution miracle qui bat tout le monde pour toujours. En fait, lorsque le budget est énorme (10 échantillons), les autres méthodes rattrapent parfois ou battent même DQS sur des jours spécifiques. Mais la découverte la plus importante est que n'importe laquelle de ces stratégies de demande intelligente est meilleure que de simplement deviner la ligne sans demander personne. Même lorsque l'expert humain commet des erreurs, utiliser une stratégie pour choisir qui interroger conduit toujours à de meilleurs résultats que si l'ordinateur essayait de deviner seul.

Les auteurs concluent que si vous avez la possibilité de demander l'aide d'un expert humain, vous devriez absolument le faire, mais vous devez être intelligent sur le choix de qui interroger. Si vous avez très peu de temps ou d'argent pour l'étiquetage, utilisez la méthode DQS pour choisir les échantillons les plus diversifiés. Si vous craignez que votre expert ne se fatigue et ne fasse des erreurs, la stratégie « Top » pourrait être plus sûre. L'article ne prétend pas avoir résolu le problème de la détection d'anomalies pour toujours, mais il suggère qu'en étant stratégique dans notre façon de demander de l'aide, nous pouvons nous rapprocher beaucoup plus de la réponse parfaite sans avoir besoin d'une montagne de données étiquetées.

Résumé Technique : DQS – Une stratégie de requête à faible budget pour améliorer les approches de détection d'anomalies non supervisées basées sur les données

1. Énoncé du problème

Les approches véritablement non supervisées pour la détection d'anomalies dans les séries temporelles sont rares dans la littérature. Les méthodes existantes souffrent souvent de seuils mal définis, ce qui entrave considérablement les performances de détection. Bien que certaines approches se revendiquent non supervisées, elles reposent fréquemment sur des sous-ensembles de données étiquetées pour le calibrage ou l'ajustement des hyperparamètres, une ressource souvent indisponible dans les scénarios réels. Même lorsque des méthodes véritablement non supervisées existent (par exemple, en utilisant un Autoencodeur Variationnel Temporel, TeVAE), le processus de sélection du seuil reste un goulot d'étranglement critique. Correia et al. [12] ont démontré un écart de performance significatif entre le seuillage non supervisé et un seuil optimal, indiquant un potentiel inexploité.

De plus, la littérature existante sur l'apprentissage actif dans ce domaine suppose généralement un « oracle parfait » (précision d'étiquetage de 100 %), une hypothèse idéalisée qui ignore la réalité de l'erreur humaine, de la fatigue et de la difficulté d'étiqueter certains échantillons. Il existe un manque de recherche investiguant comment les taux d'erreur d'étiquetage impactent la performance de la détection d'anomalies lors de l'utilisation de l'apprentissage actif pour la sélection de seuils.

2. Méthodologie

2.1 Cadre d'apprentissage actif

L'approche proposée intègre l'apprentissage actif dans un pipeline de détection d'anomalies non supervisé existant. Le système opère en boucle impliquant :

L'Oracle : Un expert du domaine qui étiquette les échantillons non étiquetés comme nominaux ou anormaux.
Le Modèle : Un détecteur d'anomalies non supervisé (spécifiquement TeVAE) entraîné sur des données non étiquetées.
La Stratégie de Requête : Un mécanisme pour sélectionner quels échantillons d'un ensemble de candidats doivent être envoyés à l'oracle pour étiquetage, contraint par un budget de requête $B$ .
La Stratégie de Feedback : Le processus d'utilisation des nouvelles données étiquetées pour affiner le seuil de décision, améliorant ainsi la performance de détection.

2.2 Stratégie de Requête Basée sur la Dissimularité (DQS)

La contribution centrale de ce travail est la Stratégie de Requête Basée sur la Dissimularité (DQS). Il s'agit d'une stratégie non paramétrique conçue pour maximiser la diversité des échantillons interrogés sans nécessiter de paramétrage préalable.

Mécanisme : La DQS évalue la similitude entre les scores d'anomalie de différentes séries temporelles en utilisant la Dynamic Time Warping (DTW). Contrairement à des métriques telles que l'Erreur Quadratique Moyenne, la DTW peut gérer des séquences de longueurs variables et prend en compte le désalignement temporel.
Logique de Sélection :
1. Initialisation : Pour la première requête d'un cycle, un échant sample est sélectionné aléatoirement dans l'ensemble de scores candidats ( $C_{as}$ ).
2. Maximisation de la Diversité : Pour les requêtes suivantes au sein d'un cycle, l'algorithme identifie l'échantillon candidat qui est le plus dissimilaire au échantillon le plus similaire déjà présent dans l'ensemble de requête ( $Q_{as}$ ).
3. Processus :
  - Calculer la distance DTW entre tous les candidats dans $C_{as}$ et tous les échantillons dans $Q_{as}$ .
  - Identifier le candidat ( $o$ ) dans $C_{as}$ qui possède la distance minimale avec n'importe quel échantillon de $Q_{as}$ (le « plus similaire »).
  - Identifier le candidat ( $r$ ) dans $C_{as}$ qui possède la distance maximale avec $o$ (le « plus dissimilaire »).
  - Déplacer $r$ vers $Q_{as}$ .
Affinement du Seuil : Une fois que le budget $B$ est épuisé pour un cycle, les échantillons nouvellement étiquetés dans $Q_{as}$ sont utilisés pour effectuer une recherche par grille pour un seuil optimal $\tau$ , remplaçant le seuil non supervisé standard ( $\tau_{us}$ ).

2.3 Configuration Expérimentale

Jeu de Données : Le jeu de données PATH, représentant la dynamique de la chaîne cinématique automobile, a été utilisé. Il se compose de séries temporelles multivariées avec des anomalies non triviales.
Simulation de Conditions Réelles : Les données ont été divisées en fenêtres temporelles croissantes (1 jour à 2 28 jours) pour simuler une accumulation progressive de données.
Simulation d'Erreur d'Étiquetage : Pour tester la robustesse, les étiquettes de vérité terrain ont été inversées selon une distribution de Bernoulli avec des probabilités d'erreur d'étiquetage ( $p_m$ ) de 0,1, 0,2 et 0,3.
Lignes de Base (Baselines) :
- Seuil Non Supervisé ( $\tau_{us}$ ) : Erreur maximale à partir de l'ensemble de validation.
- Seuil Hypotétique Optimal ( $\tau_{best}$ ) : Le seuil optimal trouvé via une recherche par grille sur l'ensemble de test (inobservable en pratique).
- Stratégie de Requête Aléatoire (RQS) : Sélection aléatoire.
- Stratégie de Requête Basée sur le Top (TQS) : Sélection des échantillons présentant les scores d'anomalie les plus élevés (basée sur l'incertitude dans certaines littératures).
- Stratégie de Requête Basée sur l'Incertitude (UQS) : Sélection des échantillons les plus proches du seuil actuel.

3. Principales Contributions

Nouvelle Stratégie de Requête (DQS) : Introduction d'une stratégie de requête non paramétrique qui exploite la DTW pour maximiser la diversité des échantillons dans le contexte de la détection d'anomalies sur séquences discrètes.
Analyse de l'Erreur d'Étiquetage : Une méthodologie de test novatrice qui prend explicitement en compte les probabilités d'erreur d'étiquetage de l'oracle, comblant un vide dans la littérature où l'on suppose souvent un étiquetage parfait.
Intégration de l'Apprentissage Actif : Démonstration d'un cadre pratique combinant l'apprentissage actif avec des modèles non supervisés spécifiquement pour affiner la sélection du seuil, plutôt que de réentraîner le modèle lui-même.

4. Résultats

4.1 Performance vs Budget de Requête

Petits Budgets ( $B < 10$ ) : La DQS surpasse systématiquement la RQS, la TQS et l'UQS à travers diverses divisions temporelles (1 à 28 jours). Elle atteint des scores F1 nettement plus proches du seuil hypothétique optimal ( $\tau_{best}$ ) que le seuil non supervisé de base.
Budgets Plus Importants ( $B = 10$ ) : La DQS reste compétitive, égalant ou surpassant souvent les autres stratégies, bien que la TQS montre de fortes performances dans certaines divisions spécifiques.
Tendance Générale : Toutes les stratégies de requête surpassent le seuil non supervisé ( $\tau_{us}$ ) une fois que le sous-ensemble d'entraînement devient assez grand pour que le modèle apprenne des représentations significatives.

4.2 Impact de l'Erreur d'Étiquetage

Robustesse : Bien que la DQS soit la plus performante dans les scénarios à faible budget et étiquetage propre, la TQS a démontré une plus grande robustesse face à des taux d'erreur d'étiquetage plus élevés ( $p_m = 0,2, 0,3$ ).
Sensibilité de la DQS : La performance de la DQS se dégrade plus notablement avec l'augmentation des taux d'erreur d'étiquetage par rapport à la TQS, particulièrement dans les divisions temporelles tardives.
Constat Global : Malgré l'erreur d'étiquetage, toutes les stratégies d'apprentissage actif surpassent le seuil non supervisé pur ( $\tau_{us}$ ). Même avec un taux d'erreur de 30 %, les seuils basés sur l'apprentissage actif produisent de meilleurs scores F1 que le seuil non supervisé de base.

5. Signification et Revendications

Les auteurs affirment que ce travail fournit une solution pratique pour les scénarios où les données étiquetées sont rares mais où un oracle (expert humain) est disponible pour des requêtes limitées. La signification réside dans :

Efficacité à Faible Budget : La DQS est particulièrement efficace lorsque le coût de l'étiquetage est élevé (petit budget), maximisant le gain d'information par requête en assurant une sélection d'échantillons diversifiée.
Faisabilité de l'Apprentissage Actif : L'étude valide qu'il est recommandé d'employer un seuil basé sur l'apprentissage actif dès que cela est possible, car il surpasse systématiquement le seuillage non supervisé, même en présence d'un étiquetage imparfait.
Évaluation Réaliste : En introduisant des probabilités d'erreur d'étiquetage, l'article offre une évaluation plus réaliste des stratégies d'apprentissage actif dans la détection d'anomalies de séries temporelles, allant au-delà de l'hypothèse idéalisée de l'« oracle parfait ».

L'article conclut que bien qu'aucune stratégie unique ne domine toutes les catégories (la DQS excelle dans les scénarios à faible budget/étiquetage propre ; la TQS dans les scénarios à fort taux d'erreur), l'intégration de l'apprentissage actif pour la sélection du seuil est une approche viable et supérieure aux méthodes purement non supervisées. Des travaux futurs sont suggérés pour se concentrer sur la standardisation des procédures de benchmarking et le développement de stratégies de requête qui équilibrent l'efficacité à faible budget et la robustesse face à l'erreur d'étiquetage.