🤖 machine learning

Learning Hyperspherical Time-Frequency Representations for Time-Series Out-of-Distribution Detection

Cet article propose un cadre d'apprentissage de représentation temps-fréquence hypersphérique utilisant des objectifs de von Mises-Fisher pour améliorer la détection de données hors distribution dans les séries temporelles, démontrant des gains de performance constants par rapport à des bases de référence solides à travers les archives UCR et UEA.

Auteurs originaux : Willian T. Lunardi, Samridha Shrestha, Martin Andreoni

Publié 2026-06-01

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Willian T. Lunardi, Samridha Shrestha, Martin Andreoni

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous êtes un agent de sécurité dans un club très exclusif. Votre travail consiste à laisser entrer uniquement les personnes qui en font partie (les invités « In-Distribution » ou ID) et à éconduire quiconque ne correspond pas à l'ambiance (les étrangers « Out-of-Distribution » ou OOD).

Dans le monde de l'informatique, la plupart des agents de sécurité sont excellents pour repérer les inconnus sur des photos (vision) ou dans du texte (langage). Mais lorsqu'il s'agit de données de séries temporelles — ce qui n'est rien d'autre qu'un flux de nombres changeant au fil du temps, comme un moniteur cardiaque, les cours de la bourse ou le mouvement d'un robot — ces agents se confonde souvent. Ils peuvent laisser entrer un étranger parce qu'il ressemble superficiellement aux invités, ou ils peuvent expulser un véritable invité parce qu'il porte un chapeau légèrement différent.

Ce document présente un nouveau système de sécurité appelé HyperTF, conçu spécifiquement pour débusquer ces étrangers des séries temporelles. Voici comment il fonctionne, décomposé en concepts simples :

1. Le Problème : Pourquoi les gardes actuels échouent

Les données de séries temporelles sont complexes. Un battement de cœur d'une personne en bonne santé à l'hôpital est différent d'un battement de cœur d'une personne en bonne santé à la maison, même si les deux sont « normaux ». Les systèmes actuels échouent souvent car ils ne comprennent pas la structure profonde de ces signaux. Ils traitent les données comme une simple liste plate de chiffres plutôt que comme une histoire complexe avec un début, un milieu et une fin.

2. La Solution : Un « Globe » plutôt qu'une carte plate

Les auteurs ont décidé de ne plus regarder les données sur une carte plate, mais de les placer sur un globe (une hypersphère).

L'ancienne méthode : Imaginez que vous essayiez de trier différents fruits sur une longue table plate. Des fruits similaires pourraient se retrouver éloignés les uns des autres si la table est désordonnée.
La méthode HyperTF : Imaginez que vous fassiez rouler tous les fruits sur un globe géant. Vous regroupez tous les « pommes » ensemble en un point du globe, tous les « oranges » en un autre, et ainsi de suite.
La Magie : En forçant les données sur ce globe, l'ordinateur apprend que les « pommes » sont toujours proches des autres « pommes », peu importe la manière dont les données ont été enregistrées. Si une nouvelle donnée atterrit au milieu de l'océan entre les groupes de fruits, le système sait immédiatement : « Ceci n'est ni une pomme ni une orange. C'est un étranger ! »

3. L'approche à « deux yeux »

Pour s'assurer que l'agent de sécurité voit tout clairement, HyperTF observe les données à travers deux lentilles différentes en même temps :

La Lentille Temporelle : Elle observe le signal au fur et à mesure qu'il se déroule, seconde après seconde (comme regarder un film).
La Lentille de Fréquence : Elle écoute la « hauteur » et le « rythme » du signal (comme regarder les notes musicales dans une chanson).

Pensez à l'écoute d'une chanson. La Lentille Temporelle entend les paroles et la mélodie au fur et à mesure qu'elles sont jouées. La Lentille de Fréquence entend les basses, les aigus et les instruments spécifiques utilisés. En combinant ces deux vues, le système obtient une compréhension beaucoup plus riche de ce à quoi ressemble un signal « normal ».

4. L'Entraînement : Apprendre avec des amis « atypiques »

Pour devenir vraiment doué pour repérer les étrangers, le système est entraîné avec une astuce spéciale. Les auteurs montrent parfois au système un tas de données « fausses » ou « étranges » (appelées outliers auxiliaires) pendant l'entraînement.

L'Analogie : Imaginez entraîner un garde en lui montant des photos de personnes qui n'ont pas leur place au club (comme des gens en costume de clown ou des personnes portant des équipements de chantier).
Le Résultat : Le garde apprend exactement où se trouve la « limite du club ». Lorsqu'un véritable étranger se présente plus tard, le garde n'hésite pas. Le papier a découvert que l'utilisation d'une technique de mélange spéciale (appelée MixOE) pour créer des exemples de « étrangers » encore plus diversifiés rendait le garde encore plus affûté.

5. Les Résultats : Un meilleur garde

Les auteurs ont testé leur nouveau système sur une vaste collection de données de séries temporelles (les archives UCR et UEA), qui incluent tout, des moniteurs cardiaques aux mouvements de robots.

Le Bulletin de Notes : Ils ont comparé HyperTF aux meilleurs agents de sécurité existants.
Le Verdict : HyperTF a systématiquement débusqué plus d'étrangers et en a laissé passer moins. Il était particulièrement efficace pour repérer les étrangers qui étaient très différents des invités normaux (les cas « far-OOD »).
Aucun Compromis : Généralement, rendre un système meilleur pour repérer les étrangers le rend moins performant pour reconnaître les vrais invités. Mais HyperTF a réussi à devenir meilleur pour repérer les étrangers sans devenir moins bon pour reconnaître les vrais invités.

Résumé

En résumé, ce document a construit un agent de sécurité plus intelligent pour les données temporelles. Au lieu de simplement regarder les données sur une ligne droite, il les enroule sur un globe, les observe à travers deux lentilles différentes (temps et fréquence) et l'entraîne avec un mélange diversifié d'« étrangers ». Le résultat est un système bien plus apte à savoir quand quelque chose n'est pas à sa place, ce qui est crucial pour les systèmes critiques en matière de sécurité, comme les moniteurs médicaux ou les machines autonomes.

Résumé Technique : Apprentissage de Représentations Temps-Fréquence Hypersphériques pour la Détection de Hors-Distribution de Séries Temporelles

Énoncé du Problème
La détection de hors-distribution (OOD - out-of-distribution) pour les données de séries temporelles reste nettement moins explorée que dans les domaines de la vision et du langage. Les approches existantes, souvent adaptées de benchmarks basés sur l'image, échouent fréquemment à traiter la nature unique des décalages de distribution dans les séries temporelles. Contrairement aux données échangeables ou spatialement indexées, les observations de séries temporelles impliquent des dépendances temporelles structurées, des caractéristiques dans le domaine fréquentiel et des processus de mesure étroitement couplés à un matériel de détection et à des protocoles d'acquisition spécifiques. Par conséquent, les décalages de distribution dans les séries temporelles reflètent souvent des changements combinés dans le processus sous-jacent et dans la chaîne de mesure, conduisant à des différences systématiques dans la structure temporelle ou spectrale. Les protocoles d'évaluation actuels, qui reposent souvent sur des divisions intra-jeu de données par classes disjointes, ne parviennent pas à capturer ces décalages inter-environnements, brouillant la distinction entre la reconnaissance en ensemble ouvert (open-set recognition) et la véritable détection OOD.

Méthodologie : HyperTF
Les auteurs proposent HyperTF, un cadre d'apprentissage de représentations hypersphériques conçu pour induire une structure conditionnelle à la classe sur la sphère unité pour une détection OOD robuste. La méthodologie intègre trois composantes clés :

Représentations Hypersphériques : Le cadre modélise les caractéristiques conditionnelles à la classe comme résidant sur une sphère unité ( $S^{d-1}$ ), en utilisant un objectif basé sur la vraisemblance de von Mises–Fisher (vMF). Sous ce modèle, la distribution conditionnelle d'un vecteur de caractéristiques normalisé $z$ étant donné une classe $c$ est définie par une direction prototype $\mu_c$ et un paramètre de concentration $\kappa$ . La classification est pilotée par la similitude angulaire, et la détection OOD découle naturellement de la géométrie de ces représentations, où les échantillons OOD sont censés se situer loin des prototypes de classes appris.
Architecture Duale Temps-Fréquence : Pour capturer les aspects complémentaires des séries temporelles, HyperTF utilise une architecture à double flux.
- Vue Temporelle : La séquence d'entrée est projetée et traitée directement.
- Vue Fréquentielle : L'entrée est transformée via une transformée de Fourier rapide réelle (rFFT) suivie d'une mise à l'échelle logarithmique de l'amplitude.
- Alignement : Les deux vues sont traitées par des encodeurs spécifiques au domaine (partageant l'architecture mais avec des paramètres distincts) et sont projetées vers un espace hypersphérique partagé via des têtes de projection supervisées. Un régularisateur de cohérence cross-domaine ( $L_{CD}$ ) impose un alignement angulaire entre les plongements temporels et fréquentiels, garantissant que le modèle encode à la fois la dynamique temporelle et les caractéristiques spectrales au sein d'un espace géométrique unifié.
Objectif d'Entraînement : Le modèle minimise une fonction de perte composite :
$\mathcal{L} = \mathcal{L}_{TF} + \lambda_{CD} \mathcal{L}_{CD} + \lambda_{AX} \mathcal{L}_{AX}$
- $\mathcal{L}_{TF}$ : Une perte de classification hypersphérique supervisée (entropie croisée sur la sphère) appliquée indépendamment aux branches temporelle et fréquentielle.
- $\mathcal{L}_{CD}$ : Un terme de cohérence cross-domaine minimisant la distance angulaire entre les plongements temps et fréquence.
- $\mathcal{L}_{AX}$ : Un régulariseur contrastif auxiliaire optionnel qui exploite des données auxiliaires de hors-distribution non étiquetées pour façonner la géométrie de la représentation près de la frontière de la distribution intra-classe (ID), empêchant l'effondrement et améliorant la séparation.

Contributions Clés

Cadre Hypersphérique : L'article introduit une approche fondée sur des principes pour la détection OOD de séries temporelles qui induit une structure conditionnelle à la classe sur la sphère unité via une formulation vMF, allant au-delà des espaces de plongement euclidiens standards.
Architecture Duale : Une architecture novatrice qui apprend des représentations alignées à partir de vues temporelles et spectrales, couplées par une géométrie de décision hypersphérique partagée et un régularisateur de cohérence cross-domaine.
Évaluation à Grande Échelle : Les auteurs mènent des expériences approfondies sur l'ensemble des archives de séries temporelles UCR (univariées) et UEA (multivariées) selon un protocole rigoureux de cross-dataset. Ce protocole traite chaque jeu de données comme étant ID à tour de rôle, les autres servant de OOD, distinguant ainsi les scénarios de "proche-OOD" (même modalité) et de "loin-OOD" (modalité différente).

Résultats Expérimentaux
Évalué contre des bases solides incluant des méthodes post-hoc (MSP, Mahalanobis, Center Loss) et des méthodes de phase d'entraînement (SimCLR, SSD+, KNN+, CIDER), HyperTF démontre des améliorations constantes :

Performance : HyperTF atteint des résultats de l'état de l'art dans les configurations proche-OOD et loin-OOD à travers les archives UCR et UEA. Notamment, il surpasse significativement les bases sous le score Mahalanobis++ (Maha++), atteignant un FPR@95 de 1,90 % sur l'UCR proche-OOD et 4,21 % sur l'UEA proche-OOD (avec données auxiliaires).
Classification ID : La méthode améliore la robustesse OOD sans sacrifier la précision de la classification intra-classe, atteignant des scores F1 de 82,53 % (UCR) et 81,74 % (UEA), surpassant la base CIDER.
Données Auxiliaires : L'inclusion de données auxiliaires de hors-distribution, particulièrement lorsqu'elles sont augmentées avec MixOE, améliore davantage les performances de détection dans les régimes de couverture limitée, réduisant le FPR@95 par des marges significatives dans les scénarios loin-OOD.
Ablation : Des études d'ablation étape par étape confirment que la combinaison de la perte hypersphérique, du traitement dual et de la cohérence FFT produit les meilleures performances, la formulation hypersphérique apportant le gain le plus important par rapport aux bases softmax euclidiennes standards.

Signification et Revendications
L'article affirme que la modélisation conjointe de structures temporelles et spectrales complémentaires au sein d'un espace de plongement géométrique partagé fournit une base robuste pour la détection OOD de séries temporelles sous des décalages de distribution réalistes. Les auteurs soulignent que leurs conclusions mettent en évidence la nécessité d'évaluer les méthodes OOD de séries temporelles au-delà des simples divisions de labels intra-jeu de données. Au lieu de cela, ils préconisent des configurations de benchmark qui reflètent les variations de déploiement concernant les conditions de détection, les domaines et les sources de données. Ce travail suggère que les représentations hypersphériques, qui imposent naturellement une séparation et une compacité angulaires, sont particulièrement bien adaptées pour gérer les décalages de distribution complexes et multimodaux inhérents aux données de séries temporelles.