AnomalyMatch: Discovering Rare Objects of Interest with Semi-supervised and Active Learning

Résumé Technique : AnomalyMatch

Énoncé du Problème
L'identification des anomalies — des valeurs aberrantes rares et inhabituelles — dans les jeux de données d'images à grande échelle est un défi critique en astronomie et en vision par ordinateur. Alors que les observatoires de nouvelle génération comme Euclid et l'Observatoire Vera C. Rubin vont libérer des volumes de données sans précédent (des milliards de galaxies), la rareté des exemples étiquetés pour les objets rares (souvent < 0,1 % d'un ensemble de données) rend les méthodes traditionnelles d'apprentissage supervisé infaisables. Les approches existantes se heurtent à des obstacles importants : les méthodes non supervisées peinent souvent face à la complexité des données d'images de haute dimension, tandis que les méthodes supervisées nécessitent de grands ensembles de données étiquetées qui n'existent pas pour de nombreuses morphologies rares. De plus, les initiatives de science citoyenne, bien que précieuses, font face à des difficultés pour définir des critères d'anomalie cohérents et ne peuvent pas passer à l'échelle pour inspecter manuellement les vastes volumes de données des relevés modernes. Le problème central est de développer un cadre évolutif et efficace capable de détecter des anomalies rares avec un minimum de données étiquetées initiales, tout en exploitant l'abondance de données non étiquetées et en intégrant le retour d'expérience humain pour affiner la détection.

Méthodologie : AnomalyMatch
Les auteurs présentent AnomalyMatch, un cadre de détection d'anomalies semi-supervisé conçu pour traiter la détection d'anomalies comme un problème de classification binaire fortement déséquilibré (« normal » contre « anomalie »). La méthodologie intègre trois composantes principales :

1. Apprentissage Semi-Supervisé (FixMatch) : La stratégie de formation centrale adapte l'algorithme FixMatch (Sohn et al. 2020). Elle utilise un petit ensemble de données étiquetées ($D_L$) et un grand réservoir de données non étiquetées ($D_U$). Le modèle, basé sur un backbone EfficientNet (spécifiquement EfficientNetLite0), est entraîné à l'aide d'une fonction de perte combinée :

   • Perte Supervisée : Entropie croisée standard sur l'ensemble étiqueté.
   • Perte Non Supervisée : Régularisation de cohérence appliquée aux données non étiquetées. Des images faiblement augmentées sont utilisées pour générer des pseudo-étiquettes de haute confiance (si la confiance du modèle dépasse un seuil $\tau=0,95$). Ces pseudo-étiquettes sont ensuite utilisées pour pénaliser les prédictions du modèle sur les versions fortement augmentées des mêmes images.
   • Gestion du Déséquilibre : Le cadre emploie le suréchantillonnage via un échantillonneur aléatoire pondéré pour traiter le déséquilibre de classe sévère, garantissant que les échantillons d'anomalies rares sont adéquatement représentés pendant l'entraînement.

2. Boucle d'Apprentissage Actif : Pour pallier la rareté des anomalies étiquetées, AnomalyMatch intègre un processus itératif impliquant l'humain dans la boucle. Après l'entraînement initial, le modèle évalue le réservoir non étiqueté. Une interface utilisateur (GUI) permet aux experts du domaine de :

   • Inspecter visuellement les candidats ayant un score élevé.
   • Vérifier les vraies anomalies et corriger les faux positifs (par exemple, distinguer les vraies anomalies des artefacts d'imagerie comme les mauvais CCD ou les régions défocalisées).
   • Étendre de manière itérative l'ensemble d'entraînement étiqueté avec ces échantillons vérifiés.
   • Réentraîner le modèle sur l'ensemble étendu.

3. Implémentation Évolutive : Le système est conçu pour la haute performance, capable de traiter des centaines de millions d'images sur un seul GPU. Il supporte divers formats d'entrée (PNG, JPEG, TIFF, FITS) et s'intègre aux standards de stockage de données astronomiques (HDF5, Zarr) ainsi qu'à la plateforme ESA Datalabs. L'interface graphique, construite avec ipywidgets, facilite l'exploration interactive au sein de notebooks Jupyter.

Contributions Clés

• Pipeline Novateur : Un pipeline de détection d'anomalies semi-supervisé combinant FixMatch (rationalisé pour un fort déséquilibre de classe), EfficientNet et l'apprentissage actif, réduisant considérablement le besoin de données étiquetées.
• Interface Graphique Interactive : Une interface conviviale permettant aux experts de guider itérativement la sélection d'anomalies, de corriger les erreurs du modèle et d'affiner les performances sans interaction directe avec le backend.
• Intégration : Intégration transparente des outils astronomiques établis (normalisation Astropy, support FITS) et déploiement au sein de l'écosystème ESA Datalabs.
• Évaluation Complète : Évaluation étendue sur divers jeux de données (miniImageNet, GalaxyMNIST et Galaxy Zoo 2) démontrant des performances avec un nombre extrêmement limité d'étiquettes initiales (5 à 10 anomalies).
• Évolutivité : Une implémentation capable d'analyser 100 millions d'images en quelques jours, adaptée aux futurs relevés à grande échelle.

Résultats Expérimentaux
Le cadre a été évalué sur trois jeux de données sous un déséquilibre de classe sévère :

• miniImageNet : Traitant certaines classes d'objets (ex: Hourglass, Guitar) comme des anomalies (1 % des données). En partant de seulement 5 anomalies étiquetées, AnomalyMatch a atteint une AUROC moyenne de 0,96 et une AUPRC de 0,82. Après trois cycles d'apprentissage actif, il a atteint une précision de 76 % dans le top 1 % des images classées.
• GalaxyMNIST : Un jeu de données de morphologies de galaxies où une classe était traitée comme l'anomalie (25 % des données). En partant de 10 anomalies étiquetées, le système a atteint une AUROC moyenne de 0,89 et une AUPRC de 0,77. La précision dans le top 1 % a atteint 94 %.
• Galaxy Zoo - The Galaxy Challenge : Un sous-ensemble d'environ 65 000 galaxies avec des classifications « atypiques » (odd). Comparé au logiciel établi Astronomaly, AnomalyMatch a obtenu des performances comparables avec une AUROC moyenne de 0,83. Les auteurs notent que la performance est sensible à la définition de l'« anomalie » (seuils de fraction de votants) dans ce jeu de données à étiquettes souples.

Études d'Ablation

• Étiquettes Initiales : Augmenter le nombre initial d'échantillons étiquetés (de 100 à 1000) a produit des rendements décroissants, les mesures de performance restant robustes même avec un minimum d'étiquettes initiales.
• Itérations d'Entraînement : Le nombre optimal d'itérations d'entraînement par cycle d'apprentissage actif a été trouvé autour de 100. Des cycles d'entraînement plus longs (250–500 itérations) ont conduit à un surapprentissage sur les données étiquetées initiales, réduisant l'efficacité globale de la détection.

Signification et Revendications
L'article affirme qu'AnomalyMatch offre une utilité et une évolutivité exceptionnelles pour la découverte d'anomalies dans des domaines caractérisés par une grave rareté d'étiquetage, comme l'astronomie. En combinant l'apprentissage semi-supervisé avec l'apprentissage actif, le cadre permet aux experts du domaine de définir et de détecter des anomalies scientifiquement intéressantes plutôt que de simples anomalies statistiques générales. Les auteurs soulignent que la méthode exploite efficacement les données non étiquetées pour réduire la charge de revue manuelle, ce qui en fait un outil pratique pour l'ère des relevés du ciel riches en données. Les résultats soulignent que des approches spécialisées combinant l'expertise humaine avec un apprentissage automatique efficace sont essentielles pour faire progresser la détection d'anomalies dans des domaines où les données étiquetées sont intrinsèquement rares. L'article conclut que, bien que la méthode soit très efficace, les travaux futurs devraient explorer l'IA explicable, l'intégration de données multimodales et l'impact des erreurs d'étiquetage pour améliorer davantage la robustesse.