🤖 machine learning

XMix: Combating Extremely Noisy Labels via Local Smoothness in Self-Supervised Feature Space

Mix est un nouveau cadre qui exploite la lissité locale dans les espaces de caractéristiques auto-supervisés pour estimer les taux de bruit, sélectionner des échantillons propres équilibrés et générer des pseudo-étiquettes fiables, surpassant ainsi de manière significative les méthodes existantes pour gérer des étiquettes extrêmement bruitées sans nécessiter de connaissance préalable du bruit.

Auteurs originaux : Chengqi Li, Yangdi Lu, Zhihao Shi, Wenbo He, Chamseddine Talhi, Nadjia Kara

Publié 2026-07-28

📖 7 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Chengqi Li, Yangdi Lu, Zhihao Shi, Wenbo He, Chamseddine Talhi, Nadjia Kara

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayez d'apprendre à un robot à reconnaître des animaux. Vous lui montrez des milliers d'images, mais voici le hic : les étiquettes sur les images ont été écrites par un humain fatigué, distrait ou même malicieux. Parfois, une photo de chat est étiquetée « chien », et une photo de voiture est étiquetée « avion ». C'est la réalité désordonnée de l'« Apprentissage avec des Étiquettes Bruyantes » (Learning with Noisy Labels). Dans le monde de l'intelligence artificielle, les modèles ont généralement besoin de données parfaites pour apprendre, mais dans le monde réel, les données parfaites sont rares et coûteuses. Les scientifiques essaient de construire des robots capables d'ignorer les mauvaises étiquettes et d'apprendre à partir des bonnes. Mais quand le bruit devient vraiment élevé — par exemple, quand 90 % des étiquettes sont fausses — la plupart des robots abandonnent ou s'embrouillent.

Le document que vous allez lire traite exactement de ce problème. Il présente une nouvelle méthode appelée XMix. Voyez cela comme un détective qui ne se contente pas de faire confiance aux étiquettes écrites sur les fichiers. Au lieu de cela, il examine les images elles-mêmes pour voir lesquelles « se ressemblent » et semblent appartenir au même groupe. Si une photo de chat ressemble beaucoup à d'autres photos de chats dans la mémoire du robot, le détective suppose qu'elles sont toutes des chats, même si les étiquettes disent le contraire. Cette approche utilise un concept appelé « lissage local » (local smoothness), ce qui est une façon sophistiquée de dire : « Les choses qui se ressemblent appartiennent généralement au même groupe. » En utilisant cette logique, XMix tente de nettoyer le désordre et d'enseigner au robot bien mieux que les méthodes précédentes, surtout lorsque les données sont un véritable désastre.

Le Problème : Une classe remplie de farceurs

Imaginez une salle de classe où un enseignant essaie d'apprendre aux élèves à identifier différents types de fruits. L'enseignant a une pile de fiches illustrées, mais un groupe de farceurs a interverti les étiquettes. Certains pommes sont étiquetées « bananes », et certaines oranges sont étiquetées « raisins ».

Par le passé, des programmes informatiques intelligents (appelés modèles d'apprentissage profond) avaient un tour dans leur sac appelé l'« effet de mémorisation ». Ils étudiaient les cartes et réalisaient : « Hé, je suis très doué pour deviner l'étiquette de cette carte spécifique, mais je suis très mauvais pour celle-là. » Ils supposaient que ceux pour lesquels ils devinaient bien étaient les vrais (données propres) et que ceux avec lesquels ils avaient du mal étaient les mensonges des farceurs (données bruyantes).

Mais voici le problème : quand les farceurs deviennent fous et intervertissent 90 % des étiquettes, l'ordinateur s'embrouille. Il ne peut plus faire la différence entre une vraie pomme et une banane étiquetée comme une pomme. De plus, l'ordinateur finit souvent par ne choisir qu'un seul type de fruit à étudier, ignorant les autres, ce qui le rend incapable de reconnaître toute la variété. Il a besoin d'une nouvelle stratégie qui ne dépend pas de la connaissance exacte du nombre de farceurs présents dans la pièce.

La Solution : XMix et la règle du « Ressemble à »

Entrez en scène XMix, le nouveau détective. Au lieu de simplement regarder les étiquette écrites, XMix utilise une paire de lunettes spéciales (un encodeur de caractéristiques auto-supervisé) pour examiner les détails visuels du fruit. Il sait qu'un fruit rouge, rond et avec une tige ressemble beaucoup à d'autres fruits rouges, ronds et avec des tiges.

Voici comment XMix résout les trois grands problèmes :

1. Deviner le niveau de bruit sans fiche de triche
D'habitude, ces programmes informatiques ont besoin de savoir exactement combien d'étiquettes sont fausses (par exemple, « 50 % sont fausses ») pour définir leurs règles. S'ils se trompent dans leur estimation, ils échouent. XMix n'a pas besoin de cette fiche de triche. Il regarde un fruit et ses voisins les plus proches, ses « semblables », dans le monde de l'image. Si les voisins ont tous des étiquettes différentes, XMix calcule : « Wow, le bruit doit être très élevé ici. » Il utilise un tour mathématique appelé « maximum de vraisemblance » pour estimer automatiquement le niveau de bruit. C'est comme un détective regardant une scène de crime et disant : « D'après le nombre de vitres brisées, je dirais qu'il s'agit d'une émeute », sans avoir besoin d'un rapport de police.

2. Trouver plus de bons élèves (Sélection équilibrée et étendue)
Lorsque le bruit est extrême, les anciennes méthodes ne trouvent que quelques échantillons « propres » (bons élèves) à étudier. XMix dit : « Attendez, si nous avons trouvé une bonne pomme, et qu'elle ressemble exactement à ces cinq autres pommes à proximité, confions-nous aussi à ces cinq-là ! » Il élargit le groupe des échantillons de confiance en incluant ses voisins.
Crucialement, il corrige également le problème du « déséquilibre des classes ». Si les farceurs ont caché toutes les étiquettes « banane », l'ordinateur pourrait arrêter d'étudier les bananes complètement. XMix remarque cela et dit : « Nous avons besoin de plus de bananes ! » Il cherche plus loin pour trouver des semblables de bananes afin de s'assurer que chaque fruit a une chance équitable d'être étudié. Cela garantit que le robot apprend un régime de connaissances équilibré, et non pas seulement son fruit préféré.

3. Une meilleure estimation pour l'inconnu
Enfin, pour les cartes dont il n'est toujours pas sûr (les étiquettes bruyantes), XMix ne devine pas au hasard. Il demande aux voisins : « Qu'en pensez-vous ? » Il prend les opinions des voisins les plus fiables (les propres) et fait la moyenne de leurs avis pour créer une « pseudo-étiquette » (une étiquette de la meilleure estimation). C'est comme demander à un groupe d'experts de voter sur un objet mystère. Comme les experts sont choisis en fonction de leur ressemblance avec l'objet, leur vote est beaucoup plus fiable qu'une supposition aléatoire.

Ce qu'ils ont trouvé : Battre les probabilités

Les chercheurs ont testé XMix sur des ensembles de données d'images célèbres comme CIFAR-10 et CIFAR-100, qui contiennent des photos de voitures, d'avions, d'animaux et plus encore. Ils ont délibérément faussé les étiquettes pour créer des scénarios extrêmes :

90 % de Bruit Symétrique : Imaginez que 90 étiquettes sur 100 sont complètement aléatoires.
98 % de Bruit : Presque tout est un mensonge.

Dans ces conditions brutales, les méthodes précédentes (comme DivideMix et ProMix) commencent à s'effondrer. Par exemple, sur CIFAR-10 avec 90 % de bruit, l'ancienne meilleure méthode (DivideMix) n'obtenait qu'environ 76 % de précision. XMix, cependant, a fait grimper ce chiffre à 91,2 %. Sur CIFAR-100 avec 95 % de bruit, l'ancienne méthode atteignait 19,1 %, tandis que XMix atteignait 31,4 %.

Le document montre que XMix ne fonctionne pas seulement un peu mieux ; il excelle lorsque la situation est la plus désespérée. Il a réussi à identifier beaucoup plus d'échantillons « réellement propres » que les anciennes méthodes, doublant ou triplant parfois le nombre de bons exemples dont le robot peut apprendre.

Le Verdict

XMix prouve que vous n'avez pas besoin de connaître le niveau exact de chaos dans vos données pour les nettoyer. En faisant confiance aux similitudes visuelles entre les images — en utilisant le « lissage local » de l'espace des caractéristiques — il peut ajuster automatiquement sa stratégie, trouver plus de bonnes données et apprendre au robot à ignorer le bruit.

Les auteurs suggèrent que cette méthode est une étape importante, surtout pour les scénarios du monde réel où les données sont désordonnées et où nous n'avons pas de manuel nous indiquant à quel point elles sont mauvaises. Bien que ce ne soit pas une baguette magique qui répare tout parfaitement (il fait encore quelques erreurs, surtout quand le bruit est faible et que l'extension n'est pas nécessaire), il surpasse systématiquement les méthodes de pointe actuelles dans les environnements les plus difficiles et les plus bruyants. Il transforme une classe chaotique de farceurs en un lieu où l'apprentissage peut encore avoir lieu.

Résumé Technique : XMix

Problématique

Les modèles d'apprentissage profond supervisés dépendent fortement de jeux de données volumineux et correctement étiquetés. Cependant, les erreurs d'annotation sont inévitables en raison des limites humaines et des systèmes automatisés, menant au problème du « Apprentissage avec des Étiquettes Bruyantes » (LNL - Learning with Noisy Labels). Bien que les méthodes de pointe récentes traitent ce problème via des stratégies de sélection d'échantillons (exploitant l'effet de mémorisation pour filtrer les données propres pour l'apprentissage semi-supervisé), elles font face à des limitations significatives :

Bruit Extrême : Elles peinent lorsque les niveaux de bruit sont très élevés (par exemple, >80 %), échouant souvent à identifier un sous-ensemble de données propres suffisamment large.
Déséquilibre des Classes : Les échantillons propres sélectionnés deviennent souvent déséquilibrés entre les classes, car certaines classes sont plus faciles à apprendre que d'autres.
Dépendance aux Connaissances Préalables : De nombreuses méthodes nécessitent un réglage minutieux des hyperparamètres ou une connaissance préalable du taux et de la distribution du bruit pour rester efficaces.
Négligence de l'Information : Les approches existantes reposent sur la distribution jointe des images et des étiquettes bruyantes, ignorant souvent les informations riches et agnostiques au bruit intrinsèques aux images elles-mêmes (par exemple, les similitudes visuelles).

Méthodologie : XMix

Les auteurs proposent XMix, un cadre qui exploite la régularité locale dans l'espace de caractéristiques auto-supervisé pour améliorer toutes les étapes du processus de sélection d'échantillons sans dépendre d'étiquettes potentiellement corrompues. La méthode utilise un encodeur auto-supervisé pré-entraîné (DINOv2) pour extraire des caractéristiques et identifier les $k$ -plus proches voisins pour chaque échantillon.

Le cadre fonctionne via trois mécanismes principaux intégrés à une base de sélection d'échantillons standard (par exemple, DivideMix ou ProMix) :

1. Estimation du Taux de Bruit par Classe

Au lieu d'exiger une connaissance préalable du bruit, XMix estime le taux de bruit de manière adaptative :

Mécanisme : Il suppose que les échantillons proches dans l'espace de caractéristiques partagent la même étiquette réelle (hypothèse de régularité). Il calcule la probabilité empirique de correspondance des étiquettes parmi les plus proches voisins d'un échantillon.
Correction : Puisque les étiquettes observées sont bruyantes, le taux de correspondance brut est biaisé. Les auteurs ajustent ce biais en utilisant un modèle de correction quadratique (calibré sur des données synthétiques).
Utilisation : L'estimation résultante n'est pas destinée à être une récupération précise du taux de bruit réel, mais elle est suffisamment précise pour catégoriser le jeu de données en régimes de bruit discrets (faible, modéré, élevé, extrême). Cette catégorisation guide automatiquement la sélection des hyperparamètres (seuils et ratios de sélection) pour le modèle de base.

2. Sélection d'Échantillons Équilibrée et Étendue

XMix étend l'ensemble des échantillons identifiés comme propres au-delà du critère standard de faible perte (low-loss) :

Expansion : Si un échantillon est identifié comme propre (faible perte), ses voisins dans l'espace de caractéristiques ( $G^k_i$ ) qui partagent la même étiquette observée sont également ajoutés à l'ensemble propre ( $D^+_{clean}$ ).
Équilibrage : Pour traiter le déséquilibre des classes, la méthode applique une règle différente pour les classes sous-représentées. Pour ces classes, elle considère $2k$ plus proches voisins au lieu de $k$ , permettant ainsi la récupération de plus d'exemples à partir d'un voisinage plus large.
Effet : Cette stratégie augmente le volume d'échantillons propres disponibles pour l'apprentissage semi-supervisé, particulièrement sous un bruit extrême où les méthodes standards échouent à trouver suffisamment de données propres.

3. Pseudo-Étiquetage par Plus Proches Voisins

Pendant la phase d'apprentissage semi-supervisé, XMix génère des pseudo-étiquettes plus fiables pour les données non étiquetées (bruyantes) :

Mécanisme : Au lieu de se fier uniquement à la prédiction du modèle, il agrège les prédictions des voisins dans l'espace de caractéristiques d'un échantillon non étiqueté.
Pondération : Les prédictions des voisins identifiés comme « propres » sont plus fortement pondérées (poids = 2) que celles des voisins encore considérés comme « bruyants » (poids = 1).
Intégration : Ces pseudo-étiquettes pondérées sont utilisées dans une boucle d'entraînement de type MixMatch, mélangeant les données étiquetées et les données pseudo-étiquetées pour améliorer la robustesse.

Contributions Clés

Le document présente quatre contributions principales :

Estimation du Taux de Bruit par Classe : Une méthode adaptative pour estimer les niveaux de bruit dans les voisinages de caractéristiques via le maximum de vraisemblance, permettant l'ajustement automatique des hyperparamètres sans connaissance préalable du bruit.
Sélection d'Échantillons Équilibrée et Étendue : Une stratégie pour étendre l'ensemble des échantillons propres en utilisant les voisins de caractéristiques, récupérant plus d'échantillons propres sous un bruit extrême et atténuant le déséquilibre des classes.
Pseudo-Étiquetage par Plus Proches Voisins : Un mécanisme pour générer des pseudo-étiquettes plus précises en exploitant les informations locales de confiance dans l'espace de caractéristiques.
Validation Empirique : Des démonstrations montrant que XMix améliore systématiquement les performances des bases de sélection d'échantillons sur plusieurs benchmarks LNL, avec des améliorations particulièrement importantes sous un bruit de labels sévère.

Résultats Expérimentaux

Les auteurs ont évalué XMix sur des jeux de données bruités synthétiques et réels (CIFAR-10, CIFAR-100, CIFAR-10N, CIFAR-100N, ANIMAL-10N, Mini-WebVision).

Performance sous Bruit Extrême : Sur CIFAR-10 et CIFAR-100 avec des taux de bruit symétriques de 90 % et 95 %, XMix surpasse significativement les bases comme DivideMix et UNICON. Par exemple, sur CIFAR-10 avec 90 % de bruit, XMix (ProMix+) atteint 92,7 % de précision contre 51,3 % pour DivideMix.
Benchmarks du Monde Réel : XMix a obtenu des résultats de pointe sur ANIMAL-10N (90,3 % de précision) et des résultats compétitifs sur Mini-WebVision et ILSVRC12.
Études d'Ablation :
- Le retrait de la sélection « Balanced & Expanded » (B&E) ou du pseudo-étiquetage par plus proches voisins (NN) entraîne une dégradation notable des performances, surtout sous un bruit élevé.
- Les gains de performance sont attribués principalement aux mécanismes de regroupement et de filtrage dans l'espace de caractéristiques plutôt qu'à la force spécifique de l'encodeur (DINOv2 vs SimCLR).
- Le papier note qu'à des niveaux de bruit plus faibles, le bénéfice de l'expansion est marginal, et que la méthode peut occasionnellement introduire des faux positifs, bien que l'impact global reste positif.

Signification et Revendications

Le papier affirme que XMix offre une solution simple mais robuste au problème LNL. Sa principale importance réside dans sa capacité à :

Opérer efficacement sans connaissance préalable du niveau ou de la distribution du bruit.
Améliorer systématiquement la sélection d'échantillons en exploitant des motifs visuels agnostiques au bruit (régularité locale) plutôt qu'en se fiant uniquement aux valeurs de perte.
Fournir des performances supérieures dans les scénarios de bruit d'étiquettes extrêmes où les méthodes existantes échouent à converger ou à sélectionner suffisamment de données propres.
Être facilement compatible avec les cadres de sélection d'échantillons existants, agissant comme une amélioration de type « plug-in » pour améliorer leur résilience et leur équilibre.

Les auteurs soulignent que, bien que l'estimation du taux de bruit soit un guide « grossier » pour la sélection des hyperparamètres plutôt qu'une récupération précise de la vérité terrain, elle est suffisamment précise pour placer les jeux de données dans les bons régimes opérationnels, éliminant ainsi un goulot d'étranglement majeur dans la recherche actuelle sur le LNL.