Résumé technique : CANOLA – Un cadre de sensibilisation au bruit pour la correction de labels corrompus

1. Énoncé du problème

Les données étiquetées de haute qualité constituent la ressource fondamentale pour l'entraînement de modèles de Machine Learning (ML) et de Deep Learning (DL) fiables. Cependant, les jeux de données du monde réel contiennent fréquemment une proportion significative de labels corrompus en raison d'erreurs manuelles ou d'outils d'annotation automatisés imparfaits. Ces instances mal étiquetées dégradent sévèrement la généralisation des modèles, menant à des prédictions biaisées ou peu fiables.

Alors que les recherches antérieures ont abordé le bruit des labels par des approches centrées sur le modèle (conception d'algorithmes robustes pour résister au bruit) et des approches centrées sur les données (détection d'instances bruitées), les méthodes centrées sur les données existantes s'arrêtent souvent à la détection. La correction automatique des labels reste sous-explorée. Les méthodes de correction existantes se classent généralement en deux catégories :

1. Correction basée sur les voisins : Repose sur la cohérence des labels parmi des échantillons similaires (ex: vote majoritaire). Elles peinent près des frontières de décision où des instances similaires peuvent appartenir à des classes différentes.
2. Correction basée sur le modèle : Utilise les propres prédictions du modèle pour affiner les labels, s'appuyant souvent sur les premières itérations d'entraînement. Ces méthodes souffrent de deux limitations majeures : (a) une haute sensibilité aux fluctuations des prédictions du modèle, et (b) le risque de « biais de confirmation », où le modèle amplifie ses propres erreurs précoces, particulièrement dans des scénarios à fort bruit ou avec des instances « difficiles mais propres ».

2. Méthodologie : Le cadre CANOLA

Les auteurs proposent CANOLA (Corrupted lAbel cOrrectiON via Noise-Aware Learning and iterative refinement), un nouveau cadre qui découple l'apprentissage des caractéristiques du raffinement des labels. CANOLA opère via un pipeline itératif composé de deux phases distinctes :

Phase 1 : Construction de la matrice de transition du bruit

L'objectif est d'estimer la distribution sous-jacente du bruit du jeu de données sans accès aux labels propres de vérité terrain (ground-truth).

• Co-entraînement asymétrique : CANOLA maintient deux modèles : un modèle fiable ($\mathcal{F}_r$) entraîné exclusivement sur un sous-ensemble croissant de données probablement propres ($D_c$), et un modèle bruité ($\mathcal{F}_n$) entraîné sur l'ensemble du jeu de données bruité ($\tilde{D}$).
• Identification du sous-ensemble propre : Le processus comprend trois étapes :
  • Warm-up (Préchauffage) : Les deux modèles sont entraînés sur l'ensemble des données bruitées pour établir des motifs de base.
  • Exploration : Au début de l'entraînement, $\mathcal{F}_n$ (entraîné sur toutes les données) est utilisé pour identifier les échantillons probablement propres (où la prédiction correspond au label observé) afin d'étendre $D_c$.
  • Exploitation : Plus tard dans l'entraînement, un critère de consensus plus strict est appliqué : les échantillons sont ajoutés à $D_c$ uniquement si $\mathcal{F}_r$ et $\mathcal{F}_n$ sont tous deux en accord avec le label observé.
• Estimation de la matrice : En utilisant le modèle fiable $\mathcal{F}_r$ entraîné sur $D_c$, le cadre estime la Matrice de Transition du Bruit ($T$). Cette matrice modélise la probabilité $P(\tilde{y}=c' | y=c)$ qu'un label propre $c$ soit corrompu en un label bruité $c'$.

Phase 2 : Correction des labels corrompus

Cette phase entraîne un modèle sensible au bruit pour effectuer un raffinement de label prudent et itératif.

• Entraînement sensible au bruit : Le modèle fiable $\mathcal{F}_r$ est entraîné plus avant sur l'ensemble du jeu de données bruité. Au lieu de s'ajuster directement aux labels bruités, le modèle est entraîné pour prédire la distribution des labels propres. Ces prédictions sont projetées à travers la matrice de transition du bruit estimée $T$ pour reconstruire la distribution bruitée attendue. La perte est calculée entre cette distribution reconstruite et les labels bruités observés en utilisant la divergence de Kullback-Leibler (KL). Cela force le modèle à prendre explicitement en compte la structure du bruit, en pondérant moins les signaux de supervision peu fiables.
• Déclencheur de stabilisation de la perte : Le raffinement des labels n'est pas effectué immédiatement. Il est déclenché uniquement après la stabilisation de la perte d'entraînement, garantissant que le modèle a atteint un état de convergence mature avant de tenter des corrections.
• Relabeling progressif (Soft Relabeling) : Une fois déclenché, les prédictions du modèle sont mélangées aux labels observés pour former des labels souples (distributions de probabilité) plutôt que des vecteurs one-hot rigides. Ce mélange est contrôlé par un coefficient $\alpha$ :
  $$\tilde{p}^{(t)}_i = \alpha \cdot p_i + (1 - \alpha) \cdot \tilde{p}^{(t-1)}_i$$
  Cette stratégie de mise à jour progressive et douce empêche l'engagement prématuré envers des prédictions potentiellement incorrectes et atténue la propagation des erreurs. Le processus se répète pour $\tau$ itérations ou jusqu'à convergence, avec les labels souples finaux convertis en labels rigides via l'estimation du maximum a posteriori.

3. Contributions clés

L'article expose trois contributions principales :

1. Construction d'un benchmark réaliste : Les auteurs ont construit un benchmark de cinq jeux de données (couvrant l'image et le texte) étiquetés à l'aide de diverses techniques automatisées (basées sur les LLM, supervisées, semi-supervisées et faiblement supervisées) pour faciliter l'évaluation dans des conditions de bruit non idéalisées et pratiques. Ils ont également inclus le jeu de données réel Clothing1M.
2. Le cadre CANOLA : Un nouveau cadre de correction qui découple l'estimation du bruit du raffinement des labels. Il combine un DNN sensible au bruit (régularisé par une distribution de bruit estimée) avec un déclencheur de stabilisation de la perte pour effectuer un raffinement de label progressif et prudent.
3. Évaluation exhaustive : Des expériences approfondies démontrent que CANOLA surpasse systématiquement les méthodes de correction de l'état de l'art (SOTA) et produit des gains de performance significatifs en aval, même lorsque des classificateurs simples sont entraînés sur les données corrigées.

4. Résultats expérimentaux

Le cadre a été évalué sur six jeux de données (FashionMNIST, OrganAMNIST, RESISC45, AGNews, Yahoo! Answer, et Clothing1M) sous divers scénarios de bruit.

• Précision de la correction de label : CANOLA a systématiquement obtenu les taux d'erreur les plus bas sur tous les jeux de données et types de bruit. En moyenne, il a réduit les taux d'erreur du jeu de données original d'environ 25 %. Dans des conditions difficiles (ex: étiquetage faiblement supervisé), il a obtenu des améliorations relatives allant jusqu'à 31 % par rapport aux données originales.
• Comparaison avec le SOTA : CANOLA a surpassé les méthodes de correction existantes (DOCTA, SELC, SIDYP) avec des améliorations relatives de la réduction d'erreur allant de 19 % à 52 %. Contra à certains modèles de référence (ex: DOCTA ou SIDYP dans certains cas de fort bruit), CANOLA n'a dégradé la qualité des données dans aucun scénario d'évaluation.
• Utilité en aval : Les modèles entraînés sur les données corrigées par CANOLA ont montré des gains de performance substantiels. En moyenne, les classificateurs en aval ont obtenu une augmentation de 10 % de l'F1-Macro par rapport à l'entraînement sur les données bruitées originales. Dans des scénarios de bruit sévère, les données corrigées par CANOLA ont permis à des classificateurs simples de surpasser les approches complexes de type modèle-centré (ex: DivideMix, Co-Teaching, SIDYP) avec des marges de 8 % à 67 %.
• Études d'ablation :
  • Conception en deux phases : Les deux phases se sont révélées nécessaires ; la Phase 1 fournit une base fiable, tandis que la Phase 2 permet une modélisation du bruit robuste et un raffinement stable.
  • Mises à jour "Soft" vs "Hard" : Le raffinement de label progressif (soft) a nettement mieux performé que les mises à jour rigides (hard), réduisant les taux d'erreur d'environ 16 % supplémentaires en moyenne.
  • Fonction de perte : La divergence de KL s'est avérée être la fonction de perte la plus efficace pour l'entraînement du modèle sensible au bruit.
  • Sensibilité : Le cadre est robuste aux variations d'hyperparamètres, avec une performance optimale observée entre 15 et 20 époques de warm-up et environ 10 itérations de correction.

5. Signification et affirmations

L'article affirme que CANOLA représente une avancée significative dans l'apprentissage centré sur les données en s'attaquant explicitement à la cause racine de la corruption des labels. Les auteurs soulignent que :

• Le nettoyage explicite est supérieur à l'entraînement robuste : Dans des scénarios de fort bruit, le nettoyage des données via CANOLA génère des bénéfices en aval plus importants que le simple recours à des algorithmes d'entraînement robustes au bruit.
• La stabilité est la clé : En découplant la phase d'apprentissage de la phase de correction et en utilisant un déclencheur de stabilisation de la perte, CANOLA évite les boucles de biais de confirmation qui empoisonnent les méthodes de correction basées sur le modèle antérieures.
• Praticité : Le cadre est efficace sur le plan computationnel (traitant les jeux de données en quelques minutes à une demi-heure) et efficace à travers divers domaines (image et texte) et sources de bruit (pipelines automatisés et jeux de données réels).

Les auteurs concluent que CANOLA fournit un mécanisme principled, stable et efficace pour réparer les labels corrompus, ce qui en fait un outil précieux pour améliorer la fiabilité des modèles de ML entraînés sur des données réelles imparfaites.