UASPL: Uncertainty-Aware Self-Paced Learning with Evidential Neural Networks

Résumé Technique : Apprentissage Auto-Cadencé Sensible à l'Incertitude avec Réseaux de Neurones Évidentiels (UASPL)

Énoncé du Problème
L'apprentissage auto-cadencé (Self-Paced Learning - SPL) est un paradigme qui imite l'apprentissage humain en entraînant des modèles sur des échantillons allant du plus facile au plus difficile, généralement déterminés par la magnitude de la perte d'entraînement. Bien qu'efficace, les auteurs identifient une faille critique dans le SPL traditionnel : les échantillons présentant de faibles valeurs de perte lors des premières étapes de l'entraînement ne sont pas nécessairement des échantillons « fiablement faciles ». Une analyse expérimentale révèle que la Variation Relative Moyenne de la Perte (MRLV) des échantillons initialement sélectionnés comme « faciles » fluctue ou augmente souvent de manière significative lors des cycles d'entraînement ultérieurs. Cela indique que les échantillons à faible perte peuvent être des « pseudo-faciles » — soit manquant de preuves suffisantes pour que le modèle apprenne efficacement, soit représentant des prédictions trompeuses pour lesquelles le modèle est trop confiant. Par conséquent, s'appuyer uniquement sur des critères basés sur la perte ne permet pas de distinguer les échantillons réellement simples de ceux qui sont simplement faciles à ajuster temporairement mais peu fiables.

Méthodologie
Pour remédier à cela, l'article propose l'UASPL (Uncertainty-Aware Self-Paced Learning), un cadre qui intègre les Réseaux de Neurones Évidentiels (ENN) au sein du cadre de la Logique Subjective. Contra�list aux méthodes traditionnelles qui reposent sur des probabilités d'estimation ponctuelle, l'UASPL utilise une distribution de Dirichlet pour paramétrer les probabilités de classe, permettant ainsi la quantification directe de l'incertitude prédictive.

Le cœur de l'UASPL est une nouvelle fonction de perte sensible à l'incertitude qui combine la perte d'ajustement des étiquettes et un terme de régularisation pondéré par l'incertitude. La perte totale pour le $i$-ème échantillon, $L^{(i)}_{total}$, est formulée comme suit :
$$L^{(i)}_{total} = L^{(i)}_{EMSE} + \text{coeff}_i \cdot L^{(i)}_{KL}$$

Où :

• $L^{(i)}_{EMSE}$ est l'Erreur Quadratique Moyenne Évidentielle (Evidential Mean Square Error), mesurant l'ajustement entre les probabilités prédites et la vérité terrain.
• $L^{(i)}_{KL}$ est un terme de divergence de Kullback–Leibler qui pénalise l'accumulation de preuves sur les classes autres que la vérité terrain.
• $\text{coeff}_i$ est un coefficient adaptatif défini par $(1-c_i)(1-u_i) + c_i u_i$, où $c_i$ est l'indicateur de correction de la prédiction (1 si correct, 0 sinon) et $u_i$ est l'incertitude évidentielle.

Cette conception crée une préférence de sélection dynamique :

1. Prédictions correctes avec une faible incertitude : Ces échantillons sont identifiés comme des échantillons fiablement simples et sont prioritaires.
2. Prédictions correctes avec une incertitude élevée : Ils sont traités comme des échantillons faisant partie du périmètre d'apprentissage mais manquant de preuves suffisantes ; le terme KL est renforcé pour guider une croissance fiable des preuves.
3. Prédictions incorrectes avec une incertitude élevée : Le modèle est autorisé à explorer ces échantillons plus librement car l'absence de preuves suggère que la prédiction n'est pas encore confiante.
4. Prédictions incorrectes avec une faible incertitude : Elles représentent des erreurs confiantes mais trompeuses. Le terme KL est amplifié pour supprimer l'accumulation de preuves erronées.

L'algorithme met à jour de manière itérative les paramètres du modèle et les poids des échantillons ($v_i$) basés sur cette perte composite, intégrant ainsi l'estimation de l'incertitude directement dans le critère de sélection des échantillons sans nécessiter de priors externes.

Contributions Clés

1. Première intégration de l'incertitude évidentielle dans le SPL : L'UASPL est la première méthode d'apprentissage auto-cadencé à incorporer directement l'incertitude évidentielle générée par le modèle aux côtés de la perte d'ajustement des étiquettes dans l'objectif d'optimisation. Cela garantit la sélection d'échantillons qui ne sont pas seulement à faible perte, mais aussi fiables.
2. Interprétabilité : L'article fournit une analyse théorique démontrant que la préférence de sélection d'échantillons induite par l'UASPL s'aligne sur le principe « du plus facile au plus difficile ». Il priorise explicitement les échantillons faciles fiables tout en différant ceux ayant des preuves insuffisantes ou trompeuses.
3. Généralité : La fonction de perte proposée est conçue comme un cadre général qui peut être étendu à différentes variantes de SPL (par exemple, des régularisations linéaires ou mixtes) sans modification substantielle, prouvant qu'elle n'est pas liée à une forme de régularisation spécifique.

Résultats Expérimentaux
Les auteurs ont évalué l'UASPL sur de multiples jeux de données, incluant 25 jeux de données tabulaires du dépôt UCI (équilibrés et déséquilibrés) et quatre benchmarks de classification d'images (CIFAR-10, FashionMNIST, MNIST, SVHN). La méthode a été comparée à 15 lignes de base, incluant des variantes traditionnelles de SPL, des méthodes incorporant des priors d'incertitude externes, et des méthodes de SPL adaptées utilisant divers critères d'incertitude (ex: confiance, marge, MC dropout).

Les résultats indiquent que l'UASPL surpasse les autres méthodes de SPL en termes de :

• Performance de Classification : Atteignant une précision plus élevée et une meilleure stabilité à travers les jeux de données.
• Interprétabilité : Sélectionnant avec succès des échantillons qui restent stables en termes de difficulté à travers les cycles d'entraînement, contrairement à la sélection basée uniquement sur la perte traditionnelle.
• Généralité : Démontrant son efficacité à travers différentes modalités de données et formulations de SPL.

Signification
L'article affirme que l'UASPL résout le problème fondamental des échantillons « pseudo-faciles » dans l'apprentissage auto-cadencé en déplaçant le critère de sélection d'une approche purement basée sur la perte vers une approche sensible à l'incertitude. En exploitant les estimations d'incertitude internes des réseaux de neurones évidentiels, l'UASPL garantit que le processus d'apprentissage curriculaire se concentre sur les échantillons dont le modèle peut apprendre de manière fiable, améliorant ainsi l'efficacité de l'entraînement et la robustesse finale du modèle. Les auteurs positionnent cela comme une étape significative pour rendre le SPL plus théoriquement solide et pratiquement efficace, particulièrement dans les scénarios où la confiance du modèle et la suffisance des preuves sont critiques.