Distribution-Free Pretraining of Classification Losses via Evolutionary Dynamics

Résumé Technique : Préentraînement sans Distribution des Fonctions de Perte de Classification via la Dynamique Évolutive

Énoncé du Problème
En classification supervisée, les fonctions de perte sont essentielles pour façonner les dynamiques d'optimisation, la stabilité de l'entraînement et la généralisation. Cependant, les objectifs couramment utilisés, tels que l'entropie croisée, sont des formes analytiques fixes qui peuvent devenir sous-optimales lorsque les conditions d'entraînement changent (par exemple, bruit dans les étiquettes, déséquilibre des classes ou capacité variable du modèle). Bien que des approches récentes aient tenté d'apprendre ou d'adapter des fonctions de perte, elles reposent généralement sur des données de tâches réelles et des trajectoires d'entraînement spécifiques pour la supervision de la boucle externe. Cette dépendance introduit trois limitations clés : (1) la supervision est limitée par la taille du jeu de données et les contraintes de confidentialité ; (2) les objectifs appris peuvent absorber des biais spécifiques au jeu de données, nuisant au transfert inter-tâches ; et (3) l'apprentissage d'une fonction de perte est un problème complexe de recherche de forme, souvent sensible au bruit et sujet à une optimisation instable lors de l'utilisation de méthodes basées sur le gradient sur des données réelles.

Méthodologie : Perte Dynamique Évolutive (EDL)
Les auteurs proposent la Perte Dynamique Évolutive (EDL), un cadre qui apprend une fonction de perte de classification transférable directement dans l'espace des probabilités, sans accéder à des échantillons réels lors de la phase de préentraînement. La méthodologie se compose de trois composants principaux :

1. Supervision Synthétique sans Distribution :
   Au lieu d'utiliser de vraies images, l'EDL est entraînée sur des paires infinies de prédiction-étiquette synthétiques $(p, y)$ échantillonnées à partir du simplexe de probabilité. Le signal de supervision est basé sur un objectif de cohérence du classement. Le cadre impose un principe de monotonie : les prédictions avec une sévérité d'erreur plus élevée (prédictions plus difficiles) doivent encourir des pénalités de perte plus importantes.

   • Proxy de Difficulté : Un score déterministe $D(p, y) = 1 - p_y$ est calculé, où $p_y$ est la probabilité prédite de la classe vraie.
   • Objectif : Le réseau de perte est entraîné pour préserver l'ordre de ces scores de difficulté. Pour deux paires synthétiques quelconques, si $\Delta D > 0$, la différence de perte $\Delta L$ doit également être positive. Cela est optimisé à l'aide d'une fonction de perte de classement par paires lisse (par exemple, softplus sur $-\Delta L \cdot \Delta D$).
   • Stratégie d'Échantillonnage : Pour assurer une robustesse sur tout le spectre de confiance, les données synthétiques sont tirées d'une distribution de mélange contrôlable qui met l'accent sur les régions de confiance extrême (proches de 0 ou 1) et les régions de confusion aux frontières, qui sont critiques pour les dynamiques d'entraînement.

2. Optimisation Évolutive avec Mutation Chaotique :
   Parce que le paysage de fitness est bruyant (estimé via un échantillonnage de Monte Carlo de paires synthétiques) et que l'objectif est de rechercher une forme fonctionnelle plutôt que d'ajuster des paramètres fixes, les auteurs emploient une Stratégie Évolutive (ES) plutôt qu'une descente de gradient.

   • Recherche Basée sur une Population : Une population de réseaux de perte candidats est évoluée au fil des générations.
   • Mutation Chaotique : Pour améliorer l'exploration globale et éviter une convergence prématurée, les auteurs introduisent un opérateur de mutation piloté par la carte logistique ($x_{t+1} = 4x_t(1-x_t)$). Cela génère un coefficient chaotique qui module de manière adaptative la taille du pas de mutation. Contrairement au bruit gaussien à échelle fixe, cela crée un motif de pas « intermittent » : principalement de petits pas pour la stabilité, entrecoupés de rares grands pas pour échapper aux optima locaux.
   • Planification Adaptative : L'échelle de mutation bascule entre des valeurs élevées et faibles en fonction de la précision actuelle de la cohérence de tendance pour équilibrer l'exploration et le raffinement.

3. Architecture :
   L'EDL est paramétrée comme un Perceptron Multicouche (MLP) léger qui prend en entrée concaténée la distribution prédictive $p$ et l'étiquette one-hot $e_y$, et produit une perte scalaire non négative via une activation Softplus.

Contributions Clés

1. Formulation sans Distribution : Une approche novatrice pour apprendre une perte paramétrique directement à partir de paires prédiction-étiquette synthétiques dans l'espace des probabilités, éliminant le besoin de données réelles lors de la phase de préentraînement de la perte.
2. Stratégie de Recherche Évolutive : Le développement d'un cadre d'entraînement évolutif pour la recherche de forme de perte, introduisant spécifiquement une mutation chaotique pilotée par la carte logistique pour améliorer l'exploration globale et la robustesse sous une supervision par paires bruyante.
3. Prior de Perte Transférable : Démonstration que le prior de perte résultant peut être utilisé comme un remplacement « plug-and-play » pour les objectifs standards dans l'entraînement de classificateurs en aval, offrant une généralisation stable et compétitive.

Résultats Expérimentaux
Les auteurs ont évalué l'EDL sur le jeu de données CIFAR-10 en utilisant des architectures de base ResNet (ResNet8, ResNet20, ResNet32).

• Performance : L'EDL entraînée avec une stratégie évolutive et une mutation chaotique (EDL-ES-Chaotic) a atteint une précision Top-1 compétitive ou améliorée par rapport à l'entropie croisée standard et à d'autres baselines de pertes apprises (par exemple, L2T-DLN, ELF, SLF). Par exemple, sur ResNet32, l'EDL-ES-Chaotic a atteint une précision de 93,9 %, surpassant l'entropie croisée (92,5 %) et la plupart des autres méthodes de perte apprises.
• Ablation sur la Mutation : Les comparaisons entre la mutation chaotique et la mutation gaussienne standard ont montré que la mutation chaotique a conduit à une convergence plus rapide aux stades précoce et intermédiaire du préentraînement. Elle a atteint une fitness globale finale significativement plus faible (0,01994 contre 0,02810) et une fitness moyenne plus faible sur les époques, tout en maintenant 100 % d'exactitude de cohérence de tendance.
• Descente de Gradient vs Évolution : L'étude a noté que l'optimisation de l'EDL par descente de gradient sur des paires synthétiques (EDL-GD) a résulté en une transférabilité inférieure aux données réelles par rapport à l'approche évolutive, soulignant l'importance de la stratégie de recherche globale.

Signification et Revendications
L'article revendique que l'EDL fournit une méthode robuste et agnostique aux jeux de données pour apprendre des fonctions de perte de classification. En découplant le préentraînement de la perte des données réelles et en utilisant un objectif de classement sans sémantique, le cadre évite le surapprentissage aux biais spécifiques des jeux de données. L'introduction de la mutation chaotique répond aux défis de l'optimisation d'objectifs de recherche de forme non différentiables ou bruyants. Les auteurs positionnent l'EDL comme une solution pratique et « plug-and-play » qui améliore la généralisation dans les pipelines d'entraînement standards, sans nécessiter de configurations complexes d'apprentissage méta ou d'accès à de grandes quantités de données réelles pour la phase d'apprentissage de la perte elle-même.