Résumé technique : Décryptage de l'apprentissage par raccourcis sous l'angle de la théorie des jeux évolutionnaires

Énoncé du problème

Les modèles d'apprentissage profond atteignent fréquemment des performances élevées sur les benchmarks en s'appuyant sur des « raccourcis » — des corrélations fallacieuses ou des caractéristiques non essentielles (par exemple, des textures d'arrière-plan, des artefacts spécifiques aux jeux de données) — plutôt que sur des caractéristiques fondamentales et pertinentes pour la tâche. Bien que l'existence de l'apprentissage par raccourcis soit bien documentée, les mécanismes théoriques régissant sa formation et son évolution durant l'entraînement restent mal compris. La littérature existante manque souvent de définitions précises distinguant les caractéristiques fondamentales des raccourcis et échoue à expliquer comment les dynamiques d'optimisation (telles que la taille des lots et le bruit) influencent la domination d'un type de caractéristique sur un autre. Plus précisément, il est unclear pourquoi les modèles privilégient initialement des raccourcis faciles à apprendre et comment la stochasticité dans les données et l'optimisation affecte la trajectoire à long terme de l'apprentissage des caractéristiques.

Méthodologie

Les auteurs proposent un cadre formel combinant la théorie des jeux évolutionnaires (TGE) avec l'analyse du noyau tangent neuronal (NTK) pour modéliser les dynamiques de l'apprentissage par raccourcis.

1. Définitions formelles

L'article établit des définitions rigoureuses pour les types de caractéristiques dans la classification binaire :

• Caractéristique fondamentale ($V^c$) : Une caractéristique strictement correcte et pertinente pour la tâche. Si elle est pleinement apprise, elle garantit la généralisation.
• Caractéristique de bruit : Une caractéristique ayant une covariance nulle avec l'étiquette.
• Caractéristique de raccourci ($V^{sc}$) : Une caractéristique facile à apprendre mais finalement trompeuse. Elle est définie par rapport à une caractéristique fondamentale : $V^{sc}$ est un raccourci si le modèle présente une dépendance erronée plus forte envers elle par rapport à la caractéristique fondamentale lorsqu'il est évalué sur des échantillons conflictuels (échantillons où le raccourci et la caractéristique fondamentale prédisent des étiquettes différentes).

2. Cadre de la théorie des jeux évolutionnaires

Le processus d'entraînement est modélisé comme un jeu évolutionnaire où :

• Joueurs : Les échantillons de données individuels.
• Stratégies : La direction de la caractéristique tangente neuronale ($\nabla_\theta f(X; \theta)$) adoptée par un échantillon, catégorisée soit comme une stratégie fondamentale (optimisation du sous-réseau fondamental), soit comme une stratégie de raccourci (optimisation du sous-réseau de raccourci).
• Gain : Défini comme la réduction de la perte pour un échantillon lorsqu'il est inclus dans un mini-lot. Ce gain dépend de l'alignement entre la caractéristique tangente de l'échantillon et la direction de mise à jour du gradient agrégé.
• Dynamiques : La proportion d'échantillons adoptant chaque stratégie évolue en fonction des différences de gains. Les auteurs modélisent cela en utilisant une dynamique réplique discrète avec mutation (représentant le bruit d'optimisation) et analysent la limite où les taux de mutation tendent vers zéro pour identifier les états stochastiquement stables (ESS).

3. Hypothèse de sous-réseau et hypothèses

Les auteurs supposent l'existence de sous-réseaux découplés au sein du réseau neuronal :

• Sous-réseau fondamental : Arêtes et neurones dédiés à la modélisation de la caractéristique fondamentale.
• Sous-réseau de raccourci : Arêtes et neurones dédiés à la modélisation de la caractéristique de raccourci.
• Découplage : Ces sous-réseaux sont structurellement distincts, bien qu'ils puissent partager certaines arêtes (modélisation du bruit).
• Initialisation : L'entraînement précoce est dominé par des caractéristiques à forte variance expliquée (souvent des raccourcis), comme le montre l'analyse NTK.

4. Équations différentielles stochastiques (EDS)

Pour analyser l'évolution en temps continu des intensités d'entraînement ($w_1$ pour le fondamental, $w_2$ pour le raccourci) et de la proportion d'échantillons adoptant la stratégie fondamentale ($\alpha$), les auteurs dérivent un système d'EDS. Cela leur permet de modéliser explicitement les effets de :

• Bruit des données ($\tau$) : Interférence provenant de caractéristiques de bruit imitant le signal.
• Bruit d'optimisation ($\sigma$) : Stochasticité introduite par l'échantillonnage de mini-lots.

Contributions et résultats clés

1. Caractérisation théorique du biais de raccourci

• Unicité du fondamental vs omniprésence des raccourcis : L'article prouve que les caractéristiques fondamentales sont uniques (Théorème 4), tandis que les caractéristiques de raccourci sont omniprésentes dès que la précision de généralisation est imparfaite (Théorème 5).
• Avantage initial des raccourcis : En utilisant la théorie NTK, les auteurs montrent que les caractéristiques à variance expliquée plus élevée (souvent des raccourcis comme la couleur ou la texture) dominent les vecteurs propres principaux de la matrice du noyau, leur conférant un avantage initial dans l'entraînement (Théorèmes 6 et 7).

2. Résultats divergents entre GD et SGD

La découverte théorique centrale concerne l'impact du bruit d'optimisation sur l'état stochastiquement stable du système :

• Descente de gradient par lots complets (GD) : Correspond à une dynamique déterministe sans bruit d'optimisation. L'analyse (Théorème 11) montre que le GD converge vers un état où la stratégie de raccourci est stochastiquement stable. Le modèle reste piégé dans le sous-réseau de raccourci.
• Descente de gradient stochastique par mini-lots (SGD) : Introduit du bruit d'optimisation via l'échantillonnage aléatoire des lots. L'analyse (Théorème 12) démontre que, sous des conditions spécifiques (nombre $N$ suffisamment grand et tailles de lots appropriées), le SGD déplace le système vers un état où la stratégie fondamentale devient stochastiquement stable. Le bruit empêche le système de se stabiliser dans le bassin dominé par les raccourcis.

3. Rôle du bruit dans la formation du biais

Grâce à l'analyse EDS (Théorème 13), l'article révèle les rôles distincts des sources de bruit :

• Bruit des données ($\tau$) : Des niveaux élevés de bruit de données (ou de bruit imitant le signal) favorisent la formation d'un biais de raccourci. Il amplifie l'intensité d'entraînement du sous-réseau de raccourci par rapport au fondamental.
• Bruit d'optimisation ($\sigma$) : Des niveaux élevés de bruit d'optimisation (par exemple, des tailles de lots plus petites) suppriment le biais de raccourci. Il facilite la transition de la domination des raccourcis vers la domination du fondamental en permettant au système d'échapper aux minima locaux associés à l'apprentissage par raccourcis.

4. Vérification empirique

Les auteurs valident leur théorie en utilisant le jeu de données Colored-MNIST (où la couleur est un raccourci fallacieux et la forme du chiffre est la caractéristique fondamentale) :

• Initialisation : L'analyse en ACP confirme que les caractéristiques de couleur représentent une proportion plus importante de la variance des données que les caractéristiques de chiffres, expliquant l'apprentissage rapide initial du raccourci.
• GD vs SGD : Les expériences montrent que le GD par lots complets conduit à un modèle qui sépare les échantillons par couleur (raccourci) mais confond les chiffres, tandis que le SGD par mini-lots conduit à une séparation par chiffre (fondamental) tout en confondant la couleur.
• Identification de sous-réseaux : Des expériences de fine-tuning avec régularisation L1 révèlent que des neurones distincts sont responsables des caractéristiques fondamentales et de raccourci, soutenant l'hypothèse de sous-réseau.
• Simulation EDS : Les simulations numériques des EDS dérivées confirment que l'augmentation du bruit de données accroît le biais de raccourci, tandis que l'augmentation du bruit d'optimisation le réduit.

Importance et affirmations

L'article prétend fournir la première caractérisation théorique formelle des dynamiques de l'apprentissage par raccourcis utilisant la théorie des jeux évolutionnaires. Son importance réside dans :

1. Unification des perspectives : Il relie l'apprentissage de caractéristiques, l'optimisation stochastique et la robustesse dans un cadre unique de théorie des jeux.
2. Explication des dynamiques d'optimisation : Il offre une explication théorique de la raison pour laquelle le SGD par mini-lots généralise souvent mieux que le GD par lots complets en présence de raccourcis, attribuant cela à l'effet stabilisateur du bruit d'optimisation sur la stratégie fondamentale.
3. Perspectives d'atténuation : Le travail suggère que l'atténuation du biais de raccourci peut être abordée en manipulant les dynamiques évolutionnaires, telles que l'augmentation du nombre effectif d'échantillons suivant la stratégie fondamentale (via l'augmentation de données ou le rééquilibrage) ou l'amplification de l'écart de gain entre les stratégies fondamentales et de raccourci.
4. Limites théoriques : Les auteurs notent modestement que leur cadre actuel est limité à l'apprentissage supervisé et à une modélisation grossière, laissant ouvertes des questions concernant les architectures de modèles spécifiques et le coefficient d'interaction $\gamma$ (qui concerne la désintrication des caractéristiques).

L'article conclut que l'équilibre entre les raccourcis et les caractéristiques fondamentales n'est pas fixe à l'initialisation mais est dynamiquement façonné par l'interaction du bruit des données, de la stochasticité de l'optimisation et de la compétition des gradients.