Mono-Forward: Revisiting Forward-Forward through Objective-Locality Decomposition

Résumé technique : Mono-Forward : Réexamen de Forward-Forward par décomposition Objectif–Localité

Énoncé du problème
La rétropropagation (BP) reste l'algorithme dominant pour l'entraînement des réseaux de neurones profonds, mais elle souffre d'une surcharge mémoire substantielle et repose sur une propagation globale de l'erreur, un mécanisme souvent considéré comme biologiquement peu plausible. L'algorithme Forward-Forward (FF), introduit par Hinton, offre une alternative biologiquement plausible en remplaçant le passage avant-arrière par deux passages avant (positif et négatif) et en entraînant chaque couche à l'aide d'un objectif local de « bonté ». Cependant, FF reste constamment en retrait par rapport à BP en termes de précision. Une question centrale non résolue est de savoir si cet écart de performance découle des limitations inhérentes de l'apprentissage local (mise à jour des paramètres en utilisant uniquement des informations locales) ou de l'objectif contrastif de bonté spécifique utilisé dans FF (qui repose sur des passages doubles positifs-négatifs et une perte basée sur un seuil spécifique). Le couplage étroit de ces deux choix de conception dans la formulation originale de FF a rendu difficile l'isolement de la source du déficit de performance.

Méthodologie
Les auteurs proposent une décomposition de l'algorithme FF pour séparer ses deux composants principaux : (1) l'utilisation de signaux d'erreur locaux (apprentissage local par couche) et (2) l'objectif d'entraînement par bonté contrastive. Pour investiguer si l'objectif ou la localité constitue le goulot d'étranglement principal, les auteurs introduisent Mono-Forward (MF).

MF est une variante simplifiée de FF qui préserve la structure d'apprentissage local par couche mais modifie fondamentalement l'objectif d'entraînement :

1. Remplacement de l'objectif : Au lieu de l'objectif contrastif à double passage positif-négatif de FF original, MF applique localement à chaque couche un objectif standard de perte d'entropie croisée multi-classes.
2. Architecture : Chaque couche $i$ est équipée d'une « matrice de bonté » spécifique à la couche $M_i \in \mathbb{R}^{n \times m}$ (où $n$ est le nombre de neurones et $m$ le nombre de classes). Étant donné un vecteur d'activation $a_i$, la couche calcule un vecteur de bonté $g_i = a_i^\top M_i$.
3. Entraînement : Une perte d'entropie croisée locale est calculée immédiatement à partir de ces scores de bonté pour mettre à jour les paramètres de cette couche spécifique et sa matrice de bonté. Les activations sont ensuite détachées et transmises vers la couche suivante.
4. Prédiction : Lors de l'inférence, MF peut soit accumuler les scores de bonté sur toutes les couches, soit se fier uniquement aux scores de bonté de la dernière couche, cette dernière option étant plus économe en mémoire.

L'article mène également des études d'ablation extensives pour analyser l'impact de la propagation globale de l'erreur, des objectifs de bonté à comparaison complète (FC-FF) et de la normalisation L2 inter-couches, démontrant que l'objectif FF original est une source significative de dégradation des performances par rapport aux objectifs de classification standard.

Contributions clés

• Décomposition de FF : L'article fournit une décomposition conceptuelle montrant que l'écart de performance entre FF et BP n'est pas uniquement dû à la localité, mais est substantiellement influencé par l'inefficacité de l'objectif contrastif de bonté original pour les tâches de classification supervisée.
• Mono-Forward (MF) : L'introduction de MF comme une base de référence minimale et contrôlée pour l'apprentissage local. Il isole l'effet de l'objectif FF en le remplaçant par une perte d'entropie croisée standard tout en maintenant des mises à jour de paramètres locales.
• Validation empirique : Expériences extensives sur des MLP, des réseaux de neurones convolutifs (CNN) et des architectures MLP-Mixer sur des jeux de données incluant MNIST, FashionMNIST, CIFAR-10/100, PathMNIST et TinyImageNet.
• Analyse de l'efficacité mémoire : Une analyse détaillée de la consommation mémoire, mettant en évidence que si MF réduit l'utilisation de la mémoire dans les configurations MLP, son coût mémoire dans les CNN peut dépasser celui de BP en raison du stockage des matrices de bonté pour les cartes de caractéristiques haute résolution.

Résultats

• Améliorations de précision : Sur les benchmarks MLP, MF surpasse constamment le FF vanilla et diverses variantes de FF (par exemple, Collaborative FF, SymBa). Sur les MLP, MF atteint une précision comparable à BP, la dépassant légèrement sur MNIST et FashionMNIST, et restant compétitive sur CIFAR-10 et CIFAR-100.
• Performance MLP-Mixer : Sur PathMNIST, MF dépasse légèrement BP en précision (89,32 % contre 87,62 % dans une configuration spécifique) tout en ne nécessitant que 31 % de la mémoire consommée par BP.
• Limites des CNN : Lorsqu'il est appliqué aux CNN, le coût mémoire de MF évolue avec la résolution spatiale et le nombre de classes, dépassant parfois l'utilisation mémoire de BP, contrairement aux MLP entièrement connectés où il offre des économies significatives.
• Qualité de représentation : L'analyse utilisant la précision de sondage linéaire, la précision k-NN et le ratio de Fisher indique que MF apprend des représentations par couche plus fortes que le FF vanilla, en particulier dans les couches profondes, et reste compétitif par rapport à BP.
• Efficacité matérielle : MF démontre un temps d'exécution par époque réduit sur les CPU (0,88–0,93x du temps de BP) mais est plus lent sur les GPU (1,18x du temps de BP) en raison de l'absence de noyaux hautement optimisés pour les objectifs locaux par couche par rapport à la rétropropagation standard.

Signification et affirmations
L'article affirme que la limitation principale de l'algorithme Forward-Forward dans les contextes supervisés n'est pas la localité de ses mises à jour, mais plutôt l'objectif contrastif spécifique qu'il emploie. En découplant ces facteurs, les auteurs démontrent que l'apprentissage local peut être hautement efficace lorsqu'il est couplé à un objectif de classification standard.

La signification de Mono-Forward est double :

1. Pratique : Il offre une méthode d'entraînement qui atteint une précision proche de la rétropropagation avec des besoins mémoire considérablement réduits dans des architectures spécifiques (MLP et MLP-Mixer), améliorant potentiellement l'accessibilité pour les environnements aux ressources contraintes.
2. Analytique : Il sert de « sonde contrôlée » pour le domaine de l'apprentissage local. Les auteurs postulent que comparer une méthode d'apprentissage local à une variante qui relâche sa contrainte de localité (en introduisant des signaux d'erreur globaux) est une stratégie utile pour identifier si les écarts de performance sont causés par la localité ou par le choix de l'objectif d'entraînement.

Les auteurs restent modestes, reconnaissant que MF n'est pas un modèle biologique fidèle (car il repose toujours sur des étiquettes explicites et une optimisation basée sur le gradient) et que son efficacité dépend du matériel. Ils ne prétendent pas que MF est universellement supérieur à BP, mais suggèrent que des objectifs locaux correctement conçus peuvent être avantageux dans des contextes spécifiques, en particulier lorsque l'efficacité mémoire est primordiale.