🤖 machine learning

A projection-based framework for gradient-free and parallel learning

Ce papier présente PJAX, un cadre basé sur JAX qui reformule l'entraînement des réseaux de neurones comme un problème de faisabilité parallélisable et sans gradient, utilisant des opérateurs de projection itératifs, offrant une alternative convaincante à l'optimisation classique basée sur le gradient avec des avantages dans la gestion des opérations non différentiables et la possibilité d'un parallélisme massif.

Auteurs originaux : Andreas Bergmeister, Manish Krishan Lal, Stefanie Jegelka, Suvrit Sra

Publié 2026-04-30

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Andreas Bergmeister, Manish Krishan Lal, Stefanie Jegelka, Suvrit Sra

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayez de résoudre un puzzle massif et complexe, comme un gigantesque puzzle 3D ou un cube Rubik, mais sans connaître l'image finale.

L'Ancienne Méthode (Apprentissage par Gradient)
Actuellement, la plupart des modèles d'IA apprennent en utilisant une méthode appelée « rétropropagation ». Imaginez cela comme un randonneur essayant de trouver le fond d'une vallée brumeuse (la meilleure solution). Le randonneur ressent la pente sous ses pieds (le gradient) et fait un pas vers le bas. Il continue ainsi, pas après pas, jusqu'à atteindre un point bas.

Le Problème : Parfois, le randonneur reste coincé dans une petite dépression (un minimum local) qui n'est pas le vrai fond. Parfois, le chemin est si raide ou si plat que le randonneur se perd ou avance trop lentement. De plus, pour savoir dans quelle direction est « le bas », le randonneur doit envoyer un signal tout le long du chemin, depuis le fond de la vallée jusqu'au sommet, ce qui est lent et nécessite un chemin très spécifique et symétrique.

La Nouvelle Méthode (Apprentissage par Projection)
Les auteurs de cet article proposent une stratégie complètement différente. Au lieu d'essayer de trouver le fond d'une vallée, ils traitent l'entraînement comme un problème de faisabilité.

Imaginez une pièce remplie de murs, chacun avec une règle spécifique.

Le Mur A dit : « Le bloc rouge doit être à côté du bloc bleu. »
Le Mur B dit : « Le bloc vert doit être au-dessus du bloc rouge. »
Le Mur C dit : « Le poids total doit être égal à 50 kg. »

Votre objectif n'est pas de glisser vers le bas d'une colline ; il s'agit de trouver une seule et unique disposition des blocs où la règle de chaque mur est satisfaite simultanément.

Comment Cela Fonctionne : La Métaphore de la « Projection »
Les auteurs appellent leur méthode « basée sur la projection ». Voici comment ils procèdent :

Décomposition : Ils décomposent le gigantesque puzzle (le réseau de neurones) en tout petits morceaux simples appelés « fonctions primitives » (comme des opérations mathématiques simples : additionner des nombres, les multiplier, ou décider si un nombre est positif).
La Correction Locale : Au lieu d'examiner l'ensemble du puzzle, ils ne regardent qu'un seul mur (une seule règle). Si les blocs ne respectent pas la règle de ce mur, ils « projettent » les blocs sur le mur. Imaginez projeter une lumière sur les blocs ; l'ombre qu'ils projettent sur le mur représente la position « correcte » pour cette règle spécifique.
Puissance Parallèle : C'est la partie magique. Parce que chaque mur ne se soucie que de ses propres voisins immédiats, vous pouvez corriger le Mur A, le Mur B et le Mur C tous en même temps. Vous n'avez pas à attendre que le Mur A soit terminé pour commencer le Mur B. C'est comme avoir une équipe de 100 personnes réparant différentes parties d'une maison simultanément, plutôt qu'une seule personne réparant d'abord le toit, puis la cuisine, puis la salle de bain, l'une après l'autre.
Répétition : Ils font cela encore et encore. À chaque fois, ils ajustent légèrement les blocs pour mieux respecter les règles locales. Finalement, les blocs se stabilisent dans une position où ils satisfont toutes les règles simultanément. C'est votre IA entraînée.

Pourquoi C'est Génial (Selon l'Article)

Pas de « Pente » Nécessaire : Vous n'avez pas besoin de calculer une « pente » (gradient). Cela signifie que vous pouvez utiliser des règles qui sont « bosselées » ou brisées (non différentiables), comme un interrupteur qui est soit ALLUMÉ, soit ÉTEINT. L'ancienne méthode peine avec ces cas ; cette nouvelle méthode les gère facilement.
Plausibilité Biologique : Dans le cerveau, les neurones n'envoient pas un « signal d'erreur » global tout le long du chemin, depuis la fin d'une pensée jusqu'au début. Ils s'ajustent simplement en fonction de ce que font leurs voisins immédiats. Cette nouvelle méthode imite cet ajustement local, de voisin à voisin.
Vitesse : Parce que tout le monde travaille en parallèle, cela peut être beaucoup plus rapide sur les puces informatiques modernes (GPU/TPU) conçues pour faire beaucoup de choses à la fois.

Le Compromis : Le Coût de la « Mémoire »
L'article admet qu'il y a un piège. Pour faire cela, l'ordinateur doit se souvenir de la position de chaque « arête » du puzzle à chaque étape.

Analogie : Dans l'ancienne méthode, vous vous souvenez simplement de l'emplacement actuel du randonneur. Dans cette nouvelle méthode, vous devez vous souvenir de la position de chaque bloc dans la pièce, et de chaque connexion entre eux, pour chaque personne de votre équipe.
Résultat : Cela utilise beaucoup plus de mémoire informatique (RAM). Les auteurs ont dû réduire la taille de certains de leurs modèles de test pour les faire tenir dans la mémoire de leur ordinateur, alors que l'ancienne méthode pouvait gérer des modèles plus grands plus facilement.

Les Résultats
Les auteurs ont créé un outil logiciel appelé PJAX (Projection JAX) pour tester cela. Ils l'ont essayé sur différents types de puzzles :

Des motifs simples (MLP)
La reconnaissance d'images (CNN)
La prédiction de langage (RNN)

Ils ont constaté que si l'« ancienne méthode » (utilisant les optimiseurs Adam ou SGD) reste championne en termes de vitesse brute et de précision finale dans de nombreux cas, cette nouvelle méthode de « Projection » fonctionne de manière surprenante. C'est une alternative viable qui :

Apprend sans avoir besoin de gradients.
Gère des règles « bosselées » qui confondent les autres méthodes.
Apprend très efficacement sur du matériel parallèle, en particulier pour des tâches comme la modélisation du langage où l'ancienne méthode lutte contre le « problème du gradient qui s'évanouit » (oubli du début d'une phrase).

En Résumé
L'article dit : « Arrêtez d'essayer de glisser vers le bas d'une colline pour trouver la réponse. Traitez plutôt le problème comme un ensemble de règles locales. Corrigez chaque règle localement et simultanément, et éventuellement, tout le système s'assemblera. » C'est une nouvelle façon d'entraîner l'IA, plus parallèle, plus flexible avec différents types de mathématiques, mais qui nécessite actuellement plus de mémoire.

1. Énoncé du problème

Le papier aborde les limitations fondamentales du paradigme dominant de l'entraînement en apprentissage profond : l'optimisation basée sur le gradient via la rétropropagation. Bien que très efficace, cette approche fait face à plusieurs défis critiques :

Exigence de différentiabilité : Elle nécessite que tous les composants du réseau et les fonctions de perte soient (sous-)différentiables, excluant ainsi les opérations non différentiables (par exemple, la quantification, la logique discrète).
Goulot d'étranglement séquentiel : La phase de rétropropagation est intrinsèquement séquentielle, limitant le parallélisme et augmentant la latence de mise à jour, en particulier dans les architectures profondes.
Impraticabilité biologique : Le mécanisme de transport symétrique des poids (renvoyant les gradients d'erreur à travers exactement les mêmes poids utilisés pour la propagation avant) est considéré comme biologiquement irréaliste.
Pathologies d'optimisation : Les méthodes basées sur le gradient ont souvent du mal avec les gradients qui disparaissent ou explosent, les minima locaux et les points selle.

Les auteurs proposent un changement de paradigme : reformuler l'entraînement des réseaux de neurones non pas comme un problème de minimisation de perte, mais comme un problème de faisabilité. Au lieu de naviguer dans un paysage de perte, l'objectif est de trouver les paramètres du réseau et les états intermédiaires qui satisfont simultanément un ensemble de contraintes locales dérivées de la structure du réseau et des mappings entrée-sortie.

2. Méthodologie

La méthodologie centrale repose sur des algorithmes de projection itératifs appliqués à un graphe de calcul à grain fin.

A. Formulation de faisabilité

L'entraînement est défini comme la recherche d'un vecteur d'état $z$ (représentant toutes les valeurs des arêtes dans le graphe de calcul) qui se trouve dans l'intersection de plusieurs ensembles de contraintes $C_v$ :
$\text{Trouver } z \in \bigcap_{v \in V} C_v$
Où $V$ représente les nœuds du graphe de calcul. Les contraintes sont définies localement pour chaque type de nœud :

Nœuds d'entrée constante : Imposent que les arêtes sortantes transportent la valeur d'entrée.
Nœuds de paramètres : Imposent un consensus parmi toutes les arêtes sortantes d'un paramètre (assurant qu'une seule valeur de poids est utilisée partout).
Nœuds de fonction cachée : Imposent que la sortie d'une arête soit égale au résultat de l'application de la fonction primitive (par exemple, ReLU, produit scalaire) à ses entrées.
Nœuds de cible/perte : Imposent que la sortie du réseau minimise la perte (ou satisfasse une contrainte de marge) par rapport à la cible.

B. Opérateurs de projection

La solution est trouvée en utilisant des algorithmes itératifs tels que les projections alternées (AP), les projections cycliques (CP) et Douglas-Rachford (DR).

Projections locales : Pour chaque nœud, l'algorithme projette l'état courant sur l'ensemble de contraintes défini par ce nœud.
Fonctions primitives : Le papier dérive des solutions analytiques ou numériques efficaces pour projeter sur les graphes d'opérations élémentaires (par exemple, produits scalaires, ReLU de sommes, max pooling, quantification).
Non-différentiabilité : Puisque les projections reposent sur la minimisation de la distance plutôt que sur les dérivées, le cadre gère naturellement les fonctions non différentiables (par exemple, quantification, fonctions échelon).

C. Parallélisation via bipartition

Une contribution théorique clé est le Théorème 2, qui exploite la nature bipartite des graphes de calcul.

Les nœuds du graphe peuvent être divisés en deux ensembles disjoints, $A$ et $B$ , de telle sorte qu'aucun deux nœuds au sein du même ensemble ne soient adjacents.
Les projections pour tous les nœuds de l'ensemble $A$ peuvent être calculées indépendamment et en parallèle car elles opèrent sur des ensembles disjoints de variables d'arêtes. Il en va de même pour l'ensemble $B$ .
Cela permet de paralléliser entièrement l'étape de mise à jour à travers le réseau, éliminant la dépendance séquentielle de la rétropropagation.

D. Le cadre PJAX

Les auteurs introduisent PJAX (Projection JAX), un cadre logiciel construit au-dessus de JAX.

Compositionnel : De la même manière que autodiff compose les dérivées, PJAX compose les opérateurs de projection.
API : Fournit une API similaire à NumPy/JAX pour la définition de modèles.
Matériel : Hérite de la compilation JIT de JAX et de la prise en charge des GPU/TPU.
Automatisation : Construit automatiquement le graphe de calcul et orchestre les étapes de projection itératives.

3. Contributions clés

Reformulation théorique : Une formulation rigoureuse de l'entraînement des réseaux de neurones comme un problème de faisabilité à grande échelle utilisant des variables d'arêtes et des contraintes locales, prouvant qu'une solution faisable correspond à un minimiseur de risque empirique.
Algorithmes parallélisables : Une preuve que les mises à jour par projection peuvent être entièrement parallélisées en exploitant la structure bipartite des graphes de calcul, offrant un avantage distinct par rapport à la rétropropagation séquentielle.
Opérateurs de projection : Dérivations mathématiques pour les opérateurs de projection sur des fonctions primitives clés (produit scalaire, ReLU, max, quantification) et des fonctions de perte (entropie croisée, perte de marge).
Cadre PJAX : Le premier cadre d'entraînement sans gradient à usage général prenant en charge des architectures arbitraires (MLP, CNN, RNN) et l'accélération matérielle.
Validation empirique : Expériences complètes démontrant la viabilité de l'approche sur diverses tâches et architectures.

4. Résultats expérimentaux

Les auteurs ont évalué PJAX sur des benchmarks standards (MNIST, CIFAR-10, HIGGS, Shakespeare) en utilisant des MLP, CNN et RNN, en comparant avec SGD, Adam, Feedback Alignment (FA) et Forward-Forward (FF).

Performance :
- MLP : Les méthodes de projection (en particulier Douglas-Rachford) ont atteint une précision compétitive par rapport à SGD, souvent avec des temps d'étape significativement plus rapides (jusqu'à 10 fois plus rapides par étape dans les réseaux peu profonds).
- RNN : Les méthodes de projection ont montré un avantage structurel en évitant la rétropropagation dans le temps (BPTT), contournant les problèmes de gradients qui disparaissent ou explosent et convergeant plus rapidement en nombre d'étapes que SGD.
- CNN : L'écart de performance avec les méthodes basées sur le gradient était plus important, et les temps d'étape étaient plus lents en raison de la surcharge mémoire élevée due au partage de paramètres (voir ci-dessous).
Profondeur et connexions de saut : Les réseaux profonds sans connexions de saut ont eu du mal avec la propagation de l'information dans l'entraînement basé sur la projection. Cependant, l'introduction de connexions de saut (raccourcissant les chemins des premières couches vers la sortie) a considérablement amélioré les performances, validant la nécessité d'ajustements architecturaux dans ce paradigme.
Efficacité :
- Temps par étape : Les méthodes de projection (AP/CP) avaient généralement un temps par étape inférieur à SGD en raison du parallélisme massif, bien que le temps total d'horloge pour la convergence ait varié.
- Mémoire : La méthode nécessite de stocker des variables d'état pour chaque arête du graphe. Cela conduit à une complexité mémoire de $O(|E|)$ , qui est supérieure à la $O(|V|)$ de la rétropropagation, en particulier pour les architectures avec un partage de paramètres important (CNN, RNN).

5. Signification et orientations futures

Praticabilité biologique : La méthode s'aligne mieux avec les principes d'apprentissage biologiques en utilisant des mises à jour locales et en évitant la rétropropagation globale de l'erreur.
Gestion de la non-différentiabilité : Elle ouvre la porte à l'entraînement de réseaux avec des composants discrets (par exemple, réseaux de neurones quantifiés, portes logiques) sans nécessiter d'approximations de gradient.
Évolutivité : La nature parallèle des mises à jour la rend hautement adaptée au matériel moderne (GPU/TPU), permettant potentiellement de surmonter les goulots d'étranglement séquentiels de la rétropropagation dans les réseaux très profonds ou larges.
Limitations : La limitation principale est l'utilisation de la mémoire, qui évolue avec la taille du lot, la longueur de la séquence et le partage de paramètres.
Travaux futurs : Les auteurs suggèrent d'explorer l'amortissement adaptatif, les schémas hybrides (mélangeant projections et gradients), les techniques d'économie de mémoire (états d'arêtes de rang faible) et des architectures sur mesure pour réduire l'interaction paramètre-données.

En résumé, ce papier présente une alternative convaincante à l'entraînement basé sur le gradient, démontrant que la recherche de faisabilité via des projections parallèles est un paradigme viable, général et efficace pour l'apprentissage profond, en particulier pour les architectures non différentiables et récurrentes.