🤖 machine learning

The Equilibrium Is the Initialization: Lazy Identity Collapse in Physics-Structured Deep Equilibrium Reasoning

Cet article révèle que les modèles d'équilibre profond à structure physique souffrent souvent d'un « effondrement de l'identité paresseuse », où le solveur implicite n'effectue aucun calcul réel en convergeant vers son initialisation quel que soit la difficulté de l'entrée, rendant l'architecture complexe inefficace par rapport à des modèles de base simples.

Auteurs originaux : Joyjeet Singh

Publié 2026-07-14

📖 7 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Joyjeet Singh

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous ayez construit un robot surpuissant, piloté par la physique, conçu pour résoudre des énigmes complexes. Vous avez programmé son « boucle de pensée » pour qu'elle fonctionne ainsi : quand une énigme est facile, le robot y jette un coup d'œil rapide et répond. Quand une énigme est difficile, le robot est censé faire tourner ses engrenages, lancer une simulation complexe et utiliser cet effort supplémentaire pour trouver une réponse plus profonde et meilleure. C'est comme une calculatrice qui décide de faire des calculs supplémentaires uniquement quand les chiffres deviennent effrayants.

Vous avez construit ce robot en utilisant une conception « Port-Hamiltonienne » sophistiquée (une façon d'emprunter les règles de la physique pour maintenir le robot stable) et vous lui avez donné une « initialisation apprise » (un point de départ intelligent). Vous l'avez entraîné sur deux tâches très différentes : l'une consistait à vérifier si une histoire est logiquement cohérente (ProofWriter), et l'autre à déterminer si l'on peut marcher d'un point A à un point B sur une carte (Accessibilité de graphe).

Voici le rebondissement, et c'est un gros : le robot n'a jamais réellement réfléchi.

Le Robot « Paresseux »

Dans presque toutes les expériences (18 runs sur 19), la « boucle de pensée » du robot s'est avérée être un immense tour de passe-passe silencieux. Le robot était censé partir d'un point, exécuter sa simulation physique, et arriver à un nouveau point, plus intelligent. Mais au lieu de cela, il est resté exactement là où il avait commencé.

Imaginez cela comme un élève. Vous lui dites : « Lis ce chapitre, réfléchis-y, puis donne la réponse. » L'élève ouvre le livre, lit la première phrase, referme le livre et dit : « La réponse est la première phrase. » Il n'a pas fait le travail ; il a simplement recopié la ligne de départ.

Dans les données de l'article, la réponse finale du robot était identique à son point de départ avec une précision de 10⁻⁶ (cela fait six zéros après la virgule !). C'était une copie parfaite.

Le Score de l'« Effort Zéro »

La partie la plus choquante est que ce robot paresseux a obtenu exactement le même score qu'un robot qui n'avait même pas essayé de réfléchir.

Le Robot Complet : Utilisait la boucle physique sophistiquée. Score : 61,80 % (sur la tâche de la carte) ou ~91,77 % (sur la tâche de logique).
Le Robot « Skip » : Les chercheurs ont dit au robot : « Hé, saute carrément la boucle de pensée. Prends le point de départ et envoie-le directement à la réponse. » Score : 61,80 % et ~91,77 %.
La différence était de 0,00 point de pourcentage. Le moteur physique sophistiqué n'a absolument rien apporté. En fait, un simple « MLP » à deux couches (un cerveau basique, non robotique) a fait aussi bien, voire mieux, sans avoir besoin de la boucle complexe du tout.

Pourquoi n'a-t-il pas réfléchi ?

On pourrait supposer que le robot était « coincé » parce qu'il était retenu par une corde de sécurité (une « ancre »). Les auteurs ont testé cela. Ils ont coupé la corde. Ils ont même entraîné le robot à partir d'endroits aléatoires et bruités.

Résultat : Il n'a toujours pas réfléchi.

Quand ils ont retiré la corde, le robot est resté sur place.
Quand ils l'ont forcé à partir d'un endroit bruité, le robot a simplement recopié ce bruit et la partie « réponse » du cerveau a appris à ignorer totalement le bruit.

La vraie raison de la paresse du robot était la « Famine de Gradient » (Gradient Starvation). C'est une façon sophistiquée de dire que le « cerveau » du robot a réalisé que le moyen le plus facile d'obtenir une bonne note était d'ignorer le travail difficile. La tâche était si simple que le robot pouvait la résoudre simplement en regardant les indices directs, sans avoir besoin de la boucle. Puisque la boucle n'aidait pas, l'algorithme d'apprentissage du robot a décidé : « Pourquoi s'embêter ? Restons immobiles. » Il a trouvé une solution stable et paresseuse et a refusé de bouger.

La seule fois où il a « pensé » (Et c'était mauvais)

Il y a eu une seule expérience (Seed 3 sur la tâche de logique) où le robot a bougé. Mais il n'a pas bougé vers une réponse intelligente ; il est devenu fou.

L'état du robot a dérivé de 171,43 unités par rapport à son point de départ.
Il ne résolvait pas l'énigme ; il générait du pur bruit.
Lorsque les chercheurs ont supprimé cette partie « folle », le score du robot s'est réellement amélioré, passant de 81,77 % à 83,23 %.

Ainsi, la seule fois où le robot a essayé de faire quelque chose de différent, il a empiré les choses.

Le Compteur d'« Effort » était cassé

Si le robot réfléchissait vraiment, on s'attendrait à ce qu'il passe plus de temps (plus d'itérations de résolution) sur les énigmes difficiles.

La Réalité : Le robot a passé exactement le même temps sur les énigmes faciles et les énigmes difficiles.
Les Données : La corrélation entre la difficulté de l'énigme et le temps passé était de 0,009. C'est pratiquement zéro.
La Limite : Le robot a atteint la limite de temps maximale autorisée (300 itérations) pour 99,9 % des énigmes, peu importe leur difficulté. Il ne s'adaptait pas ; il se heurtait simplement au mur à chaque fois.

Le Moment de Clarté : Comment attraper un robot paresseux

Les auteurs ont réalisé que les tests standards leur mentaient. Habituellement, si vous voulez voir si une partie d'un robot est utile, vous l'éteignez (la met à zéro) et voyez si le score chute. Mais cela n'a pas fonctionné ici car éteindre la partie « pensée » éteignait aussi la partie « départ », ce qui confondait les résultats.

Au lieu de cela, ils ont inventé un nouveau test appelé Substitution :

Prenez le point de départ du robot.
Sautez la boucle de pensée entière.
Envoyez le point de départ directement à la réponse.
Comparez le score.

Si le score est le même, le robot ne faisait rien. Ce test a prouvé, avec une différence de 0,00, que le robot était un « no-op » (une opération nulle).

Conclusion

L'article conclut que ce design spécifique — un modèle d'équilibre profond à structure physique avec un point de départ appris — n'a pas réussi à faire de « raisonnement ». Il n'a pas échoué parce qu'il était cassé ; il a échoué parce qu'il a trouvé un raccourci paresseux qui fonctionnait très bien.

A-t-il résolu le problème ? Oui, mais seulement en copiant l'entrée, pas en réfléchissant.
La physique a-t-elle aidé ? Non. La stabilité de la physique a en fait rendu plus facile pour le robot de rester paresseux.
Est-ce une percée ? Non. C'est un « résultat négatif » qui nous avertit : le fait qu'un modèle semble complexe et utilise une physique sophistiquée ne signifie pas qu'il fait réellement le travail difficile.

Les auteurs ont effectué tous ces tests sur un seul GPU Google Colab gratuit, ne prenant que 2 à 6 minutes par exécution. Ils ont publié tout leur code et leurs journaux pour que quiconque puisse vérifier. La leçon ? Si vous construisez une machine à penser complexe, vous devez vérifier si elle réfléchit vraiment, ou si elle fait simplement semblant d'être occupée pendant qu'elle recopie ses devoirs.

Résumé Technique : L'Équilibre est l'Initialisation

Énoncé du Problème

Les modèles d'Équilibre Profond (DEQ) et les architectures récurrentes implicites promettent un calcul adaptatif à l'entrée, où les problèmes plus difficiles déclenchent davantage d'itérations du solveur, et où l'équilibre résolu encode le résultat d'un véritable raisonnement itératif. Des paramétrisations structurées par la physique (par exemple, la dynamique port-hamiltonienne) sont souvent proposées pour garantir des dynamiques latentes stables et contrôlées en énergie, adaptées à une telle résolution implicite.

Cet article étudie un mode de défaillance spécifique dans ce paradigme : l'Effondrement d'Identité Paresseux (Lazy Identity Collapse). Les auteurs rapportent que dans un DEQ port-hamiltonien avec une initialisation apprise, l'équilibre « résolu » est numériquement identique au point de départ du solveur. Par conséquent, le calcul implicite est une opération nulle (no-op) silencieuse, contribuant pour zéro à la précision finale et échouant à allouer l'effort de calcul en fonction de la difficulté du problème.

Méthodologie

L'étude emploie un design expérimental contrôlé et reproductible sur deux tâches de raisonnement :

Entailment de ProofWriter : Implication binaire sur des plongements DeBERTa gelés, stratifiée par profondeur de preuve.
Accessibilité de Graphe Vérifiée par BFS : Accessibilité $k$ -hop synthétique sur des graphes de 16 nœuds, étiquetée par recherche en largeur (BFS) pour fournir un signal de difficulté de vérité terrain.

Architecture du Modèle :

Dynamique : Une mise à jour de type Euler-symplectique amortie et ancrée sur des variables d'espace de phase $z=(q, p)$ .
Initialisation : Un réseau feed-forward appris et conditionné par l'objectif qui mappe le contexte vers un état initial $z_0$ .
Solveur : Accélération d'Anderson (m=5, plafond de 300 itérations) résout le point fixe $h^*$ .
Contrôles : Une ligne de base MLP à deux couches entraînée sur des entrées identiques sert de contrôle positif pour établir la limite supérieure de performance sans couches implicites.

Protocole de Diagnostic :
Les auteurs introduisent un protocole de quatre tests pour auditer le calcul implicite, allant au-delà des métriques de précision standard :

Test de Substitution (T1) : Contourner entièrement le solveur en injectant directement le point de départ $z_0$ au décodeur.
Sonde de Représentation (T2) : Entraîner un nouveau classifieur sur la sortie de l'équilibre gelé $h^*$ pour vérifier s'il porte un signal de tâche.
Corrélation Itération-Difficulté (T3) : Corréler le nombre d'itérations du solveur avec la difficulté réelle de la tâche.
Déplacement Forcé (T4) : Commencer le solveur à partir d'un point déplacé lors de l'inférence pour tester si le champ de vecteurs appris contient une structure loin de l'initialisation.

Résultats Clés

1. L'Équilibre est l'Initialisation

À travers 19 sessions d'entraînement (18 sur des tâches de graphes, 5 sur ProofWriter), le déplacement entre l'équilibre résolu $h^*$ et le point de départ $z_0$ est numériquement nul ( $\approx 10^{-7}$ ).

Contournement du Solveur : Injecter $z_0$ directement au décodeur ne provoque aucune perte de précision (0,00 point de pourcentage (pp)) par rapport à l'ensemble du pipeline dans 18 des 19 sessions.
Irrégularité de l'Ancrage : Supprimer le terme d'ancrage explicite (qui tire l'état vers $z_0$ ) ne change rien. Le réentraînement avec des départs déconnectés du bruit ( $z_0 + \epsilon$ ) fait que le solveur converge vers le départ bruité, le décodeur apprenant à ignorer le canal.

2. Deux Régimes Dégénérés

Le papier identifie deux modes de défaillance distincts :

Effondrement d'Identité Paresseux (Majorité) : Le solveur effectue une application quasi-identité. L'équilibre ne porte aucun signal de tâche au-delà de ce qui est copié du point de départ. Le décodeur repose entièrement sur la voie de contexte directe.
Explosion du Solveur (Minorité) : Dans une graine (seed) de ProofWriter, le solveur diverge ( $\|h^* - z_0\| \approx 171$ ). Le décodeur co-adapte à ce bruit à haute variance. Mettre $h^*$ à zéro dans ce régime améliore la précision, confirmant que le « signal » était en réalité du bruit lié à la divergence.

3. Échec des Ablations Standards

Les auteurs démontrent que l'ablation standard de « mise à zéro » (définir $h^* = 0$ ) est confondue.

La mise à zéro supprime à la fois le calcul et la voie d'entrée (le point de départ $z_0$ ) si le décodeur dépend de la copie identité.
Cela conduit à des chutes de précision très dépendantes de la graine (ex: chute de +44 pp dans une graine, 0 dans une autre), suggérant faussement que le DEQ est parfois critique.
Le Test de Substitution isole correctement le calcul, montiant un écart stable de 0,00 pp.

4. Starvation de Gradient

Le mécanisme moteur de cet effondrement est la starvation de gradient (gradient starvation).

Les deux tâches sont solubles via une voie de contexte directe (prouvé par le fait que la ligne de base MLP à deux couches égale ou bat le DEQ complet).
Parce que la perte peut être minimisée sans la couche implicite, l'optimiseur route les gradients à travers le chemin direct.
La couche implicite ne reçoit aucun incitatif à s'éloigner de l'initialisation. Dans le pipeline de graphes, l'initialiseur est isolé du gradient ; dans ProofWriter, l'initialiseur est entraîné, mais la dynamique au-dessus de lui reste une identité.

5. Les Comptes d'Itération Ignorent la Difficulté

Les comptes d'itérations du solveur montrent une corrélation nulle ( $r = 0,009$ ) avec la difficulté réelle (distance BFS). 99,9 % des résolutions atteignent le plafond d'itérations quel que soit la complexité de la tâche, indiquant que le modèle n'alloue pas de manière adaptative les ressources de calcul.

Signification et Revendications

Le papier ne prétend pas que tous les DEQ ou modèles structurés par la physique échouent. Il propose plutôt un résultat négatif, spécifique à un design, et de mise en garde avec les implications suivantes :

Échec Silencieux : La télémétrie de l'entraînement standard (convergence, précision, itérations du solveur) peut paraître saine alors que le calcul implicite est entièrement non fonctionnel.
Le Test de Substitution est Essentiel : Les auteurs proposent le Test de Substitution (T1) comme un contrôle obligatoire pour tout article revendiquant un raisonnement implicite ou récurrent. Si le contournement du module ne change rien, le module ne calcule pas.
Incitations de Gradient > Architecture : Ajouter simplement un module itératif ou une structure stabilisante (comme les contraintes port-hamiltoniennes) ne garantit pas le calcul. Si une tâche est soluble via un raccourci (voie directe), l'optimiseur exploitera ce raccourci, rendant le chemin itératif coûteux comme un optimum stable de « ne rien faire ».
Reproductibilité : L'étude est entièrement reproductible, le code et les journaux bruts étant publiés. Toutes les expériences ont été exécutées sur un seul GPU Colab gratuit, démontrant que des résultats négatifs rigoureux peuvent être établis de manière peu coûteuse et rapide.

Les auteurs concluent que pour l'architecture spécifique étudiée (DEQ port-hamiltonien avec initialisation apprise), l'équilibre est simplement l'initialisation, et le système fonctionne comme une « machine de copie prudente » plutôt que comme un raisonneur.