💬 NLP

Rethinking State Tracking in Recurrent Models Through Error Control Dynamics

Cet article soutient que la poursuite d'état robuste dans les modèles récurrents dépend de manière critique de la dynamique de contrôle des erreurs plutôt que de la simple expressivité théorique, démontrant que les réseaux récurrents affins échouent inévitablement sur des tâches à long horizon car leur incapacité à corriger les erreurs de séparation d'état conduit à un effondrement prévisible du suivi une fois que l'étalement intra-classe accumulé dépasse le seuil de lisibilité du décodeur.

Auteurs originaux : Jiwan Chung, Heechan Choi, Seon Joo Kim

Publié 2026-05-11

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Jiwan Chung, Heechan Choi, Seon Joo Kim

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayiez de maintenir un décompte mental d'un jeu complexe, comme suivre qui est actuellement « aux commandes » dans un jeu de plateau où les joueurs échangent constamment leurs rôles. Vous avez un carnet de notes (l'état caché de votre cerveau) où vous notez le statut actuel. À chaque nouveau coup, vous mettez à jour votre carnet.

Pendant longtemps, les scientifiques ont cru que la seule chose qui comptait pour qu'un ordinateur fasse cela était l'expressivité : « Cet ordinateur a-t-il un carnet assez grand et un stylo assez intelligent pour théoriquement noter chaque règle possible du jeu ? »

Ce papier soutient que l'expressivité n'est que la moitié de l'histoire. L'autre moitié, plus critique, est le contrôle des erreurs. Il ne s'agit pas seulement d'avoir les bonnes règles ; il s'agit de ce qui se passe lorsque vous faites une toute petite erreur.

Le problème central : le carnet de notes « dérivant »

Imaginez que vous marchez sur un fil. Si vous faites un pas parfait, vous restez sur la ligne. Mais dans le monde réel, vous pourriez vaciller légèrement.

Le traqueur idéal : Si vous vacillez, vous avez un mécanisme intégré (comme une perche d'équilibre) qui corrige instantanément votre équilibre et vous ramène au centre.
Le traqueur défectueux : Si vous vacillez, vous continuez simplement à vaciller. Vous ne tombez pas immédiatement, mais à chaque pas, votre vacillement devient légèrement plus grand. Finalement, vous dérivez si loin de la ligne que vous ne pouvez plus dire de quel côté de la corde vous vous trouvez.

Les auteurs ont constaté que de nombreux modèles d'IA modernes populaires (comme Mamba et l'Attention Linéaire) sont du second type. Ils sont mathématiquement capables de connaître les règles, mais ils manquent de la « perche d'équilibre » pour corriger les petites erreurs.

Le piège « Affine »

Le papier se concentre sur une classe spécifique de modèles appelée Réseaux Récurrents Affines. Imaginez-les comme des modèles qui mettent à jour leur mémoire en utilisant une formule très rigide, en ligne droite.

La règle : Si le modèle est parfait, il doit revenir exactement au même endroit chaque fois que le cycle du jeu se répète.
La particularité : Parce que la formule est si rigide (affine), si elle est contrainte de revenir exactement au même endroit, elle perd la capacité de se rattraper si elle dérive. C'est comme une voiture avec un volant bloqué tout droit. Si la voiture est parfaitement centrée, elle roule bien. Mais si un caillou la pousse légèrement hors du centre, la voiture ne peut pas se diriger de nouveau ; elle continue simplement à rouler tout droit, s'éloignant de plus en plus du centre.

Le papier prouve que, une fois que ces modèles ont appris les règles parfaitement, ils deviennent « neutres » face aux erreurs. Ils préservent l'état, mais ils ne peuvent pas corriger la dérive.

L'effet « Horizon Fini »

Alors, ces modèles échouent-ils immédiatement ? Non.
Pensez-y comme à un seau percé.

Si vous marchez sur une courte distance (une courte séquence de texte), la fuite est si lente que vous ne la remarquez pas. Le seau contient encore assez d'eau pour vous donner la réponse.
Mais à mesure que vous marchez plus loin (séquences plus longues), l'eau (la précision) s'écoule lentement.
Finalement, le seau est si vide (ou l'eau si trouble par les erreurs) que vous ne pouvez plus distinguer la « bonne » réponse de la « mauvaise ».

Le papier appelle cela l'Horizon Fini. Ces modèles fonctionnent bien pendant un certain temps, mais ils ont une limite stricte. Une fois que le « bruit » ou la « dérive » accumulés deviennent plus grands que l'écart entre la bonne réponse et la mauvaise réponse, le modèle s'effondre.

La solution : la « perche d'équilibre » (Dépendance à l'état)

Le papier compare ces modèles rigides aux Modèles Dépendants de l'État (comme les RNN standards avec des activations non linéaires).

Ces modèles sont comme un cycliste avec une perche d'équilibre. S'ils vacillent, le cycliste peut activement se diriger de nouveau.
Mathématiquement, cela signifie que la façon dont ils mettent à jour leur mémoire change en fonction de l'endroit où ils se trouvent actuellement. S'ils dérivent, la règle de mise à jour change pour les repousser.
Les expériences montrent que ces modèles peuvent marcher sur le fil indéfiniment, quelle que soit la longueur de la séquence, car ils corrigent activement leurs propres erreurs.

Le seuil de « Lisibilité »

Les auteurs ont développé une méthode pour prédire exactement quand les modèles rigides échoueront.
Imaginez que les bonnes réponses sont des îles distinctes dans un océan brumeux.

Séparation : La distance entre les îles.
Dispersion : À quel point l'eau autour de chaque île est brumeuse (causée par les erreurs accumulées).
Le point de bascule : Tant que le brouillard (dispersion des erreurs) est plus petit que la distance entre les îles, vous pouvez encore voir sur quelle île vous vous trouvez. Mais une fois que le brouillard devient plus épais que la distance entre les îles, vous ne pouvez plus dire où vous êtes.

Le papier montre que pour les modèles rigides, ce brouillard grandit de manière prévisible. Ils peuvent calculer exactement combien de pas il faudra avant que le brouillard ne devienne trop épais, et cette prédiction correspond exactement au moment où le modèle cesse de fonctionner en pratique.

Résumé des résultats

La théorie ne suffit pas : Le fait qu'un modèle puisse théoriquement représenter une règle ne signifie pas qu'il peut utiliser cette règle de manière fiable au fil du temps.
Les modèles rigides dérivent : Les modèles qui utilisent des mises à jour simples en ligne droite (Affines) ne peuvent pas corriger leurs propres petites erreurs. Ils préservent l'état parfaitement uniquement s'ils commencent parfaitement.
La limite est prévisible : Ces modèles n'échouent pas au hasard ; ils échouent lorsque l'erreur accumulée dépasse la distance entre les bonnes réponses.
La flexibilité l'emporte : Les modèles qui peuvent changer leurs règles de mise à jour en fonction de leur état actuel (Dépendants de l'État) peuvent corriger activement les erreurs, leur permettant de suivre les informations indéfiniment.

En bref : La robustesse ne dépend pas de la qualité de votre carte ; elle dépend de la façon dont votre boussole vous corrige lorsque vous faites un faux pas.

Résumé Technique : Repenser le Suivi d'État dans les Modèles Récurrents par la Dynamique de Contrôle des Erreurs

Énoncé du Problème

Le cadre théorique dominant pour le suivi d'état dans les architectures récurrentes s'est concentré presque exclusivement sur l'expressivité : déterminer si une architecture fixe peut théoriquement réaliser un ensemble de règles de transition symboliques. Alors que des travaux récents ont établi la capacité théorique de divers modèles (par exemple, les Modèles à Espace d'État, l'Attention Linéaire) à représenter des transitions symboliques spécifiques, les résultats empiriques révèlent un écart significatif entre l'expressivité théorique et la robustesse pratique. Les modèles échouent souvent à suivre les états de manière stable lors de l'extrapolation de longueur ou de la répétition de déroulements, même lorsqu'ils possèdent la capacité théorique de le faire.

Ce papier soutient que le contrôle des erreurs — la dynamique régissant la dérive de l'état caché le long des directions qui distinguent les états symboliques — est un axe d'analyse tout aussi critique, mais négligé. Le problème central est que l'expressivité théorique ne garantit pas la capacité de corriger les erreurs accumulées qui poussent un état caché vers une représentation symbolique incorrecte.

Méthodologie

Cadre Théorique

Les auteurs formalisent le suivi d'état en utilisant une taxonomie de modèles récurrents définie par une couche récursive :
$h_t = \phi(g(h_{t-1}, x_t) \odot (A(x_t)h_{t-1})) + b(x_t)$
Ils catégorisent les modèles en deux classes principales basées sur le Jacobien de l'état :

Modèles Affines : La transition d'état est affine en $h_{t-1}$ (c'est-à-dire que le Jacobien $\partial h_t / \partial h_{t-1}$ ne dépend pas de $h_{t-1}$ ). Cette classe inclut les Modèles à Espace d'État (SSM) tels que Mamba, AUSSM, et les RNN Linéaires.
Modèles Dépendants de l'État : La transition dépend de manière non linéaire de l'état courant (par exemple, les RNN à portes, les RNN tanh).

Les auteurs introduisent un sous-espace symbolique $U$ , engendré par les différences entre les représentations d'états cachés d'états symboliques distincts ( $U := \text{span}\{c_g - c_{g'}\}$ ). Ils démontrent que pour toute séquence préservant l'état (où l'action symbolique est l'identité), une application de retour affine exacte doit agir comme l'identité sur $U$ . Par conséquent, les modèles affines ne peuvent pas contracter les erreurs le long de $U$ ; ils préservent la représentation de l'état exactement mais n'offrent aucun mécanisme pour ramener un état perturbé vers son centroïde correct.

Métriques Analytiques

Pour quantifier l'échec des trackers affines, les auteurs définissent un ratio de discernabilité $q(t)$ :
$q(t) = \frac{R(t)}{M(t)}$
Où :

$R(t)$ est l'étalement intra-classe (variance des états cachés autour de leur centroïde de classe).
$M(t)$ est la séparation inter-classe (distance minimale entre les centroïdes de classe).
$q(t)$ mesure l'étalement par rapport à la marge.

Ils établissent que le suivi reste « lisible » uniquement tant que $q(t)$ reste en dessous d'un seuil $\tau$ (spécifiquement $0,5$ pour un décodeur au centroïde le plus proche).

Configuration Expérimentale

Les auteurs évaluent un spectre d'architectures récurrentes sur des tâches de suivi d'état de groupe, qui nécessitent le maintien d'un produit en cours d'exécution d'éléments de groupe :

Tâches : Parité ( $C_2$ ), Groupe Cyclique ( $C_6$ ) et Groupe Symétrique ( $S_3$ ). $S_3$ est non abélien, rendant la composition sensible à l'ordre inévitable.
Modèles : Un ensemble diversifié incluant Mamba, Mamba-3, AUSSM, Negative Mamba, RNN Linéaires, RNN à portes de jetons, RNN tanh et RNN à portes d'état.
Protocole : Les modèles sont entraînés avec un apprentissage par curriculum jusqu'à une longueur de 60 et évalués pour une extrapolation jusqu'à une longueur de 1000. Ils effectuent également des expériences d'injection de perturbation pour mesurer la dynamique de récupération des erreurs.

Contributions Clés

1. Preuve Théorique de la Neutralité Affine

Le papier démontre le Théorème 1 : Si un réseau récurrent affine préserve exactement les états symboliques, son application de retour agit comme l'identité sur le sous-espace symbolique $U$ . Cela implique que les modèles affines ne peuvent pas contracter sélectivement les erreurs le long des directions qui séparent les états symboliques. Une fois qu'une application affine préservant l'état est fixée, il ne lui reste aucun « degré de liberté » pour corriger la dérive.

2. Caractérisation de l'Échec à Horizon Fini

Les auteurs démontrent que, bien que les modèles affines ne puissent pas corriger les erreurs, ils peuvent maintenir le suivi pendant un horizon fini régi par l'erreur accumulée.

Le Corollaire 1 montre que pour les trackers affines approximatifs, l'erreur le long de $U$ s'accumule linéairement dans le temps ( $e_U(t) \approx e_U(0) + t\bar{\eta}$ ).
Le suivi s'effondre lorsque le ratio de discernabilité $q(t)$ franchit le seuil de lisibilité. Ce temps de franchissement, $T_{cross}$ , prédit quantitativement la longueur maximale de passage ($mp$) du modèle.
Deux modes d'échec sont identifiés : Saturation (où $q(t)$ commence au-dessus du seuil) et Montée (où $q(t)$ croît linéairement jusqu'au franchissement).

3. Validation Empirique de la Dynamique de Contrôle des Erreurs

Grâce à des expériences extensives, le papier établit une dichotomie :

Les modèles dépendants de l'état (par exemple, RNN tanh, RNN à portes d'état) présentent une contraction conditionnelle des erreurs. Ils peuvent rétrécir sélectivement les perturbations le long de $U$ , maintenant $q(t) < 0,5$ indéfiniment et atteignant un suivi robuste jusqu'à la longueur maximale testée (1000).
Les modèles affines manquent de cette contraction sélective. Ils échouent soit immédiatement (saturation), soit après un horizon prévisible (montée) à mesure que l'étalement intra-classe accumulé érode la marge de séparation.

4. Décomposition du Sous-Espace

En décomposant l'étalement intra-classe en composantes parallèles ( $U$ ) et orthogonales ( $U^\perp$ ) au sous-espace symbolique, les auteurs montrent que l'échec des modèles affines est spécifiquement piloté par la croissance de l'étalement au sein de $U$ . Les modèles dépendants de l'état suppriment avec succès l'étalement dans $U$ , maintenant les erreurs dans le sous-espace orthogonal où elles n'affectent pas la discrimination symbolique.

Résultats

Écart de Robustesse : Les modèles dépendants de l'état suivent constamment les états symboliques jusqu'à une longueur de 1000 sur toutes les tâches ( $C_2, C_6, S_3$ ). En revanche, les modèles affines montrent divers degrés d'instabilité. Par exemple, Mamba et Mamba-3 échouent sur $S_3$ même à de courtes longueurs, tandis que Negative Mamba et les RNN à portes de jetons montrent des horizons étendus sur $C_2$ et $S_3$ mais finissent par s'effondrer.
Pouvoir Prédictif : Le point où le ratio de discernabilité $q(t)$ franchit le seuil de lisibilité ( $T_{cross}$ ) corrèle fortement ( $r \approx 0,87$ ) avec la longueur maximale de passage en aval ($mp$) à travers 113 modèles entraînés.
La Non-linéarité Compte : La capacité à suivre de manière robuste dépend du fait que le Jacobien de la fonction d'activation soit dépendant de l'état. Les non-linéarités ponctuelles (tanh, ReLU) et les opérateurs de paires (max/min, GroupSort) permettent un suivi robuste, tandis que les normalisations de vecteur complet (LayerNorm, projection sphérique) échouent, se comportant efficacement comme des applications affines sur le sous-espace symbolique.
Le Cas Limite $C_2$ : Le papier note que certains modèles affines réussissent sur la tâche de parité ( $C_2$ ) non pas parce qu'ils corrigent les erreurs, mais parce que la marge binaire est suffisamment grande pour tolérer une « oscillation neutre » (les erreurs inversant leur signe mais restant dans la marge). Cette tolérance diminue à mesure que l'ordre du groupe augmente, expliquant pourquoi les modèles affines échouent sur $C_6$ et $S_3$ .

Signification et Revendications

Le papier revendique un changement de paradigme du suivi d'état récurrent, passant d'une théorie de l'expressivité à une théorie du contrôle des erreurs.

Limitation Théorique : Les auteurs affirment que le suivi d'état robuste n'est pas uniquement déterminé par la capacité d'une architecture à représenter des règles symboliques (expressivité), mais crucialement par sa capacité à contrôler la dynamique des erreurs. Les modèles affines sont fondamentalement limités car la préservation des représentations d'état les force à être neutres sur les très directions où la correction d'erreur est nécessaire.
Implication Pratique : L'échec des modèles affines (comme les SSM) dans l'extrapolation de longueur n'est pas une déficience d'entraînement mais une limitation structurelle. Ils apprennent des « solutions à horizon fini » régies par l'erreur accumulée plutôt qu'un suivi d'état robuste et à horizon infini.
Guidage de Conception : Pour atteindre un suivi robuste, les architectures doivent intégrer des transitions dépendantes de l'état qui permettent au Jacobien de contracter les erreurs le long du sous-espace symbolique. Le papier suggère que la forme spécifique de la non-linéarité est moins importante que le fait qu'elle permette une modulation dépendante de l'état des directions symboliques.

Les auteurs concluent que, bien que les modèles affines puissent suffire pour des tâches intra-domaine ou des horizons courts, ils sont structurellement incapables du suivi d'état robuste et à long horizon requis pour le raisonnement symbolique complexe sans mécanismes de correction d'erreur dépendants de l'état.