🤖 AI

MUX: Continuous Reasoning via Multiplexed Tokens

L'article présente MUX, une méthode qui permet un raisonnement continu efficace et à large bande passante dans les modèles de langage en distillant les étapes de raisonnement discrètes en jetons latents multiplexés sans perte, surmontant ainsi les goulots d'étranglement computationnels de l'articulation en langage naturel tout en maintenant l'interprétabilité et en surpassant les bases de référence existantes.

Auteurs originaux : Ayhan Suleymanzade, Halil Alperen Gozeten, Michael Bronstein, żsmail żlkan Ceylan, Jinwoo Kim

Publié 2026-07-22

📖 4 min de lecture☕ Lecture pause café

CC BY 4.0

Auteurs originaux : Ayhan Suleymanzade, Halil Alperen Gozeten, Michael Bronstein, żsmail żlkan Ceylan, Jinwoo Kim

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez un monde où les ordinateurs sont comme des bibliothécaires incroyablement rapides et super intelligents capables de répondre à n'importe quelle question que vous posez. Mais voici le hic : pour résoudre un puzzle vraiment difficile, comme un problème de mathématiques complexe ou une énigme logique délicate, ces bibliothécaires doivent généralement « penser à voix haute ». Ils écrivent chaque petite étape de leur raisonnement dans une phrase longue et verbeuse avant de vous donner la réponse finale. Bien que cela fonctionne, c'est comme essayer de transporter une lourde charge de briques une par une ; cela prend beaucoup de temps et d'énergie car l'ordinateur ne peut transporter qu'une seule « brique » (un minuscule morceau de mot) à la fois. Les scientifiques cherchent toujours des moyens de rendre ces ordinateurs plus rapides et plus efficaces, non pas seulement en les rendant plus gros, mais en leur apprenant à transporter plus d'informations en une seule étape compacte. C'est la grande question : pouvons-nous apprendre aux ordinateurs à réfléchir intensément de manière silencieuse et rapide, sans avoir besoin d'écrire chaque mot ?

Entrez en scène MUX, une nouvelle méthode proposée par des chercheurs qui tente de résoudre ce problème en changeant la façon dont l'ordinateur réfléchit. Au lieu de forcer l'ordinateur à écrire une longue chaîne de pensée verbeuse, MUX lui apprend à empaqueter plusieurs étapes de raisonnement dans une seule « bulle de pensée » invisible. Pensez à une station de radio. Habituellement, une radio joue une chanson à la fois. Mais et si vous pouviez vous régler sur une fréquence où trois chansons différentes jouent en même temps, parfaitement mélangées, et qu'un décodeur spécial pouvait les séparer à nouveau plus tard ? C'est essentiellement ce que fait MUX. Il prend un intervalle de plusieurs étapes de raisonnement (comme « 5 plus 3 égale 8 ») et les mélange en un seul signal continu. L'ordinateur apprend à prédire ce signal mélangé, et parce que le mélange est réalisé d'une manière mathématique très spécifique, les étapes originales peuvent être parfaitement récupérées plus tard. L'article suggère que cette méthode permet à l'ordinateur d'explorer de nombreuses solutions différentes en même temps, comme vérifier plusieurs chemins dans un labyrinthe simultanément, plutôt que de parcourir un chemin, heurter une impasse et devoir recommencer.

Les chercheurs ont découvert que ce tour de passe-passe du « multiplexage » fonctionne étonnamment bien. Ils l'ont testé sur quatre modèles informatiques différents et 32 défis mathématiques différents. Les résultats ont montré que MUX était meilleur pour résoudre ces problèmes que d'autres méthodes avancées qui tentaient de faire des choses similaires. En fait, dans de nombreux cas, la méthode MUX était même meilleure que la manière standard d'apprendre aux ordinateurs à penser à voix haute, mais elle utilisait beaucoup moins d'étapes pour y parvenir. L'article prouve mathématiquement que si vous mélangez les « briques de pensée » avec le bon type de poids (comme un motif spécifique d'importance décroissante), vous ne perdrez jamais l'information originale. Cela empêche l'ordinateur de devenir paresseux ou confus, ce qui arrive lorsqu'il essaie de compresser les pensées de manière trop grossière. De plus, l'étude suggère que, puisque ces bulles de pensée peuvent contenir plusieurs possibilités à la fois, l'ordinateur devient naturellement meilleur pour « chercher » la bonne réponse, un peu comme avoir une équipe d'explorateurs vérifiant différents itinéraires au lieu d'envoyer une seule personne.

En bref, l'article soutient qu'en apprenant aux ordinateurs à mélanger leurs pensées en signaux compacts et récupérables, nous pouvons les rendre plus intelligents, plus rapides et plus efficaces sans avoir besoin de construire des machines plus grandes. Les auteurs suggèrent que cette idée simple de « mélange sans perte » est un ingrédient clé pour la prochaine génération d'IA capable de s'attaquer à des problèmes complexes sans s'enliser dans d'interminables explications verbeuses.

Résumé Technique : MUX - Raisonnement Continu via des Tokens Multiplexés

1. Énoncé du Problème

Les modèles de langage autorégressifs modernes résolvent des problèmes complexes (mathématiques, codage, bon sens) en articulant des étapes de raisonnement intermédiaires en langage naturel (Chaîne de Pensée ou Chain-of-Thought). Bien qu'efficace, cette approche discrète est informatiquement inefficace. Chaque étape de raisonnement ne transmet qu'un seul sous-mot, créant un goulot d'étranglement strict de la bande passante. De plus, de nombreux tokens de raisonnement sont redondants, reflétant des schémas de communication humaine plutôt qu'un calcul optimisé.

Le raisonnement latent continu offre une alternative où les modèles prédisent des vecteurs continus plutôt que des sous-mots, permettant théoriquement une bande passante plus élevée en encodant simultanément plusieurs sous-mots via la superposition. Cependant, les méthodes de raisonnement latent existantes font face à des obstacles importants :

Les méthodes globales (supervisant uniquement la réponse finale ou le point d'arrivée de la trajectoire) mènent souvent à des « comportements de raccourci » où les tokens latents deviennent des marque-places non informatifs.
Les méthodes locales (supervisant chaque token latent par rapport à un segment de raisonnement discret) nécessitent souvent des architectures auxiliaires complexes (par exemple, des décodeurs autorégressifs) ou échouent à maintenir la diversité des hypothèses nécessaire aux tâches de recherche.

Le défi central consiste à définir une cible de supervision pour le raisonnement latent continu qui soit fidèle au raisonnement discret, empêche l'effondrement latent et supporte l'exploration parallèle sans complexité architecturale excessive.

2. Méthodologie : MUX

Les auteurs proposent MUX, une méthode de distillation locale qui entraîne les modèles de langage à effectuer un raisonnement latent continu en utilisant des tokens multiplexés.

Concept Central

MUX traite la tâche de distillation locale comme l'apprentissage d'un signal continu de dimension fixe qui encode un signal catégoriel de longueur variable (un segment d'étapes de raisonnement discrètes). S'inspirant du multiplexage par répartition dans le code (code-division multiplexing) des systèmes de communication, MUX représente un segment de sous-mots discrets comme une superposition linéaire pondérée de leurs encodages one-hot dans l'espace du vocabulaire.

Implémentation Technique

Cibles Multiplexées : Pour un segment de raisonnement discret $r_i = (r^1_i, \dots, r^{S_i}_i)$ , la cible d'apprentissage est construite comme suit :
$\text{mux}(r_i) := \sum_{j=1}^{S_i} \alpha^{(i)}_j \cdot \text{onehot}(r^j_i)$
où $\alpha^{(i)}_j$ sont des poids positionnels positifs normalisés.
Pondération Positionnelle : Pour garantir que la superposition est sans perte (c'est-à-dire que le segment d'origine peut être récupéré de manière unique), les auteurs proposent des schémas de pondération spécifiques :
- Géométrique : $w_j = \rho^{j-1}$ (décroissance exponentielle).
- Sinusoïdale : Basée sur des fonctions sinus culminant près de la fin du segment.
- Rotative : Basée sur des composantes cosinus moyennes analogues aux plongements de position rotatifs (rotary position embeddings).
- Garantie Théorique : Ces pondérations satisfont une « condition de séparation de somme de sous-ensembles », garantissant que différents ensembles de positions produisent des masses totales distinctes pour tout sous-mot, empêchant ainsi l'ambiguïté même si un sous-mot apparaît plusieurs fois.
Objectif d'Entraînement : Le modèle est entraîné pour correspondre à ces cibles multiplexées en utilisant une tête softmax-linéaire et une perte de divergence KL ( $L_{local}$ ). Celle-ci est combinée à une perte standard de prédiction de réponse ( $L_{answer}$ ) et, optionnellement, à une perte au niveau de la trajectoire ( $L_{global}$ ) pour aligner les caractéristiques cachées avec les modèles de raisonnement discrets.
Inférence : Lors de l'inférence, le modèle effectue une autorégression de tokens latents dans l'espace caché. La projection du vocabulaire est utilisée uniquement pour la supervision pendant l'entraînement, et non pour générer les tokens de sortie finaux.

3. Contributions Clés

(1) Raisonnement Latent via des Tokens Multiplexés

MUX introduit un cadre de distillation locale simple où les tokens latents représentent des segments de raisonnement discrets via des superpositions linéaires pondérées. Contrairement aux méthodes locales précédentes, il ne nécessite pas de décodeur autorégressif auxiliaire ou de cibles de cache compressées, s'appuyant plutôt sur des projections dans l'espace du vocabulaire.

(2) Multiplexage Sans Perte

L'article fournit des preuves théoriques que des pondérations positionnelles spécifiques (géométrique, sinusoïdale, rotative) garantissent un multiplexage sans perte. Cela signifie que le segment de raisonnement discret est entièrement préservé dans la représentation continue. Les auteurs prouvent que ce caractère sans perte empêche l'effondrement latent (où les tokens deviennent sémantiquement homogènes), un mode de défaillance courant des méthodes de raisonnement latent globales.

(3) Recherche Parallèle via la Superposition

Théoriquement, les auteurs démontent que les tokens multiplexés peuvent naturellement implémenter une recherche en largeur (BFS) parallèle. Parce que les tokens sont superposés, un seul token latent peut représenter et mettre à jour un ensemble entier d'hypothèses (une frontière de recherche) simultanément. Cela permet au modèle d'explorer plusieurs chemins de résolution de problèmes en parallèle au sein d'un cadre de supervision sériel.

(4) Supériorité Empirique

À travers 32 configurations d'évaluation (couvrant quatre modèles de langage, deux corpus d'entraînement et quatre ensembles de tests), MUX surpasse les bases solides tant en raisonnement discret que continu. Notamment, MUX surpasse souvent la base de référence de la Chaîne de Pensée discrète (SFT-CoT) dont il est distillé, malgré l'utilisation de nettement moins de tokens (environ 2,4x à 5,9x de moins).

4. Résultats Expérimentaux

Raisonnement Mathématique : Sur GSM8K-AUG, GSM8K-AUG-NL, SVAMP, GSM-Hard et MultiArith, MUX a obtenu les meilleures performances de raisonnement latent sur les modèles GPT-2, LLaMA 3.2 1B, 3B et 3.1 8B. Il a fréquemment surpassé le SFT-CoT, démontrant que le raisonnement superposé compact peut mieux généraliser que les traces discrètes originales.
Benchmarks de Recherche : Sur les tâches MNNS (Minimum Nonnegative Sum) et Game of 24, MUX a significativement surpassé les bases (incluant Coconut et CoT2), validant la revendication théorique que les tokens multiplexés permettent des capacités de recherche parallèle.
Études d'Ablation :
- Perte Locale : Supprimer la perte globale ( $\gamma=0$ ) et s'appuyer uniquement sur la perte locale multiplexée produit toujours des résultats supérieurs à SIM-CoT, confirmant l'efficacité de la cible locale.
- Pondération : Les pondérations sans perte (Géométrique, Sinusoïdale, Rotative) ont systématiquement surpassé la pondération uniforme avec perte, bien que l'écart soit modeste sur les jeux de données hautement structurés.
- Découpage (Chunking) : Le découpage aléatoire des segments discrets en tokens latents a donné les meilleurs résultats, agissant comme une augmentation de données structurée.

5. Signification et Revendications

L'article affirme que la superposition sans perte en tant que cible d'apprentissage locale constitue une condition suffisante pour obtenir un raisonnement latent continu fort, efficace et interprétable.

Efficacité : MUX atteint une haute performance avec moins d'étapes de raisonnement que le CoT discret, répondant ainsi au problème du goulot d'étranglement de la bande passante computationnelle.
Simplicité : La méthode évite la complexité architecturale des approches de distillation locale précédentes (ex: décodeurs auxiliaires) tout en maintenant ou en améliorant les performances.
Interprétabilité : Les analyses de sondage (probing) confirment que les tokens latents appris encodent un contenu de raisonnement fidèle et interprétable, contrecarrant l'idée que le raisonnement latent n'est qu'un marque-place ininterprétable.
Parallélisme : Les résultats suggèrent que la dynamique de recherche parallèle peut naturellement émerger d'une supervision sérielle lors de l'utilisation de cibles multiplexées, offrant une nouvelle voie pour améliorer la planification et la recherche dans les modèles de langage.

Les auteurs concluent que des cibles locales simples et interprétables peuvent rendre le raisonnement latent plus fort et plus facile à entraîner, comblant le fossé entre l'efficacité des espaces continus et la fidélité du raisonnement discret.