💬 NLP

Coevolutionary Continuous Discrete Diffusion: Make Your Diffusion Language Model a Latent Reasoner

Ce papier propose la Diffusion Continue Discontinue Coévolutive (CCDD), un cadre novateur qui unifie les processus de diffusion continue et discrète au sein d'un modèle unique pour surmonter les défis de l'entraînement et du décodage de la diffusion continue tout en exploitant son expressivité théorique supérieure pour améliorer les performances de la modélisation du langage.

Auteurs originaux : Cai Zhou, Chenxiao Yang, Yi Hu, Chenyu Wang, Chubin Zhang, Muhan Zhang, Lester Mackey, Tommi Jaakkola, Stephen Bates, Dinghuai Zhang

Publié 2026-05-13

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Cai Zhou, Chenxiao Yang, Yi Hu, Chenyu Wang, Chubin Zhang, Muhan Zhang, Lester Mackey, Tommi Jaakkola, Stephen Bates, Dinghuai Zhang

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le Grand Problème : Deux Écoles de Pensée

Imaginez que vous essayez d'enseigner à un robot à écrire une histoire. Il existe actuellement deux façons principales de faire cela, et toutes deux présentent un défaut majeur :

L'Écrivain « Étape par Étape » (Modèles Autoregressifs) : Ce robot écrit un mot à la fois, de gauche à droite. C'est comme une personne écrivant une phrase qui ne peut pas revenir en arrière pour modifier le premier mot une fois le dixième écrit. C'est rapide, mais il éprouve des difficultés avec des énigmes complexes (comme les Sudoku) car il ne peut pas « anticiper » ou « revenir en arrière » facilement.
L'Artiste « Gratter et Réécrire » (Modèles de Diffusion) : Ce robot commence avec une page remplie de bruit statique (ou d'espaces vides) et la transforme lentement en une histoire. Il peut regarder toute la page d'un coup, corriger des erreurs et réorganiser les choses.
- L'Artiste Discret : Travaille avec de vrais mots. Il est bon pour corriger des mots spécifiques mais se retrouve parfois bloqué dans une boucle ou perd le sens « global ».
- L'Artiste Continu : Travaille avec des « vibes » ou des « sentiments » (des nombres mathématiques) plutôt que des mots spécifiques. Il est incroyablement puissant pour comprendre la logique complexe et la planification, mais il est très difficile à entraîner car transformer ces « vibes » en mots réellement lisibles est un processus désordonné et difficile.

Le Dilemme : L'« Artiste Continu » a un plus gros cerveau (plus de puissance théorique) mais est maladroit dans le travail réel d'écrire des mots. L'« Artiste Discret » est bon pour écrire des mots mais a un cerveau plus petit pour le raisonnement complexe.

La Solution : L'Équipe « Coévolutionnaire »

Les auteurs de ce papier proposent une nouvelle méthode appelée CCDD (Coevolutionary Continuous Discrete Diffusion).

Imaginez le CCDD comme une équipe d'écriture à deux personnes travaillant sur le même document en même temps :

Personne A (Le Token Discret) : Cette personne tient une liste de vrais mots. Elle est bonne pour connaître la grammaire et l'orthographe spécifique.
Personne B (Le Latent Continu) : Cette personne tient un « sentiment » ou une « carte conceptuelle » de l'histoire. Elle comprend la logique profonde, les rebondissements de l'intrigue et le raisonnement complexe (comme résoudre un problème de mathématiques).

Comment ils travaillent ensemble :
Au lieu que la Personne A et la Personne B travaillent séparément, elles sont liées.

Entraînement : Elles sont entraînées ensemble. La Personne B aide la Personne A à comprendre le sens derrière les mots, tandis que la Personne A aide la Personne B à ancrer ces « sentiments » abstraits en mots réels et lisibles.
La Magie : Parce qu'elles sont liées, le modèle obtient le meilleur des deux mondes. Il possède la puissance cérébrale de l'espace de « sentiments » continu (excellent pour le raisonnement) et la précision de l'espace de mots discret (excellent pour générer du texte).

L'Analogie : L'Architecte et le Bâtisseur

Imaginez construire une maison :

Le Modèle Discret est comme un Bâtisseur qui est excellent pour poser des briques mais ne comprend pas les plans. Il pourrait construire un mur au mauvais endroit car il ne peut pas voir la maison dans son ensemble.
Le Modèle Continu est comme un Architecte qui a un modèle mental 3D parfait de la maison mais ne peut pas physiquement poser les briques. Il sait exactement où les murs devraient aller, mais traduire cette vision 3D en un tas de briques est difficile.
Le CCDD est l'Architecte et le Bâtisseur travaillant côte à côte. L'Architecte (Continu) guide le Bâtisseur (Discret) avec une vision claire de la structure. Le Bâtisseur donne à l'Architecte un retour immédiat sur ce qui est physiquement possible. Le résultat ? Une maison qui est à la fois structurellement solide (bon raisonnement) et bien construite (bon texte).

Ce Que le Papier a Réellement Découvert

Les auteurs ont testé cette nouvelle approche d'« équipe » sur des tâches du monde réel :

Écrire des Histoires : Sur des ensembles de données linguistiques standards, leur modèle a fait significativement moins d'erreurs (une « perplexité » plus faible) que les modèles précédents de la même taille. Il a aussi appris plus vite.
Résoudre des Énigmes : Ils ont testé le modèle sur des énigmes logiques difficiles comme les Sudoku, le 3-SAT (un problème logique complexe) et Countdown (un jeu de mathématiques).
- Les modèles précédents (comme les écrivains « étape par étape ») ont lutté ou échoué.
- Les modèles « Continus » étaient théoriquement bons mais ont échoué dans la pratique.
- Le CCDD a écrasé la concurrence. Il a résolu ces énigmes avec une grande précision, souvent en moins d'étapes que la concurrence.
Vitesse : L'un des plus grands avantages est l'efficacité. Habituellement, pour obtenir un bon résultat d'un modèle de diffusion, il faut effectuer des centaines de minuscules étapes (comme affiner lentement un croquis). Le CCDD peut produire des résultats de haute qualité en seulement 8 étapes, alors que d'autres modèles avaient besoin de 256 étapes pour obtenir une qualité similaire.

La Conclusion

Le papier soutient que nous n'avons pas à choisir entre un modèle qui est « intelligent en raisonnement » et un modèle qui est « bon pour écrire des mots ». En créant un système où le « raisonnement abstrait » et les « mots concrets » évoluent ensemble (co-évoluent), nous obtenons un modèle qui est à la fois un penseur brillant et un écrivain habile.

En bref : Ils ont construit un robot capable de « penser en sentiments » pour résoudre des problèmes difficiles, mais qui traduit instantanément ces sentiments en mots parfaits, le rendant plus rapide et plus intelligent que tout ce que nous avons eu auparavant.

Résumé Technique : Diffusion Discret-Continu Coévolutive (CCDD)

1. Énoncé du Problème

Les récents progrès des modèles de langage de grande taille (LLM) ont mis en lumière les limites des architectures autorégressives (AR) standards, notamment concernant des tâches de raisonnement complexe comme les Sudoku, la connectivité de graphes et la reconnaissance de langages formels. L'analyse théorique suggère que les transformateurs standards sont restreints à la classe de complexité $TC^0$ , même avec des étapes de chaîne de pensée (CoT) logarithmiques, tandis que les transformateurs en boucle (LT) et les méthodes de raisonnement continu peuvent théoriquement atteindre $TC^1$ ou plus.

Cependant, un écart significatif existe entre l'expressivité théorique et la performance empirique :

Transformateurs en boucle (LT) : Bien que théoriquement plus expressifs, ils souffrent d'une mauvaise trainabilité due à un manque de supervision intermédiaire, entraînant des problèmes hors distribution (OOD) lors de l'inférence lorsque la profondeur de la boucle diffère de celle de l'entraînement.
Modèles de diffusion continue (CDM) : Ces modèles dominent théoriquement leurs équivalents discrets en expressivité en opérant dans des espaces latents continus et en généralisant les transformateurs en boucle. Pourtant, ils sous-performent empiriquement les modèles de diffusion discrets (DDM) et les modèles AR. Les auteurs attribuent cela à des défis pratiques de trainabilité : grands espaces de décision, embeddings de faible qualité et complexité combinatoire du décodage des représentations continues vers des tokens discrets.
Modèles de diffusion discrets (DDM) : Bien que hautement trainables et efficaces, ils opèrent dans des espaces de tokens explicites, risquant de perdre de l'information lors du processus de quantification « logits $\to$ échantillon $\to$ embedding » à chaque étape.

Le problème central est le dilemme expressivité-trainabilité : les modèles à haute expressivité théorique (CDM, LT) sont difficiles à entraîner, tandis que les modèles hautement trainables (DDM, AR) peuvent manquer des capacités de raisonnement latent nécessaires pour les tâches complexes.

2. Méthodologie : Diffusion Discret-Continu Coévolutive (CCDD)

L'article propose la Diffusion Discret-Continu Coévolutive (CCDD), un nouveau paradigme de modélisation du langage qui unifie les processus de diffusion continue et discrète au sein d'un cadre unique.

2.1 Processus de Diffusion Joint

La CCDD définit un processus de diffusion joint sur l'union d'un espace de tokens discrets ( $X = \Omega^L$ ) et d'un espace de représentations continues ( $Z = \mathbb{R}^{L \times d}$ ).

Processus direct : Le processus de corruption est factorisé mais appliqué simultanément aux deux modalités.
- Composante discrète : Évolue via une chaîne de Markov en temps continu (CTMC), utilisant généralement du bruit masqué (état absorbant) ou du bruit uniforme.
- Composante continue : Évolue via une équation différentielle stochastique (SDE) ou une équation différentielle ordinaire de flot de probabilité (PF-ODE) dans un espace d'embeddings contextualisé (par exemple, dérivé de modèles préentraînés comme Qwen3-Embedding).
- Le noyau de diffusion joint est le produit des noyaux individuels : $q_t(x_t, z_t | x_0, z_0) = q_t^{disc}(x_t | x_0) q_t^{cont}(z_t | z_0)$ .
Processus inverse : Un seul réseau conditionné par le temps $f_\theta(\cdot, t)$ prend la paire bruitée $(x_t, z_t)$ comme entrée et produit des têtes spécifiques à la modalité.
- La mise à jour inverse est factorisée : $p_\theta(x_s, z_s | x_t, z_t) = p_\theta^{disc}(x_s | x_t, z_t) p_\theta^{cont}(z_s | x_t, z_t)$ .
- Crucialement, bien que les règles de mise à jour soient factorisées, l'estimation pour chaque modalité conditionne sur les deux états. Le décodeur discret voit le latent continu $z_t$ , et le décodeur continu voit les tokens discrets $x_t$ . Cela permet à la composante continue de fournir une guidance sémantique riche (raisonnement implicite) à la composante discrète, tandis que la composante discrète fournit une structure explicite à la composante continue.

2.2 Objectif d'Entraînement

La fonction de perte d'entraînement est une somme pondérée des pertes continue et discrète :
$\mathcal{L}_{CCDD} = \gamma_{cont} \cdot \mathcal{L}_{cont} + \gamma_{disc} \cdot \mathcal{L}_{disc}$

$\mathcal{L}_{cont}$ : Perte MSE standard pour prédire le bruit ou la représentation continue originale (par exemple, prédiction de $\epsilon$ ).
$\mathcal{L}_{disc}$ : Perte d'entropie croisée pour prédire les tokens discrets originaux (généralement sur les positions masquées).

2.3 Conceptions Architecturales

L'article introduit plusieurs architectures pour le réseau de débruitage joint basé sur les Diffusion Transformers (DiT) :

MDiT (Diffusion Transformer Multimodal) : Mélange les embeddings continus et discrets avant les blocs de transformateurs. Il ajoute des paramètres et des FLOPs négligeables par rapport aux bases de référence purement discrètes.
MMDiT : Utilise des blocs d'attention croisée et d'attention auto-étagés pour l'interaction multimodale, doublant les paramètres et les FLOPs.
MoEDiT (Diffusion Transformer à Mélange d'Experts) : Maintient des MLP séparés pour les tokens discrets et continus au sein d'un mécanisme d'attention partagé, utilisant un routage MoE pour traiter dynamiquement les tokens en fonction de leur état. Cela équilibre l'efficacité des paramètres avec l'expressivité.

2.4 Techniques d'Inférence

Guidage sans classificateur (CFG) : Les représentations continues agissent comme une guidance auto-générée pour la génération de tokens discrets. Le modèle est entraîné avec une probabilité $p_{drop}$ de mettre à zéro les embeddings continus (inconditionnel), permettant une mise à l'échelle CFG lors de l'échantillonnage pour améliorer la qualité.
Échantillonnage flexible : La CCDD prend en charge à la fois l'échantillonnage déterministe en peu d'étapes (via ODE) pour l'efficacité et l'échantillonnage stochastique en plusieurs étapes (via SDE) pour une génération de haute qualité.

3. Contributions Clés

3.1 Analyse Théorique

Hiérarchie d'Expressivité : Les auteurs prouvent que les Modèles de Diffusion Continue (CDM) dominent strictement les Modèles de Diffusion Discrets (DDM) en termes d'expressivité au niveau des trajectoires. Les CDM produisent des marginales absolument continues, tandis que les DDM sont restreints à des supports atomiques finis, entraînant une perte d'information à chaque étape d'échantillonnage discret.
Généralisation des Transformateurs en Boucle : L'article démontre qu'un échantillonneur de diffusion continu peut simuler n'importe quel déploiement de transformateur en boucle avec la même architecture et le même nombre de paramètres. Inversement, les transformateurs en boucle déterministes ne peuvent pas simuler les chemins stochastiques non dégénérés produits par la diffusion continue.
Analyse de Trainabilité : L'article attribue l'échec empirique des CDM au manque de supervision intermédiaire dans les LT et à la complexité de décodage/l'insuffisance de représentation dans les CDM. La CCDD est proposée comme la solution qui conserve l'expressivité des CDM tout en acquérant la trainabilité des DDM grâce à une supervision explicite des tokens.

3.2 Résultats Empiriques

Modélisation du Langage : Sur les jeux de données LM1B et OpenWebText (OWT), la CCDD surpasse significativement les bases de référence discrètes (MDLM, SEDD) et les modèles autorégressifs.
- Sur LM1B, CCDD-MDiT a réduit la perplexité de validation de >25 % par rapport à une base de référence discrète avec les mêmes paramètres (92,1 M).
- Sur OWT, la CCDD a réduit la perplexité de >35 % par rapport aux bases de référence discrètes.
- La CCDD a obtenu ces résultats avec une convergence d'entraînement 25 fois plus rapide (40k itérations contre 1000k pour la base de référence).
Génération en Peu d'Étapes : La CCDD présente des capacités de génération en peu d'étapes supérieures. Un modèle avec seulement 8 étapes de débruitage a surpassé une base de référence discrète (MDLM) utilisant 256 étapes, démontrant une accélération de 16 fois de la vitesse de génération sans perte de qualité.
Raisonnement Complexe : Sur des tâches nécessitant une forte planification et rétroaction (Sudoku, 3-SAT, Countdown), la CCDD a surpassé toutes les méthodes précédentes, y compris les modèles autorégressifs, la diffusion discrète masquée et les transformateurs en boucle. Par exemple, la CCDD a atteint 100 % de précision sur les Sudoku en seulement 2 étapes, égalant les meilleurs résultats des transformateurs en boucle.

4. Importance et Revendications

L'article revendique que la CCDD comble avec succès le fossé entre l'expressivité théorique et la trainabilité pratique dans la modélisation du langage. En définissant un processus de diffusion joint, la CCDD exploite la puissance expressive forte des espaces latents continus (permettant un raisonnement implicite, une planification et une rétention de contexte global) tout en utilisant des tokens discrets pour assurer la trainabilité et la stabilité du décodage.

Les auteurs soulignent que la CCDD n'est pas simplement un hybride, mais une unification principielle qui :

Généralise les paradigmes existants (CDM, DDM, LT) en un cadre unique.
Conserve la capacité d'effectuer un « raisonnement latent » dans l'espace continu, ce qui est crucial pour des tâches complexes comme les Sudoku et le 3-SAT.
Améliore l'efficacité en permettant une mise à l'échelle flexible au moment de l'inférence (ODE en peu d'étapes vs SDE en plusieurs étapes) et en atteignant une convergence d'entraînement plus rapide que les transformateurs en boucle.
Démontre que la combinaison de modalités peut produire des gains de performance dépassant la somme de leurs parties, en particulier dans les benchmarks en aval et les scénarios de raisonnement complexe.

Ce travail suggère que les futurs paradigmes de modélisation du langage devraient dépasser les espaces de tokens purement discrets pour exploiter les représentations latentes continues pour le raisonnement, à condition qu'une supervision discrète explicite soit maintenue pour assurer un entraînement efficace.