💬 NLP

Masked Language Flow Models

Cet article introduit les Masked Language Flow Models (MLFMs), une nouvelle architecture qui combine la génération continue basée sur le flux avec le masquage de jetons discrets afin de surmonter les limites des modèles existants de diffusion et de flux de langage masqués, permettant ainsi des capacités de raisonnement multi-étapes, évolutives et efficaces pour les tâches linguistiques en aval.

Auteurs originaux : Iskander Azangulov, Kianoosh Ashouritaklimi, Leo Zhang, Simon Vary, Patrick Rebeschini

Publié 2026-06-29

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Iskander Azangulov, Kianoosh Ashouritaklimi, Leo Zhang, Simon Vary, Patrick Rebeschini

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayez d'écrire une histoire, mais que vous possédez un stylo magique capable de remplir les mots manquants. Le papier présente une nouvelle façon d'utiliser ce stylo, appelée Modèles de Flux de Langage Masqués (MLFMs), qui tente de résoudre un problème spécifique dans la manière dont les ordinateurs rédigent actuellement du texte.

Voici la décomposition utilisant des analogies simples :

Le Problème : Le dilemme du « Un par un » contre le « Étape par étape »

Pour comprendre cette nouvelle invention, nous devons d'abord examiner les deux anciennes méthodes de travail :

L'Ancienne Méthode (Modèles Autoregressifs) : Imaginez écrire une histoire un mot à la fois, strictement de gauche à droite. Vous écrivez « Le chat », puis vous marquez une pause pour réfléchir au mot suivant, vous écrivez « s'est », vous marquez une pause à nouveau, et ainsi de suite.
- Le Problème : C'est lent. Si vous voulez écrire un long livre, vous devez attendre que chaque mot soit écrit avant de pouvoir commencer le suivant.
La Voie « Parallèle » (Modèles de Diffusion Masqués) : Imaginez que vous avez une page blanche, et que vous couvrez chaque mot avec un post-it (un « masque »). L'ordinateur essaie de deviner tous les mots à la fois, retire les post-its, et voit ce qu'il a obtenu. Si certains mots semblent incorrects, il remet des post-its dessus et réessaie.
- Le Problème : C'est rapide car l'ordinateur devine de nombreux mots simultanément. Cependant, c'est comme essayer de deviner une phrase entière d'un seul coup sans voir le contexte. Si la phrase nécessite une logique complexe (comme un problème de mathématiques), deviner tout en même temps conduit souvent à des erreurs car l'ordinateur ignore comment les mots dépendent les uns des autres.
La Voie du « Flux Fluide » (Modèles de Langage de Flux) : Imaginez que le texte n'est pas composé de mots séparés, mais d'un flux continu et lisse de peinture. L'ordinateur part d'un seau de bruit gris et fait doucement « couler » la peinture pour créer une image claire et nette de la phrase.
- Le Problème : C'est très efficace et cela peut être fait en une ou deux étapes seulement. Mais c'est trop rigide. Cela force l'ordinateur à décider de chaque mot exactement au même moment. Il a du mal avec les tâches qui nécessitent une « réflexion par étapes », comme résoudre un problème de mathématiques où vous devez écrire l'étape 1, la vérifier, puis l'utiliser pour trouver l'étape 2.

La Solution : Les Modèles de Flux de Langage Masqués (MLFMs)

Les auteurs ont créé un système hybride qui combine le meilleur des deux mondes. Considérez cela comme un chantier de construction intelligent.

La Configuration : Vous avez un bâtiment en construction. Certaines parties sont terminées (mots clairs) et d'autres sont recouvertes d'échafaudages (mots masqués).
La Magie : Au lieu d'essayer de construire tout le bâtiment d'un coup (trop risqué) ou de poser une brique à la fois (trop lent), le MLFM utilise un flux continu pour remplir les échafaudages.
Le Twist : À mesure que l'ordinateur remplit les échafaudages, il vérifie constamment son travail. S'il devient très confiant concernant une brique spécifique (un mot), il retire immédiatement l'échafaudage et verrouille cette brique en place.
Pourquoi cela aide : Une fois qu'une brique est verrouillée, elle devient une fondation solide pour la partie suivante de la construction. Cela permet à l'ordinateur d'effectuer un raisonnement complexe multi-étapes (comme les mathématiques ou le suivi d'instructions) car il peut se « décider » sur une étape correcte et l'utiliser pour guider l'étape suivante, plutôt que d'attendre la toute fin pour voir si cela avait du sens.

Comment ils l'ont construit (L'« Adaptation »)

Construire un nouveau modèle à partir de zéro est coûteux et lent. Les auteurs ont trouvé un raccourci ingénieux :

Ils ont pris un modèle existant et puissant (un « Modèle de Diffusion Masqué ») qui était déjà bon pour deviner les mots.
Ils lui ont donné un « traducteur » (un adaptateur léger) qui lui a appris à parler le langage du « flux continu » au lieu de simplement les « mots discrets ».
Cela leur a permis de mettre à niveau un ancien moteur puissant en un nouveau moteur plus intelligent sans avoir à reconstruire tout le moteur à partir de zéro.

Le Nouveau « Sampler » (L'Équipe de Construction)

Le papier a également introduit une nouvelle façon pour l'ordinateur de « réfléchir » pendant qu'il écrit, appelée Promotion de Token en Ligne (Online Token Promotion).

L'Ancienne Méthode : L'ordinateur garde tous ses pronostics dans une pile de « peut-être » jusqu'à la toute dernière seconde, puis choisit les mots finaux.
La Nouvelle Méthode : Dès que l'ordinateur est sûr à 99 % d'un mot, il déplace ce mot de la pile « peut-être » vers la pile « terminé » immédiatement.
Le Bénéfice : Cela donne à l'ordinateur une image plus claire de la phrase au fur et à mesure, l'aidant à prendre de meilleures décisions pour les mots restants. C'est comme un chef qui goûte une sauce, réalise qu'elle est parfaite, et l'ajoute immédiatement à la marmite pour influencer la saveur des ingrédients suivants, plutôt que d'attendre que le plat soit terminé pour la goûter.

Les Résultats : Est-ce que cela a fonctionné ?

L'équipe a testé ce nouveau système sur deux tâches difficiles :

Problèmes de Mathématiques (GSM8K) : Résoudre des problèmes mathématiques de niveau primaire.
Suivi d'Instructions (MT-Bench) : Répondre à des questions complexes et suivre les instructions de l'utilisateur.

Les Constats :

Pour le suivi d'instructions et la conversation, le nouveau modèle était significativement meilleur que les précédents modèles « parallèles » et a même battu des modèles de taille similaire fonctionnant « un mot à la fois ».
Pour les mathématiques, il n'a pas encore battu les meilleurs modèles spécialisés en mathématiques, mais il a prouvé quelque chose d'énorme pour la première fois : les modèles basés sur le flux peuvent réellement être mis à l'échelle pour effectuer des tâches de raisonnement complexe. Avant cela, les gens pensaient que les modèles de flux n'étaient bons que pour la génération simple en une seule étape.

Résumé

Le papier présente un nouvel outil qui permet aux ordinateurs de rédiger du texte en mélangeant une « pensée fluide et continue » avec une « logique étape par étape ». Cela permet à l'ordinateur de verrouiller les bonnes réponses au fur et à mesure, ce qui le rend bien meilleur pour des tâches complexes comme le suivi d'instructions ou la résolution de problèmes, tout en étant plus rapide que les méthodes traditionnelles.

Résumé Technique : Modèles de Flux de Langage Masqués (MLFMs)

Énoncé du Problème

Les modèles autorégressifs (ARM) dominent la génération de langage mais souffrent de goulots d'étranglement lors de l'inférence séquentielle, car chaque jeton dépend de tous les précédents. Les modèles de diffusion masqués (MDM) offrent une alternative de décodage parallèle en démasquant itérativement les jetons ; cependant, ils reposent sur une transition inverse factorisée qui suppose une indépendance conditionnelle entre les positions masquées. Cette approximation est valide dans la limite des étapes infinitésimales, mais se dégrade considérablement dans les régimes d'échantillonnage à peu d'étapes, là où la génération parallèle est la plus efficace, entraînant une qualité compromise en raison de l'omission des dépendances entre les jetons.

Inversement, les modèles de flux de langage (FLM) opèrent dans des espaces de plongement continus, apprenant un flux qui transporte le bruit vers des séquences propres. Bien que les FLM permettent une génération efficace en une seule étape via la distillation de la carte de flux, ils tendent généralement à réduire la génération à une trajectoire unique. Cette structure peine avec les tâches nécessitant un raisonnement multi-étapes, car les FLM sont contraints de décoder tous les jetons simultanément plutôt que d'utiliser des états intermédiaires partiellement complétés comme contexte pour les raffinements ultérieurs.

Méthodologie : Modèles de Flux de Langage Masqués (MLFMs)

Les auteurs proposent les Modèles de Flux de Langage Masqués (MLFMs), un cadre qui intègre le mécanisme de masquage des MDM dans la dynamique de flux continue des FLM.

1. Cadre et Interpolant Stochastique

Les MLFMs définissent un processus direct dans l'espace euclidien utilisant un pont brownien comme interpolant stochastique. Ce pont relie :

Des séquences partiellement masquées : Représentées par des plongements propres pour les jetons non masqués et un plongement [MASK] spécifique pour les jetons masqués.
Des séquences propres : Représentées par leurs plongements de jetons propres.

Pour une séquence $X$ , à une probabilité de masquage $s$ et un temps de bruitage $t$ , l'état $z_{s,t}$ est construit de telle sorte que :

Les positions non masquées ( $U_s$ ) restent fixes à leurs plongements propres $E X_\ell$ .
Les positions masquées ( $M_s$ ) évoluent via un pont brownien entre le plongement [MASK] ( $m$ ) et le plongement propre ( $E X_\ell$ ).

Cette conception permet au modèle d'apprendre un flux continu couplé pour générer des jetons propres aux positions masquées tout en conservant la structure de conditionnement par n'importe quelle position exacte des MDM.

2. Entraînement et Adaptation

Une contribution clé est la capacité de pré-amorcer (warm-start) l'entraînement des MLFM en utilisant des MDM pré-entraînés.

Équivalence Théorique : À l'extrémité $t=0$ , l'interpolant stochastique du MLFM se réduit exactement à la séquence partiellement masquée plongée utilisée dans les MDM. Par conséquent, la perte du MLFM à $t=0$ coïncide avec la perte du MDM.
Stratégie d'Adaptation : Les auteurs adaptent un transformateur bidirectionnel pré-entraîné (issu d'un MDM) en :
1. Gardant fixe la couche de plongement de jetons.
2. Gelant les blocs du transformateur et en les augmentant de AdaLN (pour le conditionnement sur le temps continu $t$ ) et d'adaptateurs LoRA (pour l'adaptation aux plongements continus corrompus).
3. Adaptant la tête de sortie avec un adaptateur LoRA.
  Cette approche réduit considérablement les coûts de calcul par rapport à un entraînement à partir de zéro.

3. Stratégie d'Échantillonnage : CCFG avec Promotion de Jeton en Ligne

Pour répondre à la limitation du raisonnement multi-étapes, les auteurs introduisent un nouveau schéma d'échantillonnage combinant deux mécanismes :

Guidage de Classeur sans Contexte Contextuel (CCFG) : Une variante du guidage sans classeur où le champ de vitesse de référence est calculé en corrompant les jetons de contexte (en appliquant la marge de corruption directe à ceux-ci), tandis que le champ guidé utilise un contexte propre. La différence isole la contribution du contexte propre à la direction prédite.
Promotion de Jeton en Ligne (OTP) : Pendant l'échantillonnage, si le mode postérieur pour un jeton masqué atteint un seuil de confiance ( $1-\epsilon$ ), le jeton est immédiatement « promu ». Il est fixé à son plongement propre et traité comme un contexte observé pour toutes les étapes de débruitage suivantes. Cela permet au modèle de tirer parti des prédictions de haute confiance comme contexte immédiat, imitant le raisonnement itératif.

Contributions Clés

Intégration du Masquage et du Flux : Les MLFMs comblent le fossé entre le masquage discret (MDM) et les flux continus (FLM) en utilisant un pont brownien, permettant une génération conditionnelle qui supporte à la fois l'efficacité parallèle et le raffinement itératif.
Adaptation Efficace : La démonstration que les MDM pré-entraînés peuvent être convertis en MLFM via une adaptation légère (LoRA/AdaLN), en exploitant l'équivalence de l'extrémité à $t=0$ .
Nouvel Échantillonneur : La proposition du CCFG combiné à la Promotion de Jeton en Ligne, qui convertit dynamiquement les états latents en contexte propre, facilitant le raisonnement multi-étapes.
Mise à l'échelle vers des Tâches Aval : La première mise à l'échelle réussie des modèles de langage basés sur le flux vers le raisonnement (mathématiques) et les tâches de suivi d'instructions.

Résultats Expérimentaux

Les auteurs ont évalué un MLFM de 1,028 milliard de paramètres (adapté d'un SMDM pré-entraîné) sur GSM8K (raisonnement mathématique) et MT-Bench (suivi d'instructions).

MT-Bench : Le MLFM a obtenu un score au premier tour de 2,27, surpassant nettement la base SMDM (1,60) et une base AR de taille similaire (1,57). Notamment, cela a été réalisé avec seulement 128 étapes d'échantillonnage (la moitié des 256 de SMDM).
GSM8K : Le MLFM a atteint 31,24 % de précision. Bien qu'il soit en retrait par rapport au SMDM spécialisé pour la tâche (58,5 %) et à LLaMA-2 (58,6 %), les auteurs attribuent cela au protocole d'entraînement par mélange d'instructions plus large utilisé pour le MLFM par rapport au protocole spécifique à la tâche des bases de référence.
Ablations : Les résultats ont confirmé que le CCFG et la Promotion de Jeton en Ligne augmentent tous deux les performances. Des échelles de guidage plus grandes et plus d'étapes d'échantillonnage améliorent généralement les résultats, le MLFM surpassant les bases de référence sur MT-Bench même à 16 étapes d'échantillonnage.

Signification et Revendications

L'article affirme fournir la première preuve que les modèles de langage basés sur le flux peuvent être mis à l'échelle pour résoudre des tâches de raisonnement et de suivi d'instructions. En combinant le potentiel de génération parallèle des modèles de flux avec les capacités de raisonnement itératif des modèles masqués, les MLFM offrent une architecture flexible qui supporte la génération complexe multi-étapes. Ce travail démontre que les modèles de flux ne sont pas limités à la génération inconditionnelle ou à la simple distillation, mais peuvent être adaptés pour des applications conditionnelles concrètes via une adaptation MDM efficace.