💬 NLP

MARS: Enabling Autoregressive Models Multi-Token Generation

Le papier présente MARS, une méthode de fine-tuning légère qui permet aux modèles de langage autoregressifs de générer plusieurs tokens par étape sans modifier l'architecture, offrant ainsi une accélération significative du débit tout en conservant la précision du modèle d'origine.

Auteurs originaux : Ziqi Jin, Lei Wang, Ziwei Luo, Aixin Sun

Publié 2026-04-09

📖 4 min de lecture☕ Lecture pause café

CC BY 4.0

Auteurs originaux : Ziqi Jin, Lei Wang, Ziwei Luo, Aixin Sun

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous écrivez un roman avec un ami très talentueux, mais un peu rigide. Ce ami, c'est le modèle de langage classique (AR). Sa règle d'or est : « Je ne peux écrire qu'un seul mot à la fois. »

Peu importe si la phrase est évidente (comme « La réponse est... ») ou si vous devez inventer une idée complexe, il s'arrête après chaque mot, réfléchit, puis écrit le suivant. C'est sûr, mais c'est lent, comme un train qui s'arrête à chaque gare, même si la voie est libre.

MARS, c'est une nouvelle méthode pour apprendre à cet ami à être plus rapide, sans le transformer en une machine différente. Voici comment ça marche, expliqué simplement :

1. Le problème : Le train qui s'arrête trop souvent

Les modèles actuels dépensent la même énergie pour chaque mot. Que ce soit pour écrire « Bonjour » ou pour résoudre une équation de maths complexe, ils font un seul pas à la fois. C'est du gaspillage d'énergie quand le contexte est simple.

2. La solution MARS : Apprendre à « deviner » plusieurs pas

Les chercheurs ont créé une méthode appelée MARS (Mask AutoRegreSsion). Au lieu de construire un nouveau train ou d'ajouter des wagons supplémentaires (ce qui serait compliqué et cher), ils ont juste donné à l'ami un petit entraînement spécial.

Imaginez que vous jouez à un jeu de devinettes avec lui :

L'entraînement : Vous lui donnez une phrase où certains mots sont cachés sous des étiquettes « [MASQUÉ] ». Vous lui dites : « Devine les 3 ou 4 mots suivants d'un coup ! »
La règle d'or : Pour ne pas le rendre confus, on lui apprend à garder sa logique habituelle (de gauche à droite) et à ne jamais regarder en arrière pour tricher. On lui dit aussi : « Si tu n'es pas sûr, écris un mot à la fois. Si tu es très sûr, écris-en plusieurs ! »

3. Le secret de la réussite : Le « Double Entraînement »

C'est ici que MARS devient génial. Si on lui apprend seulement à deviner des mots cachés, il risque d'oublier comment écrire normalement (comme un athlète qui ne ferait que des exercices de force et oublierait de courir).

Pour éviter cela, MARS utilise une astuce intelligente : il entraîne le modèle en même temps sur deux versions de la même phrase.

Version A (Le modèle normal) : Il écrit mot par mot, comme d'habitude.
Version B (Le modèle devin) : Il essaie de deviner plusieurs mots cachés.

En faisant les deux en même temps, le modèle garde ses compétences de base (il reste excellent) tout en apprenant la nouvelle capacité de vitesse. C'est comme si votre ami s'entraînait à courir et à sauter en même temps, sans perdre sa forme.

4. Le résultat : Un interrupteur de vitesse

Une fois entraîné, ce modèle est magique. Il agit comme un interrupteur de vitesse :

Mode « Précision » (1 mot à la fois) : Si vous lui demandez d'écrire très soigneusement, il écrit un mot par mot, exactement comme avant. Il ne perd aucune qualité.
Mode « Vitesse » (Plusieurs mots) : Si vous lui demandez d'aller vite (par exemple pour répondre à un chat), il regarde la phrase. S'il voit que la suite est évidente (comme « ...le ciel est bleu »), il écrit « le ciel est bleu » en un seul bond ! S'il arrive à un passage difficile, il ralentit et écrit mot par mot.

5. Pourquoi c'est mieux que les autres méthodes ?

D'autres méthodes existantes sont comme :

Le « Speculative Decoding » : Avoir un petit assistant qui écrit vite, et un grand patron qui vérifie. C'est efficace, mais ça double le travail (deux modèles à gérer).
Les méthodes « Multi-têtes » : Ajouter de nouveaux bras au robot pour écrire plus vite. Ça rend le robot plus lourd et plus cher.

MARS, lui, c'est le même robot, avec la même tête, mais avec une nouvelle compétence dans la tête. C'est léger, gratuit (pas de nouveaux paramètres à acheter) et ça fonctionne immédiatement.

En résumé

MARS, c'est comme donner à un écrivain un système de freinage adaptatif.

Sur les routes plates et droites (les phrases simples), il accélère et écrit plusieurs mots d'un coup.
Dans les virages serrés (les idées complexes), il ralentit et écrit prudemment, mot par mot.

Résultat ? Vous obtenez la même qualité d'écriture, mais vous arrivez à destination 1,5 à 1,7 fois plus vite, sans avoir besoin de changer de voiture ni de conduire plus dangereusement. C'est une victoire pour la vitesse et l'efficacité !

1. Problématique

Les modèles de langage autorégressifs (AR) actuels génèrent du texte un jeton à la fois, nécessitant un passage avant (forward pass) complet pour chaque jeton, même lorsque le jeton suivant est hautement prévisible (par exemple, dans des phrases idiomatiques ou des calculs simples). Cette uniformité du coût de calcul est inefficace.

Les approches existantes pour la génération multi-jetons souffrent de limitations majeures :

Décodage spéculatif : Nécessite un modèle "brouillon" (draft model) séparé, doublant l'empreinte mémoire et ajoutant de la complexité d'orchestration.
Approches multi-têtes (ex: Medusa, EAGLE) : Ajoutent des têtes de prédiction supplémentaires à l'architecture, nécessitant des paramètres supplémentaires et un entraînement spécifique.
Diffusion par blocs (Block Diffusion) : Les tentatives précédentes de convertir des modèles AR en modèles de diffusion par blocs entraînent souvent une dégradation significative de la qualité, en particulier sur les tâches de raisonnement et de codage, en raison d'incompatibilités avec l'entraînement autorégressif initial.

L'objectif de MARS est de permettre à un modèle AR instructionné de générer plusieurs jetons par passage avant sans modifications architecturales, sans paramètres supplémentaires et sans perte de qualité par rapport au modèle de base.

2. Méthodologie : MARS (Mask AutoRegreSsion)

MARS est une méthode de fine-tuning léger qui transforme un modèle AR existant en un modèle capable de prédire plusieurs jetons par bloc, tout en conservant son comportement autorégressif standard.

A. Analyse des écarts (Gap Analysis)

Les auteurs identifient quatre écarts entre les modèles AR classiques et la prédiction par blocs masqués. Ils démontrent que trois d'entre eux sont des choix de conception éliminables, tandis qu'un seul est inhérent :

Masquage des jetons (Inhérent) : Nécessaire pour prédire plusieurs jetons en parallèle.
Motif d'attention (Éliminable) : MARS maintient une attention causale stricte (gauche-à-droite) même à l'intérieur des blocs, contrairement aux approches de diffusion bidirectionnelle qui brisent la compatibilité AR.
Alignement des logits (Éliminable) : MARS conserve le décalage à droite des logits (prédire $x_{t+1}$ à partir de la position $t$ ), essentiel pour la fonction de tête de sortie AR.
Ordre de génération (Éliminable) : MARS accepte les jetons strictement de gauche à droite, évitant le désordre de génération des méthodes de diffusion basées sur la confiance.

B. Entraînement (Training)

Le processus d'entraînement utilise deux flux parallèles sur une même séquence concaténée $[x; \tilde{x}]$ :

Flux propre (Clean stream) : Les jetons originaux sont conservés. Le modèle est entraîné avec la perte de prédiction de jeton suivant standard (AR).
Flux bruité (Noisy stream) : Les blocs de $B$ jetons sont remplacés par des jetons [MASK]. Le modèle doit prédire ces jetons masqués en utilisant le préfixe propre des blocs précédents comme contexte.

Clé de la réussite : La perte SFT (Supervised Fine-Tuning)
Pour éviter que le signal d'entraînement AR ne s'érode avec l'augmentation de la taille du bloc $B$ (ce qui dégraderait les capacités de raisonnement), MARS ajoute une perte AR sur le flux propre à la perte de masquage.

Cela garantit que le modèle continue d'apprendre la prédiction de jeton suivant standard, même lorsqu'il apprend à prédire des blocs masqués.
Le rapport du signal AR reste supérieur à 50% quelle que soit la taille du bloc, préservant ainsi la qualité du modèle.

C. Inférence (Inference)

L'inférence utilise une fenêtre glissante de blocs :

$B$ jetons [MASK] sont ajoutés après le préfixe actuel.
Le modèle effectue un seul passage avant pour générer les logits des $B$ positions.
Les jetons sont acceptés séquentiellement de gauche à droite tant que la probabilité maximale dépasse un seuil de confiance $\tau$ .
Le système s'adapte dynamiquement : si le modèle est confiant, il accepte plusieurs jetons ; sinon, il revient à la génération d'un seul jeton (mode AR standard).
Le seuil $\tau$ peut être ajusté en temps réel lors du service pour équilibrer débit et qualité sans recharger le modèle.

3. Contributions Clés

Analyse théorique : Démonstration que la dégradation de qualité dans les modèles de diffusion par blocs provient de choix de conception (attention bidirectionnelle, désalignement des logits, ordre de génération) et non de la prédiction multi-jetons elle-même.
Méthode MARS : Une approche de fine-tuning sans architecture modifiée, sans paramètres supplémentaires, utilisant les mêmes données SFT. Le modèle résultant est un sur-ensemble strict du modèle original.
Préservation des capacités AR : Identification de la perte SFT sur le flux propre comme composant essentiel pour maintenir la performance sur les tâches complexes (raisonnement, codage) lors de l'utilisation de grands blocs.
Stratégie de cache KV par bloc : Développement d'une stratégie de mise en cache des clés et valeurs (KV cache) au niveau des blocs pour l'inférence par lots, permettant d'éviter la recomputation complète de la séquence.

4. Résultats Expérimentaux

Les expériences ont été menées sur des modèles Qwen2.5-0.5B et Qwen2.5-7B sur six benchmarks standards (IFEval, BBH, MMLU-Pro, GPQA, GSM8K, HumanEval).

Mode un jeton ( $\tau=1.0$ ) : MARS égale ou dépasse le modèle AR de base (SFT) sur tous les benchmarks. Par exemple, sur Qwen2.5-7B, MARS obtient une moyenne de 58.1 contre 56.6 pour le SFT AR, avec des gains notables sur GSM8K (+4.5) et HumanEval (+3.0).
Mode multi-jetons :
- MARS atteint un débit de 1.5 à 1.7 jetons par passage avant avec une perte de précision minime (généralement < 1-2 points sur les benchmarks).
- Sur GSM8K, le modèle 7B génère 1.79 jetons par passage avec une précision de 71.0% (contre 73.2% en mode un jeton).
Accélération Wall-Clock (Temps réel) :
- Grâce à la stratégie de cache KV par bloc, MARS réalise un speedup de 1.71x par rapport à l'inférence AR standard avec cache KV sur le modèle 7B (pour un lot de taille 4).
- Sans cache, MARS serait plus lent que l'AR en raison de la recomputation, ce qui souligne l'importance de l'optimisation proposée.
Contrôle dynamique : La qualité diminue de manière lisse (pas de "chute brutale") à mesure que le seuil $\tau$ baisse, permettant un ajustement fin du compromis latence/qualité en production.

5. Signification et Impact

MARS représente une avancée significative pour le déploiement de modèles de langage :

Efficacité opérationnelle : Il offre une accélération tangible (jusqu'à 1.7x) sans nécessiter de matériel supplémentaire, de modèles brouillons ou de modifications architecturales complexes.
Flexibilité de déploiement : Un seul checkpoint de modèle peut servir des requêtes sensibles à la latence (en abaissant $\tau$ ) ou à la qualité (en gardant $\tau=1.0$ ), éliminant la nécessité de maintenir plusieurs versions de modèles.
Validité scientifique : L'article démontre que la génération parallèle et l'attention causale sont compatibles, réfutant l'idée que la diffusion bidirectionnelle est nécessaire pour la génération multi-jetons.

En résumé, MARS permet de "débloquer" le potentiel de parallélisation des modèles AR existants par un simple ajustement de l'entraînement, offrant une solution pratique et économiquement viable pour accélérer l'inférence des LLMs.