💬 NLP

DBLAST: Dependent Block Drafting for Stochastic Speculative Decoding

L'article introduit DBLAST, un rédacteur de blocs dépendants avec un objectif d'entraînement orienté vers l'acceptation qui surmonte les limitations de l'échantillonnage de blocs indépendants dans le décodage spéculatif stochastique, améliorant ainsi considérablement les longueurs de brouillon acceptées, particulièrement dans les régimes à haute entropie.

Auteurs originaux : Amirmohammad Karimi, Chao Gao, Negar Hassanpour

Publié 2026-08-07

📖 4 min de lecture☕ Lecture pause café

CC BY 4.0

Auteurs originaux : Amirmohammad Karimi, Chao Gao, Negar Hassanpour

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayez de deviner le mot suivant dans une histoire qu'un ami est en train de vous raconter. Si vous devinez simplement au hasard, vous pourriez avoir raison, mais cela prend beaucoup de temps de vérifier chaque possibilité. Maintenant, imaginez que vous avez un assistant minuscule et super rapide qui peut crier une phrase entière de suppositions d'un seul coup. Votre ami (le cerveau principal) vérifie ensuite rapidement si ces suppositions font sens. Si elles sont correctes, vous avancez rapidement ; sinon, vous réessayez. C'est la magie du « speculative decoding » (décodage spéculatif), une astuce utilisée pour faire réfléchir plus vite les cerveaux artificiels géants. Habituellement, l'assistant devine les mots un par un, ou bien il devine un bloc entier de mots en supposant qu'ils ne dépendent pas les uns des autres. Mais voici le hic : quand l'histoire devient créative, désordonnée ou imprévisible (comme l'écriture d'un poème ou d'une aventure sauvage), ces suppositions « indépendantes » tombent souvent à l'eau parce que les mots dépendent les uns des autres. L'assistant devine un mot qui convient au début, mais ensuite le mot suivant qu'il devine ne correspond pas au premier, et tout le bloc est rejeté. Cet article examine pourquoi cela se produit et comment le corriger afin que l'assistant puisse gérer des histoires sauvages et créatives sans ralentir.

Les chercheurs derrière cet article, travaillant chez Huawei, ont remarqué un problème spécifique dans la manière dont ces assistants IA fonctionnent actuellement. Ils ont découvert que lorsque l'IA principale est invitée à être créative — en utilisant un échantillonnage « stochastique » ou aléatoire pour générer des fins diverses — l'ancienne méthode de devinettes de blocs de mots échoue. C'est comme une équipe de personnes essayant de deviner un code secret où chacun crie un nombre de manière indépendante. Si le code exige que les nombres suivent un motif spécifique (comme « tous des nombres pairs »), les devinettes indépendantes échoueront presque toujours car elles ne communiquent pas entre elles. L'article montre qu'à mesure que l'IA cible devient plus imprévisible (entropie plus élevée), le nombre de suppositions acceptées chute considérablement car les rédacteurs de blocs « indépendants » ne parviennent pas à capturer les connexions cachées entre les mots du bloc.

Pour résoudre cela, l'équipe a introduit une nouvelle méthode appelée DBLast (Dependent Block Drafting). Au lieu de deviner un bloc de mots comme s'ils étaient sans lien, DBLast utilise un système ingénieux de « mélange latent ». Pensez-y de cette façon : avant que l'assistant ne commence à deviner le bloc, il choisit secrètement un « thème » ou un « mode » à partir d'un petit menu (comme « mystère », « comédie » ou « tristesse »). Une fois ce thème choisi, tous les mots du bloc sont générés pour s'adapter ensemble à ce thème spécifique. Cela crée une histoire cohérente au sein du bloc, même si les mots sont toujours générés en une seule passe rapide. C'est la différence entre un groupe de personnes criant des mots aléatoires et un groupe de personnes qui se mettent d'abord d'accord sur un genre, puis improvisent une scène ensemble.

L'article explique également comment l'assistant est entraîné. Au lieu de simplement lui apprendre à être « correct » (correspondre à la probabilité du mot suivant), ils lui ont appris à être « accepté ». Ils ont créé un nouvel objectif d'entraînement qui récompense l'assistant pour avoir deviné des blocs que l'IA principale est susceptible de conserver. C'est comme entraîner un joueur de basket non pas seulement à tirer au panier, mais à tirer d'une manière que l'arbitre est susceptible de valider. En combinant ce devinement « basé sur le thème » avec un entraînement « axé sur l'acceptation », la nouvelle méthode DBLast surpasse systématiquement les anciennes méthodes indépendantes.

Dans leurs expériences, les chercheurs ont testé cela sur les modèles Qwen3-4B et Qwen3-8B à travers diverses tâches, incluant les mathématiques, le codage et l'écriture créative. Ils ont constaté que DBLast améliorait systématiquement le nombre de jetons acceptés, particulièrement lorsque l'IA était sollicitée pour être créative. Dans les contextes les plus imprévisibles, à haute entropie, la nouvelle méthode a amélioré la longueur acceptée de 12,1 % en moyenne pour le modèle le plus grand. L'article suggère que cette approche est une pièce manquante essentielle pour rendre l'IA plus rapide et plus efficace lorsqu'elle doit être créative, prouvant que le fait de faire en sorte que l'« équipe » se mette d'accord sur un thème avant de parler est bien meilleur que si chacun criait ses propres idées indépendantes.

Résumé Technique : DBlast – Dependent Block Drafting pour le décodage spéculatif stochastique

Énoncé du Problème

Le décodage spéculatif accélère l'inférence des modèles de langage de grande taille (LLM) en utilisant un modèle de proposition (drafter) léger pour proposer plusieurs jetons futurs, qu'un modèle cible vérifie ensuite en parallèle. Bien que les récents drafters par blocs (par exemple, DFlash) puissent prédire plusieurs positions en une seule passe, ils reposent généralement sur un échantillonnage de blocs indépendants. Cette approche suppose que les jetons au sein d'un bloc de proposition sont conditionnellement indépendants étant donné le préfixe.

Cette hypothèse est pertinente pour le décodage glouton (greedy) ou à faible entropie, mais devient fragile dans les régimes de décodage stochastique (non-glouton), qui sont essentiels pour les tâches ouvertes comme le dialogue, l'écriture créative et l'exploration par apprentissage par renforcement. Dans les contextes stochastiques, la distribution cible est délibérément diversifiée, et de multiples continuations sont plausibles. Le papier identifie un décalage fondamental : alors que le drafter échantillonne les jetons indépendamment pour correspondre aux distributions marginales de la cible, le modèle cible les vérifie séquentiellement, en conditionnant chaque acceptation aux jetons précédemment acceptés. Par conséquent, un bloc possédant des marginales par position précises peut échouer à former une trajectoire conditionnelle cohérente, entraînant une dégradation significative de la longueur de draft acceptée à mesure que l'entropie de la distribution d'échantillonnage de la cible augmente.

Méthodologie

Les auteurs proposent DBlast (Dependent Block Drafting), un cadre qui injecte des dépendances dans les drafters de diffusion par blocs sans sacrifier l'efficacité de la prédiction parallèle. La méthode se compose de deux composantes clés :

Échantillonnage de blocs dépendants via mélange latent :
Au lieu de factoriser la distribution de proposition à travers les positions ( $q(x_{1:b}|y) = \prod q_i(x_i|y)$ ), DBlast introduit une variable latente catégorielle $z$ (une « branche » ou un « mode ») pour induire des corrélations au sein du bloc. La distribution jointe est modélisée comme un mélange canonique polyadique (CP) de faible rang :
$q_{dep}(x_{1:b} | y) = \sum_{z=1}^{K} q(z | y) \prod_{i=1}^{b} q_i(x_i | y, z)$
- Architecture : La méthode modifie un drafter de type DFlash en ajoutant un « expanseur d'états cachés de catégorie » léger qui mappe les états cachés du transformer vers $K$ décalages spécifiques à la catégorie, et une « tête de priorité de catégorie » pour prédire $q(z|y)$ .
- Inférence : Lors de l'inférence, une catégorie latente est échantillonnée (éventuellement avec une température $Z_T$ ), et la branche correspondante est décodée de manière gloutonne en une seule passe parallèle. Cela préserve l'efficacité de la prédiction en une passe du block drafting tout en permettant au modèle de représenter des continuations de blocs alternatives et cohérentes.
Objectif d'entraînement orienté vers l'acceptation :
L'entraînement standard minimise la négative log-vraisemblance (NLL) des blocs cibles, ce qui optimise la vraisemblance de la proposition mais ignore la nature séquentielle de la vérification spéculative. DBlast introduit une perte de substitution basée sur la Longueur Acceptée Attendue (AL - Expected Accepted Length).
- L'objectif est dérivé de l'espérance de la longueur du préfixe accepté, décomposée en événements d'acceptation de préfixes.
- Pour gérer l'instabilité de la pondération par importance lorsque le drafter et les distributions cibles ont un faible chevauchement (au début de l'entraînement), les auteurs proposent une perte de substitution tronquée par seuil dans le domaine logarithmique. Cette perte somme le rapport logarithmique des probabilités et le logarithme de la longueur conditionnelle acceptée sur les préfixes retenus où le ratio d'importance dépasse un seuil $\tau$ .
- Cette approche cible directement le comportement de vérification séquentielle du vérificateur, complétant la modélisation de dépendance lorsque la vraisemblance du bloc seul est insuffisante.

Contributions Clés

Diagnostic du décalage : Les auteurs démontrent empiriquement que l'échantillonnage de blocs indépendant échoue de plus en plus à mesure que le décodage de la cible devient moins déterministe. Ils montrent que la longueur acceptée se dégrade significativement dans les régimes à haute entropie car les propositions indépendantes manquent de la cohérence requise pour la vérification séquentielle.
Échantillonnage de blocs dépendants : Ils introduisent la première application de propositions de mélange latent de type CP aux drafters de diffusion par sous-mots (subword block-diffusion drafters) pour le décodage spéculatif non-glouton. Cette méthode induit des corrélations entre les positions du bloc tout en maintenant la prédiction de jetons parallèle.
Perte orientée vers l'acceptation : Ils proposent une nouvelle perte de substitution motivée par la longueur acceptée attendue. Cet objectif, combiné à la troncature par seuil, fournit un signal d'entraînement stable qui aligne le drafter avec le processus de vérification séquentielle.

Résultats Expérimentaux

Des expériences ont été menées en utilisant des modèles cibles Qwen3-4B et Qwen3-8B sur quatre benchmarks : GSM8K (mathématiques), MT-Bench (chat), HumanEval (codage) et un benchmark d'écriture créative. L'évaluation a couvert trois régimes d'échantillonnage de la cible allant d'un haut déterminisme (Température 0.7) à un faible déterminisme (Température 1.5).

Gains de Performance : DBlast a systématiquement surpassé l'échantillonnage de blocs indépendant (DFlash) et les bases entraînées avec la NLL.
- Dans le contexte de haute entropie (Température cible 1.5), DBlast a obtenu un gain moyen macro de 12,1 % de la longueur acceptée pour Qwen3-8B par rapport à la base de référence indépendante.
- Les gains étaient les plus prononcés dans les régions de faible déterminisme, confirmant que la modélisation de dépendance est la plus précieuse lorsque de multiples continuations sont plausibles.
Études d'Ablation :
- Catégories Latentes ( $K$ ) : L'augmentation de $K$ a amélioré les performances, avec des rendements décroissants observés après $K=4$ .
- Objectif d'Entraînement : La perte d'acceptation (AL) a systématiquement surpassé l'entraînement NLL, même pour les drafters indépendants ( $K=1$ ), bien que la combinaison de la dépendance et de l'AL ait donné les meilleurs résultats.
- Température d'Inférence : Le calibrage de la température d'échantillonnage de la catégorie ( $Z_T$ ) a permis au drafter de mieux correspondre à la stochasticité de la distribution cible, améliorant encore la longueur acceptée.

Signification et Revendications

Le papier affirme que DBlast répond à une lacune critique du décodage spéculatif : l'incapacité des drafters par blocs actuels à gérer efficacement la vérification stochastique. En démontrant que la modélisation de la dépendance intra-bloc et l'entraînement aligné sur l'acceptation sont complémentaires, les auteurs montrent qu'il est possible d'obtenir des taux d'acceptation élevés dans divers scénarios de décodage non-gloutons sans sacrifier l'efficacité parallèle qui rend le décodage spéculatif attractif.

Les auteurs notent modestement que, bien que leur perte de substitution ne soit pas un estimateur non biaisé ou une borne inférieure formelle, elle sert de signal d'entraînement pratique et efficace. Ils reconnaissent également que la relation entre le mélange latent "soft" utilisé pendant l'entraînement et le décodage par branche gloutonne utilisé lors de l'inférence reste un domaine ouvert pour une caractérisation formelle, bien que leurs résultats empiriques démontrent un transfert efficace. Le travail suggère que les futurs systèmes de décodage spéculatif pour la génération ouverte doivent aller au-delà de la prédiction de jetons indépendants pour capturer la cohérence structurelle des séquences futures.