💬 NLP

Pair-In, Pair-Out: Latent Multi-Token Prediction for Efficient LLMs

L'article propose Pair-In, Pair-Out (PIPO), un cadre unifié qui combine la compression d'entrée latente avec la prédiction de sortie multi-jetons et un mécanisme d'acceptation léger basé sur la confiance pour obtenir des accélérations significatives de la latence et une amélioration des performances de raisonnement dans les grands modèles de langage, sans la surcharge d'un passage de vérification distinct.

Auteurs originaux : Wenhui Tan, Minghao Li, Xiaoqian Ma, Siqi Fan, Xiusheng Huang, Liujie Zhang, Ruihua Song, Weihang Chen

Publié 2026-05-27

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Wenhui Tan, Minghao Li, Xiaoqian Ma, Siqi Fan, Xiusheng Huang, Liujie Zhang, Ruihua Song, Weihang Chen

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez un grand modèle de langage (LLM) comme un scribe très intelligent, mais très lent, qui écrit des histoires un mot à la fois. Pour résoudre un problème mathématique difficile ou écrire un code complexe, ce scribe doit réfléchir à voix haute, générant une longue « chaîne de pensée » avant d'écrire la réponse finale. Le problème est que écrire un mot, s'arrêter, réfléchir, puis écrire le mot suivant est incroyablement lent et coûteux.

L'article présente une nouvelle méthode appelée PIPO (Pair-In, Pair-Out) pour rendre ce scribe beaucoup plus rapide sans le faire commettre davantage d'erreurs. Voici comment cela fonctionne, en utilisant des analogies simples :

1. Le Problème : Le Goulot d'Étranglement « Un Pas à la Fois »

Actuellement, le scribe fonctionne comme une personne tapant sur une machine à écrire : elle tape une lettre, appuie sur « Entrée », attend que la machine traite, tape la lettre suivante, et ainsi de suite. Même si le scribe est intelligent, la machine est lente car elle ne peut traiter qu'une seule lettre par cycle.

2. La Solution : Le Bus « À Double Étage » (PIPO)

PIPO change les règles de la route. Au lieu que le scribe traite un mot à la fois, PIPO lui permet de traiter deux mots à la fois.

Pair-In (La Compression) : Imaginez que le scribe reçoit une pile de deux lettres (par exemple « T » et « h »). Au lieu de les introduire séparément dans la machine, un « compresseur » spécial les plie ensemble en un seul paquet compact (une représentation latente). C'est comme plier une grande carte en un petit mouchoir de poche pour qu'elle passe par une porte étroite.
Le Voyage : La machine traite ce seul paquet « plié ».
Pair-Out (Le Dépliement) : Une fois que la machine a terminé, elle ne crache pas seulement une lettre. Elle possède une tête spéciale de « dépliement » qui prend le résultat et produit instantanément deux lettres : le mot suivant attendu et un mot brouillon prédit (par exemple « e » et « »).

Le Résultat : Le scribe écrit désormais deux lettres pour chaque cycle unique de la machine. Cela double efficacement la vitesse d'écriture.

3. Le Risque : Le « Jeu de Devinettes »

Il y a un piège. Prédire le deuxième mot est une devinette. Si la devinette est fausse, toute la phrase pourrait devenir du non-sens.

Ancienne Méthode (Décodage Spéculatif) : Auparavant, pour vérifier si une devinette était juste, le scribe devait s'arrêter, exécuter un énorme test de « vérification » (comme un rédacteur en chef relisant tout le brouillon), puis décider si la devinette était bonne. Cette étape de vérification était si lente qu'elle annulait les gains de vitesse.
La Méthode de PIPO (La Tête de Confiance) : PIPO installe un tout petit « compteur de confiance » ultra-rapide juste à côté du scribe. Ce compteur est entraîné à regarder les deux mots et à dire instantanément : « Je suis sûr à 95 % que ce deuxième mot est correct », ou « Je ne suis pas sûr, sautons-le ».
- Si le compteur dit « Allez », le scribe garde les deux mots.
- Si le compteur dit « Non », le scribe garde le premier mot et remplace le deuxième par un « vide » (remplissage) pour maintenir le rythme.

4. L'Ingrédient Secret : Apprendre des Erreurs (Distillation On-Policy)

Comment le « compteur de confiance » apprend-il à être si précis sans un éditeur lent ?

L'article utilise une astuce d'entraînement ingénieuse appelée Distillation On-Policy.

Imaginez que le scribe (l'élève) essaie d'écrire une histoire.
Un professeur ultra-intelligent (un modèle plus grand, pré-entraîné) écrit également l'histoire.
Le système compare la devinette de l'élève avec la réponse du professeur.
La Magie : Le système réalise que le « professeur » fait exactement le même travail que l'« éditeur » dans l'ancienne méthode. Ainsi, au lieu d'exécuter une vérification d'éditeur lente à chaque fois, le système utilise les réponses du professeur pour entraîner le petit « compteur de confiance » pendant la phase d'apprentissage.
Une fois entraîné, le compteur de confiance sait exactement quand faire confiance à la devinette et quand être prudent, le tout sans avoir besoin de l'éditeur lent pendant le processus d'écriture réel.

5. Les Résultats : Plus Rapide et Plus Intelligent

L'article a testé cela sur des tâches mathématiques et de codage difficiles (comme la compétition mathématique AIME et des benchmarks de codage).

Vitesse : Parce qu'il traite deux mots à la fois et saute la vérification lente de l'éditeur, PIPO est 2 à 2,6 fois plus rapide que la méthode standard. Il produit le premier mot beaucoup plus rapidement et maintient le flux en mouvement.
Précision : Étonnamment, il ne s'est pas seulement accéléré ; il est devenu meilleur. En intégrant plus de « pensée » dans la même quantité d'espace (car il compresse l'entrée), le modèle pouvait générer des chaînes de raisonnement plus longues et plus complètes. Sur certains tests, le taux de réussite a bondi de plus de 7 points par rapport aux méthodes normales.

Résumé

PIPO est comme la mise à niveau d'un camion de livraison d'une route à une seule voie vers une autoroute à deux voies.

Compresser la cargaison (entrée) pour faire entrer deux colis dans un seul emplacement.
Livrer deux colis à la fois (sortie).
Utiliser un capteur intelligent (tête de confiance) pour décider si le deuxième colis est sûr à garder, entraîné par un professeur qui connaît déjà la réponse.

Cela permet à l'IA de réfléchir plus longtemps et de répondre plus vite, résolvant des problèmes complexes sans le ralentissement habituel.

Résumé Technique : Pair-In, Pair-Out (PIPO) pour des LLM Efficaces

1. Énoncé du Problème

Les modèles de langage de grande taille (LLM) modernes reposent de plus en plus sur des chaînes de raisonnement (CoT) longues pour des tâches complexes comme les mathématiques et la programmation. Bien que ce paradigme améliore la précision, il crée un goulot d'étranglement significatif lors de l'inférence : le décodage autorégressif standard n'émet qu'un seul token par étape de propagation avant, ce qui fait du coût par token le facteur de latence dominant pour les traces de raisonnement longues.

Les solutions existantes abordent ce problème selon deux directions indépendantes :

Côté entrée : Les méthodes de compression latente (par exemple, CoLaR) fusionnent plusieurs tokens d'entrée en une seule représentation continue pour réduire la longueur de la séquence.
Côté sortie : La prédiction multi-tokens (MTP) et le décodage spéculatif (par exemple, EAGLE, Medusa) tentent d'émettre plusieurs tokens par étape. Cependant, ces méthodes nécessitent généralement un passage de « vérificateur » coûteux (une propagation avant complète du gros modèle de base) pour valider les tokens brouillons, ce qui annule souvent les gains d'efficacité, en particulier pour des longueurs de contexte élevées. De plus, les méthodes MTP non vérifiées risquent de propager des brouillons peu fiables, dégradant ainsi la précision.

Il n'existe actuellement aucun cadre unifié exploitant simultanément la compression d'entrée et la prédiction multi-tokens de sortie sans encourir le lourd coût du vérificateur.

2. Méthodologie : Pair-In, Pair-Out (PIPO)

PIPO propose un cadre unifié traitant la compression latente et la prédiction multi-tokens comme des opérations miroir autour du modèle de base (backbone) du LLM.

2.1 Architecture Principale

Le cadre fonctionne sur des paires de tokens plutôt que sur des tokens individuels :

Pair-In (Compression) : Un compresseur MLP léger plie deux embeddings de tokens d'entrée consécutifs ( $x_{2i}, x_{2i+1}$ ) en une seule représentation latente ( $z_i$ ). Cela réduit de moitié la longueur d'entrée effective.
$z_i = f_\theta([x_{2i}; x_{2i+1}])$
Le compresseur est initialisé de telle sorte que $f_\theta([a; b]) \approx a + b$ afin de maintenir la distribution de pré-entraînement du modèle de base.
Pair-Out (Prédiction) : Le modèle de base traite l'état latent compressé et produit un état caché ( $h^b_i$ $h_{i}^{b}$ ).
1. Token du Modèle de Base : La tête LM standard prédit le prochain token du modèle de base ( $x_{2i+2}$ ).
2. Token Brouillon : Une tête de Prédiction Multi-Tokens (MTP), conditionnée par l'état caché du modèle de base et le token du modèle de base prédit, prédit un token brouillon supplémentaire ( $x_{2i+3}$ ).
3. Tête de Confiance : Un MLP léger prédit un score de confiance ( $c_i$ ) pour le token brouillon.
  $c_i = g_\phi([h^b_i; h^d_i])$
- Logique d'Acceptation : Si $c_i \geq \tau_c$ , le token brouillon est accepté, et la paire d'entrée suivante se compose de deux tokens nouvellement générés. S'il est rejeté, le brouillon est remplacé par un token de remplissage ( $x_{pad}$ ), et la paire d'entrée suivante est $(x_{2i+2}, x_{pad})$ . Cela garantit que l'interface reste cohérente indépendamment de l'acceptation.

2.2 Stratégie d'Entraînement

PIPO utilise un processus d'entraînement en deux étapes pour combler l'écart entre l'entraînement et l'inférence :

Affinement Supervisé (SFT) :
- Le modèle est entraîné avec un objectif de prédiction de la paire suivante utilisant la perte d'Entropie Croisée (CE) pour les tokens du modèle de base et les tokens brouillons.
- Une tête de confiance est amorcée (bootstrapped) en utilisant la perte d'Entropie Croisée Binaire (BCE), alignant le score de confiance avec la probabilité du token brouillon de vérité terrain.
- Remplissage Aléatoire : Pendant l'entraînement, une fraction des positions de tokens brouillons est remplacée aléatoirement par des tokens de remplissage pour exposer le modèle aux scénarios de rejet.
Distillation On-Policy (OPD) :
- PIPO adresse le décalage de distribution entre l'entraînement et l'inférence en déroulant des réponses en utilisant la politique actuelle de l'élève.
- Idée Clé : Le rôle du « professeur » dans l'OPD est fonctionnellement identique à celui du « vérificateur » dans le décodage spéculatif. Tous deux jugent la cohérence d'un brouillon par rapport à une distribution de référence plus forte.
- Supervision Gratuite : La probabilité d'acceptation pour la tête de confiance est dérivée directement du calcul de la perte OPD : $y_c = \min(p_t(x)/p_s(x), 1)$ , où $p_t$ est la probabilité du professeur (modèle de base) et $p_s$ la probabilité de l'élève (brouillon).
- Cela permet d'entraîner la tête de confiance avec le critère d'échantillonnage par rejet comme étiquette, sans nécessiter de passages avant supplémentaires ni de modèle vérificateur séparé.

3. Contributions Clés

Cadre Unifié : PIPO unifie la compression latente côté entrée et la prédiction multi-tokens côté sortie en une interface symétrique « Pair-In/Pair-Out », réduisant efficacement de moitié la longueur d'entrée et doublant la sortie par étape.
Élimination du Vérificateur : En observant que le professeur OPD et le vérificateur spéculatif jouent le même rôle, PIPO entraîne une tête de confiance légère utilisant le ratio d'échantillonnage par rejet comme étiquette gratuite. Cela remplace le passage coûteux du vérificateur du modèle de base à chaque étape par un seul passage avant du MLP.
Efficacité et Précision : La méthode réalise des accélérations significatives du Temps jusqu'au Premier Token (TTFT) et du Temps par Token de Sortie (TPOT) tout en améliorant la précision pass@4 sur des benchmarks de raisonnement complexes.

4. Résultats Expérimentaux

Les auteurs ont évalué PIPO sur les modèles de base Qwen3.5-4B et Qwen3.5-9B à travers quatre benchmarks : AIME 2025, GPQA-Diamond, LiveCodeBench v6 et LongBench v2.

Précision : PIPO + OPD a obtenu les scores pass@4 les plus élevés parmi toutes les méthodes.
- Sur Qwen3.5-9B, PIPO a amélioré le pass@4 de +7,15 points par rapport au décodage autorégressif standard.
- Sur Qwen3.5-4B, l'amélioration était de +3,83 points par rapport à la meilleure ligne de base.
- L'avantage s'est accentué avec des budgets de contexte plus longs (jusqu'à 32K emplacements), car PIPO intègre des chaînes de raisonnement plus complètes dans le même budget.
Efficacité :
- TTFT : Jusqu'à 2,64× d'accélération (par exemple, à une longueur d'entrée de 128K) grâce à la phase de préremplissage compressée.
- TPOT : Jusqu'à 2,07× d'accélération car deux tokens sont émis par passage avant du modèle de base.
Études d'Ablation :
- Les compresseurs non linéaires sont essentiels ; les compresseurs linéaires ont provoqué une baisse significative des performances.
- L'initialisation du compresseur comme une somme additive ( $a+b$ ) est cruciale pour la stabilité.
- La tête de confiance rejette efficacement les brouillons peu fiables, surpassant les lignes de base de rejet aléatoire et trouvant un « point optimal » (seuil $\tau_c \approx 0,95$ ) qui maximise le pass@4.

5. Importance et Revendications

L'article revendique que PIPO représente un changement dans l'approche du décodage efficace des LLM :

Symétrie : Il démontre que la compression d'entrée et l'expansion de sortie ne sont pas des stratégies concurrentes mais des opérations complémentaires et miroir qui peuvent être combinées.
Amortissement des Coûts : Il amortit avec succès le coût de la vérification. Au lieu de payer un coût d'inférence lourd (passage complet du modèle de base) à chaque étape, la logique de vérification est distillée en un signal d'entraînement léger (la tête de confiance), transformant un coût d'inférence récurrent en un signal d'entraînement unique.
Praticité : Le cadre repose principalement sur des composants standards (têtes MTP pré-entraînées, modèles de base standards) et ne nécessite que de petits modules supplémentaires (compresseur et tête de confiance), rendant son déploiement sur des LLM existants puissants réalisable.

Les auteurs notent des limitations, notamment l'accent mis sur le traitement par paires (plutôt que des facteurs de compression plus grands), la restriction aux modèles uniquement textuels, et l'évaluation principalement sur des tâches avec des réponses vérifiables (mathématiques/programmation) plutôt que sur des générations ouvertes. Cependant, ils soutiennent que PIPO offre une voie robuste pour réduire les coûts d'inférence du raisonnement en chaînes longues sans sacrifier la fiabilité.