Résumé technique : La brièveté est l'âme de l'efficacité de l'inférence

Énoncé du problème

Le paradigme conventionnel pour améliorer l'efficacité de l'inférence dans les modèles de langage étendus (LLM) et les modèles vision-langage (VLM) se concentre sur la réduction du coût par jeton (token) via des techniques de compression de modèle telles que la distillation, l'élagage (pruning), la quantification et le routage parcimonieux. Cette approche traite implicitement la longueur de sortie (nombre de jetons) comme une quantité fixe. Cependant, les tendances empiriques indiquent que les longueurs de sortie augmentent rapidement — particulièrement pour les modèles de raisonnement, qui émettent désormais environ 8× plus de jetons que leurs pairs non-raisonnants. Par conséquent, les gains d'efficacité par jeton sont souvent consommés par la verbosité croissante, entraînant des coûts d'inférence totaux plus élevés (dollars par réponse correcte) et une latence accrue.

L'article soutient que la brièveté est le levier manquant pour l'efficacité de l'inférence. Alors que les contraintes au moment du décodage (ex: pénalités de longueur, contrôles d'échantillonnage) tentent de raccourcir les sorties a posteriori, elles luttent souvent contre un modèle entraîné pour être verbeux. Les auteurs postulent que la curation de données lors de la phase de pré-entraînement est un mécanisme plus efficace : en s'entraînant sur des données concises et correctes, les modèles intériorisent la brièveté, apprenant à répondre en moins de jetons sans sacrifier la qualité. Cette approche traite l'efficacité de l'inférence comme un problème de « jetons par réponse correcte » plutôt que de « FLOPs par jeton ».

Méthodologie

L'étude utilise un dispositif expérimental contrôlé comparant des modèles entraînés sur des données curées par rapport à ceux entraînés sur des données standards non curées, ainsi qu'à des modèles de frontière en poids ouverts (open-weight).

1. Pipeline de curation de données : Les auteurs appliquent leur pipeline de curation VLM au corpus d'entraînement à image unique MAmmoTH-VL. Ce pipeline filtre pour la concision et la correction.
2. Familles de modèles :
   • Modèles DatologyAI : Entraînés sur le mélange curé de MAmmoTH-VL.
   • Baselines Mammoth : Entraînés sur les données standard non curées de MAmmoTH-VL (servant de contrôle non curé).
   • Comparateurs de frontière : Modèles en poids ouverts des familles Qwen (3, 3.5, 3-VL), InternVL et Isaac.
3. Périmètre d'évaluation :
   • Échelles : 1B, 2B et 4B paramètres activés.
   • Benchmarks : Une suite contrôlée de 20 évaluations (excluant les évaluations agrégées uniquement pour l'analyse de régression) couvrant des capacités telles que les mathématiques, l'interprétation de graphiques, l'OCR et le grounding (ancrage).
4. Métriques :
   • Coût-de-Réussite (Cost-of-Pass) : Défini comme les FLOPs par réponse correcte ($2N \times \bar{n}_{out} / \text{exactitude}$), où $N$ est le nombre de paramètres actifs et $\bar{n}_{out}$ est la longueur moyenne de sortie. Cette métrique capture à la fois la taille du modèle et la verbosité.
   • Exactitude contrôlée par la longueur : Pour dissocier la brièveté de la qualité, les auteurs ajustent un modèle linéaire généralisé (GLM) logistique avec des effets fixes pour le benchmark et l'échelle, contrôlant la longueur de sortie. Cela isole le gain d'exactitude attribuable à la curation indépendamment du nombre de jetons.
   • Contingence par exemple : Analyse des ensembles d'erreurs pour déterminer si les modèles de raisonnement verbeux résolvent des problèmes que les modèles concis manquent, et vice versa.

Contributions clés et résultats

1. Réduction drastique du Coût-de-Réussite

Les modèles curés atteignent une position de dominance de Pareto sur la frontière de coût d'inférence.

• Avantage de 35× : À l'échelle 4B, le modèle Datology atteint un Coût-de-Réussite 35× inférieur (0,41 TFLOPs par réponse correcte) par rapport au comparateur le plus verbeux, Qwen3.5-4B (14,58 TFLOPs), tout en maintenant une exactitude quasi identique (0,691 vs 0,704).
• Efficacité de mise à l'échelle : Le modèle curé de 1B (0,10 TFLOPs/réponse correcte) est 143× moins cher par réponse correcte que Qwen3.5-4B.
• Mécanisme : La réduction des coûts est principalement pilotée par la réduction du nombre de jetons. À nombre de paramètres fixes, les FLOPs par jeton sont identiques entre les modèles ; la variance réside dans le nombre de jetons émis pour parvenir à une réponse correcte.

2. Gains d'exactitude à longueur égale

Contrairement à l'hypothèse selon laquelle la brièveté pourrait sacrifier la profondeur du raisonnement, les modèles curés sont plus précis même lorsque la longueur de sortie est maintenue constante.

• Gain contrôlé par la longueur : Sur toutes les échelles, le modèle curé est +17,55 points de pourcentage (pp) plus précis que sa baseline Mammoth non curée lorsque la longueur de sortie est contrôlée.
• Mise à l'échelle super-linéaire : Cet avantage d'exactitude croît avec l'échelle du modèle : +16,7 pp à 1B, +15,6 pp à 2B, et +21,2 pp à 4B.
• Réduction des hallucinations : Dans les tâches de légende (captioning), le modèle curé réduit les mentions hallucinées de 19 % tout en réduissant la longueur de la légende de 59 %, sans sacrifier la précision de l'ancrage (grounding).

3. Les limites de la verbosité

L'étude examine si les jetons verbes contribuent à la justesse.

• Verbosité générique : Le modèle Mammoth non curé (verbeux mais non-raisonnant) ne surpasse jamais le modèle concis Datology dans aucun groupe de capacités ou aucune échelle. La verbosité générique n'achète aucune exactitude.
• Verbosité structurée par le raisonnement : La famille Qwen3.5 (verbeuse avec Chaîne de Pensée/CoT) montre un avantage déclinant. À 2B, elle bat le modèle concis sur 4 des 8 groupes de capacités. À 4B, cet avantage s'effondre pour ne concerner que 1 des 8 groupes (OCR & Document). Dans 4 des 8 groupes à 4B, le modèle concis surpasse en réalité le modèle de raisonnement verbeux.
• Ensembles d'erreurs complémentaires : Bien que le modèle concis atteigne généralement une exactitude moyenne plus élevée, l'analyse par exemple révèle que le modèle de raisonnement verbeux résout certains problèmes que le modèle concis manque (et vice versa), suggérant que le raisonnement et la brièveté sont des cibles de curation distinctes.

4. Comparaison avec la frontière

Contre les modèles de frontière externes, le modèle curé se situe sur la frontière de Pareto de l'efficacité de coût face à six des sept comparateurs.

• Il surpasse InternVL et les variantes Perceptron tant sur l'exactitude que sur le coût.
• Contre la famille Qwen, il échange 4 à 7 pp d'exactitude contrôlée par la longueur contre un avantage de coût de 2,4× à 3,6×.
• Exception Qwen3.5-4B : Une comparaison contrôlée par la longueur avec Qwen3.5-4B est impossible (seulement 2,2 % de chevauchement dans les distributions de longueur de sortie), car l'exactitude de Qwen3.5-4B est inextricablement liée à sa verbosité extrême (~1 284 jetons contre ~32 pour Datology).

Signification et affirmations

L'article affirme que la brièveté est l'âme de l'efficacité de l'inférence, réalisable via une inférence amortie par la curation de données.

• Changement de cible d'optimisation : Les auteurs soutiennent que l'industrie optimise le mauvais indicateur (FLOPs par jeton) tout en ignorant le principal moteur du coût (jetons par réponse correcte).
• Amortissement du coût : Contrairement aux contraintes de décodage qui paient une « pénalité de longueur » à chaque requête, la curation de données paie le coût de la concision une seule fois lors de l'entraînement. Le modèle « met en cache » ensuite cette efficacité dans ses poids, produisant des réponses courtes et correctes automatiquement (Système 1) plutôt que de délibérer jeton par jeton (Système 2) au moment de l'inférence.
• Scalabilité : Les bénéfices de la curation ne sont pas statiques ; ils se cumulent avec l'échelle du modèle. À mesure que les modèles grandissent, l'avantage relatif de la brièveté curée sur la verbosité non curée augmente, tant en réduction de coût qu'en exactitude à longueur égale.
• Praticité : Cette approche ne nécessite aucun changement architectural, aucun matériel spécialisé, ni aucun algorithme de décodage complexe. C'est une solution « axée sur les données » qui cible directement l'inflation des factures d'inférence causée par les longues chaînes de raisonnement.

En résumé, l'article démontre que l'entraînement sur des données curées et concises permet aux VLM d'atteindre une efficacité de coût de pointe (amélioration de 35×) sans sacrifier la qualité, remettant en question l'idée que le raisonnement nécessite la verbosité.