🤖 AI

Test-Time Compute Games

Ce papier identifie l'inefficacité sociale dans les marchés de LLM-as-a-service où les fournisseurs sont incités à surutiliser un calcul coûteux au moment de l'inférence, et propose un mécanisme d'enchère inversée au deuxième prix pour aligner la tarification sur la valeur marginale, validé par des expériences sur diverses familles de modèles à travers des benchmarks de mathématiques et de sciences.

Auteurs originaux : Ander Artola Velasco, Dimitrios Rontogiannis, Stratis Tsirtsis, Manuel Gomez-Rodriguez

Publié 2026-05-11

📖 7 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Ander Artola Velasco, Dimitrios Rontogiannis, Stratis Tsirtsis, Manuel Gomez-Rodriguez

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

La Grande Image : Le Problème de la « Sur-Ingénierie »

Imaginez que vous avez besoin d'un taxi pour vous rendre à l'aéroport. Vous avez deux compagnies de taxis : Compagnie A et Compagnie B.

Compagnie A vous y emmène généralement en 10 minutes.
Compagnie B vous y emmène généralement en 12 minutes.

Cependant, les deux compagnies ont un bouton secret qu'elles peuvent appuyer appelé « Super-Vitesse ».

Si la Compagnie A l'appuie, elle met 11 minutes mais vous facture le double.
Si la Compagnie B l'appuie, elle met 11 minutes et vous facture le triple.

Dans un monde normal, vous choisiriez simplement la Compagnie A pour le trajet standard de 10 minutes car c'est moins cher et plus rapide. Mais voici la twist : Les compagnies de taxis sont payées en fonction de la quantité d'essence qu'elles brûlent, et non pas seulement de la rapidité avec laquelle elles vous y emmènent.

Pour cette raison, la Compagnie A pense : « Si j'appuie sur "Super-Vitesse" et que je mets 11 minutes, je peux vous facturer le double. Même si vous n'avez économisé que 1 minute par rapport à ma vitesse précédente, je gagne plus d'argent. Donc, j'appuierai toujours sur le bouton. »

Le Résultat : Vous finissez par payer le double pour un trajet à peine plus rapide, et la compagnie brûle de l'essence supplémentaire sans aucun avantage réel. C'est ce que le papier appelle le « Calcul au Moment du Test » (Test-Time Compute ou TTC). Dans le monde de l'IA, l'« essence » est la puissance de calcul, et le « Super-Vitesse » consiste à faire réfléchir l'IA plus longtemps ou à essayer de nombreuses réponses différentes avant de vous en donner une.

Le Problème : Pourquoi le Marché est Défaillant

Les auteurs soutiennent que la manière actuelle d'acheter des services d'IA est socialement inefficace.

L'Incitation du Fournisseur : Les entreprises d'IA veulent faire de l'argent. Elles savent que si elles font « réfléchir » leur IA plus intensément (en utilisant plus de calcul), elles peuvent vous facturer plus cher. Même si cette réflexion supplémentaire n'améliore la réponse que de 1 %, elles le font tout de même car le coût supplémentaire pour elles est faible, mais le prix supplémentaire qu'elles peuvent facturer est élevé.
La Perte de l'Utilisateur : Vous finissez par payer pour de la « réflexion » qui ne vous aide pas vraiment. C'est comme payer pour un repas élaboré et mijoté lentement alors qu'un simple sandwich aurait été tout aussi rassasiant et beaucoup moins cher.

Le papier montre que dans un marché libre, les entreprises d'IA choisiront naturellement de « trop réfléchir » aux problèmes pour maximiser leurs propres profits, même si cela gaspille de l'argent et des ressources pour tout le monde.

La Solution : Une Enchère Inversée

Pour résoudre ce problème, les auteurs proposent une nouvelle façon d'acheter des services d'IA, similaire à une enchère inversée (comme lorsqu'un gouvernement veut acheter 1 000 bureaux et demande aux fournisseurs de soumissionner au prix le plus bas).

Voici comment fonctionne leur « Enchère Intelligente » :

La Configuration : Vous (l'utilisateur) avez une tâche. Vous dites à une plateforme neutre : « J'ai besoin d'une IA pour résoudre ce problème de mathématiques. »
Les Offres : Plusieurs entreprises d'IA soumettent une offre. Elles disent :
- « Je peux résoudre cela avec 90 % de précision. »
- « Je vais facturer 5 $. »
- (Elles décident également secrètement combien de « réflexion » faire pour atteindre cette précision de 90 %).
Le Gagnant : La plateforme choisit l'entreprise qui offre la meilleure affaire (précision la plus élevée pour le prix le plus bas).
Le Paiement (La Partie Magique) : C'est la règle la plus importante. Le gagnant n'est pas payé ce qu'il a demandé.
- Au lieu de cela, il est payé en fonction de la deuxième meilleure offre.
- Exemple : Si la Compagnie A offre 90 % de précision pour 5 $, et que la Compagnie B offre 85 % de précision pour 4 $, la Compagnie A gagne. Mais la Compagnie A ne reçoit que 4 $ (plus un tout petit peu pour la différence de qualité), et non 5 $.

Pourquoi cela change tout :
Parce que le gagnant est payé en fonction du prix du concurrent, et non du sien, il n'a aucune incitation à surpayer ou à sur-ingénier.

Si la Compagnie A essaie de « réfléchir plus dur » pour atteindre 95 % de précision, elle pourrait gagner, mais elle ne sera toujours payée que sur la base du standard inférieur de la Compagnie B.
Si la Compagnie A essaie de facturer 10 $, elle perdra l'offre au profit de la Compagnie B.
La Meilleure Stratégie : La seule façon pour une entreprise de gagner et de réaliser un profit est de trouver le moyen le plus efficace de résoudre le problème (la bonne quantité de « réflexion ») qui offre la meilleure valeur. Elle est contrainte de cesser de « trop réfléchir » car cela lui coûte de l'argent sans l'aider à gagner l'offre.

Les Résultats : Ce que les Expériences Ont Montré

Les auteurs ont testé cette idée en utilisant de vrais modèles d'IA (comme Llama et Qwen) sur des problèmes de mathématiques et de sciences.

Le Marché Actuel est Gaspilleur : Dans le marché normal « payant au jeton », ils ont constaté que le système était jusqu'à 19 % inefficace. Cela signifie que nous gaspillions près de 20 % de l'argent et de la puissance de calcul parce que les entreprises choisissaient de « réfléchir » trop juste pour gagner quelques dollars supplémentaires.
L'Enchère Répare le Problème : Lorsqu'ils ont simulé leur enchère, l'inefficacité est tombée à zéro. Les entreprises d'IA ont automatiquement choisi la quantité parfaite de « réflexion » pour résoudre le problème efficacement.
Qui Gagne ?
- Les Utilisateurs : Obtiennent une bien meilleure valeur. Ils paient moins et obtiennent des réponses tout aussi bonnes (ou meilleures).
- Les Fournisseurs : C'est mitigé. Certaines entreprises pourraient gagner moins d'argent car elles ne peuvent plus surpayer, mais d'autres pourraient gagner plus car elles peuvent enfin rivaliser équitablement sur l'efficacité plutôt que sur l'inflation des coûts.

Analogie de Résumé

Système Actuel : Comme un restaurant où le chef est payé pour chaque ingrédient qu'il hache. Il hachera les oignons en poussière juste pour vous facturer plus, même si vous aviez seulement besoin qu'ils soient tranchés.
Système Proposé : Comme un restaurant où le chef reçoit un prix fixe basé sur ce que le restaurant voisin facture pour un plat similaire. Le chef est maintenant contraint de hacher les oignons efficacement. S'il les hache trop finement, il gaspille du temps et de l'argent mais ne reçoit pas de paiement supplémentaire. S'il les hache trop grossièrement, il perd le client. Il trouve le juste milieu parfait.

Le papier conclut qu'en changeant les règles du jeu (le mécanisme de paiement), nous pouvons empêcher les entreprises d'IA de gaspiller des ressources et garantir que la « réflexion » qu'elles effectuent aide réellement l'utilisateur.

Résumé technique : Jeux de calcul au moment du test

Énoncé du problème

L'adoption rapide des grands modèles de langage (LLM) en tant que service a créé un marché où les utilisateurs paient les fournisseurs de cloud pour les ressources de calcul consommées lors de l'inférence. Un facteur clé de ce coût est le calcul au moment du test (TTC) — des calculs supplémentaires effectués au moment de l'inférence (par exemple, chaîne de pensée, arbre de pensée, échantillonnage best-of-n) pour améliorer les performances du modèle. Bien que le TTC améliore la qualité de la sortie, les fournisseurs facturent actuellement aux utilisateurs tous les tokens générés, y compris les étapes de raisonnement intermédiaires.

L'article identifie une inefficacité fondamentale du marché : les fournisseurs ont un incitation financière à augmenter la quantité de TTC allouée à une requête pour maximiser leur propre profit, même lorsque le gain marginal en qualité de sortie est négligeable ou lorsque le calcul supplémentaire ne correspond pas à l'équilibre socialement optimal entre coût et qualité. Dans un marché concurrentiel où les utilisateurs sélectionnent les fournisseurs en fonction de la valeur (qualité moins prix), les fournisseurs peuvent stratégiquement sur-allouer le calcul pour se différencier ou capturer des parts de marché, conduisant à une allocation sous-optimale des ressources d'un point de vue du bien-être social.

Méthodologie

Les auteurs formalisent le marché des LLM en tant que service comme un jeu sous forme normale impliquant $N$ fournisseurs en concurrence pour la demande des utilisateurs.

Modèle théorique des jeux

Joueurs : $N$ fournisseurs, chacun servant un LLM pré-entraîné.
Stratégies : Chaque fournisseur $i$ sélectionne un niveau de calcul au moment du test $\theta_i$ à partir d'un ensemble fini $\Theta$ . Ce niveau détermine la qualité moyenne de sortie $q_i(\theta_i)$ et le coût de génération $c_i(\theta_i)$ .
Tarification : Les fournisseurs fixent des prix $p_i(\theta_i)$ proportionnels au coût de génération (plus une marge bénéficiaire).
Utilité de l'utilisateur : Les utilisateurs tirent une valeur $V_i(\theta_i) = q_i(\theta_i) - p_i(\theta_i)$ .
Allocation du marché : Les utilisateurs répartissent la demande en fonction de la valeur offerte. L'article considère deux fonctions de part de marché :
1. Rationalité parfaite : Les utilisateurs sélectionnent toujours le fournisseur offrant la valeur la plus élevée.
2. Rationalité bornée : Les utilisateurs sélectionnent les fournisseurs de manière probabiliste en fonction de la valeur (choix Logit/Softmax), contrôlée par un paramètre de rationalité $\beta$ .
Utilité du fournisseur : Définie comme la part de marché multipliée par la marge bénéficiaire $(p_i - c_i)$ .

Analyse théorique

Les auteurs analysent l'équilibre de Nash de ce jeu. Ils prouvent que le jeu est un jeu potentiel ordinal généralisé, garantissant l'existence d'un équilibre de Nash pur et la convergence via des dynamiques de meilleure réponse. Ils caractérisent les niveaux de calcul à l'équilibre et démontrent que, généralement, l'équilibre n'est pas socialement optimal. Le Prix de l'Anarchie (PoA) est utilisé pour quantifier le rapport entre le bien-être social maximal possible et le bien-être atteint à l'équilibre.

Mécanisme proposé

Pour remédier à cette inefficacité, l'article propose un mécanisme d'enchère inversée au second prix :

Processus : Les utilisateurs soumettent une tâche ; les fournisseurs enchérissent simultanément avec une paire $(q_i, p_i)$ représentant la qualité estimée et le prix.
Allocation : Le fournisseur offrant la valeur la plus élevée ( $q_i - p_i$ ) remporte l'enchère.
Règle de paiement : Le fournisseur gagnant reçoit un montant déterminé par l'offre du deuxième enchérisseur le plus élevé, spécifiquement $P = q_{gagnant} - V_{deuxième\_meilleur}$ .
Alignement des incitations : Les auteurs prouvent que sous ce mécanisme, sélectionner le niveau de calcul qui maximise la contribution individuelle au bien-être social ( $\theta^*_i = \arg\max_\theta (q_i(\theta) - c_i(\theta))$ ) et enchérir le coût de génération constitue une stratégie dominante. Cela garantit que le résultat de l'enchère atteint le bien-être social maximal possible (PoA = 1).

Contributions clés

Modélisation théorique des jeux : L'article introduit les « Jeux de calcul au moment du test », modélisant l'interaction stratégique entre les fournisseurs de LLM concernant l'allocation du calcul dans un marché de services.
Caractérisation de l'inefficacité : Il démontre formellement que dans un marché standard de paiement pour le calcul, les fournisseurs sont incités à sélectionner des niveaux de calcul qui ne sont pas socialement optimaux, conduisant à un Prix de l'Anarchie supérieur à 1.
Conception de mécanisme d'enchère : Il propose une enchère inversée au second prix où les fournisseurs enchérissent sur la qualité et le prix. L'analyse théorique montre que ce mécanisme garantit l'optimalité sociale en alignant les incitations des fournisseurs sur la maximisation du bien-être social.
Validation empirique : Les auteurs mènent des expériences extensives utilisant des modèles des familles Llama, Qwen et DeepSeek-R1 sur des ensembles de données (GSM8K, GPQA, AIME, TruthfulQA) pour valider les résultats théoriques.

Résultats expérimentaux

Les expériences simulent la dynamique des jeux de calcul au moment du test et les comparent au mécanisme d'enchère proposé.

Inefficacités du marché : Dans le jeu de marché standard, le Prix de l'Anarchie a été trouvé jusqu'à 1,19 (une perte de 19 % du bien-être social) pour les modèles sans raisonnement et environ 1,006 pour les modèles de raisonnement. Cela confirme que la concurrence ne conduit pas naturellement à l'optimalité sociale.
Convergence : Les dynamiques de meilleure réponse des fournisseurs convergeant vers un équilibre de Nash ont été observées comme se stabilisant en un nombre fini d'itérations (par exemple, 44 itérations pour les modèles sans raisonnement).
Performance de l'enchère : Lorsque le mécanisme d'enchère proposé a été appliqué :
- Bien-être social : Augmentation de 25 % pour les modèles sans raisonnement et de 4 % pour les modèles de raisonnement par rapport à l'équilibre du jeu.
- Valeur utilisateur : Augmentation de 29 % pour les modèles sans raisonnement et de 2,8 % pour les modèles de raisonnement.
- Utilité du fournisseur : Variation significative ; dans certains cas, l'utilité du fournisseur a diminué (par exemple, -28 % pour les modèles sans raisonnement), tandis que dans d'autres, elle a augmenté considérablement (par exemple, +200 % pour les modèles de raisonnement), selon la compétitivité du marché.

Importance et affirmations

L'article affirme être le premier à démontrer que dans le marché des LLM en tant que service, les fournisseurs sont incités à décider stratégiquement de la quantité de calcul au moment du test utilisée, et que ce comportement stratégique conduit à une inefficacité sociale.

L'importance de ce travail réside dans :

Insight économique : Il déplace l'attention de la performance purement technique des méthodes TTC vers leurs implications économiques, soulignant que les modèles de tarification actuels peuvent encourager un calcul gaspillé.
Conception de mécanisme : Il offre une alternative concrète et théoriquement fondée (l'enchère inversée au second prix) capable d'aligner les incitations du marché avec le bien-être social, garantissant que les ressources de calcul sont allouées efficacement.
Pertinence pratique : Les résultats suggèrent que sans interventions de conception de mécanisme, la dépendance croissante au calcul coûteux au moment du test peut conduire à des résultats sous-optimaux tant pour les utilisateurs que pour la société, même dans des marchés concurrentiels.

Les auteurs restent modestes concernant le déploiement immédiat de leur enchère, notant qu'elle repose sur la capacité des plateformes à vérifier la qualité des modèles et que les incitations à l'adoption dépendent de l'évolution de l'utilité pour les fournisseurs. Ils présentent leur travail comme une étape vers l'exploration de structures de marché alternatives pour l'IA générative qui privilégient le bien-être social.