🤖 AI

Test-Time Compute Games

Dieser Artikel identifiziert die soziale Ineffizienz in LLM-as-a-Service-Märkten, bei denen Anbieter einen Anreiz haben, kostspielige Compute-Ressourcen zur Laufzeit übermäßig einzusetzen, und schlägt einen umgekehrten Second-Price-Auktionsmechanismus vor, um die Preisgestaltung an den Grenznutzen auszurichten, was durch Experimente mit verschiedenen Modellfamilien auf mathematischen und naturwissenschaftlichen Benchmarks validiert wurde.

Ursprüngliche Autoren: Ander Artola Velasco, Dimitrios Rontogiannis, Stratis Tsirtsis, Manuel Gomez-Rodriguez

Veröffentlicht 2026-05-11

📖 6 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Ander Artola Velasco, Dimitrios Rontogiannis, Stratis Tsirtsis, Manuel Gomez-Rodriguez

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das große Ganze: Das Problem der „Überkonstruktion"

Stellen Sie sich vor, Sie benötigen ein Taxi zum Flughafen. Sie haben zwei Taxiunternehmen: Firma A und Firma B.

Firma A braucht normalerweise 10 Minuten, um Sie dorthin zu bringen.
Firma B braucht normalerweise 12 Minuten.

Beide Unternehmen haben jedoch einen geheimen Knopf, den sie drücken können, der „Super-Fahrt" heißt.

Wenn Firma A ihn drückt, brauchen sie 11 Minuten, berechnen Ihnen aber das Doppelte.
Wenn Firma B ihn drückt, brauchen sie 11 Minuten und berechnen Ihnen das Dreifache.

In einer normalen Welt würden Sie einfach Firma A für die Standardfahrt von 10 Minuten wählen, da sie günstiger und schneller ist. Aber hier kommt die Wendung: Die Taxiunternehmen werden danach bezahlt, wie viel Benzin sie verbrauchen, und nicht nur danach, wie schnell sie Sie dorthin bringen.

Aus diesem Grund denkt Firma A: „Wenn ich 'Super-Fahrt' drücke und 11 Minuten brauche, kann ich Ihnen das Doppelte berechnen. Auch wenn Sie nur eine Minute im Vergleich zu meiner alten Geschwindigkeit gespart haben, verdiene ich mehr Geld. Also werde ich immer den Knopf drücken."

Das Ergebnis: Sie zahlen am Ende das Doppelte für eine Fahrt, die kaum schneller ist, und das Unternehmen verbraucht zusätzliches Benzin ohne echten Nutzen. Dies ist es, was das Papier als „Test-Time Compute" (TTC) bezeichnet. In der Welt der KI ist „Benzin" Rechenleistung, und „Super-Fahrt" bedeutet, dass die KI länger nachdenkt oder viele verschiedene Antworten versucht, bevor sie Ihnen eine gibt.

Das Problem: Warum der Markt kaputt ist

Die Autoren argumentieren, dass die derzeitige Art und Weise, wie wir KI-Dienste kaufen, gesellschaftlich ineffizient ist.

Der Anreiz des Anbieters: KI-Unternehmen wollen Geld verdienen. Sie wissen, dass sie Ihnen mehr berechnen können, wenn sie ihre KI dazu bringen, „intensiver nachzudenken" (mehr Rechenleistung zu verwenden). Selbst wenn das zusätzliche Nachdenken die Antwort nur um 1 % verbessert, werden sie es dennoch tun, weil die zusätzlichen Kosten für sie gering sind, der zusätzliche Preis, den sie berechnen können, jedoch hoch ist.
Der Verlust des Nutzers: Sie zahlen am Ende für „Nachdenken", das Ihnen nicht wirklich viel hilft. Es ist, als würden Sie für ein aufwendiges, langsam gegartes Essen bezahlen, während ein einfaches Sandwich genauso sättigend und viel günstiger gewesen wäre.

Das Papier zeigt, dass KI-Unternehmen in einem freien Markt Probleme natürlich dazu neigen werden, „übermäßig nachzudenken", um ihre eigenen Gewinne zu maximieren, selbst wenn dies Geld und Ressourcen für alle verschwendet.

Die Lösung: Eine Auktion rückwärts

Um dies zu beheben, schlagen die Autoren eine neue Art vor, KI-Dienste zu kaufen, ähnlich einer Auktion rückwärts (wie wenn eine Regierung 1.000 Schreibtische kaufen möchte und die Lieferanten auffordert, das niedrigste Gebot abzugeben).

So funktioniert ihre „Smarte Auktion":

Der Aufbau: Sie (der Nutzer) haben eine Aufgabe. Sie sagen einer neutralen Plattform: „Ich brauche eine KI, um dieses Matheproblem zu lösen."
Die Gebote: Mehrere KI-Unternehmen reichen ein Gebot ein. Sie sagen:
- „Ich kann dies mit 90 % Genauigkeit lösen."
- „Ich werde 5 $ berechnen."
- (Sie entscheiden auch geheim, wie viel „Nachdenken" sie betreiben, um diese 90 % Genauigkeit zu erreichen).
Der Gewinner: Die Plattform wählt das Unternehmen aus, das das beste Angebot macht (höchste Genauigkeit zum niedrigsten Preis).
Die Zahlung (Der magische Teil): Dies ist die wichtigste Regel. Der Gewinner wird nicht so bezahlt, wie er es angeboten hat.
- Stattdessen wird er basierend auf dem zweitbesten Angebot bezahlt.
- Beispiel: Wenn Firma A 90 % Genauigkeit für 5 $ bietet und Firma B 85 % Genauigkeit für 4 $ bietet, gewinnt Firma A. Aber Firma A erhält nur 4 $ (plus einen kleinen Betrag für den Qualitätsunterschied) bezahlt, nicht 5 $.

Warum dies alles verändert:
Da der Gewinner basierend auf dem Preis des Wettbewerbers und nicht auf seinem eigenen bezahlt wird, hat er keinen Anreiz, übermäßig zu berechnen oder überkonstruiert zu sein.

Wenn Firma A versucht, „intensiver nachzudenken", um 95 % Genauigkeit zu erreichen, gewinnen sie vielleicht, erhalten aber immer noch nur basierend auf dem niedrigeren Standard von Firma B bezahlt.
Wenn Firma A versucht, 10 $ zu berechnen, werden sie das Gebot an Firma B verlieren.
Die beste Strategie: Der einzige Weg für ein Unternehmen, zu gewinnen und Gewinn zu machen, besteht darin, den effizientesten Weg zu finden, das Problem zu lösen (die richtige Menge an „Nachdenken"), der den besten Wert bietet. Sie sind gezwungen, aufzuhören, „übermäßig nachzudenken", da dies sie Geld kostet, ohne ihnen zu helfen, das Gebot zu gewinnen.

Die Ergebnisse: Was die Experimente zeigten

Die Autoren testeten diese Idee mit echten KI-Modellen (wie Llama und Qwen) an Mathe- und Wissenschaftsproblemen.

Der aktuelle Markt ist verschwenderisch: Auf dem normalen „Pay-per-Token"-Markt stellten sie fest, dass das System bis zu 19 % ineffizient war. Das bedeutet, wir verschwendeten fast 20 % des Geldes und der Rechenleistung, weil Unternehmen sich dafür entschieden, „zu viel nachzudenken", nur um ein paar zusätzliche Dollar zu verdienen.
Die Auktion behebt es: Als sie ihre Auktion simulierten, sank die Ineffizienz auf null. Die KI-Unternehmen wählten automatisch die perfekte Menge an „Nachdenken", um das Problem effizient zu lösen.
Wer gewinnt?
- Nutzer: Erhalten ein viel besseres Preis-Leistungs-Verhältnis. Sie zahlen weniger und erhalten Antworten, die genauso gut (oder besser) sind.
- Anbieter: Es ist ein gemischtes Bild. Einige Unternehmen verdienen möglicherweise weniger Geld, weil sie nicht mehr übermäßig berechnen können, aber andere verdienen möglicherweise mehr, weil sie endlich fair in Bezug auf Effizienz konkurrieren können, anstatt nur Kosten aufzublähen.

Zusammenfassende Analogie

Aktuelles System: Wie ein Restaurant, in dem der Koch für jedes geschnittene Zutat bezahlt wird. Er wird Zwiebeln zu Staub hacken, nur um Ihnen mehr zu berechnen, obwohl Sie sie nur in Scheiben benötigt hätten.
Vorgeschlagenes System: Wie ein Restaurant, in dem der Koch einen festen Preis erhält, der auf dem basiert, was das Nachbar-Restaurant für ein ähnliches Gericht berechnet. Der Koch ist nun gezwungen, Zwiebeln effizient zu hacken. Wenn er sie zu fein hackt, verschwendet er Zeit und Geld, wird aber nicht extra bezahlt. Wenn er sie zu grob hackt, verliert er den Kunden. Sie finden den perfekten Mittelweg.

Das Papier kommt zu dem Schluss, dass wir durch die Änderung der Spielregeln (des Zahlungsmechanismus) verhindern können, dass KI-Unternehmen Ressourcen verschwenden, und sicherstellen können, dass das „Nachdenken", das sie betreiben, dem Nutzer tatsächlich hilft.

Technische Zusammenfassung: Test-Time Compute-Spiele

Problemstellung

Die rasche Einführung von Large Language Models (LLMs) als Service hat einen Markt geschaffen, in dem Nutzer Cloud-Anbieter für die während der Inferenz verbrauchten Rechenressourcen bezahlen. Ein entscheidender Kostentreiber ist Test-Time Compute (TTC) – zusätzliche Berechnungen, die zur Verbesserung der Modellleistung zur Inferenzzeit durchgeführt werden (z. B. Chain-of-Thought, Tree-of-Thought, Best-of-n-Sampling). Während TTC die Ausgabequalität verbessert, berechnen Anbieter den Nutzern derzeit für alle generierten Token, einschließlich der Zwischenschritte der Schlussfolgerung.

Die Arbeit identifiziert eine fundamentale Marktineffizienz: Anbieter haben einen finanziellen Anreiz, die für eine Abfrage zugewiesene Menge an TTC zu erhöhen, um ihren eigenen Gewinn zu maximieren, selbst wenn der marginale Gewinn an Ausgabequalität vernachlässigbar ist oder wenn die zusätzliche Rechenleistung nicht mit dem gesellschaftlich optimalen Gleichgewicht zwischen Kosten und Qualität übereinstimmt. In einem wettbewerbsintensiven Markt, in dem Nutzer Anbieter basierend auf Wert (Qualität minus Preis) auswählen, können Anbieter strategisch Rechenleistung überdimensionieren, um sich zu differenzieren oder Marktanteile zu gewinnen, was zu einer aus gesellschaftlicher Wohlfahrtsperspektive suboptimalen Ressourcenallokation führt.

Methodik

Die Autoren formalisieren den Markt für LLMs als Service als ein Normalformspiel, an dem $N$ Anbieter beteiligt sind, die um die Nachfrage der Nutzer konkurrieren.

Spieltheoretisches Modell

Spieler: $N$ Anbieter, von denen jeder ein vortrainiertes LLM bedient.
Strategien: Jeder Anbieter $i$ wählt ein Niveau an Test-Time Compute $\theta_i$ aus einer endlichen Menge $\Theta$ . Dieses Niveau bestimmt die durchschnittliche Ausgabequalität $q_i(\theta_i)$ und die Generierungskosten $c_i(\theta_i)$ .
Preisgestaltung: Anbieter setzen Preise $p_i(\theta_i)$ proportional zu den Generierungskosten (plus einer Gewinnmarge).
Nutzer-Nutzen: Nutzer ziehen einen Wert $V_i(\theta_i) = q_i(\theta_i) - p_i(\theta_i)$ aus der Nutzung.
Marktallokation: Nutzer verteilen die Nachfrage basierend auf dem angebotenen Wert. Die Arbeit betrachtet zwei Marktanteilfunktionen:
1. Perfekte Rationalität: Nutzer wählen stets den Anbieter mit dem höchsten Wert.
2. Begrenzte Rationalität: Nutzer wählen Anbieter probabilistisch basierend auf dem Wert (Logit/Softmax-Wahl), gesteuert durch einen Rationalitätsparameter $\beta$ .
Anbieter-Nutzen: Definiert als Marktanteil multipliziert mit der Gewinnmarge $(p_i - c_i)$ .

Theoretische Analyse

Die Autoren analysieren das Nash-Gleichgewicht dieses Spiels. Sie beweisen, dass das Spiel ein generalisiertes ordinales Potentialspiel ist, was die Existenz eines reinen Nash-Gleichgewichts und die Konvergenz durch bessere-Antwort-Dynamiken garantiert. Sie charakterisieren die Gleichgewichts-Compute-Niveaus und zeigen, dass das Gleichgewicht im Allgemeinen nicht gesellschaftlich optimal ist. Der Preis der Anarchie (PoA) wird verwendet, um das Verhältnis zwischen dem maximal möglichen gesellschaftlichen Wohlfahrtswert und dem im Gleichgewicht erreichten Wohlfahrtswert zu quantifizieren.

Vorgeschlagener Mechanismus

Um diese Ineffizienz zu adressieren, schlägt die Arbeit einen umgekehrten Second-Price-Auktionsmechanismus vor:

Prozess: Nutzer reichen eine Aufgabe ein; Anbieter bieten gleichzeitig mit einem Paar $(q_i, p_i)$ , das die geschätzte Qualität und den Preis darstellt.
Allokation: Der Anbieter, der den höchsten Wert ( $q_i - p_i$ ) bietet, gewinnt.
Zahlungsregel: Der gewinnende Anbieter erhält einen Betrag, der durch das Angebot des zweitbesten Bieters bestimmt wird, spezifisch $P = q_{winner} - V_{second\_best}$ .
Anreizausrichtung: Die Autoren beweisen, dass unter diesem Mechanismus die Wahl des Compute-Niveaus, das den individuellen Beitrag zur gesellschaftlichen Wohlfahrt maximiert ( $\theta^*_i = \arg\max_\theta (q_i(\theta) - c_i(\theta))$ ), und das Bieten der Generierungskosten eine dominante Strategie ist. Dies stellt sicher, dass das Auktionsergebnis den maximal möglichen gesellschaftlichen Wohlfahrtswert erreicht (PoA = 1).

Hauptbeiträge

Spieltheoretische Modellierung: Die Arbeit führt „Test-Time Compute-Spiele" ein und modelliert die strategische Interaktion zwischen LLM-Anbietern hinsichtlich der Compute-Allokation in einem Dienstleistungsmarkt.
Charakterisierung der Ineffizienz: Sie zeigt formal, dass in einem Standardmarkt für Bezahlung nach Compute-Anbieter dazu angereizt werden, Compute-Niveaus zu wählen, die nicht gesellschaftlich optimal sind, was zu einem Preis der Anarchie größer als 1 führt.
Design des Auktionsmechanismus: Sie schlägt eine umgekehrte Second-Price-Auktion vor, bei der Anbieter auf Qualität und Preis bieten. Die theoretische Analyse zeigt, dass dieser Mechanismus die gesellschaftliche Optimalität garantiert, indem er die Anreize der Anbieter mit der Maximierung der gesellschaftlichen Wohlfahrt in Einklang bringt.
Empirische Validierung: Die Autoren führen umfangreiche Experimente mit Modellen aus den Familien Llama, Qwen und DeepSeek-R1 über Datensätze (GSM8K, GPQA, AIME, TruthfulQA) durch, um die theoretischen Erkenntnisse zu validieren.

Experimentelle Ergebnisse

Die Experimente simulieren die Dynamiken von Test-Time Compute-Spielen und vergleichen sie mit dem vorgeschlagenen Auktionsmechanismus.

Marktineffizienz: Im Standardmarktspiel wurde der Preis der Anarchie bei nicht-schlussfolgernden Modellen mit bis zu 1,19 (ein Verlust von 19 % an gesellschaftlicher Wohlfahrt) und bei schlussfolgernden Modellen mit etwa 1,006 ermittelt. Dies bestätigt, dass Wettbewerb nicht automatisch zu gesellschaftlicher Optimalität führt.
Konvergenz: Es wurde beobachtet, dass die bessere-Antwort-Dynamiken der Anbieter, die zu einem Nash-Gleichgewicht konvergieren, innerhalb einer endlichen Anzahl von Iterationen stabilisieren (z. B. 44 Iterationen für nicht-schlußfolgernde Modelle).
Auktionsleistung: Bei Anwendung des vorgeschlagenen Auktionsmechanismus:
- Gesellschaftliche Wohlfahrt: Steigerung um 25 % für nicht-schlußfolgernde Modelle und 4 % für schlussfolgernde Modelle im Vergleich zum Spielgleichgewicht.
- Nutzerwert: Steigerung um 29 % für nicht-schlußfolgernde Modelle und 2,8 % für schlussfolgernde Modelle.
- Anbieter-Nutzen: Variierte erheblich; in einigen Fällen nahm der Anbieter-Nutzen ab (z. B. -28 % für nicht-schlußfolgernde Modelle), während er in anderen Fällen erheblich zunahm (z. B. +200 % für schlussfolgernde Modelle), abhängig von der Wettbewerbsintensität des Marktes.

Bedeutung und Behauptungen

Die Arbeit behauptet, als erste nachzuweisen, dass im Markt für LLMs als Service Anbieter dazu angereizt sind, die Menge des verwendeten Test-Time Compute strategisch zu entscheiden, und dass dieses strategische Verhalten zu gesellschaftlicher Ineffizienz führt.

Die Bedeutung der Arbeit liegt in:

Ökonomische Einsicht: Sie verlagert den Fokus von der rein technischen Leistung von TTC-Methoden auf deren ökonomische Implikationen und hebt hervor, dass aktuelle Preismodelle verschwenderische Berechnungen fördern können.
Mechanismusdesign: Sie bietet eine konkrete, theoretisch fundierte Alternative (die umgekehrte Second-Price-Auktion) an, die Marktanreize mit der gesellschaftlichen Wohlfahrt in Einklang bringen kann und sicherstellt, dass Rechenressourcen effizient allokiert werden.
Praktische Relevanz: Die Ergebnisse deuten darauf hin, dass ohne Eingriffe des Mechanismusdesigns die wachsende Abhängigkeit von teurem Test-Time Compute zu suboptimalen Ergebnissen sowohl für Nutzer als auch für die Gesellschaft führen kann, selbst in wettbewerbsintensiven Märkten.

Die Autoren bleiben bezüglich der unmittelbaren Einführung ihrer Auktion bescheiden und weisen darauf hin, dass diese auf der Fähigkeit von Plattformen beruht, die Modellqualität zu verifizieren, und dass die Anreize zur Übernahme davon abhängen, wie sich der Nutzen für Anbieter verändert. Sie rahmen ihre Arbeit als einen Schritt hin zur Erforschung alternativer Marktstrukturen für generative KI ein, die die gesellschaftliche Wohlfahrt priorisieren.