📈 economics

Supervised Fine-Tuning vs. In-Context Learning: An Equilibrium Analysis of LLM Personalization under Congestion

Diese Arbeit etabliert einen handhabbaren Rahmen zur Analyse der strategischen Abwägungen zwischen Supervised Fine-Tuning und In-Context Learning für die Personalisierung von LLMs unter Ressourcenengpässen, wobei sie aufzeigt, dass das Angebot beider Methoden für Plattformen stets profitabel ist, während die Gleichgewichtswahl der Nutzer eine nicht-monotone Sensitivität gegenüber der Qualität des Pretrainings und der Aufgabenkomplexität aufweist.

Ursprüngliche Autoren: Fengzhuo Zhang, Zhuoran Yang, Dirk Bergemann

Veröffentlicht 2026-07-17

📖 6 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Fengzhuo Zhang, Zhuoran Yang, Dirk Bergemann

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie versuchen, ein kniffliges Rätsel zu lösen, aber anstatt es allein zu tun, haben Sie einen superintelligenten Roboterfreund, der fast jedes Buch in der Bibliothek gelesen hat. Dieser Robot ist ein Large Language Model (LLM). Er ist großartig im allgemeinen Wissen, aber manchmal bleibt er bei sehr spezifischen Aufgaben hängen, wie etwa der Analyse einer seltenen medizinischen Erkrankung oder der Entschlüsselung eines spezifischen Finanztrends. Um dem Roboter zu helfen, können Sie ihm direkt im Gespräch ein „Spickzettel“ mit Beispielen geben (das nennt man In-Context Learning oder ICL). Es ist schnell und einfach, wie das Flüstern eines Hinweises an einen Freund. Oder Sie nehmen sich die Zeit, das Gehirn des Roboters speziell für Ihre Aufgabe neu zu trainieren, indem Sie einen riesigen Datensatz verwenden (das nennt man Supervised Fine-Tuning oder SFT). Das ist leistungsstark und macht den Roboter zu einem wahren Experten, aber es ist schwerfällig, langsam und verbraucht viel Energie.

Stellen Sie sich nun vor, Millionen von Menschen versuchen gleichzeitig, diese Roboter auf einem einzigen, gemeinsam genutzten Computernetzwerk zu verwenden. Wenn alle versuchen, ihren Roboter gleichzeitig neu zu trainieren, wird das Netzwerk verstopft, wie eine Autobahn während der Rushhour. Alle müssen länger warten, und die Kosten für die Nutzung des Dienstes steigen. Dieses Paper stellt eine faszinierende Frage: Wenn Sie Teil dieses überfüllten digitalen Highways sind, sollten Sie einen Hinweis flüstern (ICL) oder das Gehirn neu verdrahten (SFT)? Ändert die Tatsache, dass alle anderen eine Entscheidung treffen, das Beste für Sie? Die Autoren behandeln dies wie ein großes Strategiespiel, bei dem Ihre Wahl die Verkehrsbelastung für alle anderen beeinflusst, und sie nutzen Mathematik, um das perfekte Gleichgewicht zwischen dem Erhalten einer großartigen Antwort und dem Vermeiden eines digitalen Staus zu finden.

Die große Roboter-Debatte: Hinweise flüstern vs. Gehirne neu verdrahten

Sie haben also eine Million Nutzer, eine begrenzte Menge an Rechenleistung und zwei Möglichkeiten, eine intelligente KI für Sie besser arbeiten zu lassen. Die Autoren dieses Papers haben ein mathematisches Modell entwickelt, um zu sehen, wie dies abläuft. Sie haben nicht nur geraten; sie haben ein „Kontinuum“ von Nutzern erstellt (denken Sie daran als einen glatten, endlosen Strom von Menschen statt nur einiger weniger Individuen) und beobachtet, wie sie sich verhielten, wenn sie zwischen dem leichtgewichtigen In-Context Learning (ICL) und dem schwergewichtigen Supervised Fine-Tuning (SFT) wählen mussten.

Hier ist der Clou: Die „beste“ Wahl ist nicht für jeden dieselbe. Sie hängt von zwei Hauptfaktoren ab: wie viel der Roboter bereits über Ihr spezifisches Thema weiß (Pretraining Coverage) und wie klar das Signal in Ihren Daten ist (Signal-to-Noise Ratio).

Die „Goldlöckchen“-Zone der Personalisierung
Das Paper stellt fest, dass, wenn das Pretraining des Roboters Ihr Thema bereits gut abdeckt und Ihre Daten klar sind, SFT (das schwere Retraining) der Gewinner ist. Es ist wie das Anheuern eines Spezialisten, um Ihr Auto zu reparieren; wenn Sie die richtigen Werkzeuge und ein klares Problem haben, kann er es perfekt reparieren. Wenn der Roboter jedoch sehr wenig über Ihr Thema weiß oder Ihre Daten unordentlich und verrauscht sind, gewinnt tatsächlich ICL (das Flüstern von Hinweisen). Warum? Weil der Versuch, den Roboter zu einem Thema neu zu trainieren, von dem er nichts weiß, mit unordentlichen Daten, so ist, als würde man versuchen, einem Fisch beizubringen, auf einen Baum zu klettern. Sie könnten den Roboter nur verwirren und ihn schlechter machen. In diesen Fällen ist es sicherer, ihm einfach ein paar Beispiele im Chat zu geben und ihn das Beste aus dem machen zu lassen, was er bereits weiß.

Die Überraschung im Stau
Der überraschendste Teil der Geschichte ist, wie die „Verkehrsdichte“ (der Stau) die Regeln verändert. Die Autoren haben entdeckt, dass die Beziehung zwischen wie gut der Roboter ist und wie viel Verkehr er verursacht, keine gerade Linie ist.

Besseres Pretraining hilft meistens: Wenn der Roboter mit einem besseren Gehirn (höherer Präzision) startet, verbrauchen die Leute weniger Rechenleistung und der Stau wird kleiner.
Aber mehr Abdeckung kann Staus verursachen: Wenn der Roboter über mehr Themen lernt (breitere Coverage), kann er in einigen Situationen tatsächlich den Verkehr verschlimmern. Es ist, als würde eine Autobahn plötzlich mehr Spuren hinzufügen; die Leute könnten entscheiden, mehr zu fahren, weil die Straße leichter aussieht, was schließlich zu einem neuen Grund für einen Stillstand führt.
Schwierige Aufgaben können die Straße entlasten: Wenn eine Aufgabe wirklich schwierig und verrauscht ist, geben die Leute vielleicht ganz darauf verzichten, den Roboter zu personalisieren, um die Kosten zu vermeiden, was den Verkehr tatsächlich reduziert!

Das Dilemma der Plattform
Schließlich betrachtet das Paper das Unternehmen, das den KI-Dienst betreibt. Sie wollen Geld verdienen, also setzen sie Preise fest. Die Autoren beweisen etwas Kontraintuitives: Das Angebot beider Optionen (SFT und ICL) schadet dem Gewinn der Plattform niemals. Selbst wenn das Hinzufügen von SFT die Gesamtlast auf den Servern erhöht, bietet es den Nutzern mehr Auswahlmöglichkeiten. Einige Nutzer werden zur SFT-Option wechseln, wenn diese günstig ist, was die Nachfrage erhöht, während andere bei ICL bleiben. Die Plattform kann immer einen Preispunkt finden, an dem sie den meisten Gewinn erzielt, unabhängig davon, ob sie eine oder beide Methoden anbietet. Tatsächlich zeigen die Daten, dass der Anteil der Plattformen, die sowohl SFT als auch ICL anbieten, von 9,5 % im Jahr 2021 auf 71,4 % im Jahr 2025 gestiegen ist, was darauf hindeutet, dass der Markt bereits genau dorthin wandert, wo die Mathematik es vorhersagt.

Der Beweis durch die Praxis
Um sicherzustellen, dass ihre Mathematik nicht nur schöne Theorie war, haben die Autoren ein Modell namens GPT-2 mit einfachen mathematischen Problemen (lineare Regression) getestet.

Sie fanden heraus, dass die Fehlerquote bei der Gabe von mehr Beispielen (ICL) nach einem gewissen Punkt aufhörte zu sinken und ein „Plateau“ erreichte, das durch die Teile des Problems verursacht wurde, die das Modell noch nicht gesehen hatte.
Sie sahen auch den von ihnen vorhergesagten „Flip“: Mit sehr wenigen Beispielen war ICL besser; mit hunderten von Beispielen übernahm SFT das Ruder.
Sie überprüften sogar reale Daten von 21 großen KI-Unternehmen und bestätigten, dass der Trend zum Angebot beider Methoden real und wachsend ist.

Kurz gesagt: Dieses Paper zeigt uns, dass die Personalisierung von KI nicht nur daraus besteht, das „beste“ Werkzeug auszuwählen; es ist ein komplexer Tanz zwischen dem, was die KI bereits weiß, wie unordentlich Ihre Daten sind und wie überfüllt der digitale Highway ist. Die „richtige“ Wahl hängt vom gesamten System ab, nicht nur von Ihren eigenen Bedürfnissen. Und für die Unternehmen, die das Ganze leiten? Ein Menü an Optionen anzubieten, ist immer der klügste Schachzug.

Technisches Resümee: Supervised Fine-Tuning vs. In-Context Learning unter Kongestierung

Problemstellung

Große Sprachmodelle (LLMs) haben KI-Dienste revolutioniert, doch es besteht eine kritische ökonomische Spannung zwischen Personalisierung und Ressourcenknappheit. Während Personalisierung (via Supervised Fine-Tuning, SFT, oder In-Context Learning, ICL) die Modellleistung bei domänenspezifischen Aufgaben verbessert, verbraucht sie gemeinsam genutzte Rechenressourcen. Wenn tausende Nutzer gleichzeitig Modelle auf gemeinsamer Infrastruktur personalisieren, entsteht Kongestierung: Die Wahl der Methode und der Stichprobengröße durch den einzelnen Nutzer beeinflusst nicht nur dessen eigene Kosten, sondern auch die Wartezeiten und Latenzen für andere.

Die Arbeit adressiert drei primäre Fragen:

Algorithmenwahl: Wie sollten Nutzer in Abwesenheit von Kongestierung zwischen SFT und ICL basierend auf statistischen Primitiven wählen?
Gleichgewichtsverhalten: Wie handeln Nutzer unter geteilten, begrenzten Ressourcen die Abwägung zwischen Personalisierungsqualität und Kongestierungskosten im Gleichgewicht aus?
Plattformdesign: Wie sollten Plattformen ihre Service-Menüs gestalten (Angebot von SFT, ICL oder beidem), wenn Ressourcen knapp sind, und welche Preisstrategien sollten sie verfolgen?

Die bestehende Literatur stützt sich oft auf Skalierungsgesetze oder stilisierte Verhaltensannahmen und lässt die entscheidenden Unterschiede zwischen Personalisierungsalgorithmen und die strategischen Interaktionen im Maßstab von Millionen von Nutzern außer Acht. Diese Arbeit zielt darauf ab, die Lücke zwischen statistischer Lerntheorie und Kongestierungsökonomie zu schließen.

Methodik

Die Autoren entwickeln einen handhabbaren Rahmen, der die statistische Modellierung von LLMs mit einem Kontinuum-Nutzer-spieltheoretischen Modell kombiniert.

1. Statistische Modelle der Personalisierung

Die Arbeit modelliert die LLM-Personalisierung als lineares Regressionsproblem.

Pretraining: Abstrahiert als Lernen einer Prior-Verteilung über die Aufgabenparameter $\theta$ aus einem Datensatz der Größe $N$ . Das vortrainierte Modell entspricht einem gelernten Prior-Mittelwert $\theta_{pre}$ und einer Kovarianz $\Sigma_{pre}$ .
In-Context Learning (ICL): Modelliert als approximative Bayessche Inferenz. Das Modell aktualisiert seine Überzeugung über die Zielaufgabe $\theta^*$ , indem es den gelernten Prior auf $N$ Personalisierungsproben konditioniert, die im Prompt bereitgestellt werden, ohne dabei Parameter zu aktualisieren.
Supervised Fine-Tuning (SFT): Modelliert als regularisierter Schätzer, der die Modellparameter unter Verwendung aufgabenspezifischer Daten aktualisiert, ausgehend von der vortrainierten Initialisierung. Dies verursacht höhere Rechenkosten (FLOPs und Speicher), ermöglicht aber eine Anpassung über den vortrainierten Subraum hinaus.

Die Autoren leiten geschlossene Ausdrücke für den mittleren quadratischen Fehler (MSE) beider Methoden ab, wobei die Fehler in Komponenten zerlegt werden, die vom Pretraining geerbt wurden, aus Datenrauschen und algorithmusspezifischer Unsicherheit bestehen.

2. Kontinuum-Nutzer-Modell (LLM-Serving Congestion Game)

Die Interaktion wird als LLM-Serving Congestion Game (LSCG) mit einem Kontinuum von Nutzern modelliert.

Nutzer-Typen: Nutzer werden durch einen Typ $t$ charakterisiert, der die statistischen Eigenschaften ihrer Zielaufgabe und des vortrainierten Modells zusammenfasst (z. B. Dimension $d$ , Pretraining-Abdeckung $r$ , Signal-Rausch-Verhältnisse).
Aktionen: Jeder Nutzer wählt einen Personalisierungsalgorithmus $a \in \{ICL, SFT\}$ und eine Anzahl an Proben $\tilde{N}$ .
Kostenfunktion: Die Gesamtkosten eines Nutzers setzen sich aus dem Lernfehler (statistische Performance) und den Ressourcenkosten zusammen. Die Ressourcenkosten beinhalten einen monetären Preis pro Ressourceneinheit und eine durch Kongestierung induzierte Zeitkostenfunktion $h(R)$ , wobei $R$ die aggregierte Ressourcenanforderung ist.
Gleichgewicht: Die Arbeit definiert ein Nash-Gleichgewicht in diesem Kontinuums-Setting, bei dem fast jeder Nutzer seine Kosten gegeben das aggregierte Kongestierungsniveau minimiert, und das Kongestierungsniveau konsistent mit dem aggregierten Verhalten aller Nutzer ist.

Zentrale Beiträge und Ergebnisse

1. Statistische Abwägungen: SFT vs. ICL

Die Analyse liefert einen präzisen Schwellenwert, wann SFT ICL dominiert, gesteuert durch die Pretraining-Abdeckung ( $R = r/(d-r)$ ) und das Signal-Rausch-Verhältnis (SNR) der Personalisierungsdaten im unbedeckten Subraum ( $\kappa$ ).

Befund: ICL ist optimal, wenn die Pretraining-Abdeckung gering und die Daten verrauscht oder begrenzt sind. In diesem Regime vermeidet die Konservativität von ICL (die Aktualisierung nur innerhalb des vortrainierten Subraums) die hohe Varianz von SFT, das versucht, in schlecht unterstützten Richtungen zu lernen.
Befund: SFT dominiert, wenn die Pretraining-Abdeckung hoch und die Daten informativ sind. SFT kann den Fehler in Richtungen reduzieren, die nicht durch das Pretraining abgedeckt wurden, während ICL in diesen Richtungen einen festen, irreduziblen Bias aufweist.
Validierung: Experimente mit GPT-2 bei linearen Regressionsaufgaben bestätigen, dass der ICL-Fehler bei einem durch die unbedeckten Dimensionen bestimmten Bias stagniert, während der SFT-Fehler mit zunehmender Stichprobengröße weiter sinkt.

2. Dynamik der Gleichgewichts-Kongestierung

Die Arbeit beweist die Existenz und Eindeutigkeit des Gleichgewichts-Kongestierungsniveaus $R^*$ . Entscheidend ist, dass die Beziehung zwischen Systemparametern und Kongestierung nicht-monoton ist:

Pretraining-Präzision: Eine höhere Präzision ( $\pi$ ) reduziert die Kongestierung immer, da Nutzer weniger auf teure Online-Personalisierung angewiesen sind.
Pretraining-Abdeckung: Eine Erhöhung der Abdeckung ( $r$ ) kann in intermediären Regimen die Kongestierung erhöhen. Mit expandierender Abdeckung können Nutzer von ICL zu SFT wechseln (extensive Margin) oder die Stichprobengrößen erhöhen (intensive Margin), um die neu abgedeckten Dimensionen zu nutzen, was die aggregierte Nachfrage vorübergehend erhöht.
Aufgabenschwierigkeit: Schwierigere Aufgaben (hohes Rauschen) können die Kongestierung reduzieren, indem sie Nutzer davon abhalten, überhaupt zu personalisieren.
SFT-Kosten: Eine Erhöhung der Ressourcenkosten für SFT kann die Kongestierung zunächst erhöhen (da Nutzer ihre Nutzung intensivieren, bevor sie wechseln), bevor sie schließlich sinkt, wenn Nutzer zu ICL substituieren.

3. Plattformstrategie und Rentabilität

Die Arbeit analysiert die Stackelberg-Strategie der Plattform (Festlegung des Preises $p$ zur Gewinnmaximierung).

Preisgestaltung: Das Gleichgewichts-Kongestierungsniveau ist eine fallende Funktion des Ressourcen-Einheitspreises. Der gewinnmaximierende Preis ist unter Regularitätsbedingungen endlich.
Menüdesign: Die Autoren beweisen, dass das Angebot von beidem (SFT und ICL) den maximalen Gewinn der Plattform im Vergleich zum Angebot von nur ICL niemals reduziert. Während das Hinzufügen von SFT das Potenzial für eine höhere aggregierte Ressourcenaufnahme (und damit Kongestierung) erhöht, erlaubt es der Plattform, die Überschüsse von Nutzern abzuschöpfen, die die leistungsstärkere, aber teurere Option bevorzugen.
Empirische Evidenz: Eine Überprüfung von 21 großen KI-Plattformen zeigt, dass der Anteil der Plattformen, die sowohl SFT als auch ICL anbieten, von 9,5 % im Jahr 2021 auf 71,4 % im Jahr 2025 gestiegen ist, was konsistent mit der theoretischen Vorhersage ist, dass Diversität in den Personalisierungsoptionen profitabel ist.

Bedeutung und Behauptungen

Die Arbeit beansprucht, zur entstehenden KI-Ökonomie-Literatur beizutragen, indem sie ein verhaltensbasiertes Modell entwickelt, das über die Preisgestaltung pro Token hinausgeht, um zu erfassen, wie algorithmische Charakteristika strategische Interaktionen formen.

Theoretische Neuheit: Sie verbindet klassische Kongestierungsspieltheorie (Peak-Load-Pricing) mit den spezifischen statistischen Eigenschaften von LLMs. Im Gegensatz zu traditioneller Infrastruktur-Kongestierung, die durch physische Netzwerkbeschränkungen getrieben wird, hebt diese Arbeit eine neue Quelle der Kongestierung hervor, die durch die algorithmischen Eigenschaften der Personalisierungsmethoden getrieben wird (z. B. wie sich SFT und ICL in Bezug auf Ressourcenintensität und Fehlerreduktion unterscheiden).
Praktische Relevanz: Der Rahmen erklärt die schnelle Einführung von SFT-APIs durch große Plattformen trotz der zusätzlichen Komplexität und Last. Er liefert eine theoretische Rechtfertigung dafür, warum Plattformen ein Menü an Personalisierungsoptionen anbieten sollten, anstatt einer einzigen standardisierten Methode.
Politische Implikationen: Die nicht-monotone Natur der Kongestierung legt nahe, dass die bloße Verbesserung von Pretraining-Modellen oder die Erhöhung von Ressourcen die Kongestierung nicht linear reduzieren kann; das Plattformdesign muss berücksichtigen, wie Nutzer zwischen Algorithmen und Stichprobengrößen reagieren, wenn sich diese Änderungen ergeben.

Die Autoren validieren ihre theoretischen Vorhersagen mittels GPT-2-Experimenten und Industriedaten und zeigen damit, dass die lineare Approximation des LLM-Verhaltens die Kernabwägungen zwischen SFT und ICL in einer kongestierten Umgebung effektiv erfasst.