🤖 AI

In-Context Credit Assignment via the Core

Dieser Artikel schlägt einen anreizkompatiblen Mechanismus für die Kreditzuweisung im Kontext vor, der auf der Lösung des kleinsten Kerns aus der kooperativen Spieltheorie basiert, und führt effiziente Algorithmen ein, die eine faire Wertverteilung unter Inhaltserschaffenden unter Verwendung deutlich weniger LLM-Aufrufe als bestehende Methoden approximieren.

Ursprüngliche Autoren: Keegan Harris, Siddharth Prasad, Asher Trockman

Veröffentlicht 2026-05-11

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Keegan Harris, Siddharth Prasad, Asher Trockman

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie und eine Gruppe von Freunden entscheiden sich, gemeinsam einen riesigen, komplizierten Kuchen zu backen. Jeder bringt verschiedene Zutaten mit: einer bringt Mehl, ein anderer Eier, ein dritter ein geheimes Familienrezept und ein vierter die aufwendige Glasur. Wenn der Kuchen fertig ist und verkauft wird, bringt er viel Geld ein.

Die große Frage lautet: Wie teilen Sie das Geld auf?

Wenn Sie es einfach nur gleichmäßig aufteilen, könnte sich die Person, die das geheime Rezept mitbrachte, betrogen fühlen. Wenn Sie es danach aufteilen, wer am lautesten schreit, könnte sich die Person, die die Eier brachte, ignoriert fühlen. Dies ist das Problem der „Zuweisung von Verdiensten" (Credit Assignment).

Dieser Artikel behandelt eine moderne Version dieses Kuchenproblems, aber anstelle von Freunden geht es um KI und das Internet.

Das Problem: Der KI-„Smoothie"

Heute verhalten sich KI-Modelle (wie diejenigen, die Code schreiben oder Videos erstellen) oft wie ein Mixer. Sie stellen eine Frage, und die KI greift auf Informationen von vielen verschiedenen Websites, Artikeln und Kreativen zurück, um eine „Smoothie"-Antwort zu zaubern.

Die Kreativen: Die Personen, die die ursprünglichen Artikel oder den Code geschrieben haben.
Die KI: Der Mixer, der ihre Arbeit vermischt.
Die Belohnung: Das Geld oder die Aufmerksamkeit, die die KI für die endgültige Antwort erhält.

Das Problem lautet: Wer verdient die meiste Anerkennung? Wenn die KI eine Frage mit Hilfe von 10 verschiedenen Websites beantwortet und eine davon den einzigen entscheidenden Fakt enthielt, sollte diese eine Website die meiste Anerkennung erhalten. Wenn die KI jedoch nur zufälliges Rauschen eingefangen hat, sollte niemand viel Anerkennung erhalten.

Die Lösung: Der „Least Core" (Die Fairness-Regel)

Die Autoren schlagen eine mathematische Regel namens „Least Core" vor, um dieses Problem zu lösen.

Stellen Sie sich den „Core" als einen Satz von Regeln für die Aufteilung des Geldes vor, bei dem keine Gruppe von Freunden sagen kann: „Hey, wir hätten ohne euch einen besseren Kuchen backen können, also verdienen wir mehr!"

Das Ziel: Eine Aufteilung finden, bei der jede mögliche Gruppe von Kreativen (selbst wenn es nur zwei sind) das Gefühl hat, mindestens so viel zu erhalten, wie sie hätten verdienen können, wenn sie ohne die anderen zusammengearbeitet hätten.
Der „Least"-Teil: Manchmal ist es mathematisch unmöglich, jeden perfekt glücklich zu machen. Daher findet der „Least Core" die Aufteilung, die die wütendste Gruppe so glücklich wie möglich macht. Er minimiert den maximalen Betrag an „Ungerechtigkeit", den jemand empfindet.

Die Herausforderung: Zu viele Kombinationen

Die Mathematik wird knifflig, denn bei $N$ Kreativen gibt es $2^N$ mögliche Gruppen, die man bilden könnte. Wenn Sie 30 Websites haben, gibt es über eine Milliarde mögliche Gruppen zu prüfen. Sie können eine KI nicht bitten, jede einzelne Gruppe zu prüfen; das würde ewig dauern und ein Vermögen an Rechenleistung kosten.

Die Innovation: Der „smarte Detektiv"

Die Autoren entwickelten eine neue Methode, um dies zu lösen, ohne jede einzelne Gruppe zu prüfen. Sie verwenden eine Technik namens Constraint Generation (Erzeugung von Nebenbedingungen), die sie mit zwei Hauptwerkzeugen beschreiben:

Das „Seeding" (Der warme Start): Anstatt bei Null anzufangen, fragen sie die KI: „Hey, welche kleinen Gruppen von Websites halten Sie für die wichtigsten, um diese Frage zu beantworten?" Dies gibt ihnen einen Vorsprung, ähnlich wie wenn man die wahrscheinlichsten Verdächtigen in einem Mordfall ermittelt, bevor man jeden einzelnen untersucht.
Der „Separation Oracle" (Der Detektiv): Dies ist ein cleverer Trick. Anstatt jede Gruppe zu prüfen, fragen sie die KI: „Gibt es IRGENDEINE Gruppe von Websites, die derzeit im Vergleich zu dem, was sie allein verdienen könnten, zu wenig bezahlt bekommt?"
- Wenn die KI „Nein" sagt, sind sie fertig! Sie haben eine faire Aufteilung gefunden.
- Wenn die KI „Ja, diese Gruppe ist unzufrieden" sagt, fügen sie diese spezifische Gruppe zu ihrer Liste hinzu und berechnen die Aufteilung neu.

Sie stellten fest, dass die Verwendung der KI selbst als „Detektiv" (um die unzufriedenen Gruppen zu finden) unglaublich schnell ist. Es ist wie ein Detektiv, der die Stadt so gut kennt, dass er das Verbrechen sofort erkennt, anstatt jede Straße nach Hinweisen abzugehen.

Die Ergebnisse: Schnell und fair

Das Team testete dies an einer Aufgabe, bei der eine KI Fragen beantworten musste, indem sie Informationen von vielen verschiedenen Webseiten nutzte.

Alter Weg (Zufälliges Sampling): Bisherige Methoden versuchten, die Antwort zu erraten, indem sie zufällig Gruppen prüften. Es war langsam und erforderte Tausende teurer KI-Prüfungen.
Neuer Weg (Die „Detektiv"-Methode): Ihre neue Methode fand eine faire Aufteilung mit 10- bis 100-mal weniger KI-Prüfungen.

Sie stellten auch fest, dass das System noch schneller wurde, wenn sie die KI nutzten, um am Anfang die „wichtigsten" Gruppen zu erraten (Seeding), obwohl es manchmal etwas weniger präzise war. Insgesamt war es jedoch ein massiver Gewinn an Geschwindigkeit.

Warum dies wichtig ist

Dieser Artikel löst nicht nur ein mathematisches Rätsel; er bietet einen Weg, Kreativen im Zeitalter der KI fair zu bezahlen. Wenn eine KI Ihren Artikel nutzt, um eine Frage zu beantworten, bietet dieses System eine Möglichkeit, genau zu berechnen, wie viel Anerkennung (und potenziell Geld) Sie verdienen, ohne jede mögliche Kombination des Internets prüfen zu müssen. Es stellt sicher, dass der „Mixer" (die KI) nicht einfach die Anerkennung für den gesamten Kuchen erhält, während die Lieferanten der Zutaten nichts bekommen.

Kurz gesagt: Sie entwickelten eine schnelle, faire und mathematisch fundierte Methode, um den Kuchen unter allen Personen aufzuteilen, deren Arbeit in die Antwort einer KI eingeflossen ist, wobei sie die KI selbst nutzen, um die fairste Aufteilung zu finden.

Technische Zusammenfassung: In-Context-Credit-Assignment via dem Kern

Problemstellung

Die Arbeit adressiert die Herausforderung des In-Context-Credit-Assignments für KI-generierte Inhalte. Da generative KI-Tools (z. B. LLMs für Websuche, Text-zu-Video-Modelle) zunehmend geistiges Eigentum (IP) mehrerer Schöpfer innerhalb des Kontextfensters eines Modells synthetisieren, besteht die Notwendigkeit, den durch die endgültige Ausgabe generierten Wert wirtschaftlich unter den ursprünglichen Schöpfern zu verteilen.

Die Kernfrage lautet: Was ist eine wirtschaftlich fundierte und rechnerisch handhabbare Methode, um Credits für KI-generierte Inhalte unter einer Menge von Schöpfern aufzuteilen, deren IP im Kontextfenster des Modells erscheint?

Die Autoren modellieren dies als kooperatives Spiel, bei dem Schöpfer Koalitionen bilden, um Wert zu generieren. Das Ziel ist es, ein Wertverteilungsschema (Allokation) zu finden, das die Anreize der Schöpfer respektiert. Konkret strebt die Arbeit danach, das „Defizit" zu minimieren – den Betrag, um den eine beliebige Teilmenge von Schöpfern im Vergleich zu dem Wert, den sie unabhängig generieren könnten, unterkompensiert wird.

Methodik

1. Spieltheoretische Formulierung

Das Problem wird in der Sprache der kooperativen Spieltheorie mit einer Menge von Schöpfern $N$ und einer Wertfunktion $v: 2^N \to [0, 1]$ gefasst.

Der Kern: Idealerweise liegt eine Allokation im „Kern", wobei keine Koalition weniger als ihren Alleinstellungswert erhält. Der Kern ist jedoch oft leer.
Der Least Core: Die Autoren schlagen den Least Core als Lösungskonzept vor. Dies ist die Menge der Allokationen, die das maximale Unterkompensationsmaß ( $\epsilon$ ) über alle möglichen Koalitionen hinweg minimiert.
Geschätzter Least Core: Da die wahre Belohnungsfunktion $v$ nicht beobachtbar ist, arbeiten die Autoren mit einer geschätzten Wertfunktion $\hat{v}$ (z. B. abgeleitet via LLM-as-a-Judge oder menschlichem Feedback). Sie berechnen den geschätzten Least Core basierend auf $\hat{v}$ .
Egalitärer Least Core: Um Gleichstände zwischen Allokationen in der Menge des Least Core zu brechen, minimieren die Autoren die $\ell_2$ -Norm des Allokationsvektors, um eine gerechtere Verteilung zu fördern.

2. Sensitivitätsanalyse

Die Arbeit leitet theoretische Schranken für die Differenz zwischen dem wahren Least-Core-Defizit ( $\epsilon^*$ ) und dem geschätzten Least-Core-Defizit ( $\hat{\epsilon}$ ) her.

Allgemeiner Fall: Die Sensitivität ist durch die maximale gewichtete Abweichung zwischen $v$ und $\hat{v}$ begrenzt, wobei die Gewichte aus einer ausgewogenen Verteilung stammen (eine Verteilung, bei der jeder Schöpfer eine gleiche marginale Wahrscheinlichkeit der Einbeziehung in eine Koalition hat). Dieses Ergebnis wird als quantitative Analogie zum Bondareva-Shapley-Theorem präsentiert.
Binäre Belohnungen: In Szenarien, in denen Belohnungen binär sind (0 oder 1), zeigen die Autoren, dass ein kleiner Anteil an Fehlklassifikationen zu großen Defiziten führen kann. Die Sensitivität ist jedoch durch die Worst-Case-Wahrscheinlichkeit einer Fehlklassifikation unter einer ausgewogenen Verteilung begrenzt.

3. Algorithmen zur Approximation

Die Berechnung des Least Core erfordert die Lösung eines Linearen Programms (LP) mit einer exponentiellen Anzahl von Nebenbedingungen ( $2^N$ ), was eine direkte Lösung für moderates $N$ unmöglich macht. Die Autoren entwickeln iterative Constraint-Generation (CG)-Algorithmen:

Separationsorakel: Anstatt alle Nebenbedingungen aufzulisten, identifiziert der Algorithmus iterativ „unzufriedene" Koalitionen (die die Kern-Nebenbedingungen verletzen) und fügt sie dem LP hinzu.
Stichprobenbasiertes Orakel: Stichprobenartige Koalitionen werden gezogen, um Verletzungen zu finden. Die Autoren liefern probabilistische Garantien, dass dieser Ansatz eine approximative Least-Core-Allokation mit polynomialer Stichprobenkomplexität findet.
LLM-basiertes Orakel: Nutzt Large Language Models als „adversariale Tester". Gegeben eine Kandidaten-Allokation schlägt das LLM Koalitionen vor, von denen es glaubt, dass sie unterkompensiert sind. Diese Heuristik lenkt die Suche hin zu aussagekräftigen Nebenbedingungen, ohne eine erschöpfende Stichprobenziehung zu erfordern.
Coalition Seeding: Für binäre Wertfunktionen nutzen die Autoren Minimale Gewinnkoalitionen (MWCs) als initiale Nebenbedingungsmenge. Sie beweisen, dass, wenn das Separationsorakel stark verletzte Koalitionen identifiziert, der Algorithmus fehlende MWCs effizient wiederherstellen kann.

Hauptbeiträge

Konzeptueller Rahmen: Modellierung des In-Context-Credit-Assignments als kooperatives Spiel und Auswahl des Least Core als Lösungskonzept, um Anreizkompatibilität durch Minimierung des Worst-Case-Unterkompensationsmaßes sicherzustellen.
Sensitivitätsschranken: Bereitstellung theoretischer Schranken dafür, wie sich Fehler in der geschätzten Belohnungsfunktion auf die Least-Core-Allokation ausbreiten, unter Verwendung ausgewogener Verteilungen über Koalitionen.
Skalierbare Algorithmen: Entwicklung praktischer Constraint-Generation-Methoden, die den Least Core unter Verwendung um Größenordnungen weniger Wertfunktionsabfragen als Baseline-Stichprobenmethoden approximieren. Dies umfasst sowohl stichprobenbasierte als auch LLM-basierte Separationsorakel.
Empirische Validierung: Demonstration an semi-synthetischen Web-Retrieval-Aufgaben, dass die vorgeschlagenen CG-Methoden eine vergleichbare oder bessere Stabilität ( $\epsilon$ ) als Baselines erreichen und gleichzeitig die Anzahl der LLM-Aufrufe um das 3- bis 17-fache reduzieren.

Experimentelle Ergebnisse

Die Autoren evaluierten ihre Methoden auf zwei Datensätzen: BrowseComp-Plus (ein Multi-Hop-QA-Benchmark) und einem Synthetischen Datensatz, der entwickelt wurde, um echte Interaktionseffekte zwischen Dokumenten sicherzustellen.

Effizienz: Die CG-Algorithmen (insbesondere diejenigen mit LLM-Orakeln) konvergierten zu stabilen Allokationen unter Verwendung deutlich weniger LLM-Aufrufe (oft <100 Aufrufe für $n=10$ und ~1.000 für $n=32$ ) im Vergleich zur Baseline-Stichprobenmethode (YP), die Tausende von Aufrufen (bis zu 8.192) erforderte.
Genauigkeit: CG-Methoden erzielten Holdout-Defizit-Scores ( $\hat{\epsilon}_H$ ), die mit der Baseline vergleichbar oder besser waren. In einigen Fällen übertrafen LLM-Orakel-Varianten die Baseline sogar, indem sie Allokationen mit niedrigeren Defiziten fanden.
Egalitarismus: Die egalitären Varianten (Minimierung der $\ell_2$ -Norm) verteilten Credits erfolgreich breiter (Reduzierung der Sparsity) mit nur einer geringfügigen Verschlechterung des Stabilitätsmaßes $\epsilon$ .
Zero-Shot-Baseline: Ein Zero-Shot-Ansatz (der LLM auffordert, direkt eine Allokation auszugeben) überraschend gut abgeschnitten, fehlte es jedoch an der iterativen Verfeinerung und den formalen Garantien des CG-Ansatzes.

Bedeutung und Behauptungen

Die Arbeit behauptet, einen rechnerisch handhabbaren und wirtschaftlich fundierten Mechanismus für das Credit-Assignment in generativer KI anzubieten.

Wirtschaftliche Ausrichtung: Im Gegensatz zu früheren Arbeiten, die sich auf Interpretierbarkeit oder Attribution konzentrierten, priorisiert dieser Ansatz explizit Schöpferanreize und stellt sicher, dass keine Gruppe von Schöpfern systematisch unterkompensiert wird.
Praktikabilität: Durch den Einsatz von LLMs als Separationsorakel innerhalb eines Constraint-Generation-Rahmens demonstrieren die Autoren, dass komplexe Lösungen kooperativer Spiele (der Least Core) in realen Szenarien, in denen die Wertfunktion teuer abzufragen ist, effizient approximiert werden können.
Zukünftige Richtungen: Die Autoren stellen fest, dass sie zwar den Black-Box-Zugriff auf eine Schätzung der Wertfunktion voraussetzen, die Verbesserung der Schätzung der Wertfunktionen selbst jedoch eine wichtige zukünftige Richtung bleibt. Sie schlagen zudem vor, andere Kern-Varianten (z. B. am nächsten am Shapley-Wert) zu erforschen und diese Methoden in reale Plattformdesigns zu integrieren.

Die Arbeit positioniert den Least Core nicht nur als theoretisches Konstrukt, sondern als ein praktikables, skalierbares Werkzeug zur Verwaltung der Ökonomie der aufkommenden Creator Economy im Zeitalter der generativen KI.