🤖 AI

Information Limits and Attractor Dynamics in Economies of Frontier LLM Agents: A Pre-Registered Test

Diese präregistrierte Studie validiert ein informationstheoretisches Kapazitätsgesetz für das Vermögenswachstum in Frontier-LLM-Ökonomien, während sie glatte Mean-Field-Modelle der Populationsfehlausrichtung widerlegt, indem sie demonstriert, dass die Reaktionen von Agenten auf Kontrollhebel bistabile Treppenstufen-Dynamiken anstelle einer kontinuierlichen Dispersion aufweisen.

Ursprüngliche Autoren: Cheng Qian

Veröffentlicht 2026-07-08

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Cheng Qian

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich eine Welt vor, in der Sie ein Team aus unglaublich klugen, aber leicht unterschiedlichen KI-Assistenten anheuern, um gegeneinander ein hochriskantes Wettspiel zu spielen. Sie möchten zwei Dinge wissen:

Macht es tatsächlich reicher, wenn man mehr weiß? (Das „Informationsgesetz“)
Wenn man die Regeln oder die Belohnungen ändert, passen die Teammitglieder ihr Verhalten langsam und stetig an? (Das „Gesetz der stetigen Reaktion“)

Der Autor dieser Arbeit führte ein strenges, vorab geplantes Experiment mit Frontier-KI-Modellen (speziell Claude Opus) durch, um diese Fragen zu beantworten. Das Experiment kostete etwa 139 US-Dollar und wurde so konzipiert, dass niemand schummeln oder die Regeln nach dem Sehen der Ergebnisse ändern konnte.

Hier ist, was sie herausgefunden haben, erklärt durch einfache Analogien.

1. Der „klügste Spieler“ gewinnt (Die gute Nachricht)

Der Aufbau: Stellen Sie sich eine Gruppe von Glücksspielern vor, die auf den Ausgang von drei Münzwürfen wetten. Einige Spieler haben ein perfektes Sehvermögen (sie sehen die Münzen klar), einige haben ein verschwommenes Sehvermögen (sie sehen die Münzen mit etwas Rauschen) und einige haben überhaupt kein Sehvermögen. Sie alle setzen in einen gemeinsamen Pool ein.

Die Vorhersage: Alte mathematische Theorien besagen, dass man sein Vermögen genau um den Betrag schneller vermehrt, um den man mehr über die Welt weiß als sein Gegner. Es ist wie eine direkte Übersetzung: Mehr Wissen = Mehr Geld.

Das Ergebnis: Das Experiment bestätigte dies perfekt.

Die Übersetzung: Die KI-Agenten, die eine bessere „Sicht“ (mehr Information) hatten, vergrößerten ihr Vermögen schneller. Die Mathematik hielt mit einer winzigen, winzigen Fehlermarge (weniger als 0,05 %) stand.
Der Teamwork-Test: Die Forscher testeten auch, ob zwei Agenten, die zusammenarbeiten, ihr Wissen kombinieren könnten.
- Wenn ihre Informationen nur „redundant“ waren (wie zwei Personen, die auf dieselbe Münze schauen), war ihr kombinierter Wert geringer als die Summe ihrer Teile.
- Wenn ihre Informationen „synergetisch“ waren (wie eine Person, die die linke Seite eines Puzzles sieht, und eine andere die rechte Seite, wobei keines der Teile allein Sinn ergibt), entfalteten sie plötzlich einen riesigen Wertzuwachs. Die KI löste das Puzzle einfach durch Kommunikation darüber.
Der Gewinner: In einem langfristig laufenden Markt absorbierte der Agent mit der klarsten Sicht schließlich fast das gesamte Geld und ließ die anderen mit nichts zurück. Der Markt wählte auf natürliche Weise den klügsten Spieler aus.

Einfache Erkenntnis: In einem kompetitiven Markt bestimmt das, was man weiß, direkt das, was man verdient. Wenn man am besten informiert ist, gewinnt man den Pool.

2. „Umschalten, nicht Dimmen“ (Die überraschende Nachricht)

Der Aufbau: Stellen Sie sich nun eine Gruppe von 20 KI-Agenten vor, die versuchen, einen „guten Ort“ in einer Landschaft zu finden.

Es gibt einen Belohnungshügel (ein Hügel mit viel Gold), der sie in eine Richtung zieht.
Es gibt ein Kontrollziel (einen spezifischen Punkt, zu dem die Forscher sie führen wollen), der sie in eine andere Richtung zieht.
Die Forscher erwarteten, dass, wenn sie den „Kontroll“-Regler leicht hochdrehen würden, die Agenten sich langsam und stetig in Richtung des Ziels bewegen würden, wie ein Dimmer, der ein Licht graduell heller werden lässt.

Die Vorhersage: Standardmäßige Wirtschaftsmodelle gehen davon aus, dass Populationen wie ein Gas oder eine Flüssigkeit sind: Wenn man sie sanft drückt, bewegen sie sich sanft. Wenn man stärker drückt, bewegen sie sich stärker.

Das Ergebnis: Die Agenten bewegten sich nicht stetig. Sie verhielten sich wie ein Lichtschalter.

Der „Dimmer“ versagte: Egal, wie die Forscher die Regler feinjustierten, die Agenten verhielten sich nie in der Mitte. Sie ignorierten die Kontrolle entweder vollständig und liefen zum Goldhügel, oder sie sprangen augenblicklich zum Kontrollziel.
Der „Schalter“ funktionierte: Das System verhielt sich wie eine Reihe von Magneten.
- Wenn der „Goldhügel“ stark genug war, sprangen alle dorthin.
- Wenn das „Kontrollziel“ stark genug war, sprangen alle sofort dorthin.
- Wenn die beiden Kräfte gleich stark waren, wurde das Ergebnis zu einem Münzwurf: Manchmal ging die ganze Gruppe zum Hügel, manchmal zum Ziel, abhängig von winzigem, zufälligem Rauschen ganz zu Beginn des Spiels.
Der „Kollaps“: Die Forscher suchten nach einem „Mittelweg“, in dem die Agenten verteilt (dispergiert) waren, damit sie eine stetige Reaktion messen konnten. Sie fanden null Fälle davon. Die Agenten klumpten immer dicht zusammen.

Einfache Erkenntnis: Man kann diese KI-Populationen nicht durch kleine Anreize in einen Mittelweg „anstupsen“. Entweder man ändert die Regeln so drastisch, dass sie zu einem neuen Verhalten umschalten, oder man tut gar nichts. Es gibt keine „stetige Anpassung“.

Das große Ganze

Der Autor kommt zu zwei unterschiedlichen Lehren:

Für den einzelnen Agenten: Wenn man KI-Agenten in einen Markt setzt, ist die Mathematik schön und vorhersehbar. Wissen ist Währung. Der Agent, der am meisten weiß, wird am Ende auch am meisten besitzen.
Für die Gruppe der Agenten: Wenn man versucht, eine Menge dieser Agenten mit kleinen Anreizen zu steuern, verschwendet man seine Zeit. Sie reagieren nicht auf „Anstupser“. Sie sind diskrete Attraktoren – sie springen in eines von wenigen distinkten Verhaltensweisen. Um sie zu ändern, muss man den Schalter umlegen, nicht den Regler drehen.

Der Autor betont, dass diese Ergebnisse auf einem sehr spezifischen, kleinteiligen Experiment mit einem Typ von KI-Modell basieren. Das verwendete Verfahren war jedoch so streng und transparent, dass jeder dieselben Daten kostenlos verwenden kann, um das Experiment exakt zu wiederholen und diese Ergebnisse zu verifizieren.

Technisches Resümee: Informationsgrenzen und Attraktordynamik in Ökonomien von Frontier-LLM-Agenten

Problemstellung

Diese Arbeit adressiert zwei fundamentale, bisher ungetestete Fragen bezüglich Populationen von Frontier-Large-Language-Model (LLM)-Agenten, die in ökonomischen und selektionsbasierten Umgebungen interagieren:

Informations-Wohlstand-Kopplung: Befolgen gekoppelte LLM-Agenten klassische informationstheoretische Gesetze, die ihre „behauptete“ Information (Posterior-Überzeugungen) mit ihrem wirtschaftlichen Wachstum (Wohlstandsakkumulation) in Parimutuel-Märkten verbinden? Konkret: Entspricht die relative Wachstumsrate der Agenten ihrer relativen Informationsgehalt, und weisen Koalitionswerte die vorhergesagte Submodularität oder Synergie auf?
Populationsdynamik und Kontrolle: Reagieren LLM-Populationen glatt auf Anreiz- und Kontrollhebel (z. B. Belohnungsgradienten und Alignment-Boni), wie es in Mean-Field-Modellen angenommen wird? Oder zeigen sie diskrete, nicht-lineare Verhaltensweisen wie Attraktor-Wechsel oder den Kollaps der Ziel-Dispersion?

Vorherige Arbeiten haben LLM-Agenten in sozialen oder ökonomischen Settings simuliert, jedoch keine dieser quantitativen Gesetze unter Verwendung von Frontier-Modellen mit präregistrierten Akzeptanzbändern und deterministischer, auditierbarer Ausführung rigoros getestet.

Methodik

Die Studie verwendet ein präregistriertes, zweiteiliges Experiment unter Verwendung des Modells claude-opus-4-8. Die Methodik zeichnet sich durch strikte Einhaltung wissenschaftlicher Reproduzierbarkeit und Auditierbarkeit aus:

Präregistrierung & Einfrieren: Alle Vorhersagen, Akzeptanzbänder, Entscheidungsregeln und Protokoll-Gates wurden vor der Datenerhebung in einem öffentlichen Git-Repository hinterlegt. Drei Änderungen wurden „blind“ (vor den Läufen, die sie steuerten) vorgenommen, um externe Einschränkungen oder interne Inkonsistenzen zu adressieren.
Determinismus & Kostenkontrolle: Jeder API-Aufruf wurde in einem durch den vollständigen Request verschlüsselten SQLite-Store zwischengespeichert. Die Analyse ist vollständig deterministisch und kann offline aus dem Cache zu keinen zusätzlichen Grenzkosten erneut ausgeführt werden. Die gesamten gemessenen API-Ausgaben beliefen sich auf 138,76 $.
Instrumentendesign:
- Experiment A (Kapazitätsregion): Agenten interagieren in einem Parimutuel-Markt über eine 3-Bit-Welt. Vier Wahrnehmungsstrukturen (disjunkt, überlappend, geklont, verrauscht) und eine designte XOR-Synergie-Kontrolle werden getestet. Agenten berichten Posteriors, die mechanisch in Wetten umgewandelt werden. Wachstum wird als erwartete Änderung des Log-Wohlstands gemessen.
- Experiment B (Residuen-Skalierung): Eine Population von 20 Agenten besetzt eine 16-Nischen-Landschaft mit einem Belohnungsgradienten ( $g$ ) und einem Kontrollbonus ( $\gamma$ ) an einer Ziel-Nische. Das Experiment testet ein $3 \times 3$ -Gitter von $(g, \gamma)$ -Werten über 8 Seeds (72 Läufe), um Populations-Fehlausrichtung und Ziel-Dispersion ( $V$ ) zu messen.
Entscheidungsregeln: Ein mechanischer Analysator bewertet die Ergebnisse gegen eingefrorene Bänder. Urteile werden als PASS, CLEAN NEGATIVE oder CAP („Cannot Answer - Insufficient In-Regime Span“) kategorisiert.

Zentrale Beiträge

Erste präregistrierte Bestätigung gekoppelter Kapazitätsgesetze: Die Arbeit liefert empirische Belege dafür, dass Frontier-LLM-Agenten spezifischen informationstheoretischen Gesetzen in gekoppelten Märkten gehorchen, einschließlich des „Gap-Gesetzes“ (relatives Wachstum entspricht relativem Informationsgehalt), der bedingten Submodularität des Koalitionswerts und der Entropie-Obergrenze für das gemeinsame Wachstum.
Strukturelles negatives Ergebnis für Mean-Field-Modelle: Die Studie zeigt, dass getestete LLM-Populationen nicht das „durch Rauschen aufrechterhaltene Dispersionsregime“ besetzen, das für glatte Mean-Field-Linear-Response-Modelle erforderlich ist. Stattdessen zeigen sie einen Kollaps der Ziel-Dispersion ( $V \to 0$ ) und Sprungfunktions-Reaktionen auf Kontrollhebel.
Auditierbare Methodik: Die Arbeit etabliert eine Vorlage für kostengünstige, hochintegre Präregistrierungsexperimente auf Frontier-Modell-Populationen, die eingefrorene Bänder, blinde Änderungen und volle Provenienz über eine öffentliche Commit-Kette umfasst.

Ergebnisse

Ergebnis 1: Die gekoppelte Kapazitätsregion hält stand

Über vier Wahrnehmungsstrukturen und eine designte Synergie-Kontrolle hinweg bestätigte das Experiment Folgendes innerhalb der präregistrierten Bänder:

Gap-Gesetz: Die Differenz im relativen Wachstum zwischen Agenten entspricht der Differenz in ihrem behaupteten Informationsgehalt ( $\hat{G}_a - \hat{G}_b = \hat{I}_a - \hat{I}_b$ ). Die Worst-Case-Abweichung betrug 46 Millinats (innerhalb des 50-Millinats-Bandes).
Koalitionsstruktur: Der Koalitionswert war submodular, wo die Kanäle bedingt unabhängig waren (schlechteste Marge $-0,019 \ge -0,03$ ). In der XOR-Synergie-Kontrolle (wo individuelle Signale null Information tragen, das gemeinsame Signal aber ein Bit trägt), wechselte der Koalitionswert zu supermodular mit einer Differenz von 0,621 Nats (über dem 0,347 Nats-Band), was die Fähigkeit der Agenten demonstriert, gemeinsame Paritätsstrukturen zu schlussfolgern.
Gemeinsame Obergrenze: Keine Koalition überschritt die Entropierate der Welt ( $H(X)$ ); die Grenze hielt bis zur numerischen Präzision.
Wohlstandsselektion: In einem Live-4tägigen Markt absorbierte der Agent mit der klarsten Information $\ge 99,9 \%$ des Wohlstandspools in allen Seeds, und die Wohlstandsordnung folgte strikt der Informationsordnung in 4/5 Seeds.
Bemerkenswerte Abweichung: Die Vorhersage, dass Klone mit identischen Signalen das gleiche Endvermögen erreichen würden, schlug fehl (2/4 bewertbare Seeds bestanden). Der Mechanismus wurde als „absorbierende All-in-Dynamik“ identifiziert, bei der Sampling-Rauschen in einer einzigen Runde einen Klon dauerhaft aus dem Nullsummen-Pool eliminiert.

Ergebnis 2: Das Mean-Field-Regime existiert nicht

Der Test des Residuen-Skalierungsgesetzes ( $\text{residuum} \propto V g / \gamma$ ) lieferte ein CAP (Cannot Answer) Urteil.

Dispersionskollaps: In allen 72 Gitterläufen kollabierte die Ziel-Dispersion ( $V$ ) auf nahezu Null (maximales $V=4,85$ gegenüber einem eingefrorenen Boden von 5,31). Die Population erreichte nie die durch Rauschen aufrechterhaltene Dispersion, die für das Linear-Response-Regime erforderlich ist.
Sprungfunktions-Dynamik: Die Populationsreaktion war diskret statt glatt.
- Wenn die Kontrolle ( $\gamma$ ) den Spitzenanreiz ( $12g$ ) überstieg, richtete sich die Population perfekt auf das Ziel aus ( $\bar{k}=0$ ).
- Wenn der Anreiz dominierte, gruppierte sich die Population nahe dem Belohnungsmaximum.
- In der Nähe der Grenze ( $\gamma \approx 12g$ ) zeigte das System Bistabilität, wobei der spezifische Seed (Sampling-Rauschen) bestimmte, in welchen Attraktor die Population einsank.
Drei-Instrumente-Bracket: Zusammen mit zwei vorherigen gescheiterten Versuchen mit kleineren Modellen (einer aufgrund von Gradientensättigung, einer aufgrund von Nicht-Reaktion) legen die Ergebnisse nahe, dass das Gebiet des Mean-Field-Linear-Response-Gesetzes für getestete LLM-Populationen leer ist. Das Gesetz wird als „in seinen mathematischen Umfang zurückversetzt“ statt als falsifiziert gemeldet.

Bedeutung und Ansprüche

Das Paper beansprucht zwei distinkte, aber gleich gewichtete Erkenntnisse:

Quantitative Validität von Informations-Ökonomie-Gesetzen: Es etabliert, dass für Frontier-LLM-Agenten gilt: „Was ein Agent messbar weiß, bezahlt er auch messbar verdient.“ Die Kopplung von Information und Wohlstand in Parimutuel-Märkten folgt präzisen, falsifizierbaren Gesetzen, die aus der klassischen Informationstheorie abgeleitet sind.
Diskrete Attraktordynamik: Es stellt die Annahme infrage, dass LLM-Populationen glatt auf Anreize reagieren. Stattdessen verhalten sich diese Populationen wie diskrete Attraktorsysteme. Interventionen führen nicht zu marginalen Anpassungen; sie führen entweder zu einem Wechsel der Population in ein neues Attraktorbecken oder haben keine messbare Wirkung. Dies impliziert, dass Governance-Strategien für Multi-Agenten-Systeme, die auf glatten, Linear-Response-Modellen basieren, fundamental an den tatsächlichen Dynamiken von LLM-Populationen vorbeigehen könnten.

Die Autoren betonen, dass das negative Ergebnis (Ergebnis 2) nur deshalb interpretierbar ist, weil das Instrument durch das positive Ergebnis (Ergebnis 1) als fähig bewiesen wurde. Die Studie kommt zu dem Schluss, dass während die Kapazitätsregion eine bestätigte Eigenschaft dieser Agenten ist, das glatte Mean-Field-Regime, das viele Sicherheits- und Alignment-Theorien voraussetzen, ein Artefakt zu sein scheint, das in realen LLM-Populationen nicht vorhanden ist.