💬 NLP

The {\alpha}-Law of Observable Belief Revision in Large Language Model Inference

Diese Arbeit identifiziert das {\alpha}-Gesetz als ein skalierendes Prinzip, das die Stabilität von Wahrscheinlichkeitsupdates bei der iterativen Überarbeitung von Antworten durch große Sprachmodelle steuert und zeigt, dass exponentielle Werte unter eins für asymptotische Stabilität notwendig sind.

Ursprüngliche Autoren: Mike Farmer, Abhinav Kochar, Yugyung Lee

Veröffentlicht 2026-03-23

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Mike Farmer, Abhinav Kochar, Yugyung Lee

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stell dir vor, ein großes Sprachmodell (wie ein sehr fortschrittlicher KI-Assistent) ist wie ein sehr kluger, aber manchmal etwas übereifriger Student, der eine schwierige Prüfung schreibt.

Dieser Student hat eine besondere Eigenschaft: Wenn er eine Antwort gibt und dann neue Beweise oder Korrekturen erhält, ändert er seine Meinung. Die Forscher in diesem Papier haben herausgefunden, wie genau dieser Student seine Meinung ändert. Sie nennen ihre Entdeckung das „α-Gesetz" (Alpha-Gesetz).

Hier ist die einfache Erklärung, was sie gefunden haben:

1. Der „Übereifer"-Faktor (Das Alpha-Gesetz)

Normalerweise würde man erwarten, dass ein Student seine Meinung genau nach den Regeln der Wahrscheinlichkeit (wie ein Bayes'scher Statistiker) ändert: Alte Meinung + Neue Beweise = Neue Meinung.

Aber die Forscher haben gemessen, dass dieser KI-Student einen kleinen „Übereifer-Faktor" (das griechische Symbol α) in seine Rechnung einbaut.

Die Formel: Er nimmt seine alte Meinung und die neuen Beweise, multipliziert sie und dann noch einmal mit diesem Faktor α.
Das Ergebnis: Bei den getesteten Modellen (wie GPT-5.2 und Claude) war dieser Faktor etwa 1,16.
Die Analogie: Stell dir vor, du hast eine Waage. Wenn du ein neues Gewicht (Beweis) darauf legst, wiegt der Student es nicht einfach ab, sondern er überbetont es ein wenig. Er sagt: „Oh, dieser neue Beweis ist so wichtig, dass ich meine Meinung noch etwas stärker ändern muss, als es die reine Mathematik vorsieht." Er ist also ein kleines bisschen zu selbstbewusst.

2. Das Problem: Wenn der Student zu laut schreit

Wenn dieser Faktor α größer als 1 ist, ist das wie ein Mikrofon, das zu laut aufgedreht ist.

Ein Schritt: Wenn der Student nur einmal nachdenkt, ist das okay. Er wird nur ein bisschen lauter (seine Unsicherheit sinkt schnell).
Viele Schritte: Wenn der Student aber wiederholt nachdenkt (z. B. in einem langen Gespräch oder wenn er sich selbst korrigiert), könnte dieser kleine Über-Faktor sich aufschaukeln. Wie ein Mikrofon, das in einen lauten Rückkopplungsschrei (Pfeifen) übergeht, könnte die KI am Ende völlig verrückt spielen und sich in falsche Meinungen hineinsteigern.

3. Die gute Nachricht: Der Student wird ruhiger

Hier kommt der spannendste Teil der Entdeckung. Die Forscher haben beobachtet, was passiert, wenn der Student mehrmals hintereinander nachdenkt (über 7 Schritte hinweg).

Der Effekt: Der „Übereifer-Faktor" (α) wird mit jedem Schritt kleiner! Er fällt von 1,16 auf etwa 0,54.
Die Analogie: Stell dir vor, der Student ist anfangs wie ein aufgeregter Fan, der laut „JA!" schreit. Aber je mehr er über das Thema nachdenkt, desto ruhiger und besonnener wird er. Er wird vorsichtiger.
Das Ergebnis: Nach ein paar Schritten wird der Faktor kleiner als 1. Das bedeutet, die KI wird stabil. Sie beruhigt sich selbst. Die Fehler werden nicht größer, sondern kleiner. Die KI findet ihren Weg zurück zur Wahrheit, auch wenn sie am Anfang etwas zu enthusiastisch war.

4. Unterschiedliche Persönlichkeiten (Vertrauens-Fingerabdrücke)

Die Forscher haben auch gesehen, dass verschiedene KI-Modelle unterschiedliche Persönlichkeiten haben, wenn es um das Vertrauen in neue Beweise geht:

Modell A (GPT): Ist sehr ausgewogen. Es hört auf seine alte Meinung und die neuen Beweise gleichermaßen.
Modell B (Claude): Neigt dazu, neuen Beweisen etwas mehr zu vertrauen als seiner alten Meinung. Es ist etwas „reaktiver".
Modell C (Gemini): War in diesem Test etwas chaotisch und hat oft auf eine „Notfall-Formel" zurückgegriffen, statt wirklich zu denken. Deshalb wurde es aus der Hauptanalyse ausgeschlossen.

5. Warum ist das wichtig?

Stell dir vor, du nutzt diese KI in der echten Welt, zum Beispiel in einem Krankenhaus oder bei der Finanzberatung.

Das Risiko: Wenn die KI Beweise bekommt, die falsch sind (z. B. ein verlesener Laborwert), kann sie sich in eine falsche Richtung „hineinsteigern".
Die Lösung: Das α-Gesetz gibt uns ein Warnsystem. Wir können messen, wie die KI ihre Meinung ändert.
- Wenn die Änderung sehr chaotisch ist (das α-Gesetz passt nicht), wissen wir: „Achtung, die Beweise sind wahrscheinlich kaputt oder die KI ist verwirrt."
- Wenn die KI sich selbst beruhigt (α wird kleiner als 1), können wir ihr vertrauen.

Zusammenfassung in einem Satz

Diese KI-Modelle sind wie übereifrige Schüler, die anfangs zu laut „Ja" zu neuen Beweisen sagen, aber wenn sie sich Zeit lassen und mehrmals nachdenken, werden sie ruhiger, stabiler und verlässlicher. Das Papier liefert uns die Formel, um zu messen, ob ein KI-System in einem stabilen Zustand ist oder ob es bald „pfeifen" (instabil werden) könnte.

1. Problemstellung

Große Sprachmodelle (LLMs) nutzen zunehmend iterative Verfahren zur Verbesserung ihrer Ausgaben, wie z. B. Chain-of-Thought-Prompting, Selbstreflexion oder Multi-Agenten-Debatten. Ein zentrales, aber mathematisch wenig verstandenes Problem ist die Stabilität dieser Wahrscheinlichkeitsupdates.

Wenn ein Modell seine Wahrscheinlichkeitsverteilung über Kandidatenantworten basierend auf neuem Evidenzmaterial (z. B. Verifikationsergebnissen) revidiert, ist unklar, ob dieser Prozess konvergent (fehlerkorrigierend) oder expansiv (fehlerverstärkend) ist. Ohne prinzipielle Garantien können sich Fehler bei wiederholter Iteration aufschaukeln, anstatt korrigiert zu werden. Bisherige Arbeiten haben zwar empirische Verbesserungen gezeigt, fehlten jedoch an theoretischen Garantien für die Konvergenz oder die geometrische Struktur dieser Updates.

2. Methodik

Die Autoren analysieren das Problem aus der Perspektive der Regelungstheorie (Control Theory), indem sie die mathematische Struktur der beobachtbaren Wahrscheinlichkeitsupdates charakterisieren, anstatt das Modell als Blackbox zu betrachten.

Grundlegende Annahme: Die Autoren postulieren ein multiplikatives Skalierungsgesetz für die Revision von Überzeugungen (Belief Revision).
Die α-Gleichung: Anstelle eines reinen Bayesschen Updates ( $\log q_{t+1} = \log q_t + \log b_t$ $lo g q_{t + 1} = lo g q_{t} + lo g b_{t}$ ) wird folgende Beziehung vorgeschlagen und empirisch validiert:
$\log q_{t+1}(i) = \alpha [\log q_t(i) + \log b(i)] + c$
Dabei ist:
- $q_t$ : Die vorherige Wahrscheinlichkeitsverteilung (Prior).
- $b$ : Die Evidenzverteilung aus der Verifikation.
- $\alpha$ : Der Belief-Revision-Exponent, der das Ausmaß der Anpassung steuert.
- $c$ : Ein Normalisierungsterm.
Stabilitäts-Theorem: Es wird bewiesen, dass $\alpha < 1$ eine notwendige und hinreichende Bedingung für asymptotische Stabilität (Kontraktion der KL-Divergenz) ist. $\alpha > 1$ führt zu instabilen, fehlerverstärkenden Updates.
Experimentelles Setup:
- Daten: 4.975 Probleme aus vier Graduierten-Benchmarks (GPQA Diamond, TheoremQA, MMLU-Pro, ARC-Challenge).
- Modelle: Hauptsächlich GPT-5.2 und Claude Sonnet 4; Validierung auch mit Llama-3.3-70B und GPT-4.
- Protokoll: Generierung von Kandidaten, Elicitation des Priors ( $q_0$ ), deterministische Verifikation (Erstellung von $b$ ), und Elicitation des Posteriors ( $q_1$ ).
- Analyse: Ordinary Least Squares (OLS) Regression zur Schätzung von $\alpha$ basierend auf der Beziehung zwischen $\log q_1$ und $(\log q_0 + \log b)$ .

3. Wichtige Beiträge

Entdeckung der α-Gesetzgebung (The α-Law): Identifikation eines konsistenten multiplikativen Skalierungsgesetzes, das das Überzeugungs-Update in instruction-tuned LLMs beschreibt.
Theoretische Fundierung: Beweis, dass $\alpha < 1$ für Stabilität erforderlich ist, und Schaffung einer Brücke zwischen theoretischer Stabilität und empirischen Beobachtungen.
Umfassende Validierung: Validierung über fast 5.000 Probleme, verschiedene Domänen und Modellfamilien hinweg, einschließlich Multi-Step-Experimente (7 Revisionsschritte) und Token-Level-Logprob-Analysen.
Vertrauensverhältnis-Fingerabdrücke (Trust Ratio Fingerprints): Zerlegung von $\alpha$ in Komponenten für Prior und Evidenz, um modellspezifische Strategien zur Gewichtung von Evidenz zu identifizieren.

4. Ergebnisse

Near-Bayesian $\alpha$ : Über alle sauberen Datensätze hinweg beträgt der gemittelte Exponent $\alpha = 1.163 \pm 0.084$ . Dies liegt knapp über der Stabilitätsgrenze von 1, was auf ein leichtes „Overconfidence" (zu starkes Gewichten der Evidenz) im Vergleich zum perfekten Bayesschen Update hindeutet. Die Anpassungsgüte ( $R^2$ ) liegt bei durchschnittlich 0,76.
Multi-Step-Konvergenz: Obwohl einzelne Schritte $\alpha > 1$ zeigen, nimmt $\alpha$ bei iterativer Revision systematisch ab. In einem Experiment mit 7 Schritten sank $\alpha$ von 0,84 auf 0,54. Das geometrische Mittel über die Schritte beträgt $\bar{\alpha}_{geo} = 0,75 < 1$ . Dies bedeutet, dass das System langfristig stabil ist und Fehler korrigiert, auch wenn einzelne Schritte leicht expansiv sein können.
Architektur-Unabhängigkeit: Das Gesetz gilt konsistent über verschiedene Modellfamilien (GPT, Claude) und Domänen hinweg.
Vertrauensverhältnis ( $\tau$ ): Durch Zerlegung in Prior- und Evidenz-Komponenten ( $\tau = \alpha_b / \alpha_{q0}$ $τ = α_{b} / α_{q 0}$ ) zeigen sich Unterschiede:
- GPT-5.2: Ausgewogene Gewichtung ( $\tau \approx 1.0$ ).
- Claude Sonnet 4: Leicht evidenz-förderndes Verhalten ( $\tau \approx 1.1$ ).
Robustheit: Das Gesetz ist robust gegenüber der Anzahl der Kandidaten ( $K$ ) und der Art der Elicitation (Logprobs vs. selbstberichtete Wahrscheinlichkeiten).
Empfindlichkeit gegenüber Rauschen: Bei verrauschter Evidenz (fälschliche Verifikation) verschlechtert sich die Anpassungsgüte ( $R^2$ ) und der gemessene $\alpha$ -Wert sinkt, was als diagnostisches Signal für unzuverlässige Evidenz genutzt werden kann.

5. Bedeutung und Implikationen

Diagnostisches Werkzeug: Der $\alpha$ -Exponent bietet ein prinzipielles, datenfreies Diagnoseinstrument, um die Qualität von Updates in LLM-Inferenzsystemen zu überwachen. Ein $\alpha \ll 1$ oder starkes Abweichen von 1 kann auf inkohärentes Denken oder fehlerhafte Evidenz hinweisen.
Geometrische Kontrolle: Da das Update-Verhalten eine vorhersagbare geometrische Struktur aufweist, können Laufzeit-Controller (z. B. ein „Belief Geometry Controller") entwickelt werden, die adaptive Dämpfung anwenden, wenn Updates instabil werden, ohne das Modell neu trainieren zu müssen.
Real-World-Risiken: Während Benchmarks oft stabile Ergebnisse zeigen, deuten die Autoren darauf hin, dass reale Anwendungen (mit verrauschter Evidenz und langen Iterationsketten) das System in instabile Bereiche drängen könnten. Das $\alpha$ -Gesetz quantifiziert diese Risiken.
Kein Anspruch auf interne Bayessche Inferenz: Die Autoren betonen, dass dies eine Beschreibung des beobachtbaren Verhaltens ist. Es wird nicht behauptet, dass LLMs intern Bayessche Inferenz durchführen, sondern dass ihr Outputverhalten einer temperierten Bayesschen Posterior-Verteilung entspricht.

Zusammenfassend liefert das Paper den ersten prinzipiellen Rahmen, um zu verstehen, wie LLMs ihre Überzeugungen bei iterativer Revision anpassen, und zeigt, dass diese Anpassung zwar nahe am Optimum liegt, aber durch eine messbare Stabilitätsgrenze ( $\alpha < 1$ ) reguliert werden muss, um in komplexen, mehrstufigen Prozessen zuverlässig zu bleiben.