🤖 machine learning

Aligning LLMs with Human Uncertainty: A Beta-Bernoulli Calibrator for LLM Forecasting

Das Papier stellt den Beta-Bernoulli-Kalibrator (BBC) vor, eine leichte Methode, die sowohl binäre Ergebnisse als auch menschliche Vorhersageverteilungen nutzt, um Punktschätzungen in kalibrierte probabilistische Vorhersagen mit zuverlässiger epistemischer Unsicherheit umzuwandeln und dabei bestehende Kalibrierungs- und Feinabstimmungsmethoden zu übertreffen.

Ursprüngliche Autoren: Hui Dai, Ryan Teehan, Parsa Torabian, Mengye Ren

Veröffentlicht 2026-05-28

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Hui Dai, Ryan Teehan, Parsa Torabian, Mengye Ren

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das große Ganze: Der übermütige Orakel

Stellen Sie sich vor, Sie haben eine sehr intelligente, gut informierte KI (ein Large Language Model, oder LLM), die wie ein Orakel agiert. Sie fragen sie: "Wird es morgen regnen?" oder "Wird der Aktienkurs dieses Unternehmens steigen?" Die KI gibt Ihnen eine Antwort, wie zum Beispiel: "Ich bin zu 80 % sicher, dass es regnen wird."

Das Problem? Die KI ist oft übermütig. Sie könnte "80 %" sagen, während die Realität näher bei "50 %" liegt. Es ist wie ein Wettermann, der immer "SONNIG!" schreit, selbst wenn Wolken am Himmel sind, weil er sicher klingen möchte.

Gängige Methoden versuchen, dies zu beheben, indem sie der KI beibringen, vergangene Ergebnisse zu betrachten (hat es geregnet oder nicht?) und ihre Zahlen anzupassen. Doch die Autoren dieses Papiers sagen: "Warten Sie, es gibt einen besseren Lehrer."

Die geheime Waffe: Der "Vibe-Check" der Menge

Das Papier stellt eine neue Methode vor, die Beta-Bernoulli-Kalibrierung (BBC) genannt wird. Betrachten Sie die BBC als einen klugen Schiedsrichter, der zwischen der KI und der endgültigen Antwort steht.

So funktioniert es, anhand einer einfachen Analogie:

Die erste Vermutung (Die KI): Die KI macht eine Vermutung. Nehmen wir an, sie sagt: "Es besteht eine 60%ige Wahrscheinlichkeit für Regen."
Die Meinung der Menge (Menschliche Vorhersagen): Das Papier verwendet Daten aus Vorhersagemärkten (wie Wettseiten oder Prognoseplattformen), auf denen Tausende echte Menschen bereits geraten haben. Anstatt nur den Durchschnitt ihrer Vermutungen zu nehmen, betrachtet die BBC die Streubreite ihrer Meinungen.
- Szenario A: Alle sind sich einig, dass es 60 % sind. Die Menge ist zuversichtlich.
- Szenario B: Manche sagen 20 %, andere 80 %. Die Menge ist verwirrt und gespalten.
Der Schiedsrichter (Die BBC): Die BBC nimmt die Vermutung der KI und den "Vibe" der Menge, um eine Verteilung (eine Spanne von Möglichkeiten) zu erstellen, anstatt nur eine einzelne Zahl.
- Wenn die Menge gespalten ist, sagt die BBC zur KI: "Deine Vermutung von 60 % ist in Ordnung, aber du solltest weniger sicher sein, weil alle anderen streiten."
- Wenn die Menge einig ist, sagt die BBC: "Großartig, deine 60 % sind solide."

Der Zaubertrick: Das "Beta" und das "Bernoulli"

Das Papier verwendet einige ausgefallene mathematische Begriffe, aber sie beschreiben lediglich zwei einfache Konzepte:

Das Bernoulli (Der Münzwurf): Dies ist das tatsächliche Ereignis. Hat es geregnet? (Ja/Nein). Dies ist das Endergebnis.
Das Beta (Die Wolke der Möglichkeiten): Dies ist die Art und Weise, wie die BBC Unsicherheit darstellt.
- Stellen Sie sich das Vertrauen der KI als eine Wolke vor.
- Eine schmale, hohe Wolke bedeutet, dass die KI sehr sicher ist (geringe Unsicherheit).
- Eine breite, flache Wolke bedeutet, dass die KI wild ratet (hohe Unsicherheit).

Die BBC lernt, diese Wolke zu formen. Sie verwendet das binäre Ergebnis (hat es geregnet?), um sicherzustellen, dass das Zentrum der Wolke korrekt ist. Aber sie verwendet die menschlichen Vorhersagen, um die Breite der Wolke zu formen. Wenn Menschen verwirrt sind, wird die Wolke breiter. Wenn Menschen einig sind, wird die Wolke schmaler.

Warum dies besser ist als andere Methoden

Das Papier hat dies gegen andere Wege getestet, KI-Vorhersagen zu korrigieren:

Gegenüber "Fragen Sie einfach die KI": Wenn Sie die KI nur nach einer Prozentzahl fragen, lügt sie über ihre Sicherheit. Die BBC behebt dies.
Gegenüber einfachen mathematischen Korrekturen: Alte Methoden (wie Platt-Skalierung) dehnen oder stauchen lediglich die Zahlen. Sie sind wie ein Lineal, das nur Länge, nicht aber Breite messen kann. Die BBC misst sowohl den Wert als auch die Unsicherheit.
Gegenüber dem Training einer neuen KI: Man könnte versuchen, eine massive KI von Grund auf neu zu trainieren, damit sie besser im Raten ist. Dies ist teuer und langsam. Die BBC ist ein leichtgewichtiges Add-on. Es ist wie das Anbringen einer High-Tech-Linse an einer normalen Kamera. Sie müssen keine neue Kamera kaufen; Sie fügen einfach die Linse hinzu, um die Fotos klarer zu machen.

Die wichtigsten Erkenntnisse

Bessere Genauigkeit: Die BBC macht die Vermutungen der KI genauer (niedrigerer "Brier-Score", was einfach nur eine ausgefallene Art zu sagen ist "näher an der Wahrheit").
Ehrliche Unsicherheit: Die wichtigste Erkenntnis betrifft die epistemische Unsicherheit. Dies ist ein ausgefallener Begriff für "wie viel das Modell nicht weiß".
- Wenn die BBC sagt: "Ich habe eine breite Wolke der Unsicherheit", hat sie meistens recht. Die KI hat tatsächlich mit dieser Frage zu kämpfen.
- Wenn die KI einfach sagt: "Ich bin zu 90 % sicher", ist sie oft falsch. Die "Wolkenbreite" der BBC ist ein viel besseres Warnsignal als die eigenen Worte der KI.
Funktioniert bei jeder KI: Sie können diesen "Schiedsrichter" auf jede KI anwenden, sogar auf solche, die Sie nicht ändern oder von innen sehen können (Black-Box-Modelle).

Zusammenfassung

Das Papier schlägt eine einfache, aber kraftvolle Idee vor: Fragen Sie die KI nicht nur nach einer Zahl; lassen Sie sie aus der Verwirrung der Menge lernen.

Indem wir einen kleinen, klugen "Schiedsrichter" (die BBC) verwenden, der sowohl die Endergebnisse als auch betrachtet, wie sehr sich die Menschen einig oder uneinig waren, können wir eine selbstsichere, aber falsche KI in einen bescheidenen und genauen Prognostiker verwandeln. Es ist der Unterschied zwischen einem Wettermann, der "SONNIG!" schreit, und einem, der sagt: "Es ist wahrscheinlich sonnig, aber die Wolken ziehen schnell, also bin ich nicht zu 100 % sicher."

Technische Zusammenfassung: Ausrichtung von LLMs auf menschliche Unsicherheit mittels eines Beta-Bernoulli-Kalibrators

Problemstellung

Probabilistische Prognosen sind für die Entscheidungsfindung in Bereichen von der Wirtschaft bis zur nationalen Sicherheit von entscheidender Bedeutung. Obwohl Large Language Models (LLMs) über breites Wissen und推理fähigkeiten verfügen, haben sie oft Schwierigkeiten, qualifizierte menschliche Prognostiker zu übertreffen. Bestehende Methoden zur Verbesserung der LLM-Prognoseleistung stützen sich typischerweise auf überwachte Feinabstimmung (SFT) oder Bestärkendes Lernen (RL) unter Verwendung binärer Ergebnisse (z. B. ob ein Ereignis eingetreten ist oder nicht). Diese Ansätze weisen jedoch erhebliche Einschränkungen auf: Sie sind ressourcenintensiv, oft auf Blackbox-Modelle nicht anwendbar und nutzen die in menschlichen Prognosen enthaltenen reichhaltigen Informationen nicht aus. Insbesondere liefern menschliche Prognosen nicht nur eine aggregierte Wahrscheinlichkeitsschätzung, sondern auch ein Maß an Konsens (Übereinstimmung) unter den Prognostikern, das wertvolle Signale über menschliche Sentiments und epistemische Unsicherheit kodiert. Aktuelle Methoden ignorieren diese verteilungsbezogenen Informationen weitgehend und konzentrieren sich stattdessen auf Punktschätzungen oder verbalisierte Konfidenzwerte, die sich als übermäßig selbstsicher und verrauscht erwiesen haben.

Methodik: Der Beta-Bernoulli-Kalibrator (BBC)

Die Autoren schlagen den Beta-Bernoulli-Kalibrator (BBC) vor, einen leichten, modellagnostischen Nachkalibrierungsrahmen. Im Gegensatz zu Methoden, die versuchen, das zugrunde liegende LLM zu feinabstimmen, agiert der BBC als separates, kleineres Modell, das die initiale verbalisierte Prognose eines beliebigen Eingabe-LLMs verfeinert.

Kernrahmen

Der Rahmen modelliert die latente Ereigniswahrscheinlichkeit $p$ als Zufallsvariable, die aus einer Beta-Verteilung gezogen wird, $p \sim \text{Beta}(\alpha, \beta)$ , und das beobachtete binäre Ergebnis $y$ als Realisierung eines Bernoulli-Versuchs, $y \sim \text{Bernoulli}(p)$ .

Eingabe: Der Kalibrator nimmt eine Prognosefrage ( $x_i$ ) und eine initiale verbalisierte Punktschätzung ( $\hat{p}^{init}_i$ ) von einem Eingabe-LLM entgegen.
Ausgabe: Anstatt eine einzelne Wahrscheinlichkeit auszugeben, sagt der Kalibrator die Parameter einer Beta-Verteilung voraus (oder eine Mischung aus $K$ $K$ Beta-Verteilungen für Flexibilität).
- Der Mittelwert der vorhergesagten Verteilung dient als kalibrierte Punktschätzung: $\hat{p}_i = \mathbb{E}[p_i] = \frac{\hat{\alpha}_i}{\hat{\alpha}_i + \hat{\beta}_i}$ .
- Die Varianz dient als Maß für epistemische Unsicherheit: $\hat{u}_i = \text{Var}[p_i]$ .

Trainingsziel

Der Kalibrator wird unter Verwendung einer zusammengesetzten Verlustfunktion $\mathcal{L}_{total} = \mathcal{L}_{binary} + \mathcal{L}_{human}$ trainiert:

Binäre Ergebnisüberwachung ( $\mathcal{L}_{binary}$ ): Das Modell lernt aus dem realisierten binären Ergebnis ( $y_i \in \{0, 1\}$ ). Die Autoren zeigen, dass die Maximierung der Likelihood des binären Ergebnisses unter dem Beta-Bernoulli-Modell mathematisch äquivalent zur Minimierung des Binary Cross-Entropy (BCE)-Verlusts bezüglich des Mittelwerts der Verteilung ist. Dies stellt sicher, dass das Modell lernt, die wahre Wahrscheinlichkeit vorherzusagen.
Menschliche Prognoseüberwachung ( $\mathcal{L}_{human}$ ): Um das Identifizierbarkeitsproblem zu adressieren (bei dem verschiedene Beta-Verteilungen denselben Mittelwert und BCE-Verlust liefern können) und die Verteilungsform zu erfassen, wird das Modell durch menschliche Prognosen überwacht. Die Autoren behandeln menschliche Prognosen als verrauschte Stichproben aus der wahren latenten Verteilung. Sie konstruieren ein Histogramm menschlicher Prognosen und minimieren die Kullback-Leibler-Divergenz (KL-Divergenz) zwischen diesem Histogramm und der vorhergesagten Beta- (oder Beta-Mischungs-) Verteilung. Dies ermöglicht dem Modell, den „Konsens" und die Unsicherheit zu lernen, die in der Crowd inhärent sind.

Architektur

Der Kalibrator wird als kleines Sprachmodell (z. B. Llama-3.2-1B) mit einem Multi-Layer-Perceptron (MLP)-Kopf implementiert. Es kodiert den Eingabetext und die initiale Prognose und sagt dann die Beta-Parameter voraus. Dieses Design stellt sicher, dass die Methode recheneffizient ist und auf jedes Blackbox-LLM angewendet werden kann, ohne auf seine internen Gewichte oder Repräsentationen zugreifen zu müssen.

Hauptbeiträge

Beta-Bernoulli-Kalibrator: Eine leichte, modellagnostische Methode, die Punktschätzungen in Verteilungen über die Ereigniswahrscheinlichkeit umwandelt und effektiv sowohl aleatorische (inhärente Zufälligkeit) als auch epistemische (Modellunsicherheit) Unsicherheit erfasst.
Menschen als verteilungsbezogene Überwachung: Die Arbeit führt einen neuartigen Ansatz ein, menschliche Prognoseverteilungen (aggregiert von Plattformen wie Metaculus und Polymarket) als Überwachungssignal zu verwenden. Dies liefert Informationen über binäre Ergebnisse hinaus, insbesondere bezüglich der Form der Wahrscheinlichkeitsverteilung und des Grades des Konsenses unter den Prognostikern.
Epistemische Unsicherheit als Prädiktor: Die Autoren zeigen, dass die Varianz der vorhergesagten Beta-Verteilung ein zuverlässigerer Prädiktor für Prognosefehler ist als die von LLMs bereitgestellten verbalisierten Konfidenzwerte.

Experimentelle Ergebnisse

Der Rahmen wurde an Datensätzen von Metaculus und Polymarket evaluiert, mit Out-of-Distribution (OOD)-Tests auf Kalshi.

Leistung im Vergleich zu Baselines: Der BBC übertraf konsistent traditionelle Nachkalibrierungsmethoden (Platt-Skalierung, Isotone Regression) und Modelle, die speziell für Prognosen feinabgestimmt wurden (z. B. OpenForecaster-8B, Future-as-a-label-32B).
- Auf dem Testset reduzierte der BBC den Brier-Score um etwa 14,4 % im Vergleich zu verbalisierten Baselines (z. B. von 0,146 auf 0,125 für Claude-Sonnet-4) und verbesserte die AUC von 72,3 % auf 74,2 %.
- Der BBC erreichte eine bessere Kalibrierung (niedrigerer Expected Calibration Error) und eine stärkere Diskriminierung (höhere AUC) als feinabgestimmte Modelle, was darauf hindeutet, dass ein leichter Kalibrator eine effizientere Alternative zur vollständigen Modellfeinabstimmung ist.
Auswirkung menschlicher Überwachung: Der Vergleich von „BBC (nur binär)" mit „BBC (binär + menschlich)" ergab, dass die Einbeziehung menschlicher Prognoseverteilungen die Brier-Scores und die AUC konsistent verbesserte. Die KL-Divergenz zwischen der vorhergesagten Verteilung und menschlichen Prognosen nahm ab, was darauf hindeutet, dass das Modell besser mit menschlichen Überzeugungen übereinstimmte.
Epistemische Unsicherheit: Die Analyse zeigte, dass die Varianz der Beta-Verteilung stark mit Prognosefehlern (Brier-Score) korrelierte. Im Gegensatz dazu waren verbalisierte Konfidenzwerte verrauscht und oft nicht mit der tatsächlichen Leistung korreliert.
Generalisierung: Der Kalibrator zeigte eine robuste Generalisierung auf den OOD-Kalshi-Datensatz und behielt eine starke Leistung bei, wo traditionelle Kalibrierungsmethoden versagten.
Effizienz: Experimente bestätigten, dass ein Kalibrator mit 1 Milliarde Parametern ausreicht, um Prognosen von deutlich größeren Modellen (z. B. 70 Milliarden Parameter) effektiv zu verfeinern, was die Recheneffizienz des Ansatzes unterstreicht.

Bedeutung und Behauptungen

Die Arbeit behauptet, dass der Beta-Bernoulli-Kalibrator einen signifikanten Fortschritt in der LLM-Prognose darstellt durch:

Überbrückung der Lücke: Er nutzt die „Weisheit der Menge" effektiv nicht nur als Punktschätzung, sondern als verteilungsbezogenes Signal zur Modellierung von Unsicherheit und adressiert damit eine Lücke in der aktuellen LLM-Prognoseliteratur.
Modellagnostizismus: Da er als Nachkalibrator operiert, ermöglicht er die Kalibrierung jedes LLM (einschließlich proprietärer Blackbox-Modelle) ohne die Notwendigkeit teurer Feinabstimmung oder Zugriffs auf interne Zustände.
Zuverlässige Unsicherheitsquantifizierung: Er bietet eine prinzipielle Möglichkeit, epistemische Unsicherheit zu schätzen, die vorhersagbar für Fehler ist und über die unzuverlässige selbstberichtete Konfidenz von LLMs hinausgeht.
Komplementarität: Die Methode wird als komplementär zu bestehenden Techniken präsentiert; sie kann auf bereits für Prognosen feinabgestimmte Modelle angewendet werden, um weitere Leistungsgewinne zu erzielen.

Die Autoren schließen, dass menschliche Prognostiker zwar aktuellen LLMs überlegen bleiben, der BBC-Rahmen diese Lücke jedoch signifikant schließt, indem er menschliche Konsenssignale nutzt, um Modellüberzeugungen zu kalibrieren, und damit einen skalierbaren und effizienten Weg zu zuverlässigerer KI-Prognose bietet.