💬 NLP

Clustered Self-Assessment: A Simple yet Effective Method for Uncertainty Quantification in Large Language Models

Das Papier schlägt „Clustered Self-Assessment“ vor, eine einfache und effiziente Methode, welche die Unsicherheitsquantifizierung in großen Sprachmodellen verbessert, indem sie gesammelte Generationen in semantische Optionen zur Selbstbewertung gruppiert und dabei bestehende Baselines selbst bei minimal zusätzlicher Stichprobenentnahme konsistent übertrifft.

Ursprüngliche Autoren: Qi Cao, Takeshi Kojima, Andrew Gambardella, Helinyi Peng, Yutaka Matsuo, Yusuke Iwasawa

Veröffentlicht 2026-06-03

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Qi Cao, Takeshi Kojima, Andrew Gambardella, Helinyi Peng, Yutaka Matsuo, Yusuke Iwasawa

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie stellen einem sehr klugen, belesenen Freund (einem Large Language Model oder LLM) eine Frage. Er antwortet Ihnen sofort mit perfekter Grammatik und vollkommener Zuversicht. Aber hier ist der Haken: Manchmal liegt er selbstbewusst falsch. Er könnte Ihnen erzählen, dass der Eiffelturm in Berlin steht, und dabei genauso sicher klingen, als würde er sagen, er stünde in Paris.

Das Problem ist, dass Sie keine Möglichkeit haben zu wissen, ob er die Wahrheit sagt oder nur eine plausibel klingende Lüge „halluziniert“.

Dieses Paper stellt einen einfachen Trick namens Clustered Self-Assessment vor, der Ihnen helfen soll, herauszufinden, wie sehr Sie Ihrem KI-Freund vertrauen können.

Das Problem: Der „selbstbewusste Lügner“

Aktuelle KI-Modelle sind großartig im Reden, aber sie sind schlecht darin, zuzugeben, wenn sie etwas nicht wissen. Wenn Sie sie fragen: „Wie sicher bist du dir?“, sagen sie oft: „Ich bin mir zu 100 % sicher!“, selbst wenn sie falsch liegen. Andere Methoden versuchen, ihr Vertrauen zu erraten, indem sie untersuchen, wie viele verschiedene Antworten die KI gibt, wenn man ihr dieselbe Frage zehnmal stellt, aber diese Methoden sind oft schwer zu verstehen oder nutzen das „Gehirn“ der KI nicht effektiv aus.

Die Lösung: Das „Multiple-Choice-Test“-Spiel

Die Autoren schlagen ein cleveres zweistufiges Spiel vor, um die KI dazu zu bringen, ihre eigene Arbeit zu überprüfen.

Schritt 1: Die „Brainstorming“-Sitzung
Zuerst fragen Sie die KI mehrmals dieselbe Frage (ein paar zusätzliche Male reichen aus).

Analogie: Stellen Sie sich vor, Sie fragen Ihren Freund fünfmal hintereinander: „Wo steht der Eiffelturm?“ Er könnte sagen: „Paris“, „Paris, Frankreich“, „Die Hauptstadt von Frankreich“, „Berlin“ und „Rom“.

Schritt 2: Das „Gruppierungs“-Spiel
Als Nächstes nehmen Sie diese Antworten und gruppieren diejenigen, die das Gleiche bedeuten.

Analogie: Sie stellen fest, dass „Paris“, „Paris, Frankreich“ und „Die Hauptstadt von Frankreich“ alle dasselbe aussagen. Sie legen sie in einen Stapel. „Berlin“ und „Rom“ sind anders, also bekommen sie ihre eigenen Stapel. Jetzt haben Sie drei unterschiedliche Gruppen: Die Paris-Gruppe, die Berlin-Gruppe und die Rom-Gruppe.

Schritt 3: Die „Quizshow“
Nun drehen Sie das Ganze zurück an die KI. Sie präsentieren ihr die ursprüngliche Frage, aber diesmal geben Sie ihr einen Multiple-Choice-Test, bei dem die Antwortmöglichkeiten die Gruppen sind, die Sie gerade erstellt haben.

Die Frage: „Wo steht der Eiffelturm?“
Die Optionen:
- A) Die Paris-Gruppe
- B) Die Berlin-Gruppe
- C) Die Rom-Gruppe
- D) Keine der oben genannten

Schritt 4: Die „Konfidenz-Punktzahl“
Schließlich lassen Sie die KI eine Antwort auswählen. Hier geschieht die Magie: Sie betrachten die mathematische Wahrscheinlichkeit, die die KI der gewählten Option zuweist.

Wenn die KI „A“ (Paris) wählt und ihr eine Wahrscheinlichkeit von 95 % gibt, sagt sie: „Ich bin mir sehr sicher, dass dies die richtige Gruppe ist.“
Wenn sie jedoch „A“ wählt, aber nur eine Wahrscheinlichkeit von 40 % angibt (und zwischen A, B und C gespalten ist), sagt sie: „Ich bin mir nicht wirklich sicher, welche Gruppe richtig ist.“

Warum das eine große Sache ist

Das Paper behauptet, dass diese Methode aus drei Hauptgründen ein Gewinner ist:

Es ist schnell und günstig: Sie müssen die KI nicht 16 Mal fragen, um ein gutes Ergebnis zu erhalten. Nur zwei zusätzliche Stichproben (die Frage zweimal zusätzlich zu stellen) reichen aus, um Ergebnisse zu erzielen, die Methoden übertreffen, die 16 Mal fragen. Es ist wie ein großartiges Ergebnis mit einer kurzen Kaffeepause statt eines langen Mittagessens zu bekommen.
Es ist leicht zu verstehen: Anstatt Ihnen einen verwirrenden mathematischen Wert wie „Entropie: 0,84“ zu geben, liefert es Ihnen einen einfachen Prozentsatz (z. B. „85 % Konfidenz“). Das ist etwas, das ein normaler Mensch tatsächlich nutzen kann, um zu entscheiden, ob er der Antwort vertrauen sollte.
Es funktioniert besser: Als die Forscher dies an verschiedenen KI-Modellen und verschiedenen Arten von Fragen (von Trivia bis zur Zusammenfassung von Nachrichten) testeten, traf ihre Methode das Vertrauen der KI konsistent genauer als alle anderen populären Methoden.

Der Haken (Einschränkungen)

Die Autoren sind ehrlich bezüglich der Schwächen:

Das „Black-Box“-Problem: Um dies zu tun, müssen Sie die interne Mathematik der KI (ihre „Logits“) sehen können. Wenn Sie eine geschlossene KI verwenden (wie eine kostenpflichtige API, bei der Sie die inneren Abläufe nicht sehen können), können Sie diese Methode nicht anwenden.
Die „Schiedsrichter“-Kosten: Um die Antworten in Schritt 2 zu gruppieren, verwendet die Methode ein separates, kleineres KI-Modell, das als Schiedsrichter fungiert. Dies bedeutet einen geringfügig zusätzlichen Arbeitsaufwand.
Kein „Kalibrierungs“-Schritt: Die Methode verwendet die Rohzahlen, die die KI liefert. Obwohl diese gut funktionieren, geben die Autoren zu, dass ein abschließender „Tuning“-Schritt sie noch perfekter machen könnte.

Zusammenfassung

Kurz gesagt: Dieses Paper schlägt vor, dass wir, anstatt zu raten, wie sicher sich eine KI ist, die KI einen Multiple-Choice-Test basierend auf ihren eigenen vorherigen Antworten machen lassen sollten. Indem wir beobachten, wie stark die KI eine Option gegenüber den anderen bevorzugt, erhalten wir ein klares, einfaches und hochpräzises „Konfidenz-Meter“, das uns sagt, wann wir der KI vertrauen können und wann wir ihre Arbeit doppelt prüfen sollten.

Technisches Resümee: Clustered Self-Assessment zur Unsicherheitsquantifizierung in LLMs

Problemstellung

Große Sprachmodelle (LLMs) zeigen eine bemerkenswerte Leistung bei vielfältigen Aufgaben, generieren jedoch häufig Antworten, die zwar flüssig und plausibel erscheinen, faktisch aber falsch sind. Dieses „Halluzinationsproblem“ ist besonders kritisch in Hochrisikodomänen wie dem Gesundheitswesen, dem Recht und der wissenschaftlichen Forschung. Eine wesentliche Barriere bei der Minderung dieser Risiken ist das Fehlen expliziter, zuverlässiger Unsicherheitsschätzungen. Bestehende Methoden zur Quantifizierung von Unsicherheit verlassen sich oft auf indirekte Signale, wie etwa die Entropie über die Stichproben-Generierungen hinweg oder semantische Divergenzmetriken. Diese Ansätze weisen zwei primäre Einschränkungen auf:

Interpretierbarkeit: Indirekte Scores (z. B. entropiebasierte Metriken) sind für Endnutzer schwer zu interpretieren, was den praktischen Nutzen einschränkt.
Unterausnutzung internen Wissens: Viele Methoden messen Output-Diskrepanzen, ohne das interne Verständnis des LLMs über das eigene Wissen zu nutzen. Zudem scheitern Versuche, LLMs dazu zu bringen, Unsicherheit direkt zu verbalisieren, oft aufgrund des gut dokumentierten Problems der Modell-Überkonfidenz (Overconfidence).

Methodik: Clustered Self-Assessment

Die Autoren schlagen Clustered Self-Assessment vor, eine zweistufige Methode, die darauf ausgelegt ist, Unsicherheit zu provozieren und zu quantifizieren, indem das LLM aufgefordert wird, seine eigenen generierten Antworten zu bewerten. Der Prozess transformiert das Problem der Unsicherheitsschätzung in eine strukturierte Multiple-Choice-Aufgabe (MCQ).

Stufe 1: Antwort-Clustering

Für eine gegebene Eingabefrage generiert das LLM mehrere Antworten (Samples). Um semantische Redundanz zu reduzieren und gleichzeitig Diversität zu bewahren, werden diese Samples in semantisch distinkte Cluster gruppiert:

Schätzung der semantischen Beziehung: Ein externes Natural Language Inference (NLI) Modell (speziell deberta-large-mnli) wird verwendet, um die paarweisen semantischen Beziehungen zwischen den gesampelten Antworten zu schätzen. Für jedes Paar $(a_i, a_j)$ sagt das NLI-Modell Labels wie Entailment (Folgerung), Neutral oder Contradiction (Widerspruch) voraus.
Clustering-Logik: Die Methode verwendet einen regelbasierten Filter auf bidirektionalen NLI-Labels. Zwei Antworten werden in denselben Cluster gruppiert, wenn ihre bidirektionale Beziehung keinen Contradiction enthält und mindestens ein Entailment in eine der beiden Richtungen umfasst.
Repräsentative Auswahl: Jedes Cluster wird durch eine einzige Antwort repräsentiert (typischerweise die erste, die dem Cluster zugewiesen wurde). Dieser Prozess stellt sicher, dass der endgültige Satz an Optionen semantisch distinkte Kandidantennantworten darstellt und nicht nur geringfügige Variationen derselben Antwort ist.

Stufe 2: Selbstbewertung via MCQ

Die geclusterten Antworten werden verwendet, um eine strukturierte MCQ zu konstruieren:

Fragenformulierung: Die ursprüngliche Frage wird zusammen mit den repräsentativen Antworten aus jedem Cluster als distinkte Optionen präsentiert (z. B. Option A, Option B, Option C).
Sicherheitsoption: Eine zusätzliche Option, „Keine der oben genannten“ (None of the above), wird hinzugefügt, um Szenarien zu berücksichtigen, in denen alle generierten Cluster falsch sind oder das Modell hochgradig unsicher ist.
Konfidenz-Scoring: Die konstruierte MCQ wird wieder in das ursprüngliche LLM eingespeist. Die dem spezifischen Token der Wahl entsprechenden Antwort (die der primären/Greedy-Dekodierung entspricht) zugewiesene Token-Wahrscheinlichkeit dient als Konfidenz-Score.
- Formal gilt: Wenn $c_{i^*}$ das Token-Label der korrekten Wahl ist, ist der Konfidenz-Score $S = P(c_{i^*})$ .

Zentrale Beiträge

Evozierung von Selbstbewertung: Die Methode nutzt die internen Unsicherheitsrepräsentationen von LLMs, indem sie die gesampelten Generationen in ein MCQ-Format strukturiert. Dies veranlasst das Modell, die Korrektheit seiner eigenen Antworten explizit zu bewerten, anstatt sich auf indirekte statistische Proxys zu verlassen.
Überlegene Leistung und Effizienz: Der Ansatz übertrifft konsistent bestehende Baselines (einschließlich Semantic Entropy, EigenScore und SAR) über mehrere Modelle und Datensätze hinweg. Bemerkenswerterweise erzielt er eine konkurrenzfähige Leistung mit nur zwei zusätzlichen Samples, während einige Baselines bis zu sechzehn Samples benötigen, was den Rechenaufwand erheblich reduziert.
Menschliche Interpretierbarkeit: Durch die Verwendung der Token-Wahrscheinlichkeit einer spezifischen Wahl als Konfidenz-Score liefert die Methode einen für Nutzer intuitiv interpretierbaren Metrik, der direkt die Wahrscheinlichkeit abbildet, mit der die Antwort korrekt ist.

Experimentelle Ergebnisse

Die Methode wurde über sieben State-of-the-Art Open-Source-Modelle (Qwen-2.5, Qwen-3 und Gemma-3 Serien) und drei Datensätze (TriviaQA (TQA), Natural Questions (NQ) und XSum (Summarization)) evaluiert.

Genauigkeit (AUROC): Die Methode erreichte die höchste Area Under the Receiver Operating Characteristic Curve (AUROC) über alle Modelle und Datensätze hinweg. Beispielsweise erreichte sie bei TQA mit Qwen2.5-32B eine AUROC von 0,940 und übertraf damit die nächstbeste Baseline (Deg), die 0,848 erreichte.
Sample-Effizienz: Die Leistung blieb selbst bei minimalem Sampling robust. Mit nur zwei zusätzlichen Samples übertraf die Methode Baselines, die acht oder sechzehn Samples verwendeten.
Kalibrierung: Unter Verwendung des Brier-Scores demonstrierte die Methode eine überlegene Kalibrierung im Vergleich zu probabilitätsbasierten Baselines (P(True) und rohe Wahrscheinlichkeit), was darauf hindeutet, dass die Konfidenz-Scores gut mit der empirischen Korrektheit übereinstimmen.
Probe-Training: Wenn die Methode als Trainingssignal für eine Probe verwendet wurde, um Unsicherheit aus den verborgenen Zuständen (Hidden States) des LLMs vorherzusagen, ermöglichten die Scores der Probe, Baselines in Out-of-Distribution-Settings zu übertreffen, ohne dass während der Inferenz Korrektheitslabels erforderlich waren.

Bedeutung und Limitationen

Das Paper postuliert, dass Clustered Self-Assessment eine praktische, effektive und recheneffiziente Lösung für die Quantifizierung von Unsicherheit bietet. Durch die Umwandlung des Problems in eine Selbstbewertungsaufgabe schließt es die Lücke zwischen dem internen Wissen des Modells und benutzerinterpretierbaren Konfidenzmetriken.

Die Autoren räumen spezifische Limitationen ein:

Logit-Zugriff: Die Methode erfordert Zugriff auf die Output-Logits, die bei Closed-Source-Modellen möglicherweise nicht verfügbar sind.
Externe Abhängigkeit: Sie stützt sich auf ein externes NLI-Modell für das Clustering, was einen Rechenaufwand und potenzielle semantische Fehlzuordnungen einführt. Die Autoren schlagen vor, dass zukünftige Arbeiten die eigenen internen Repräsentationen des LLMs für das Clustering nutzen könnten.
Kalibrierung: Die Methode verwendet rohe Softmax-Wahrscheinlichkeiten ohne Post-hoc-Kalibrierung, zeigt jedoch bereits eine starke Leistung.

Zusammenfassend präsentiert das Paper ein einfaches, aber robustes Framework, das die Zuverlässigkeit von LLM-Outputs erhöht, indem es Modelle befähigt, ihre eigene Unsicherheit durch strukturierte Selbstreflexion zu bewerten.