💬 NLP

Adaptive Conformal Prediction for Improving Factuality of Generations by Large Language Models

Die vorgestellte Arbeit schlägt eine adaptive konforme Vorhersagemethode vor, die durch promptabhängige Kalibrierung die faktische Zuverlässigkeit von Large Language Models verbessert und dabei statistische Garantien für die Abdeckung beibehält.

Ursprüngliche Autoren: Aleksandr Rubashevskii, Dzianis Piatrashyn, Preslav Nakov, Maxim Panov

Veröffentlicht 2026-04-16

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Aleksandr Rubashevskii, Dzianis Piatrashyn, Preslav Nakov, Maxim Panov

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das Problem: Der „zuversichtliche Halluzinator"

Stell dir vor, du hast einen extrem intelligenten, aber manchmal etwas verwirrten Bibliothekar (das ist die KI oder LLM). Er kann fließend und eloquent über alles reden. Aber manchmal erfindet er Fakten einfach dazu. Das nennt man „Halluzinieren".

Das Problem ist: Der Bibliothekar ist sich oft zu sicher. Wenn er etwas Falsches sagt, klingt es trotzdem so überzeugend, als wäre es die reine Wahrheit. In der Medizin oder bei wichtigen Entscheidungen kann das gefährlich sein.

Bisherige Methoden, um zu prüfen, ob der Bibliothekar lügt, funktionieren wie ein starres Sicherheitsgitter:

Man stellt eine Regel auf: „Wenn die Unsicherheit über 50 % liegt, schneide ich den Satz weg."
Das Problem: Dieses Gitter ist für alle Fragen gleich groß.
- Bei einer einfachen Frage (z. B. „Wie viele Beine hat ein Hund?") ist das Gitter zu eng. Man schneidet sogar korrekte Antworten weg, weil die KI kurz zögert (zu viel Überdeckung).
- Bei einer schwierigen Frage (z. B. „Was war das genaue Datum der Erfindung des Mikrowellenherds im Jahr 1945?") ist das Gitter zu weit. Der Bibliothekar darf durch, obwohl er wahrscheinlich lügt (zu wenig Abdeckung).

Die Lösung: Ein „intelligenter, anpassbarer Filter"

Die Autoren dieses Papers schlagen eine neue Methode vor, die sie „Adaptive Conformal Prediction" nennen.

Stell dir das nicht als starres Gitter vor, sondern als einen sehr klugen Türsteher, der sich die Person vor dem Club genau ansieht:

Er erkennt den Kontext: Der Türsteher weiß, dass bei einer „einfachen Frage" (wie bei einem Studenten) die Regeln lockerer sein können, aber bei einer „schwierigen Frage" (wie bei einem Professor) er sehr streng sein muss.
Er passt die Schwelle an: Statt einen festen Wert zu nutzen, berechnet er für jede einzelne Frage: „Wie schwer ist diese Frage eigentlich?" und passt den Filter entsprechend an.
Das Ergebnis:
- Bei einfachen Fragen wird nichts unnötig weggeschnitten.
- Bei schwierigen Fragen werden die riskanten Antworten sicher herausgefiltert.

Wie funktioniert das technisch? (Die Metapher der „Schwierigkeits-Skala")

Stell dir vor, die KI gibt für jede ihrer Aussagen einen „Zittern-Wert" aus (wie sicher ist sie sich?).

Der alte Weg: Man nimmt den Durchschnitt aller Zittern-Werte und sagt: „Alles, was mehr als 0,5 zittert, ist weg."
Der neue Weg (Adaptiv):
- Der Türsteher schaut sich die Frage an (z. B. „Inventionen" vs. „Biografien").
- Er weiß: „Bei Inventionen zittern die KIs generell mehr, weil das Wissen komplexer ist."
- Also sagt er: „Okay, bei Inventionen filtere ich erst ab 0,8 Zittern. Bei Biografien reicht schon 0,4."
- Er nutzt dabei eine Art Wettervorhersage-Modell, das lernt, wie schwer eine Frage ist, basierend auf den Wörtern in der Frage selbst.

Was bringt das?

Die Autoren haben das an verschiedenen KI-Modellen getestet (wie Mistral, Llama, Gemma) und in zwei Szenarien:

Lange Texte: Wenn die KI einen ganzen Artikel schreibt, wird geprüft, ob jeder einzelne Satz stimmt.
Multiple Choice: Wenn die KI eine Frage mit mehreren Antwortmöglichkeiten beantworten muss.

Das Ergebnis:

Die alte Methode war oft unfair: Bei manchen Themen war sie zu streng, bei anderen zu lasch.
Die neue Methode ist faul: Sie passt sich an. Sie liefert fast immer genau das Ergebnis, das sie verspricht (z. B. „90 % der verbleibenden Antworten sind korrekt"), egal ob die Frage leicht oder schwer ist.

Zusammenfassung in einem Satz

Statt einen starren Sicherheitsgurt zu benutzen, der für alle Körpergrößen gleich ist, hat diese neue Methode einen maßgeschneiderten Sicherheitsgurt entwickelt, der sich automatisch an die Schwierigkeit der Frage anpasst, damit wir der KI vertrauen können, ohne dass sie uns belügt.

Das ist ein riesiger Schritt, um KI in sensiblen Bereichen (wie Medizin oder Recht) sicherer und zuverlässiger zu machen.

1. Problemstellung

Große Sprachmodelle (LLMs) neigen dazu, zwar fließende, aber faktisch inkorrekte Ausgaben zu generieren („Halluzinationen"). Dies ist besonders in hochriskanten Bereichen wie der Medizin kritisch.
Zur Absicherung werden derzeit Methoden der konformen Vorhersage (Conformal Prediction, CP) eingesetzt, um Unsicherheitsabschätzungen und statistische Garantien für die Faktualität zu liefern.

Das Hauptproblem: Bestehende CP-Ansätze für LLMs sind in der Regel nicht prompt-adaptiv. Sie wenden einen einzigen, global kalibrierten Quantil-Schwellenwert auf alle Test-Prompts an, unabhängig von deren Schwierigkeit, Mehrdeutigkeit oder Seltenheit.
Die Konsequenz: Dies führt zu einer marginalen Abdeckung (im Durchschnitt korrekt), aber zu einer schlechten bedingten Abdeckung (conditional coverage).
- Bei schwierigen Prompts wird oft zu viel gefiltert (Unter-Abdeckung/Under-coverage), was die Nützlichkeit einschränkt.
- Bei einfachen Prompts wird zu wenig gefiltert (Über-Abdeckung/Over-coverage), was die Effizienz mindert.
- Die Methode kann also nicht zuverlässig zwischen verschiedenen Kategorien (z. B. „Erfindungen" vs. „Personen") unterscheiden.

2. Methodik: Adaptive Konforme Faktualität

Die Autoren schlagen einen neuen Ansatz vor, der konforme Vorhersage mit prompt-adaptiver Kalibrierung kombiniert, um die bedingte Abdeckung zu verbessern, während die marginalen Garantien erhalten bleiben.

Kernkomponenten:

Zerlegung in atomare Claims: Für Langtext-Antworten (Long-Form QA) wird die generierte Antwort in verifizierbare, atomare Aussagen (Claims) zerlegt.
Unsicherheits-Scores: Für jeden Claim wird ein Unsicherheits-Score $s(c)$ berechnet (z. B. basierend auf Token-Entropie oder Wahrscheinlichkeiten).
Faktualitäts-Funktion: Eine Oracle-Funktion $w(c, y)$ prüft, ob ein Claim $c$ mit der Ground-Truth $y$ übereinstimmt.
Transformation der Nicht-Konformitäts-Scores (Nonconformity Scores):
- Statt eines globalen Schwellenwerts wird ein bedingter Quantilschätzer $\hat{\tau}(x)$ trainiert. Dieser schätzt den $(1-\alpha)$ -Quantil der ursprünglichen Scores basierend auf dem Eingabe-Prompt $x$ (repräsentiert durch Embeddings).
- Die ursprünglichen Scores $V(x, y)$ werden durch diesen Schätzer normalisiert (transformiert):
  $\tilde{V}(x, y) = \frac{V(x, y)}{\hat{\tau}(x)}$
- Diese Transformation gleicht die Verteilung der Scores über verschiedene Prompts hinweg an.
Kalibrierung und Vorhersage:
- Der Datensatz wird in drei Teile geteilt: $D_{cal1}$ (Training des Quantilschätzers), $D_{cal2}$ (Kalibrierung des transformierten Schwellenwerts) und $D_{test}$ .
- Auf $D_{cal2}$ wird der globale Quantil-Schwellenwert für die transformierten Scores berechnet.
- Beim Testen werden die Claims gefiltert, wenn ihr normalisierter Score unter diesem Schwellenwert liegt.

Theoretische Garantie:
Der Ansatz behält die finite-sample marginale Abdeckungsgarantie der klassischen Split-Conformal-Prediction bei. Das bedeutet, dass die Wahrscheinlichkeit, dass die korrekte Antwort im Vorhersageset liegt, mindestens $1-\alpha$ beträgt. Gleichzeitig wird die bedingte Abdeckung (die Genauigkeit für spezifische Prompt-Kategorien) signifikant verbessert.

3. Wichtige Beiträge

Neuer Ansatz für Halluzinationserkennung: Einführung einer prompt-adaptiven Korrektur für Konformitäts-Scores mittels embedding-konditionierter Quantilregression.
Verbesserte Kalibrierung: Nachweis, dass die Methode die marginalen Garantien bewahrt, aber gleichzeitig die bedingte Abdeckung über heterogene Prompts hinweg verbessert.
Umfassende Evaluation: Evaluation auf mehreren White-Box-Modellen (Mistral-7B, Llama-3.1-8B, Gemma-3-12B) in zwei Szenarien:
- Long-Form QA: Zerlegung in Claims (8 Kategorien wie Biografien, Erfindungen, etc.).
- Multiple-Choice QA: Auswahl aus Antwortklassen (16 Kategorien aus MMLU).

4. Ergebnisse

Die Experimente zeigen deutliche Verbesserungen gegenüber bestehenden Baselines (wie der globalen „Conformal Factuality" von Mohri & Hashimoto, 2024):

Verbesserte bedingte Abdeckung:
- In Langtext-Aufgaben (z. B. Abbildung 1 im Paper) erreicht die adaptive Methode eine empirische Abdeckung, die viel näher am Zielwert liegt, wenn man nach Kategorien (z. B. „Inventions" vs. „Persons") aufteilt. Die globale Methode zeigt hier starke Abweichungen (Über- oder Unter-Abdeckung).
- Bei Multiple-Choice-Fragen (Abbildung 2) zeigt sich ein ähnliches Bild: Die adaptive Methode kalibriert Kategorien wie „Marketing" und „Accounting" unabhängig voneinander korrekt, während die globale Methode dies nicht leistet.
Reduzierte Filterung: Die adaptive Methode erreicht eine bessere Abdeckung oft mit einem geringeren Anteil an entfernten Claims/Antworten, was die Nützlichkeit der Ausgabe erhöht.
Robustheit: Dolan-Moré-Profile (Abbildung 3) zeigen, dass die adaptive Methode über alle Kategorien und Seeds hinweg konsistent bessere Kalibrierungsfehler aufweist als die ursprüngliche Methode.
Claim-Scoring: Die Studie identifiziert „Claim Conditioned Probability" (CCP) als die effektivste Methode zur Unsicherheitsquantifizierung für Claims.

5. Bedeutung und Fazit

Dieses Paper adressiert eine kritische Lücke in der Zuverlässigkeit von LLMs: Die Unfähigkeit standardisierter Unsicherheitsmaße, auf die spezifische Schwierigkeit eines Eingabe-Prompts zu reagieren.

Praktische Relevanz: Der Ansatz ermöglicht selektive Vorhersage (Selective Prediction), bei der unzuverlässige Aussagen oder Antwortoptionen sicher herausgefiltert werden können, ohne die Gesamtleistung für einfache Fälle zu beeinträchtigen.
Innovation: Die Erweiterung von Score-Transformationsmethoden (die bisher eher in der Regression auf kleinen Datensätzen untersucht wurden) auf die komplexe Domäne der Langtext-Generierung von LLMs ist ein signifikanter Schritt.
Zukunft: Die Arbeit legt den Grundstein für robustere, vertrauenswürdige KI-Systeme in sensiblen Bereichen, indem sie statistische Garantien nicht nur im Durchschnitt, sondern auch für spezifische Anwendungsfälle liefert.

Zusammenfassend bietet die vorgeschlagene „Adaptive Conformal Factuality" einen theoretisch fundierten und empirisch überlegenen Weg, um die Faktualität von LLM-Generierungen zu garantieren und gleichzeitig die Effizienz der Ausgabe zu maximieren.