Technisches Resümee: Diagnose des LLM-Arbitrationsverhaltens über prä-evidenziellen epistemischen Zuständen in RAG-basiertem Fact-Checking

1. Problemstellung

In der auf Retrieval-Augmented Generation (RAG) basierenden Faktencheck-Technologie agieren Large Language Models (LLMs) als Verifizierer, die ihr internes parametrisches Wissen mit abgerufenen externen Evidenzen in Einklang bringen müssen. Eine kritische, unteruntersuchte Herausforderung entsteht, wenn diese beiden Quellen voneinander abweichen – ein Zustand, der als Prior-Context Discrepancy (PCD) bezeichnet wird. Dies tritt auf, wenn die abgerufenen Evidenzen verrauscht, zeitlich veraltet oder kontrafaktisch sind und somit mit den bereits bestehenden Überzeugungen des Modells kollidieren.

Bestehende Evaluierungsframeworks messen primweg die endgültige Urteilsgüte auf Basis sauberer Goldstandard-Evidenzpaare. Folglich versäumen sie es:

1. Den prä-evidenziellen epistemischen Zustand des Verifizierers zu charakterisieren (d. h. ob das Modell sicher korrekt, sicher falsch, unsicher aber korrekt oder unsicher und falsch ist).
2. Zu messen, wie Verifizierer zwischen widersprüchlichen Signalen arbitrieren (z. B. ob sie beharrlich in einem falschen Prior verharren oder korrekt basierend auf akkurater Evidenz aktualisieren).
3. Zwischen verschiedenen Arten von Fehlern zu unterscheiden, etwa zwischen einem Modell, das sicher falsch liegt, und einem, das unsicher ist.

2. Methodik: PAVE-Framework

Die Autoren führen PAVE (Prior-Aware Verifier Evaluation) ein, ein diagnostisches Testfeld, das darauf ausgelegt ist, das Verhalten von LLMs basierend auf epistemischen Zuständen zu stratifizieren und die Arbitrationsdynamik unter PCD zu messen.

A. Charakterisierung des epistemischen Zustands (Knowledge Boundary)

PAVE definiert den prä-evidenziellen Zustand eines Verifizierers mithilfe eines Knowledge Boundary (KB)-Frameworks, das entlang zweier Achsen operationalisiert wird:

1. Faktische Korrektheit: Entspricht die Vorhersage des Modells allein auf Basis des Priors der Grundwahrheit?
2. Parametrische Konfidenz: Ist die Vorhersage des Modells konsistent über wiederholte stochastische Generationen hinweg? (Hohe Konsistenz = „KNOWN“; niedrige Konsistenz = „UNKNOWN“).

Dies ergibt vier distinkte epistemische Zustände:

• Known-Knows (KK): Sicher und korrekt.
• Known-Unknows (KU): Sicher, aber inkorrekt.
• Unknown-Knows (UK): Unsicher, aber korrekt.
• Unknown-Unknows (UU): Unsicher und inkorrekt.

B. Benchmark-Konstruktion

Die Autoren konstruierten eine PCD-Benchmark mit über 7.000 Claims über zwei Dimensionen hinweg:

1. Kontrafaktische Einstellung: Nutzt kontrollierte Transformationen (Entitäten-Substitution, semantische Negation) auf Gold-Evidenzen, um irreführende Kontexte zu erzeugen. Dies testet Persistenz (Widerstand gegen irreführende Evidenz, wenn der Prior korrekt ist) und Korrektur (Aktualisierung durch akkurate Evidenz, wenn der Prior falsch ist).
2. Temporale Einstellung: Nutzt Claims über Ereignisse, die nach dem Trainings-Cutoff des Modells stattgefunden haben. Dies testet Akquisition (Aktualisierung durch neue Evidenz, wenn der Prior veraltet oder fehlend ist).

C. Evaluierungsmetriken

PAVE führt zustandsabhängige Metriken ein, um das Arbitrationsverhalten zu quantifizieren:

• Correction Rate (CR): Die Fähigkeit, anfängliche Fehler bei Bereitstellung korrekter Evidenz zu korrigieren (gemessen auf $D_{wrong}$).
• Persistence Rate (PR): Die Fähigkeit, korrekte Vorhersagen bei Exposition gegenüber irreführender kontrafaktischer Evidenz beizubehalten (gemessen auf $D_{correct}$).
• Margin: Eine differenzielle Metrik, definiert als $CR + PR - 1$. Eine positive Margin zeigt an, dass ein Modell eher bereit ist, durch akkurate Evidenz korrigiert zu werden, als durch inkorrekten Kontext in die Irre geführt zu werden.
• Odds of Influence (OI): Misst die relative Elastizität der Konfidenz eines Modells, indem die Quoten der Antwortänderung gegenüber der Beibehaltung der Antwort unter verschiedenen epistemischen Zuständen verglichen werden.

D. Test-Time-Arbitrationsmethode

Basierend auf den PAVE-Ergebnissen schlagen die Autoren eine leichtgewichtige, trainingsfreie Arbitrationsmethode unter Verwendung der Jensen-Shannon-Divergenz (JSD) vor:

• Die Methode sammelt $K$ Vorhersagen für einen Claim unter zwei Bedingungen: mit externer Evidenz ($p_{ext}$) und ohne ($p_{par}$).
• Sie berechnet die Stabilität (Konsistenz) dieser Vorhersagen mittels JSD.
• Entscheidungsregel: Wenn die JSD-Differenz ($\Delta = JSD_{par} - JSD_{ext}$) unter einen kalibrierten Schwellenwert $\tau$ fällt, vertraut das Modell seinem internen Prior; andernfalls vertraut es der externen Evidenz. Dies ermöglicht es dem System, die zuverlässigere Quelle dynamisch auszuwählen, ohne ein Retraining durchzuführen.

3. Kernergebnisse

Die Autoren evaluierten sieben LLMs (von 7B bis 617B Parametern, einschließlich GPT-4o-mini, Llama3, Deepseek-v3, etc.) unter Verwendung des PAVE-Frameworks.

• Heterogene epistemische Zustände: Modelle zeigen signifikante Variationen in ihren internen Konfidenzprofilen. Beispielsweise weisen Mistral-7B und Phi-4 eine hohe Unsicherheit auf (viele „UNKNOWN“-Zustände), während andere hochkonfident sind.
• Prior-Genauigkeit $\neq$ Robuste Abrasion: Hohe Genauigkeit des Priors allein garantiert keine Robustheit unter PCD. Beispielsweise hatte Qwen3-32B eine hohe Prior-Genauigkeit, erlitt jedoch unter PCD einen massiven Leistungsabfall (43,02 Punkte), während Deepseek-v3 einen deutlich geringeren Abfall (19,11 Punkte) und eine positive Margin (+0,235) zeigte.
• Modellselektion ist entscheidend: Modelle wie Deepseek-v3 und Gemini-2.5-flash demonstrierten ein wünschenswertes Gleichgewicht (hohe Persistenz bei Korrektheit, hohe Korrektur bei Inkorrektheit). Im Gegensatz dazu waren Modelle wie Llama3-8B und Mistral-7B „stur“ und bevorzugten häufig fehlerhafte interne Priors gegenüber akkurater externer Evidenz.
• Skalierungseffekte: Größere Modelle (z. B. Llama3-70B) zeigten eine bessere Arbitrations-Kalibrierung und erreichten höhere Margins als kleinere Varianten (1B, 3B), was darauf hindeutet, dass Skalierung die Fähigkeit zur Auflösung von Diskrepanzen verbessert.
• Evidenz-Aufnahmemuster:
  • Temporal vs. Kontrafaktisch: Modelle sind im Allgemeinen eher bereit, neues Wissen zu erwerben (temporale Einstellung), als falsche Überzeugungen zu revidieren (kontrafaktische Einstellung).
  • Label-Bias: Modelle zeigen eine höhere interne Konfidenz beim Widerlegen falscher Claims als beim Bestätigen wahrer Claims.
• Leistung der Arbitrationsmethode: Die vorgeschlagene JSD-basierte Test-Time-Methode erreichte in 5 von 6 evaluierten LLM-Familien die beste oder eine konkurrenzfähige Gesamtgenauigkeit. Sie war besonders effektiv für kleinere Modelle (z. B. Mistral-7B) und übertraf die zweitbeste Baseline um 6,58 absolute Punkte. Die Methode bleibt selbst bei einem geringen Rechenbudget ($K=3$ Durchläufe) effektiv.

4. Bedeutung und Beiträge

Das Paper beansprucht vier primäre Beiträge:

1. Formulierung: Es rahmt das Fact-Checking von LLMs unter PCD als ein epistemisch-konditioniertes Arbitrationsproblem um und verschiebt den Fokus der Evaluierung von der finalen Urteilsgüte hin zur Dynamik des Ausgleichs zwischen internen Priors und externer Evidenz.
2. Diagnostisches Testfeld (PAVE): Es führt ein Framework ein, das eine kontrollierte Benchmark zur Induktion von PCD, eine KB-Stratifizierung für prä-evidenzielle Zustände und zustandsabhängige Metriken (CR, PR, Margin, OI) zur Diagnose spezifischer Arbitrationsverhaltensweisen umfasst.
3. Systematische Evaluation: Es liefert eine umfassende Analyse von sieben LLMs, die unterschiedliche Arbitrationsprofile aufzeigt und praktische Leitlinien für die Modellselektion in RAG-basierten Systemen bietet.
4. Praktische Intervention: Es schlägt eine leichtgewichtige, JSD-basierte Test-Time-Arbitrationsmethode vor, welche die faktische Zuverlässigkeit verbessert, ohne das zugrunde liegende Modell zu modifizieren, und demonstriert, dass diagnostische Signale für den sofortigen Einsatz operationalisierbar sind.

Die Autoren betonen, dass ihre Arbeit die Grenzen Standard-Genauigkeitsmetriken aufzeigt und die Notwendigkeit hervorhebt, zu verstehen, wie ein Modell zu einem Urteil gelangt, insbesondere wenn Quellen im Konflikt stehen. Sie räumen Einschränkungen hinsichtlich des Umfangs (binäres Fact-Checking, Ausschluss von Szenarien, in denen „beide Quellen inkorrekt sind“) und potenzieller Artefakte bei der Konstruktion von Kontrafakten ein, behaupten jedoch, dass die Kernbefunde bezüglich der Arbitrationsprofile über verschiedene Konfigurationen hinweg stabil bleiben.