💬 NLP

Faithfulness-QA: A Counterfactual Entity Substitution Dataset for Training Context-Faithful RAG Models

Dieser Beitrag stellt Faithfulness-QA vor, einen groß angelegten Datensatz mit fast 100.000 kontrafaktisch modifizierten QA-Stichproben, der entwickelt wurde, um Retrieval-Augmented-Generation-Modelle zu trainieren und zu evaluieren, priorisierten abgerufenen Kontext gegenüber internem parametrischem Gedächtnis zu bevorzugen und damit das kritische Problem untreuer Generierung anzugehen.

Ursprüngliche Autoren: Li Ju, Junzhe Wang, Qi Zhang

Veröffentlicht 2026-04-29

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Li Ju, Junzhe Wang, Qi Zhang

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich einen sehr klugen Schüler vor, der Millionen von Büchern gelesen und eine riesige Menge an Fakten auswendig gelernt hat. Dieser Schüler ist hervorragend im Beantworten von Fragen, hat aber eine schlechte Angewohnheit: Wenn Sie ihm einen neuen Artikel zum Lesen geben und eine Frage dazu stellen, ignoriert er den Artikel oft vollständig. Stattdessen spuckt er einfach das aus, was er aus seinem eigenen Gedächtnis weiß, selbst wenn dieses Gedächtnis falsch oder veraltet ist.

In der Welt der Künstlichen Intelligenz nennt man dies ein RAG-Modell (Retrieval-Augmented Generation). Das Ziel von RAG ist es, die KI den neuen Artikel (den „Kontext") lesen zu lassen und die Antwort ausschließlich darauf zu stützen. Doch oft ist die KI zu stur und verlässt sich stattdessen auf ihr „parametrisches Gedächtnis" (ihren vortrainierten Verstand).

Diese Arbeit stellt eine Lösung namens Faithfulness-QA vor. Stellen Sie sich dies als ein spezielles Trainingslager vor, das die KI dazu erziehen soll, tatsächlich auf den neuen Artikel zu hören.

Das Problem: Der „sture Schüler"

Normalerweise stimmen bei der Schulung dieser KI-Modelle die Frage und die Antwort im Artikel mit dem überein, was die KI bereits weiß. Die KI liefert also die richtige Antwort, aber wir wissen nicht, warum. Hat sie den Artikel gelesen? Oder hat sie einfach nur geraten, weil sie die Tatsache bereits kannte?

Es ist, als würde man einem Schüler fragen: „Wer war der erste Präsident der USA?", während man ihm ein Bild von George Washington zeigt. Wenn er „George Washington" sagt, könnte er das Bild gelesen haben, oder er könnte einfach nur das aufsagen, was er im Kindergarten auswendig gelernt hat. Wir können den Unterschied nicht erkennen.

Die Lösung: Die „Trickfrage"-Methode

Um dies zu beheben, erstellten die Forscher einen massiven Datensatz mit 99.094 „Trickfragen". Sie verwendeten eine clevere Methode namens Counterfactual Entity Substitution (Gegenfaktischer Entitätensubstitution).

So bauten sie ihn auf, anhand einer einfachen Analogie:

Das Ausgangsmaterial: Sie starteten mit zwei riesigen Bibliotheken bestehender Fragen und Antworten (SQuAD und TriviaQA).
Die „Entitäten-Bank": Sie bauten einen gigantischen digitalen Rolodex mit fast 77.000 Namen, Orten und Daten (wie „Paris", „Marie Curie" oder „4. Juli").
Der Tausch: Für jede Frage fanden sie den spezifischen Namen oder Ort in der Geschichte (die „antworttragende Entität") und tauschten ihn gegen einen anderen aus ihrem Rolodex aus, der in dieselbe Kategorie passt.
- Originalgeschichte: „Die Jungfrau Maria erschien Saint Bernadette im Jahr 1858."
- Der Tausch: Sie ersetzten „Saint Bernadette" durch „Kiyomori" (eine andere Person).
- Neue Geschichte: „Die Jungfrau Maria erschien Kiyomori im Jahr 1858."
Der Konflikt: Jetzt sagt das Gedächtnis der KI: „Es war Saint Bernadette!", aber die neue Geschichte sagt: „Es war Kiyomori!"

Warum dies funktioniert

Dies erzeugt einen Wissenskonflikt. Die KI ist gezwungen, eine Wahl zu treffen:

Option A: Ignoriere die Geschichte und gib die Antwort aus ihrem Gedächtnis (Saint Bernadette).
Option B: Ignoriere ihr Gedächtnis und vertraue der Geschichte (Kiyomori).

Wenn die KI „treu" ist, muss sie Option B wählen. Durch das Training mit Tausenden solcher Konflikte lernt die KI, dass bei einem Konflikt die neue Geschichte der Boss ist.

Die Qualitätskontrolle

Die Forscher tauschten nicht einfach wahllos Wörter aus; sie bauten einen strengen „Qualitätsfilter" (wie einen sehr wählerischen Redakteur).

Sie prüften, ob der neue Name tatsächlich in den Satz passte.
Sie stellten sicher, dass die Geschichte nicht zu kurz oder kaputt war.
Sie verifizierten, dass der neue Name nicht bereits in der Geschichte vorkam.

Sie testeten dies an einer zufälligen Stichprobe von 200 Geschichten, und 100 % davon bestanden diese Prüfungen. Der endgültige Datensatz ist riesig (99.000 Proben) und deckt acht verschiedene Arten von Entitäten ab, wie Personen, Organisationen, Daten und Orte.

Was sie uns gegeben haben

Die Arbeit veröffentlicht drei Hauptdinge für die Öffentlichkeit:

Der Datensatz: Die 99.000 Trickfragen, bereit für das Training.
Die Pipeline: Der Code, der automatisch diese Trickfragen erstellt.
Die Entitäten-Bank: Die Liste der 77.000 Namen und Orte, die für die Tauschvorgänge verwendet wurden.

Das Fazit

Die Arbeit behauptet, dass wir durch die Verwendung dieses Datensatzes KI-Modelle trainieren können, damit sie aufhören, „sture Schüler" zu sein, die neue Informationen ignorieren. Stattdessen werden sie zu „treuen Lesern", die den Text vor ihnen über das stellen, was sie zu wissen glauben. Die Autoren stellen fest, dass das System zwar sehr gut darin ist, Namen auszutauschen, es Pronomen nicht korrigiert (wie das Ändern von „er" zu „sie", wenn sich der Name ändert), und es derzeit nur auf Englisch funktioniert. Aber für seinen spezifischen Zweck – der KI beizubringen, dem Kontext mehr zu vertrauen als ihrem Gedächtnis – ist dies ein massives, hochwertiges neues Werkzeug.

1. Problemstellung

Retrieval-Augmented Generation (RAG)-Systeme sollen Large Language Models (LLMs) auf externe Evidenz gründen. Ein kritischer Fehlermodus, bekannt als Unfaithfulness (Unzuverlässigkeit), tritt jedoch auf, wenn Modelle den abgerufenen Kontext ignorieren und stattdessen auf ihr internes parametrisches Gedächtnis (Wissen, das während des Pre-Trainings erworben wurde) zurückgreifen.

Ursache: Standard-Verluste für die Vorhersage des nächsten Tokens behandeln alle Tokens gleich und unterscheiden nicht zwischen kontextbasierten Informationen und auswendig gelerntem Faktenwissen. Ohne explizite Trainingssignale, die kontextuelle Verankerung belohnen, greifen Modelle bei Konflikten standardmäßig auf internes Wissen zurück.
Lücke: Bestehende Lösungen konzentrieren sich entweder auf die Konfliktlösung zur Inferenzzeit (z. B. Self-RAG, FaithfulRAG) oder bieten Evaluierungsbenchmarks mit kleinem Umfang (z. B. FaithEval mit ca. 4.900 Proben). Es fehlt an großskaligen, hochwertigen Trainingsdaten, die speziell entwickelt wurden, um Modelle durch kontrollierte Wissenskonflikte dazu zu zwingen, abgerufenen Kontextem vor dem internen Gedächtnis zu priorisieren.

2. Methodik: Aufbau von Faithfulness-QA

Die Autoren schlagen Faithfulness-QA vor, einen Datensatz mit 99.094 Proben, der über eine vollständig automatisierte, vierstufige Pipeline erstellt wurde. Der Kernmechanismus ist der Counterfactual Entity Substitution (Gegenfaktischer Entitäten-Ersatz), der künstliche Konflikte zwischen dem Kontext und dem wahrscheinlichen parametrischen Wissen des Modells erzeugt.

A. Quelldaten

Der Datensatz basiert auf zwei komplementären extraktiven QA-Benchmarks:

SQuAD: 87.599 Paare (Wikipedia-Absätze, Medianlänge 701 Zeichen).
TriviaQA: 87.041 Paare (Längere Evidenzdokumente, Medianlänge 1.581 Zeichen).

B. Die Vier-Stufen-Pipeline

Aufbau des Entitätenbestands:
- Extraktion benannter Entitäten aus den Quellkontexten mittels des NER-Modells en_core_web_lg von SpaCy.
- Kuratierung eines Bestands von 76.953 einzigartigen Entitäten über 8 Typen: PERSON, GPE, ORG, DATE, CARDINAL, NORP, LOC und EVENT.
- Filterung der Entitäten nach Länge (2–100 Zeichen).
Abgleich Antwort–Entität:
- Für jede QA-Probe $(q, c, a)$ versucht das System, die Antwort $a$ mit einer erkannten NER-Entität im Kontext $c$ abzugleichen.
- Verwendung einer Drei-Strategien-Kaskade: Exakter Abgleich, Teilstring-Abgleich und Positional-Überlappung.
- Proben, die keine benannte Entität abgleichen, werden herausgefiltert (dies ist die primäre Engstelle).
Counterfactual Entity Substitution (Kernschritt):
- Identifikation der ursprünglichen Antwort-Entität ( $e_{orig}$ ) und ihres Typs ( $t$ ).
- Auswahl einer Ersatz-Entität ( $e_{new}$ ) aus dem Bestand, die denselben Typ $t$ teilt, sich aber von $e_{orig}$ unterscheidet.
- Erzwingung der Längenkompatibilität ( $0.3 \le |e_{new}|/|e_{orig}| \le 3.0$ ).
- Globaler Ersatz: Ersetzt alle case-insensitiven Vorkommen von $e_{orig}$ durch $e_{new}$ im Kontext, um $c'$ zu erstellen.
- Die neue „zuverlässige" Antwort wird zu $e_{new}$ .
Qualitätsfilterung und Aufteilung:
- Anwendung von 6 regelbasierten Prüfungen (z. B. Sicherstellen, dass die neue Entität im modifizierten Kontext enthalten ist, die ursprüngliche entfernt wurde, die Kontextlänge ausreicht, keine übermäßigen Ersetzungen).
- Aufteilung der bestandenen Proben in Train/Dev/Test (80/10/10) mit einem festen Seed (42).
- Die gesamte Pipeline ist deterministisch, läuft auf einer einzelnen CPU in ca. 5,5 Stunden und benötigt keine GPU.

3. Hauptbeiträge

Faithfulness-QA-Datensatz: Eine großskalige Ressource (99.000 Proben), die speziell entwickelt wurde, um RAG-Modelle zu trainieren, dem Kontext vor dem parametrischen Gedächtnis zu folgen. Sie ist etwa 20-mal größer als bestehende Benchmarks zur Evaluierung von Zuverlässigkeit.
Automatisierte Aufbau-Pipeline: Eine vollständig automatisierte, quelloffene Pipeline, die eine Erfolgsrate von 56,7 % bei der Substitution und 100 % Qualitätsbestehensraten bei geprüften Proben erreicht.
Typisierter Entitätenbestand: Eine wiederverwendbare Ressource mit 76.953 Entitäten über 8 Kategorien, die eine reproduzierbare und erweiterbare Datensatzerstellung ermöglicht.
Umfassende Analyse: Detaillierte statistische Analyse von Entitätsverteilungen, Kontextlängen und Fehlermodi, die die Komplementarität der SQuAD- und TriviaQA-Quellen demonstriert.

4. Ergebnisse und Statistiken

Umfang: Insgesamt 99.094 Proben (49.094 aus SQuAD, 50.000 aus TriviaQA).
Erfolgsrate: Insgesamt 56,7 % (56,0 % für SQuAD, 57,4 % für TriviaQA).
Fehleranalyse: Der Hauptgrund für das Herausfiltern (64,0 %) ist das Fehlen einer passenden NER-Entität (z. B. sind Antworten beschreibende Phrasen oder boolesche Werte). Dies ist ein bewusster Kompromiss, um typenkonsistente, wohldefinierte Ersetzungen sicherzustellen.
Qualitätsaudit: Ein zufälliges Audit von 200 Proben erreichte 100 % Bestehensraten in vier Dimensionen: Vorhandensein der Ersetzung, Entfernung des Originals, Kontextmodifikation und Längenverhältnis.
Entitätsverteilung:
- TriviaQA wird von PERSON-Entitäten dominiert (45,7 %).
- SQuAD zeigt eine gleichmäßigere Verteilung über ORG, DATE und PERSON.
- Die Kombination gewährleistet eine breite Abdeckung und mildert typspezifisches Overfitting.

5. Bedeutung und Anwendungen

Faithfulness-QA schließt eine kritische Lücke im RAG-Ökosystem, indem es den Fokus von der Evaluierung von Zuverlässigkeit auf das Training dafür verlagert.

Zuverlässigkeitsbewusstes Fine-Tuning: Ermöglicht das Training von Modellen, um das parametrische Gedächtnis zu überschreiben, wenn es im Konflikt mit abgerufenen Evidenzen steht.
Auf Aufmerksamkeit basierende Verlustfunktionen: Die expliziten Modifikationsbereiche ermöglichen eine Überwachung der Cross-Attention-Gewichte und ermutigen Modelle, den Kontext zu beachten.
Forschung zu Wissenskonflikten: Bietet eine kontrollierte Umgebung, um zu untersuchen, wie LLMs Konflikte zwischen externer Evidenz und internen Überzeugungen lösen.
Komplementarität: Während FaithEval als Benchmark für die Evaluierung dient, fungiert Faithfulness-QA als Trainingsressource, um Modelle zu entwickeln, die solche Benchmarks bestehen können.

6. Einschränkungen und zukünftige Arbeiten

Einschränkungen:
- Keine Coreferenzauflösung (Pronomen, die sich auf ersetzte Entitäten beziehen, werden nicht aktualisiert).
- Verlässt sich auf regelbasierte Filterung statt auf NLI-Modelle für semantische Konsistenz.
- Einige Ersetzungen können syntaktisch gültig, aber semantisch unplausibel sein (z. B. „Amritsar, Illinois").
- Derzeit auf Englisch beschränkt.
Zukünftige Richtungen: Integration von Coreferenzauflösung, Verwendung von LLMs für das Entitäten-Matching zur Verbesserung der Erfolgsraten, Anwendung von NLI-basierter Filterung und Durchführung von Downstream-Trainingsexperimenten mit quelloffenen LLMs (Llama-3, Mistral, Qwen).

Fazit: Faithfulness-QA bietet die notwendige Infrastruktur, um RAG-Systeme von „retrieval-augmented" zu „retrieval-faithful" zu entwickeln und sicherzustellen, dass Modelle sich tatsächlich auf die ihnen bereitgestellte Evidenz verlassen und nicht auf ihre vortrainierten Verzerrungen.