Beyond Black-Box Interventions: Latent Probing for Faithful Retrieval-Augmented Generation

1. Problemstellung

Retrieval-Augmented Generation (RAG) Systeme haben sich als Paradigma etabliert, um Large Language Models (LLMs) mit externem, aktuellem Wissen zu erweitern. Ein kritisches Problem bleibt jedoch die kontextuelle Treue (Contextual Faithfulness):

• Wissenskonflikte: Wenn das abgerufene Kontextwissen mit dem parametrischen (internen) Wissen des Modells kollidiert, neigen LLMs dazu, ihr internes Wissen zu priorisieren und den Kontext zu ignorieren.
• Kontextuelles Rauschen: Irrelevante Informationen im Kontext lenken die Aufmerksamkeit des Modells ab und verschlechtern die Leistung.
• Limitationen bestehender Ansätze: Aktuelle Methoden (Prompting, Decoding-Optimierung, Preference Optimization) behandeln das LLM oft als „Black Box". Sie greifen extern in den Prozess ein, ohne zu verstehen, wie und warum Konflikte im internen Reasoning des Modells entstehen. Dies führt zu fragilen Lösungen, die stark von Daten abhängen und nicht kausal auf die internen Mechanismen eingreifen.

2. Methodik: ProbeRAG

Die Autoren schlagen ProbeRAG vor, einen Framework, der die „Black Box" öffnet und durch Latent Probing (Abtastung des latenten Raums) die internen Reasoning-Prozesse analysiert und steuert. Der Ansatz basiert auf zwei zentralen Entdeckungen:

1. Lineare Trennbarkeit: Zustände von konfliktbehaftetem und abgestimmtem (aligned) Wissen sind im latenten Raum des Modells linear trennbar.
2. Entropie durch Rauschen: Kontextuelles Rauschen erhöht systematisch die Entropie dieser Repräsentationen, was die Erkennung von Konflikten erschwert.

Der Framework besteht aus drei Schritten:

A. Fine-Grained Knowledge Pruning (Feingranulare Wissensbereinigung)

Um das Rauschen zu reduzieren, wird der abgerufene Kontext nicht als ganzer Block behandelt, sondern in feingranulare, atomare Fakten zerlegt.

• Ein externes LLM (z. B. GPT-4o) dekomponiert den Kontext in unabhängige Sätze.
• Diese Fakten werden basierend auf ihrer semantischen Ähnlichkeit zur Query gefiltert, um irrelevante Informationen zu entfernen.

B. Latent Conflict Probing (Latente Konflikterkennung)

Dies ist der Kern der Methode. Anstatt das Modell zu verändern, wird ein leichter Probe-Classifier (ein kleines neuronales Netz) trainiert, um den latenten Raum des Hauptmodells zu analysieren.

• Training: Der Probe wird auf Datensätzen wie MQuAKE trainiert, die Paare aus abgestimmtem und konfliktbehaftetem Wissen enthalten.
• Funktion: Der Probe nimmt die versteckten Zustände (Hidden States) des Modells für einen bestimmten Kontext-Fakt entgegen und klassifiziert, ob dieser Fakt mit dem internen Wissen des Modells kollidiert.
• Markierung: Konfliktbehaftete Fakten werden im Text mit speziellen Tokens (z. B. <conflict>) markiert, um dem Modell explizit zu signalisieren, wo Konflikte vorliegen.

C. Conflict-Aware Attention (Konfliktbewusste Aufmerksamkeit)

Um das Modell zu zwingen, den markierten Konflikten zu folgen, wird eine Attention-Guidance-Loss-Funktion eingeführt.

• Während des Fine-Tunings (SFT) wird ein zusätzlicher Loss-Term ($L_{Attn}$) berechnet, der die Aufmerksamkeit des Modells auf die Tokens der konfliktbehafteten Fakten verstärkt.
• Das Gesamtziel ist eine gewichtete Summe aus dem Standard-Language-Modeling-Loss und dem Attention-Loss: $L_{SFT} = (1-\lambda)L_{CE} + \lambda L_{Attn}$.
• Dies trainiert das Modell, seine Aufmerksamkeit aktiv auf die externen Beweise zu lenken, auch wenn diese seinem internen Wissen widersprechen.

3. Wichtige Beiträge

1. Analyse des internen Mechanismus: Die Arbeit liefert tiefgehende Einblicke, wie LLMs externes und internes Wissen integrieren. Sie zeigt, dass Konflikte als geometrisch trennbare Merkmale im latenten Raum existieren.
2. Neuer Framework-Ansatz: ProbeRAG verschiebt das Paradigma von externen Korrekturen hin zu interner Führung. Durch die Kombination von Wissensbereinigung, latenter Detektion und gezielter Aufmerksamkeitssteuerung wird die Treue signifikant verbessert.
3. Robustheit: Der Ansatz ist nicht auf spezifische Decoding-Strategien angewiesen und funktioniert über verschiedene Modellarchitekturen hinweg.

4. Ergebnisse

Die Evaluation erfolgte auf mehreren Benchmarks (FaithEval, ConFiQA, SQuAD) mit verschiedenen Open-Source-Modellen (LLaMA-3.1-8B, Qwen3-8B, Mistral-7B).

• Überlegene Leistung: ProbeRAG erzielt konsistent State-of-the-Art (SOTA) Ergebnisse und übertrifft starke Baselines (Prompt-basiert, Decoding-basiert, Training-basiert wie CANOE und Context-DPO) signifikant.
  • Beispiel: Auf dem ConFiQA-MC-Datensatz erreichte ProbeRAG mit LLaMA-3.1-8B einen F1-Score von 89,2 % (vs. 80,9 % bei CANOE) und einen EM-Score von 87,7 % (vs. 74,2 %).
• Ablationsstudien:
  • Das Entfernen der Latent Conflict Probing-Komponente führt zum stärksten Leistungsabfall, was die Wichtigkeit der internen Konflikterkennung unterstreicht.
  • Die Fine-Grained Pruning-Komponente ist essenziell, um Rauschen zu eliminieren, das die Konflikterkennung verschleiert.
  • Die Conflict-Aware Attention ist notwendig, um das Modell tatsächlich dazu zu bringen, den markierten Konflikten zu folgen, anstatt nur sie zu erkennen.
• Generalisierung: Der Ansatz funktioniert robust über verschiedene Modellgrößen und -typen hinweg.

5. Bedeutung und Fazit

Die Arbeit ist bedeutend, weil sie demonstriert, dass das Verständnis der internen Repräsentationen eines LLMs entscheidend für die Lösung von RAG-Problemen ist. Anstatt das Modell nur durch externe Prompts oder Decoding-Heuristiken zu „zwingen", nutzt ProbeRAG die lineare Struktur des latenten Raums, um Konflikte zu detektieren und die Aufmerksamkeit des Modells gezielt zu lenken.

Dies bietet einen prinzipiellen Weg, um die Halluzinationsneigung in RAG-Systemen zu reduzieren und sicherzustellen, dass das Modell auch bei widersprüchlichem Wissen dem bereitgestellten Kontext treu bleibt. Die Methode stellt einen wichtigen Schritt weg von rein empirischen Black-Box-Interventionen hin zu interpretierbaren, kausal fundierten Verbesserungen der Modellarchitektur dar.