💬 NLP

FilterRAG: Zero-Shot Informed Retrieval-Augmented Generation to Mitigate Hallucinations in VQA

Das Paper stellt FilterRAG vor, ein Zero-Shot-Retrieval-Augmented-Generation-Framework, das BLIP-VQA mit externen Wissensquellen wie Wikipedia und DBpedia integriert, um Halluzinationen signifikant zu reduzieren und die Genauigkeit bei Visual Question Answering, insbesondere in wissensgesteuerten und Out-of-Distribution-Szenarien, zu verbessern.

Ursprüngliche Autoren: Nobin Sarwar

Veröffentlicht 2026-01-27

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Nobin Sarwar

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind auf einer Party und jemand zeigt Ihnen ein Bild eines Hot Dogs mit seltsamen Toppings und fragt: „Was ist das?“ Wenn Sie dieses spezifische Topping noch nie gesehen haben, versucht Ihr Gehirn vielleicht, basierend auf dem, was Sie zu sehen glauben, zu raten. Sie sagen vielleicht: „Das ist wahrscheinlich Senf“, obwohl es eigentlich Relish ist. In der Welt der Künstlichen Intelligenz wird dieses Ratespiel als Halluzination bezeichnet. Die KI ist zwar selbstbewusst, aber sie liegt falsch.

Dieses Paper stellt ein neues System namens FilterRAG vor, um diese selbstbewussten Fehler der KI zu stoppen, insbesondere wenn sie auf Dinge stößt, die sie in ihren Trainingsdaten noch nicht gesehen hat.

So funktioniert es, unterteilt in einfache Konzepte:

1. Das Problem: Der „Besserwisser“, der rät

Aktuelle KI-Modelle (wie jene, die ein Bild betrachten und Fragen dazu beantworten können) sind sehr gut darin, zu beschreiben, was sie sehen. Aber wenn man ihnen eine Frage stellt, die externes Wissen erfordert – wie „Für welchen Sport wird dieses Motorrad verwendet?“ oder „Was ist dieses spezifische Gewürz?“ – haben sie oft Schwierigkeiten.

Ohne eine Möglichkeit, Fakten zu prüfen, verlassen sich diese Modelle auf ihre „Erinnerungen“ aus dem Training. Wenn die Trainingsdaten voreingenommen oder unvollständig sind, rät die KI. Es ist wie ein Schüler, der eine Prüfung schreibt, für das er das spezifische Kapitel nicht gelernt hat; er versucht, eine Antwort vorzutäuschen, die gut klingt, aber eigentlich falsch ist.

2. Die Lösung: Der „Bibliothekar“-Ansatz

Die Autoren haben FilterRAG entwickelt. Betrachten Sie dieses System als einen Schüler, der während der Prüfung eine Bibliothek benutzen darf.

Der Schüler (BLIP-VQA): Dies ist der Teil der KI, der das Bild betrachtet und die Frage liest. Er ist intelligent darin, Bilder zu sehen, braucht aber Hilfe bei den Fakten.
Die Bibliothek (Wikipedia & DBpedia): Anstatt zu raten, hält das System inne und läuft in eine digitale Bibliothek. Es sucht nach realen Fakten über das Bild und die Frage.
Der Bibliothekar (GPT-Neo): Dies ist der Teil, der die Fakten liest, die die Bibliothek gefunden hat, und die endgültige Antwort schreibt.

Indem das System die KI dazu zwingt, „in der Bibliothek nachzuschauen“, bevor sie antwortet, stoppt es das Raten und beginnt, Fakten zu nutzen.

3. So funktioniert es Schritt für Schritt

Das Paper beschreibt einen spezifischen Prozess, den wir uns wie die Zubereitung einer Mahlzeit vorstellen können:

Das Zerteilen der Zutaten (Das Gitter): Das System nimmt das Bild und schneidet es in ein 2x2-Gitter (vier Quadrate).
- Warum? Wenn man ein Foto in zu viele winzige Stücke schneidet (wie ein 4x4-Gitter), verliert man das Gesamtbild und die KI wird verwirrt. Wenn man es als einen großen Block lässt, übersieht man die kleinen Details. Das 2x2-Gitter ist die „Goldlöckchen-Größe“ – es hält das Bild kohärent und dennoch detailliert genug.
Das Bild betrachten: Das System analysiert diese vier Quadrate zusammen mit der Frage.
Die Suche: Es sendet eine Abfrage an die „Bibliothek“ (Wikipedia und DBpedia), um relevante Fakten zu finden. Für die Frage zum Motorrad findet es vielleicht Fakten über „Motocross“. Für den Hot Dog findet es vielleicht Fakten über „Relish“.
Die Zusammenstellung: Das System kombiniert das Bild, die Frage und die neuen Fakten, die es gerade gefunden hat.
Die Antwort: Ein fertiges Sprachmodell (GPT-Neo) liest all diese kombinierten Informationen und schreibt die Antwort. Da es die Fakten hat, muss es nicht raten.

4. Die Ergebnisse: Besser im „Unbekannten“

Die Forscher haben dies auf einem Datensatz namens OK-VQA getestet, der voller kniffliger Fragen ist, die externes Wissen erfordern.

Die Baseline: Standard-KI-Modelle (oh、ne die Bibliothek) beantworteten etwa 40 % der Antworten bei diesen schwierigen Fragen richtig. Sie haben viel halluziniert.
FilterRAG: Das neue System erreichte eine Genauigkeit von 36,5 %.
- Warte, ist das nicht niedriger? Das Paper stellt fest, dass FilterRAG zwar eine etwas niedrigere Rohzahl als einige massive, superkomplexe Systeme erreicht, die riesige Computer nutzen, aber FilterRAG viel effizienter ist. Es balanciert Leistung mit Geschwindigkeit und Kosten.
- Der wahre Gewinn: Das System war deutlich besser in Out-of-Distribution (OOD) Szenarien. Das bedeutet, wenn die KI etwas völlig Neues oder Seltsames sah (wie ein Motorrad in einem Kontext, den sie bisher nicht gesehen hatte), war sie weniger wahrscheinlich zur Halluzination geneigt. Sie blieb an Fakten orientiert, anstatt Dinge zu erfinden.

5. Der „Grounding Score“

Um zu beweisen, dass die KI nicht nur rät, haben die Autoren einen „Grounding Score“ verwendet. Stellen Sie sich dies als einen Wahrheitsmesser vor.

Wenn die KI „Senf“ sagt, die Bibliothek aber „Relish“ sagt, sinkt der Score.
Wenn die KI „Relish“ sagt, weil die Bibliothek „Relish“ sagte, bleibt der Score hoch.
FilterRAG hielt seinen Wahrheitsmesser auch bei schwierigen Fragen hoch, was bewies, dass es tatsächlich die gefundenen Fakten nutzt und nicht einfach Geschichten erfindet.

Zusammenfassung

FilterRAG ist wie das Geben eines Spickzettels (einer Suchmaschine) an eine KI während einer Prüfung. Anstatt sich auf ihr eigenes fehlerhaftes Gedächtnis zu verlassen, um die Antwort auf eine knifflige Frage über einen Hot Dog oder ein Motorrad zu erraten, schaut sie die Antwort in einer zuverlässigen Datenbank nach. Dies verhindert, dass sie selbstbewusst das Falsche sagt, was sie für den realen Einsatz, in dem sie auf Dinge treffen könnte, die sie noch nie zuvor gesehen hat, sicherer und zuverlässiger macht.

Technisches Resümee: FilterRAG

Problemstellung
Systeme für das visuelle Beantworten von Fragen (Visual Question Answering, VQA) erfordern Modelle, die visuelle Wahrnehmung mit textlichem Verständnis integrieren, um präzise Antworten zu generenieren. Bestehende Vision-Language-Modelle (VLMs) wie BLIP und CLIP leiden jedoch häufig unter „Halluzinationen“ – sie produzieren plausible, aber falsche Antworten –, insbesondere wenn sie mit wissensintensiven Fragen oder Out-of-Distribution (OOD)-Eingaben konfrontiert werden. Diese Fehler resultieren oft aus einer übermäßigen Abhängigkeit von gelernten Biases oder einem Mangel an Zugang zu relevantem externem Wissen, was die Robustheit von VQA-Systemen in realen, dynamischen Umgebungen einschränkt, in denen Konzepte während des Trainings möglicherweise nicht vorhanden waren.

Methodik: FilterRAG
Um diese Einschränkungen zu adressieren, führen die Autoren FilterRAG ein, ein Retrieval-Augmented-Framework, das darauf ausgelegt ist, VQA-Antworten in externen Wissensquellen (speziell Wikipedia und DBpedia) zu verankern, um Halluzinationen zu minimieren. Das System arbeitet durch einen mehrstufigen Prozess, der in Abbildung 2 illustriert wird:

Visuelle Vorverarbeitung: Eingabebilder werden in ein Raster unterteilt (speziell ein 2x2-Raster, das mittels Ablationsstudien als optimal bestimmt wurde), um ein Gleichgewicht zwischen visueller Detailgenauigkeit und Kohärenz zu wahren.
Multimodale Kodierung: Das BLIP-VQA-Modell (unter Verwendung seiner Multimodal Mixture of Encoder-Decoder Architektur) generiert visuelle und textuelle Embeddings aus dem Bild und der zugehörigen Frage.
Wissensabruf (Knowledge Retrieval): Das System ruft dynamisch relevanten Kontext aus externen Datenbanken ab:
- Wikipedia: Zugriff erfolgt über eine suchbasierte Abfrage und eine zusammenfassungsbasierte Extraktion.
- DBpedia: Zugriff erfolgt via SPARQL-Abfragen.
Augmentierung und Generierung: Das abgerufene Wissen wird mit dem Bild-Frage-Paar kombiert, um den Kontext anzureichern. Ein eingefrorener GPT-Neo 1.3B (Decoder-only) nutzt diese augmentierten Informationen anschließend, um die finale Antwort zu generieren.
Zero-Shot-Lernen: Das Framework operiert in einem Zero-Shot-Szenario, was bedeutet, dass es keine aufgabenspezifische Feinabstimmung auf dem Zieldatensatz erfordert. Es nutzt die vortrainierten Fähigkeiten von BLIP-VQA und GPT-Neo, um auf ungesehene Domänen zu generalisieren.

Die Methodik beinhaltet zudem einen OOD-Detektionsmechanismus mittels einer Scoring-Funktion $S(I, Q)$ und eines Schwellenwerts $\lambda$ , um zwischen In-Distribution (ID) und Out-of-Distribution (OOD) Eingaben zu unterscheiden. Halluzinationen werden weiter durch einen „Grounding Score“ quantifiziert, der über die Kosinus-Ähnlichkeit zwischen dem Embedding der vorhergesagten Antwort und den Ground-Truth-Embeddings (unter Verwendung von Sentence Transformers) berechnet wird, wobei ein Wert unter einem Schwellenwert $\tau$ eine Halluzination anzeigt.

Zentrale Beiträge
Das Paper skizziert drei primäre Beiträge:

FilterRAG-Framework: Ein neuartiger Retrieval-Augmented-Ansatz, der VQA-Antworten in externen Wissensquellen verankert, um Halluzinationen zu reduzieren.
Anwendung von Zero-Shot-Lernen: Demonstration, wie Zero-Shot-Lernen den Wissensabruf verbessern und Halluzinationen speziell in OOD-Szenarien reduzieren kann, ohne dass ein Fine-Tuning erforderlich ist.
Umfassende Evaluierung: Eine rigorose Evaluierung auf dem OK-VQA-Datensatz, welche die Robustheit und Zuverlässigkeit in wissensintensiven Aufgaben sowohl in In-Domain- als auch in OOD-Settings bewertet.

Experimentelle Ergebnisse
Die Autoren evaluierten FilterRAG auf dem OK-VQA-Datensatz, einem Benchmark, der externes Wissen erfordert, das über den Bildinhalt hinausgeht. Die wichtigsten Erkenntnisse umfassen:

Genauigkeit: FilterRAG erreichte eine Genauigkeit von 36,5 % auf dem OK-VQA-Datensatz. In spezifischen Settings erreichte es 37,0 % für In-Distribution (ID) und 36,0 % für Out-of-Distribution (OOD) Daten.
Vergleich: Obwohl das Framework im Vergleich zu einigen State-of-the-Art Ensemble-Methoden (z. B. KAT mit 54,41 % oder REVIVE mit 58,0 %) eine geringere absolute Genauigkeit erzielte, merken die Autoren an, dass diese Methoden oft signifikant größere Modelle (z. B. Frozen GPT-3 175B) und einen größeren Rechenaufwand erfordern. FilterRAG zielt darauf ab, Leistung mit Effizienz unter Verwendung eingefrorener, kleinerer Modelle (BLIP-VQA und GPT-Neo 1.3B) in Einklang zu bringen.
Mitigierung von Halluzinationen: Die Grounding Scores für FilterRAG waren konsistent über ID (70,06 %), OOD (70,68 %) und kombinierte Settings (70,37 %). Diese Konsistenz deutet darauf hin, dass das Modell Antworten effektiv in dem abgerufenen Wissen verankert und so die Wahrscheinlichkeit von Halluzinationen im Vergleich zu Baseline-Modellen verringert, deren Grounding Scores beim Übergang von allgemeinem VQA zu wissensbasiertem VQA signifikant sinken.
Ablationsstudie: Experimente mit unterschiedlichen Bild-Rastergrößen (2x2, 3x3, 4x4) zeigten, dass das 2x2-Raster den besten Kompromiss zwischen Genauigkeit und Grounding Score bot. Größere Raster (3x3, 4x4) führten zu einer übermäßigen Fragmentierung, was die Fähigkeit des Modells behinderte, kohärente visuelle Merkmale zu extrahieren und diese mit dem abgerufenen Wissen abzugleichen.

Bedeutung und Ansprüche
Das Paper behauptet, dass FilterRAG das Potenzial von Retrieval-Augmented-Frameworks aufzeigt, VQA-Systeme für den realen Einsatz zu verbessern, insbesondere in Szenarien mit OOD-Inputs. Durch die Integration externer Wissensquellen verbessert das Framework die Robustheit und Zuverlässigkeit von VQA-Systemen und stellt sicher, dass Antworten faktisch fundiert sind, anstatt sich ausschließlich auf gelernte Biases zu verlassen. Die Autoren positionieren FilterRAG als eine Lösung, die die Generalisierung über die Trainings-Wissensbasis hinaus verbessert und es somit für dynamische Umgebungen geeignet macht, in denen ungesehene Konzepte häufig vorkommen. Als zukünftige Arbeit wird die weitere Verbesserung der Qualität des Wissensabrufs sowie die Verfeinerung des multimodalen Alignments identifiziert, um Halluzinationen weiter zu reduzieren.