🤖 machine learning

Diagnosing Visual Ignorance in Vision-Language Models

Diese Arbeit untersucht die systematische Abhängigkeit von Vision-Language-Modellen von Sprach-Priors gegenüber visueller Evidenz, indem sie interne Routing-Fehler durch eine schichtweise Analyse aufdeckt und demonstriert, dass aktuelle Benchmarks oft visuelle Ignoranz durch eine Metrik des progressiven visuellen Verfalls belohnen.

Ursprüngliche Autoren: Runyu Zhou, Qi Zhang, Qixun Wang, Yisen Wang

Veröffentlicht 2026-06-08

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Runyu Zhou, Qi Zhang, Qixun Wang, Yisen Wang

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das große Ganze: Der „schlaue“ Schüler, der nicht hinsieht

Stellen Sie sich einen Schüler vor, der eine Prüfung ablegt. Dieser Schüler hat Millionen von Büchern gelesen und kennt die Antworten auf fast jede Frage basierend auf dem, was er zuvor gelesen hat. Die Prüfung enthält jedoch auch Bilder, die als Quelle der Antworten dienen sollen.

Das Problem, das diese Arbeit findet, ist, dass dieser Schüler die Bilder oft ignoriert. Selbst wenn das Bild verschwommen, auf dem Kopf stehend oder komplett schwarz ist, schreibt der Schüler selbstbewusst die Antwort auf, die er basierend auf seinem gelesenen Wissen für „am wahrscheinlichsten“ hält, und nicht das, was tatsächlich im Bild zu sehen ist. Die Arbeit nennt dies „Visuelle Ignoranz“ (Visual Ignorance).

Die Forscher wollten herausfinden:

Wie entscheidet das Modell dazu, das Bild zu ignorieren? (Der interne Mechanismus)
Wie schlimm ist dieses Problem bei Standardtests? (Das externe Verhalten)

Teil 1: Im Inneren der Maschine (Die „Fabrik“-Analogie)

Um zu verstehen, wie das Modell arbeitet, stellen Sie sich das Gehirn der KI wie ein langes Fließband einer Fabrik mit über 30 Stationen (Layern/Schichten) vor. Das Bild und die Frage treten am Anfang ein, und die endgültige Antwort kommt am Ende heraus.

Die Forscher entdeckten, dass die Fabrik einen zweistufigen Zusammenbruch hat:

Die mittleren Stationen (Das „Verlorenes Paket“-Problem):
In der Mitte des Fließbands sollen die Arbeiter (Layer) die visuellen Details aus dem Bild erfassen. Aber oft lassen sie das Paket fallen. Sie versäumen es, die spezifischen, winzigen Details aufzugreifen (wie zum Beispiel genau zu zählen, wie viele Beine ein Tier hat). Sie sind zu sehr damit beschäftigt, auf die Textanweisungen zu achten.
Die letzten Stationen (Das „Übersteuernde Manager“-Problem):
Selbst wenn ein Arbeiter in der Mitte es tatsächlich geschafft hat, das korrekte visuelle Detail zu greifen, werfen die Manager am Ende der Linie (die letzten Layer) es oft weg. Sie sagen: „Nein, das passt nicht zu dem, was wir aus unseren Büchern wissen.“ Sie unterdrücken aktiv die visuelle Wahrheit und ersetzen sie durch eine Vermutung, die auf Sprachmustern basiert.

Das Experiment:
Die Forscher versuchten, die Arbeiter an verschiedenen Stationen durch „schlaue“ Arbeiter auszutauschen, die darauf trainiert waren, auf Bilder zu achten.

Ergebnis: Den Austausch der letzten Manager vorzunehmen, half ein wenig, aber nicht viel. Den Austausch der mittleren Arbeiter vorzunehmen, half ein wenig, aber nicht viel. Sie mussten beide austauschen, um das Problem zu lösen. Dies bewies, dass die „visuelle Ignoranz“ eine Teamleistung zwischen der Mitte und dem Ende des Gehirns ist.

Teil 2: Der „Verschwommene Foto“-Test (Die „Blinzel“-Analogie)

Um zu sehen, wie schlimm dieses Problem bei realen Tests ist, erfanden die Forscher eine neue Art, die Modelle zu bewerten.

Stellen Sie sich vor, Sie machen einen Multiple-Choice-Test. Normalerweise würden Sie raten, wenn Sie die Antwort nicht wissen. Aber wenn der Test schwierig ist, könnten Sie Glück haben. Um den Modellen dieses Glück zu nehmen, verwendeten die Forscher einen „Progressiven Unschärfe“-Test (Progressive Blur):

Sie nahmen ein klares Foto und stellten eine Frage.
Dann machten sie das Foto leicht unscharf (wie beim Blinzeln).
Dann machten sie es sehr unscharf (wie beim Blick durch ein beschlagenes Fenster).
Schließlich machten sie daraus einen komplett grauen Fleck (kein Bild mehr vorhanden).

Die Metrik:
Sie prüften: Gab das Modell bei jedem Schritt exakt dieselbe Antwort?

Wenn das Modell seine Antwort änderte, während das Bild unschärfer wurde, schaute es tatsächlich auf das Bild.
Wenn das Modell die gleiche Antwort gab, selbst als das Bild nur noch ein grauer Fleck war, bedeutete dies, dass das Modell das Bild völlig ignorierte und stattdessen basierend auf Sprachmustern rät.

Das schockierende Ergebnis:
Bei vielen populären Tests wurden 20 % bis 40 % der Fragen korrekt beantwortet, selbst wenn das Bild vollständig zerstört worden war. Die Modelle „schummelten“ im Grunde, indem sie ihr Gedächtnis an Sprachmuster nutzten, anstatt auf die visuellen Beweise zu schauen.

Teil 3: Warum das wichtig ist (Die „Schlechte Landkarte“-Analogie)

Die Arbeit argumentiert, dass unsere aktuelle Art, KI zu testen, wie eine schlechte Landkarte ist.

Das Problem: Die Tests (Benchmarks) sind so konzipiert, dass sie der KI das „Schummeln“ ermöglichen. Da die Fragen oft Muster aufweisen, die man allein durch das Lesen der Wörter lösen kann, lernt die KI, den schwierigen Teil (das Hinsehen auf das Bild) zu überspringen.
Die Konsequenz: Wir glauben, die KI werde intelligenter, weil ihre Punktzahlen hoch sind, aber sie wird eigentlich nur besser darin, basierend auf Text zu raten. Es ist wie ein Schüler, der den Lösungsschlüssel auswendig lernt, anstatt das Fach zu lernen.

Das Fazgest: Wie man es löst

Die Arbeit legt nahe, dass wir die KI nicht einfach nur größer oder schlauer machen können; wir müssen das Spiel ändern.

Die Fabrik reparieren: Wir müssen die „mittleren“ und „letzten“ Arbeiter darauf trainieren, zusammenzuarbeiten, um sicherzustellen, dass visuelle Informationen nicht weggeworfen werden.
Die Landkarte reparieren: Wir müssen neue Tests entwickeln, bei denen die Antwort nicht allein aus dem Text erraten werden kann. Die Fragen müssen so gestaltet sein, dass man das Rätsel schlichtweg nicht lösen kann, wenn man nicht auf das Bild schaut.

Kurz gesagt: Die KI „halluziniert“ derzeit visuelle Details, weil sie ihren Lesegewohnheiten mehr vertraut als ihren Augen. Die Forscher haben genau gefunden, wo dies im Gehirn passiert, und bewiesen, dass unsere aktuellen Tests zu einfach sind und der KI erlauben, nicht hinzuschauen.

Technisches Resümee: Diagnose der visuellen Ignoranz in Vision-Language-Modellen

Problemstellung

Vision-Language-Modelle (VLMs) zeigen häufig „visuelle Ignoranz“ – ein Phänomen, bei dem Modelle selbstbewusste Antworten basierend auf etablierten Sprach-Priors (Vorannahmen) generieren, anstatt auf visuellen Belegen zu basieren. Während diese Verhaltensweise gut dokumentiert ist, bleiben die internen Mechanismen, die diese Abhängigkeit antreiben, sowie deren spezifische Auswirkungen auf die Validität von Benchmarks unzureichlich verstanden. Die aktuelle Literatur legt nahe, dass die bloße Skalierung der Parameter das Problem nicht löst; Modelle synthetisieren weiterhin illusorische Details, selbst wenn Bilder fehlen (der „Mirage-Effekt“). Während Vision-Encoder oft geometrische Primitiven bewahren, versagt das integrierte VLM bei deren Nutzung, was auf einen Engpass in der Informationsrouting- und Suppressionsleistung innerhalb des Sprach-Decoder-Stacks hindeutet, statt auf ein Versagen der initialen visuellen Wahrnehmung. Bestehende Evaluierungsmethoden scheitern oft daran, zwischen echtem multimodalen Verständnis und der Nutzung textueller Abkürzungen zu unterscheiden, wodurch Modelle unbeabsichtigt belohnt werden, die visuelle Eingaben ignorieren.

Methodik

Die Autoren schlagen ein duales Perspektiv-Framework vor, um die Abhängigkeit von Sprach-Priors zu diagnostizieren, indem sie sowohl die internen Mechanismen des Modells als als auch die externen behavioralen Manifestationen über Standard-Benchmarks hinweg analysieren.

1. Interne mechanistische Analyse

Um zu verfolgen, wie visuelle Semantik der Grundwahrheit mit der Semantik der Sprach-Priors konkurriert, setzen die Autoren zwei komplementäre Techniken ein:

Counterfactual Layer Replacement (Kontrafaktischer Schichtersatz): Die Autoren feinjustieren eine debiasierte Variante des Sprach-Decoders (unter Verwendung des VLMBias-Datensatzes) und ersetzen systematisch Schichten im Basismodell durch jene der feinjustierten Version. Dies isoliert die kausalen Beiträge spezifischer Schichtbereiche (intermediär vs. spät) zur Abhängigkeit von Sprach-Priors.
Supervised Layer-wise MLP Probing (Überwachtes schichtweises MLP-Probing): Im Gegensatz zu Zero-Shot-Vokabularprojektionen (z. B. LogitLens), die in frühen Schichten instabil sein können, trainieren die Autoren überwachte Multi-Layer-Perceptron (MLP)-Klassifikatoren auf den Hidden States jeder Decoder-Schicht. Unter Verwendung des Pixmo-Count-Datensatzes bilden diese Probes die rohen Hidden States auf Wahrscheinlichkeitsverteilungen über die Ground-Truth-Antworten versus die Sprach-Prior-Antworten ab, wodurch die dynamische Evolution des semantischen Wettbewerbs über die Transformer-Tiefe hinweg sichtbar wird.

2. Externe behaviorale Analyse

Um die Abhängigkeit von Sprach-Priors in Standard-Benchmarks zu quantifizieren, führen die Autoren eine Progressive Visual Decay Metric (Metrik des progressiven visuellen Zerfalls) ein:

Multi-Step Gaussian Blurring (Mehrstufiges Gaußsches Weichzeichnen): Eingabebilder werden durch eine Sequenz von Gauß-Kernen (von $1\times1$ bis $61\times61$ ) degradiert.
Consecutively Identical Answer Indicator (Indikator für konsekutiv identische Antworten): Die Autoren verfolgen, ob die Antwort eines Modells über alle Degradationsstufen hinweg invariant bleibt. Diese Metrik filtert das dem Zufall inenhende Rauschen (Guessing Noise) heraus, das in eingeschränkten Antworträumen (z. B. Binär- oder Multiple-Choice) vorkommt, und liefert eine statistisch zuverlässige untere Grenze für Fälle, in denen das Modell den visuellen Kontext vollständig ignoriert.
Benchmark-Evaluierung: Dieses Framework wird auf zwölf visuellen Frage-Antwort-Benchmarks (darunter RePOPE, HallusionBench, MMMU und MMStar) unter Verwendung von drei repräsentativen VLMs (Qwen2.5-VL-3B/7B und LLaVA-v1.6-Mistral-7B) angewendet.

Zentrale Ergebnisse

Interne Routing-Fehler

Die Analyse offenbart einen mehrstufigen kooperativen Engpass innerhalb des Sprach-Decoders:

Intermediäre Schichten: Diese Schichten versagen oft dabei, granulare, lokalisierte visuelle Informationen effektiv aus dem Vision-Encoder abzurufen.
Späte Schichten: Selbst wenn visuelle Signale die intermediären Schichten überleben, unterdrücken die tieferen Schichten diese Signale aktiv zugunsten von Textraum-Biases.
Dynamischer Wettbewerb: Die Probing-Ergebnisse zeigen, dass während Ground-Truth-visuelle Signale in bestimmten intermediären Schichten die Wahrscheinlichkeit der Sprach-Prior-Antworten erreichen oder übertreffen können, die Wahrscheinlichkeit der Sprach-Prior-Antworten in dem letzten 1/4 bis 1/3 des Decoder-Stacks drastisch ansteigt und dominiert. Dies deutet darauf hin, dass visuelle Ignoranz kein punktuelles Versagen ist, sondern das Resultat kumulativer Routing-Fehler und aktiver Suppression.

Schwachstellen der Benchmarks

Die externe Evaluierung zeigt, dass aktuelle Benchmarks oft daran scheitern, visuelle Ignoranz zu sanktionieren:

Hohe Invarianzraten: Über die evaluierten Datensätze hinweg liefern 20 % bis 40 % der Instanzen völlig invariante Antworten, selbst unter schwerer oder totaler visueller Obfuskation.
Mangelnde Leistungsstrafe: Für die Teilmenge der Stichproben, bei denen die Antworten über alle Blur-Stufen hinweg konsekutiv identisch bleiben, bleibt die Genauigkeit des Modells oft stabil oder steigt mit zunehmender Degradation der Bilder sogar an. Dies deutet darauf hin, dass diese Benchmarks Modelle unbeabsichtigt belohnen, die sich auf blinde linguistische Erwartungen statt auf visuelle Evidenz verlassen.
Datenkontamination: Modelle wie LLaVA-v1.6-Mistral-7B zeigen höhere Invarianzraten und Genauigkeiten auf degradierten Bildern im Vergleich zu Qwen-Modellen, was auf eine potenzielle Memorierung von Benchmark-Antworten während des Pre-Trainings hindeutet.

Zentrale Beiträge

Mechanistische Diagnose: Die Arbeit liefert die erste schichtweise Kartierung dessen, wie Sprach-Priors visuelle Signale überlagern, und identifiziert, dass die Abhängigkeit sowohl durch ineffektives Retrieval in intermediären Schichten als auch durch aktive Suppression in späten Schichten getrieben wird.
Neuartige Evaluierungsmetrik: Die Einführung der Metrik des progressiven visuellen Zerfalls bietet eine robuste Methode, um zufälliges Raten zu filtern und die wahre Abhängigkeit von Sprach-Priors in Standard-Benchmarks zu isolieren.
Empirischer Beleg für Benchmark-Fehler: Die Studie demonstriert, dass ein erheblicher Teil der Beispiele in prominenten VQA-Benchmarks ohne visuelle Verarbeitung lösbar ist, was die Validität aktueller Evaluierungsprotokolle infrage stellt.

Bedeutung und Implikationen

Die Autoren argumentieren, dass die Abhängigkeit von Sprach-Priors ein systematischer Routing-Fehler ist, der sowohl die internen Prozesse der Modelle als auch die Validität von Benchmarks betrifft. Die Ergebnisse legen nahe, dass:

Aktuelle Trainingsparadigmen unzureichend sind: Das bloße Überlagern von visuellen Features auf textdominante Backbones erzeugt Repräsentationskonflikte, bei denen das autoregressive Text-Vorhersageziel dominiert und die Repräsentationen von der visuellen Evidenz wegzieht.
Evaluierungsprotokolle neu gestaltet werden müssen: Standard-Benchmarks erzwingen keine visuelle Abhängigkeit. Die Autoren plädieren für zukünftige Evaluierungsrahmen, die auf strukturell isolierten oder kontrafaktischen Daten basieren, bei denen die Statistiken des Textraums fundamental keine Information über den visuellen Zustand liefern.
Training-Distribution Shift: Um echtes Cross-Modal Grounding zu erzwingen, muss die zukünftige Forschung Trainingsverteilungen entwerfen, die spurene (spurious) linguistische Korrelationen zwischen Prompts und Antworten aufbrechen und Modelle dazu zwingen, sich auf visuelle Evidenz statt auf memorierte Text-Priors zu verlassen.

Das Paper schließt mit dem Argument, dass die Adressierung visueller Ignoranz einen grundlegenden Wandel sowohl in der Art und Weise erfordert, wie Modelle trainiert werden (Entkopplung von Vision- und Language-Distributionen), als auch darin, wie sie evaluiert werden (Erzwingung visueller Abhängigkeit durch strukturelle Isolation).