💬 NLP

Responses Fall Short of Understanding: Revealing the Gap between Internal Representations and Responses in Visual Document Understanding

Die Studie zeigt, dass bei Large Vision Language Models für das Verständnis visueller Dokumente eine Diskrepanz zwischen den internen Repräsentationen und den generierten Antworten besteht, wobei das gezielte Fine-Tuning der mittleren Schichten sowohl die Genauigkeit der internen Kodierung als auch der Antwortgenerierung verbessert.

Ursprüngliche Autoren: Haruka Kawasaki, Ryota Tanaka, Kyosuke Nishida

Veröffentlicht 2026-04-07

📖 3 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Haruka Kawasaki, Ryota Tanaka, Kyosuke Nishida

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie haben einen extrem klugen Assistenten, der Ihnen hilft, Dokumente zu lesen – sei es ein komplexer Vertrag, eine Rechnung oder ein Diagramm. Dieser Assistent ist ein sogenanntes „Large Vision Language Model" (LVLM). Er kann Bilder sehen, Text erkennen und logische Schlüsse ziehen.

Aber hier ist das Problem: Manchmal weiß der Assistent die Antwort, kann sie aber nicht richtig herausbringen.

Diese Forschungsarbeit von NTT untersucht genau dieses Phänomen. Hier ist die Erklärung in einfachen Worten, mit ein paar bildhaften Vergleichen:

1. Das Problem: Der „stille" Wissensspeicher

Stellen Sie sich den Assistenten wie einen Bibliothekar vor, der in einer riesigen Bibliothek arbeitet. Wenn Sie ihn fragen: „Ist die Hintergrundfarbe auf Seite 3 schwarz?", schaut er in die Bücher, findet die Information und weiß sie.

Aber wenn er Ihnen antwortet, sagt er vielleicht: „Ich bin mir nicht sicher" oder er erfindet etwas Falsches.
Die Forscher haben herausgefunden: Im Inneren des Assistenten (in seinen „Gehirn-Schichten") ist die Information oft viel klarer und präziser vorhanden als das, was er am Ende laut ausspricht. Es ist, als würde der Bibliothekar die richtige Antwort auf einem Zettel in seiner Hosentasche haben, aber beim Sprechen stolpert er über die Worte und gibt eine falsche Antwort.

2. Die Untersuchung: Röntgenbilder des Gehirns

Um das zu beweisen, haben die Forscher eine Methode namens „Lineares Probing" verwendet.

Die Analogie: Stellen Sie sich vor, Sie machen ein Röntgenbild des Gehirns des Assistenten in jedem Moment, während er denkt.
Sie haben festgestellt: In den mittleren Schichten des Gehirns (den „Zwischenschichten") ist die Information über die Antwort oft am klarsten und am leichtesten zu lesen.
Das Überraschende: In der letzten Schicht (wo die eigentliche Antwort formuliert wird) ist diese Information oft wieder verschwommen oder verwässert. Der Assistent hat die Antwort gewusst, aber auf dem Weg zum Mund hat er sie „verloren".

3. Die Lösung: Nicht alles neu lernen, sondern gezielt schulen

Bisher dachten viele: „Wenn der Assistent Fehler macht, müssen wir ihn komplett neu ausbilden (alle Schichten trainieren)."
Die Forscher haben das getestet und festgestellt: Das bringt nicht viel. Selbst wenn man den ganzen Assistenten neu trainiert, bleibt die Lücke zwischen seinem inneren Wissen und seiner Antwort bestehen.

Der neue Ansatz:
Statt alles neu zu lernen, haben sie nur die mittleren Schichten gezielt trainiert.

Die Analogie: Stellen Sie sich vor, Sie haben einen Musiker, der ein Lied perfekt im Kopf hat, aber beim Spielen die Noten verwechselt. Statt ihn das ganze Lied von vorne zu lernen, üben Sie nur den Teil, in dem er die Noten verwechselt.
Das Ergebnis: Durch das gezielte Training der mittleren Schichten wurde der Assistent nicht nur besser im Antworten, sondern die Lücke zwischen seinem inneren Wissen und seiner Antwort wurde kleiner. Er wurde „ehrlicher" und präziser.

4. Warum ist das wichtig?

Stellen Sie sich vor, Sie nutzen diesen Assistenten für medizinische Berichte oder Finanzdokumente. Wenn er innerlich die richtige Diagnose oder Zahl weiß, sie aber falsch ausspricht, ist das gefährlich.
Diese Studie zeigt uns:

Modelle wissen oft mehr, als sie sagen.
Wir müssen nicht das ganze Gehirn neu programmieren, um sie besser zu machen.
Wenn wir gezielt die „Zwischenstationen" im Denkprozess stärken, können wir die Modelle zuverlässiger machen.

Zusammenfassung in einem Satz

Der Assistent hat die Antwort oft schon in der Mitte seines Denkprozesses perfekt verstanden, verliert sie aber auf dem Weg zur letzten Antwort; wenn wir ihm helfen, diesen mittleren Weg zu festigen, wird er endlich das sagen, was er wirklich weiß.

1. Problemstellung

Visuelles Dokumentenverständnis (Visual Document Understanding, VDU) ist eine komplexe Aufgabe für Large Vision Language Models (LVLMs), die die Integration von visueller Wahrnehmung, Texterkennung und logischem Schlussfolgern über strukturierte Layouts erfordert.
Das zentrale Problem besteht darin, dass die Leistung von LVLMs in VDU-Aufgaben traditionell ausschließlich anhand der Korrektheit der generierten Textantworten bewertet wird. Diese Metrik gibt jedoch möglicherweise kein vollständiges Bild davon, ob das Modell die notwendigen Informationen tatsächlich intern erfasst und verarbeitet hat. Es besteht die Vermutung, dass eine Diskrepanz (ein „Gap") zwischen den internen Repräsentationen des Modells (den versteckten Zuständen) und den finalen Ausgaben besteht. Das Modell könnte Informationen intern „wissen", diese aber nicht in der Antwort ausdrücken.

2. Methodik

Die Autoren untersuchen diese Diskrepanz durch eine schichtweise Analyse der internen Repräsentationen innerhalb der LLM-Komponente von LVLMs unter Verwendung von Linear Probing.

Linear Probing: Es werden binäre Klassifikatoren (lineare Schichten) trainiert, um zu prüfen, ob die Informationen zur Lösung einer Aufgabe linear in den versteckten Zuständen (Hidden States) der verschiedenen LLM-Schichten kodiert sind.
Aufbau der Klassifikatoren: Für jede Schicht des LLM werden separate Klassifikatoren für verschiedene Token-Typen erstellt:
- Image-Token: Tokens, die visuelle Embeddings repräsentieren.
- Text-Token: Tokens der Eingabe-Frage.
- All-Token: Alle Tokens in der Sequenz (gemittelt).
- Last-Token: Der letzte Token der Sequenz.
Aufgaben (Linear Probing Tasks): Vier binäre Klassifikationsaufgaben wurden definiert, die verschiedene Aspekte des VDU abdecken:
1. Visuelle Attributerkennung: Erkennung von Farben und Formen.
2. Worterkennung: Unterscheidung korrekter von fehlerhaften Worterkennungsergebnissen.
3. Strukturverständnis: Identifikation von Dokumentkomponenten (z. B. Titel, Tabelle).
4. Diagrammverständnis: Relationale Schlussfolgerungen in Diagrammen.
Metriken:
- Linear Probing Accuracy ( $A_{LP}$ ): Wie gut kann ein linearer Klassifikator die Antwort aus den internen Repräsentationen vorhersagen?
- Response Accuracy ( $A_{resp}$ ): Wie oft antwortet das LVLM korrekt?
- Gap: Die Differenz zwischen der maximalen Linear-Probing-Accuracy über alle Schichten und der Response-Accuracy.

3. Wichtige Erkenntnisse und Ergebnisse (Analyse)

Die Analyse an mehreren Modellen (Qwen2.5-VL, Gemma3, LLaVA-NeXT) ergab zwei fundamentale Erkenntnisse:

Existenz einer signifikanten Lücke: Es gibt eine klare Diskrepanz zwischen internen Repräsentationen und Antworten. Die maximale Linear-Probing-Accuracy liegt in fast allen Fällen deutlich über der Response-Accuracy. Das bedeutet, das Modell enthält die Lösung intern, kann sie aber nicht vollständig in die Ausgabe übersetzen.
Die Rolle der Zwischenschichten (Intermediate Layers):
- Die Informationen, die zur Lösung der Aufgabe notwendig sind, sind oft linearer in den mittleren Schichten kodiert als in der finalen Schicht.
- Während der Last-Token in den oberen Schichten die beste lineare Kodierung aufweist, erreichen die Text-Tokens in den mittleren Schichten oft hohe Genauigkeiten.
- Die Genauigkeit der Linear Probing steigt oft abrupt in bestimmten mittleren Schichten an, was auf einen Wechsel von visueller Verarbeitung zu linguistischer Verarbeitung hindeutet.
- Wichtig: Die Schicht mit der höchsten Informationsdichte ist oft nicht die letzte Schicht.

4. Experimente zur Schließung der Lücke (Fine-Tuning)

Basierend auf den Erkenntnissen untersuchten die Autoren, ob gezieltes Fine-Tuning der mittleren Schichten die Lücke schließen kann.

Strategie: Statt das gesamte Modell zu fine-tunen („All-layer"), wurden spezifische Schichtgruppen (Untere, Mittlere, Obere) basierend auf den Linear-Probing-Ergebnissen ausgewählt und angepasst.
Ergebnisse:
- All-layer Fine-Tuning: Verbessert zwar die Response-Accuracy, schließt die Lücke zur internen Repräsentation jedoch nicht vollständig.
- Gezieltes Fine-Tuning mittlerer Schichten: Das Fine-Tuning der mittleren Schichten (oder Kombinationen wie „Lower-Middle") führt zu einer höheren Response-Accuracy und einer höheren Linear-Probing-Accuracy als das All-layer Fine-Tuning.
- Reduktion der Lücke: Diese Strategie reduziert die Diskrepanz zwischen internen Repräsentationen und Antworten signifikant stärker als das vollständige Fine-Tuning.
- Effizienz: Gezieltes Fine-Tuning ist ressourceneffizienter (weniger trainierbare Parameter, kürzere Trainingszeit) bei gleichzeitig besseren Ergebnissen.

5. Signifikanz und Beiträge

Dieses Paper leistet einen wesentlichen Beitrag zum Verständnis und zur Verbesserung von LVLMs:

Erste detaillierte Schichtanalyse: Es bietet die erste umfassende schichtweise Analyse der internen Repräsentationen von LVLMs im Kontext von VDU.
Nachweis der Diskrepanz: Es beweist empirisch, dass LVLMs in VDU-Aufgaben interne Informationen besitzen, die nicht in den Antworten reflektiert werden, und dass dies nicht durch einfaches All-layer Fine-Tuning behoben wird.
Neue Optimierungsstrategie: Es zeigt, dass die für die Aufgabenlösung relevanten Informationen in den mittleren Schichten am zugänglichsten sind.
Praktische Implikation: Die Arbeit schlägt vor, Fine-Tuning-Strategien auf diese informativen Zwischenschichten zu fokussieren. Dies verbessert nicht nur die Leistung (Accuracy), sondern erhöht auch die Zuverlässigkeit und Interpretierbarkeit der Modelle, indem die Lücke zwischen „Wissen" (intern) und „Ausdruck" (extern) verringert wird.

Zusammenfassend demonstriert die Arbeit, dass das Verständnis der internen Dynamik von LVLMs (insbesondere der Rolle der mittleren Schichten) entscheidend ist, um die Leistungsfähigkeit dieser Modelle in komplexen visuellen Dokumentenaufgaben zu maximieren.