🤖 AI

Do VLMs Read or Rewrite? On Transcription Faithfulness in Vision-Language Models

Dieses Paper führt den FaithC4-Benchmark ein, um zu demonstrieren, dass Vision-Language-Modelle unvollkommene Texte oft in plausible Formen umschreiben, anstatt sie getreu zu transkribieren, wodurch distinkte Degradationsmuster über verschiedene Modelltypen hinweg aufgedeckt und spezifische Schichtrepräsentationen sowie Wortlängen identifiziert werden, die dieses Umschreibverhalten auslösen.

Ursprüngliche Autoren: Gwang Gook Lee, Kenan Emir Ak, Jay Mohta, Yan Xu, Dimitrios Dimitriadis

Veröffentlicht 2026-07-27

📖 6 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Gwang Gook Lee, Kenan Emir Ak, Jay Mohta, Yan Xu, Dimitrios Dimitriadis

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie bringen einem Roboter bei, eine handgeschriebene Notiz Ihrer Großmutter zu lesen. Sie erwarten, dass der Roboter wie ein superpräziser Fotokopierer agiert, der jedes Kringelchen, jeden Fleck und jedes falsch geschriebene Wort exakt so erfasst, wie es erscheint. Das ist die Aufgabe der optischen Zeichenerkennung (OCR), einer Technologie, die seit Jahrzehnten existiert, um Textbilder in digitale Wörter umzuwandeln. Doch vor kurzem ist ein neuer Typ von Roboter angekommen: das Vision-Language-Modell (VLM). Betrachten Sie diese als Roboter, die nicht nur die Buchstaben „sehen“, sondern auch darüber „nachdenken“, was der Satz bedeuten sollte, indem sie eine Kamera mit einem sehr intelligenten Gehirn kombinieren, das auf dem gesamten Internet trainiert wurde.

Die große Frage ist: Wenn diese smarten Roboter ein unordentliches Wort sehen, kopieren sie es getreu oder versuchen sie es zu „korrigieren“? Es ist ein wenig wie der „Typoglycemia“-Effekt, den Menschen erleben, wenn wir einen Satz noch lesen können, selbst wenn die mittleren Buchstaben der Wörter vertauscht sind, weil unser Gehirn das beabsichtigte Wort errät. Während dies für Menschen hilfreich ist, kann es für einen Roboter katastrophal sein, wenn man eine perfekte, wörtliche Kopie eines juristischen Vertrages oder eines historischen Briefes benötigt. Wenn der Roboter einen Tippfehler, der eigentlich Teil des Originaldokuments war, „korrigiert“, hat er die Geschichte eher umgeschrieben als sie aufgezeichnet. Diese Arbeit untersucht, ob diese neuen KI-Roboter treue Schreiber oder übereifrige Editoren sind.

Lesen oder Umschreiben VLMs?

In dieser Studie setzten sich Forscher von Amazon zum Ziel, eine spezifische Angewohnheit dieser Vision-Language-Modelle (VLMs) zu testen: Wenn sie ein Wort sehen, das ein wenig seltsam aussieht, lesen sie es dann exakt so, wie es ist, oder schreiben sie es heimlich um, damit es mehr Sinn ergibt?

Um dies herauszufinden, erschuf das Team einen speziellen Spielplatz namens FaithC4. Stellen Sie sich vor, sie nahmen tausende saubere, normale Textseiten in Englisch, Chinesisch und Koreanisch. Dann spielten sie vor der Umwandlung in Bilder ein Spiel der „Stille Post“ mit den Wörtern. Sie nahmen 8 % der berechtigten Wörter und verdarbten sie auf drei kreative Arten:

Scramble (Durcheinanderbringen): Sie vertauschten die inneren Buchstaben (wie aus „standard“ ein „sdanartd“ macht).
Random (Zufällig): Sie ersetzten Buchstaben durch völlig zufällige andere (wie „xkpmewqi“).
Visual (Visuell): Sie ersetzten Buchstaben durch solche, die fast identisch aussehen (wie ein „a“ in ein „c“ oder ein „o“ in eine „0“ zu verwandeln).

Diese „kaputten“ Bilder zeigten sie dann 15 verschiedenen Systemen. Diese Systeme fielen in drei Gruppen:

Die alte Garde: Traditionelle OCR-Werkzeuge (wie Tesseract), die einfach nur auf Pixel schauen und sagen: „Das sieht aus wie ein ‚a‘.“
Die Spezialisten: VLMs, die speziell für das Lesen von Dokumenten trainiert wurden.
Die Generalisten: Die großen, leistungsstarken VLMs (wie Qwen, GPT-4V und Gemini), die gut in allem sind, von Mathematik bis Poesie.

Das Ergebnis: Die „smarten“ Roboter sind zu schlau

Die Ergebnisse waren überraschend und etwas besorgniserregend für jeden, der perfekte Kopien benötigt. Die Forscher fanden heraus: Je „schlauer“ der Roboter ist, desto wahrscheinlicher ist es, dass er den Text umschreibt.

Die alte Garde (Traditionelle OCR): Diese waren am treuesten. Wenn der Text verdorben wurde, änderten sie ihre Antwort kaum. Ihre Fehlerrate stieg um weniger als 0,6 Prozentpunkte. Sie sahen das Chaos und kopierten das Chaos.
Die Spezialisten: Diese machten etwas besser als die Generalisten, aber änderten immer noch etwas. Ihre Fehler stiegen um 0,2 bis 2 Prozentpunkte.
Die Generalisten: Diese waren am schlechtesten darin, treu zu sein. Wenn der Text durcheinandergebracht oder visuell verändert wurde, sprangen ihre Fehlerraten um bis zu 4,5 Prozentpunkte nach oben.

Warum? Weil diese universellen Modelle so gut darin sind, vorherzusagen, wie ein Satz aussehen sollte, dass sie oft ignorieren, was tatsächlich geschrieben steht. Wenn sie „prbolem“ sehen, geben sie selbstbewusst „problem“ aus, selbst wenn das Bild eindeutig „prbolem“ sagte. Es ist wie ein Schüler, der die Antwort auf eine Matheaufgabe so gut kennt, dass er den geschriebenen Fehler des Lehrers an der Tafel ignoriert und einfach die richtige Antwort schreibt.

Der verborgene Mechanismus: Wann findet das Umschreiben statt?

Um zu verstehen, war Warum dies geschieht, schauten die Forscher Schicht für Schicht in das Gehirn eines dieser Modelle, Qwen3-VL-4B. Sie wollten wissen, ob der Roboter für den Fehler „blind“ war oder ob er ihn einfach nur ignorierte.

Sie entdeckten eine faszinierende Regel: Der Roboter schreibt das Wort nur um, wenn er noch „denkt“, dass das Wort vertraut aussieht.

Wenn die interne Repräsentation des durcheinandergebrachten Wortes der ursprünglichen Repräsentation sehr nahe kommt (wie ein unscharfes Foto, das immer noch wie eine Katze aussieht), sagt der Roboter: „Oh, das ist definitiv ‚Katze‘!“ und schreibt es um.
Aber wenn das Durcheinanderbringen so schlimm ist, dass die interne Repräsentation weit vom Original abweicht (das Foto ist nun nur noch ein Klecks), hört der Roboter auf zu raten und transkribiert schließlich das, was er sieht.

Dies erklärt, warum die Wortlänge eine so große Rolle spielt. Kurze Wörter (4 bis 6 Buchstaben) werden bis zu 10 % der Zeit umgeschrieben, weil es für den Roboter einfach ist, das Original zu erraten. Aber sobald ein Wort 8 Zeichen oder länger ist, sinkt das Umschreiben auf 0 %. Das Durcheinanderbringen ist zu groß für das „Rate-Gehirn“ des Roboters, um das Original wiederherzustellen, also gibt er auf und transkribiert getreu.

Der Dominoeffekt

Hier ist der überraschendste Teil: Das Verderven nur weniger Wörter beeinträchtigt nicht nur diese spezifischen Wörter. Die Forscher fanden heraus, dass die Korrumpierung von nur 5 % der Wörter in einem Dokument dazu führte, dass die Fehler bei den perfekten, unberührten Wörtern bei den Generalist-Modellen um das 5- bis 10-fache anstiegen.

Es ist, als ob der Roboter durch den einen Tippfehler so verwirrt wird, dass er anfängt, den ganzen Absatz drumherum falsch zu lesen. Traditionelle OCR-Systeme hatten dieses Problem nicht; sie blieben ruhig und genau, selbst wenn sie von Chaos umgeben waren.

Was das bedeutet

Das Paper kommt zu dem Schluss, dass diese schicken neuen KI-Modelle zwar fantastisch darin sind, Dokumente zu verstehen und Fragen zu beantworten, sie aber nicht zuverlässig für Aufgaben sind, die eine wörtliche, perfekte Kopie des Textes erfordern. Wenn Sie ein historisches Manuskript digitalisieren, einen juristischen Vertrag prüfen oder medizinische Unterlagen analysieren, bei denen jeder Tippfehler zählt, sollten Sie lieber bei traditioneller OCR oder spezialisierten Werkzeugen bleiben. Die General-Purpose-VLMs sind zu eifrig darauf, zu „helfen“, indem sie Dinge korrigieren, die nicht korrigiert werden sollten.

Die Forscher schlagen vor, dass wir vorsichtig mit der Verwendung dieser Modelle sein müssen. Nur weil ein Modell ein Dokument lesen kann, bedeutet das nicht, dass es es auch getreu liest. Für den Moment sind die Old-School-Roboter immer noch die ehrlichsten Schreiber, wenn man die Wahrheit exakt so braucht, wie sie geschrieben wurde.

Technisches Resümee: Lesen oder Umschreiben VLMs? Zur Treue der Transkription in Vision-Language-Modellen

Problemstellung

Vision-Language-Modelle (VLMs) ersetzen zunehmend traditionelle OCR-Pipelines für das Dokumentenverständnis, da sie die Fähigkeit besitzen, Texterkennung, Layout-Analyse und nachgelagerte Aufgaben innerhalb eines einzigen Modells zu bewältigen. Herkömmliche OCR-Benchmarks, die auf sauberem Text basieren, erfassen jedoch einen kritischen Verhaltensfehler nicht: VLMs agieren oft als „stille Umschreiber“ statt als getreue Transkripteure. Wenn sie mit unvollkommenen Eingaben konfrontiert werden (Tippfehler, visuelle Artefakte oder unklare Zeichen), neigen VLMs dazu, das auszugeben, was sie basierend auf Sprach-Priors erwarten, anstatt das, was tatsächlich geschrieben steht. Dieses Verhalten, das dem Typoglycemia-Effekt beim menschlichen Lesen ähnelt, birgt erhebliche Risiken für Bereiche, die eine wörtliche Transkription erfordern, wie etwa Rechtsdokumente, medizinische Unterlagen oder historische Manuskripte. Die bisherige Forschung hat dieses Umschreibverhalten nicht systematisch untersucht, da sich aktuelle Benchmarks auf die Erkennung von sauberem Text konzentrieren.

Methodik

Um diese Lücke zu schließen, führen die Autoren FaithC4 ein multilinguales Perturbations-Benchmark ein, das darauf ausgelegt ist, die Transkriptionstreue unter unvollkommenen Eingaben zu messen.

Datensatz-Konstruktion: Die Autoren bezogen Rohtext aus dem Colossal Clean Crawled Corpus (C4) und renderte diesen in einseitige Dokumentenbilder. Sie wandten kontrollierte Perturbationen auf 8 % der berechtigten Wörter an (Wörter mit $\ge$ 4 Zeichen) über drei Sprachen hinweg: Englisch (EN), Chinesisch (ZH) und Koreanisch (KO). Die Perturbationsfamilien umfassen:
- Scramble (Verwürfelung): Interne Zeichen werden vertauscht, während der erste und der letzte Buchstabe erhalten bleiben (z. B. „standard“ $\to$ „sdanartd“).
- Random Substitution (Zufällige Ersetzung): Zeichen werden durch zufällige Buchstaben desselben Skripts ersetzt.
- Visual Substitution (Visuelle Ersetzung): Zeichen werden durch visuell ähnliche Alternativen ersetzt (z. B. „standard“ $\to$ „stsndord“).
- Der perturbierte Text dient als Ground Truth; die Ausgabe des Modells wird mit diesem verglichen, um zu bestimmen, ob es den Fehler getreu transkribiert oder ihn zum Original zurück „umgeschrieben“ hat.
Evaluierte Systeme: Die Studie evaluiert 15 Systeme aus drei Kategorien:
1. Allgemeine VLMs: Open-Weight-Modelle (z. B. Qwen3-VL, InternVL, Gemma) und Closed-Weight-Modelle (z. B. GPT-5.4-mini, Gemini).
2. OCR-spezialisierte VLMs: Modelle, die für die Dokumentenextraktion feinabgestimmt wurden (z. B. MinerU, DeepSeek-OCR).
3. Traditionelles OCR: Zeichenebenen-Pipelines (Tesseract, docTR).
Evaluationsmetriken:
- *Word Error Rate (WER): Misst die ordnungssensitive Wort-Genauigkeit (oder Character Error Rate, CER, für Chinesisch).
- Edit Distance Similarity (EDS): Misst die Ähnlichkeit auf Zeichenebene.
- Fehlerklassifizierung: Fehler in perturbierten Wörtern werden als Rewritten (entspricht dem ursprünglichen unperturbierten Wort), Close (geringe Änderungen), Moderate oder Wrong klassifiziert.
Mechanistische Untersuchung (Probing): Die Autoren führen eine Layer-für-Layer-Untersuchung an Qwen3-VL-4B durch, um den Ursprung des Umschreibens zu identifizieren. Sie analysieren die Kosinus-Ähnlichkeit der Feed-Forward-Network (FFN)-Ausgaben zwischen ursprünglichen und perturbierten Eingaben und messen die Attention-Gewichte auf hervorgehobenen Wort-Patches.

Kernergebnisse

1. Leistungsdegradierung und Robustheits-Hierarchie

Die Studie zeigt eine konsistente dreistufige Ordnung der Robustheit über alle drei Sprachen hinweg, die mit der Stärke des Sprach-Priors eines Modells korreliert:

Traditionelles OCR: Am robustesten, mit einer Degradierung von $< 0,6$ Prozentpunkten (pp) in WER/CER. Sie transkribieren zeichenweise, ohne visuelle Evidenz zu überschreiben.
OCR-spezialisierte VLMs: Zeigen eine moderate Degradierung (0,2–2,0 pp), behalten einige Sprach-Priors bei, sind aber weniger stark als allgemeine Modelle.
Allgemeine VLMs: Leiden unter der größten Degradierung (bis zu 4,5 pp). Beispielsweise degradierte InternVL3.5-4B unter visueller Perturbation in Englisch um 4,45 pp, während Gemini-3-Flash eine Ausnahme mit geringerer Degradierung (0,23–0,60 pp) darstellte.

2. Umschreibverhalten (Rewriting Behavior)

Umschreibraten: Allgemeine VLMs schreiben einen erheblichen Teil der perturbierten Wörter um. Beispielsweise schrieb Gemini-2.5-Flash unter Scramble-Perturbation 64,6 % der Fehler um, während Qwen3-VL 29,2 % umschrieb. Traditionelles OCR umschrieb 0 %.
Nicht-lokale Fehlerfortpflanzung: Die Perturbation von nur ~4,7 % der Wörter verursachte die Fehlerraten auf dem unperturbierten Rest des Textes um das 5- bis 10-fache für allgemeine VLMs, während traditionelles OCR nur eine 1,7- bis 3,1-fache Verstärkung zeigte. Dies deutet darauf hin, dass Umschreiben ein nicht-lokaler Fehlermodus ist.
Kreuzlinguale Konsistenz: Die Degradations-Hierarchie gilt für Englisch, Chinesisch und Koreanisch, obwohl der schädlichste Perturbationstyp je nach Skript variiert (z. B. ist Random Substitution am schädlichsten für chinesische allgemeine VLMs).

3. Mechanistische Erkenntnisse (Qwen3-VL-4B)

Die Untersuchung der internen Schichten von Qwen3-VL-4B ergab, dass das Umschreiben nicht durch ein Versagen der Wahrnehmung der Perturbation verursacht wird:

Attention vs. Repräsentation: Das Modell weist in frühen und späten Schichten mehr Attention auf die Bild-Patches des perturbierten Wortes, was bedeutet, dass es die Korruption „sieht“.
Der Gating-Mechanismus: Das Umschreiben tritt nur auf, wenn die interne FFN-Repräsentation des perturbierten Wortes in der finalen Schicht der ursprünglichen Kodierung noch nah kommt.
- Wenn die Repräsentation ausreichend divergiert (geringe Kosinus-Ähnlichkeit), transkribiert das Modell getreu.
- Wenn die Repräsentation nah bleibt (hohe Ähnlichkeit), überschreibt der Sprach-Prior die visuelle Evidenz, um das Wort zu „korrigieren“.
Wortlängen-Effekt: Das Umschreiben hängt stark von der Wortlänge ab. Kurze Wörter (4–6 Zeichen) werden bis zu 10 % der Zeit umgeschrieben. Es gibt einen scharfen Cutoff bei 8 Zeichen, bei dem die Umschreibrate auf 0 % sinkt. Kürzere Wörter verursachen weniger Störung in der internen Repräsentation, was es dem Sprach-Prior ermöglicht, sie zu erkennen und zu „korrigieren“.

Bedeutung und Ansprüche

Das Paper behauptet, dass FaithC4 eine systematische Einschränkung in VLMs aufzeigt, die saubere Text-Benchmarks nicht erkennen können: die Tendenz, unvollkommenen Text basierend auf Sprach-Priors stillschweigend umzuschreiben. Die Autoren argumentieren, dass für Anwendungen, die eine wörtliche Transkription erfordern (Recht, Medizin, Geschichte), traditionelles OCR oder sorgfältig ausgewählte OCR-spezialisierte VLMs die sicherere Wahl bleiben, da allgemeine VLMs systematische Umschreibfehler einführen.

Die Studie stellt fest, dass das „Umschreib“-Verhalten keine Halluzination im traditionellen Sinne des Generierens nicht existenter Objekte ist, sondern ein spezifischer Fehlermodus, bei dem der Sprach-Prior eines Modells die visuelle Evidenz überschreibt, wenn die Perturbation subtil genug ist, um die interne Repräsentation erkennbar zu lassen. Dieses Verhalten wird durch das Ausmaß der Verschiebung in der internen Repräsentation des Modells gesteuert, nicht durch die Menge der auf den Input gerichteten Attention.