DODO: Discrete OCR Diffusion Models

Die Arbeit stellt DODO vor, das erste Vision-Language-Modell, das durch die Einführung von blockdiskreter Diffusion die sequenziellen Beschränkungen autoregressiver OCR-Modelle überwindet und dabei eine bis zu dreifach schnellere Inferenz bei nahezu state-of-the-art Genauigkeit ermöglicht.

Das Wesentliche

🦆 DODO: Der schnelle Text-Entzifferer

Stell dir vor, du hast einen riesigen Stapel alter, verstaubter Dokumente vor dir. Deine Aufgabe ist es, jeden einzelnen Buchstaben davon in einen Computer einzutippen, damit er lesbar wird. Das nennt man OCR (Optical Character Recognition).

Bisher haben die besten Computer-Modelle diese Aufgabe wie ein sehr langsamer Schreiber erledigt: Sie schauen sich ein Wort an, tippen es ab, schauen sich das nächste an, tippen es ab, und so weiter. Das ist genau, aber bei langen Dokumenten dauert es ewig, weil sie immer nur ein Zeichen nach dem anderen verarbeiten müssen.

Die Forscher von DODO (Discrete OCR Diffusion Models) haben sich gefragt: "Warum müssen wir das so langsam machen? Kann man nicht alles auf einmal lesen?"

Das Problem: Der "Einzelgänger" vs. der "Chaos-Generator"

Die Idee, alles gleichzeitig zu lesen, gab es schon früher (man nennt das "Diffusionsmodelle"). Aber diese Modelle hatten ein großes Problem, das man sich wie einen Chaos-Generator vorstellen kann:

• Der flexible Fall (z. B. Bildbeschreibung): Wenn ein Computer ein Bild von einer Katze beschreibt, ist es egal, ob er sagt "Eine Katze sitzt auf einem Baum" oder "Ein Baum hat eine Katze". Es gibt viele richtige Antworten. Hier ist Chaos okay.
• Der starre Fall (OCR): Bei einem Dokument gibt es nur eine richtige Antwort. Wenn das Original "100 Euro" heißt und der Computer "1000 Euro" schreibt, ist das falsch. Wenn er die Wörter an der falschen Stelle platziert, ist das Dokument unbrauchbar.

Frühere Modelle versuchten, das ganze Dokument auf einmal zu "entwirren". Da sie aber nicht genau wussten, wie lang das Dokument ist oder wo genau jedes Wort stehen muss, passten sie oft die Länge falsch an oder setzten Wörter an die falsche Stelle. Das Ergebnis war wie ein zerfetztes Puzzle, das sich nicht mehr zusammenfügen ließ.

Die Lösung: DODO und die "Ziegelstein-Methode"

DODO löst dieses Problem mit einer cleveren Strategie, die wir uns wie den Bau eines Hauses mit Ziegelsteinen vorstellen können:

1. Kein riesiger Haufen: Statt das ganze Haus (das Dokument) auf einmal zu bauen, baut DODO es Block für Block.
2. Sichere Fundamente: Sobald ein Block (z. B. ein Absatz) fertig und geprüft ist, wird er festgemauert. Der Computer weiß jetzt: "Hier steht 'Hallo Welt', und das bleibt so."
3. Parallelität: Innerhalb eines Blocks kann der Computer aber viele Ziegelsteine gleichzeitig setzen. Er muss nicht warten, bis der erste Stein steht, um den zweiten zu setzen. Er kann 10, 20 oder sogar 50 Buchstaben auf einmal "erraten" und prüfen.

Die Metapher:
Stell dir vor, du musst einen langen Text abschreiben.

• Der alte Weg (Autoregressiv): Du schreibst Buchstabe für Buchstabe. Wenn du einen Fehler machst, musst du den ganzen Satz neu schreiben.
• Der DODO-Weg: Du nimmst einen kleinen Abschnitt (z. B. 50 Buchstaben). Du schreibst diese 50 Buchstaben fast gleichzeitig auf ein Blatt Papier. Du prüfst sie sofort. Wenn sie stimmen, klebst du das Blatt fest. Dann nimmst du den nächsten Abschnitt.

Warum ist das so schnell?

Das ist der Clou:

• Der alte Weg braucht für 1000 Buchstaben 1000 Schritte.
• DODO braucht für 1000 Buchstaben vielleicht nur 15 bis 20 Schritte, weil er in jedem Schritt Dutzende Buchstaben auf einmal verarbeitet.

Das Ergebnis? DODO ist bis zu 3-mal schneller als die bisherigen besten Modelle, bleibt aber genauso genau.

Zusammenfassung in einem Satz

DODO ist wie ein Super-Leser, der nicht mehr Buchstabe für Buchstabe vorliest, sondern ganze Sätze in kleinen, sicheren Häppchen gleichzeitig erfasst, um Dokumente in einem Bruchteil der Zeit zu digitalisieren, ohne dabei Fehler zu machen.

Es ist der Beweis dafür, dass man bei sehr genauen Aufgaben (wie dem Lesen von Text) nicht chaotisch alles auf einmal machen muss, sondern durch kluge Aufteilung in kleine Blöcke sowohl Geschwindigkeit als auch Präzision erreichen kann.

Technische Zusammenfassung

1. Problemstellung

Die optische Zeichenerkennung (OCR) ist eine fundamentale Aufgabe zur Digitalisierung von Informationen. Obwohl moderne Vision-Language-Modelle (VLMs) hohe Genauigkeit erreichen, basieren sie fast ausschließlich auf autoregressiver Dekodierung.

• Ineffizienz: Autoregressive Modelle generieren Text token-für-token in einer sequenziellen Schleife. Für lange Dokumente führt dies zu einem erheblichen Latenz-Engpass, da für jedes generierte Token ein separater Vorwärtsdurchlauf (forward pass) erforderlich ist.
• Fehlschlag bestehender Diffusionsmodelle: Maskierte Diffusionsmodelle (MDMs) ermöglichen theoretisch eine parallele Dekodierung, was die Geschwindigkeit drastisch erhöhen könnte. In der Praxis scheitern sie jedoch bei OCR, da diese Aufgabe semantisch starr ist (im Gegensatz zu Bildunterschriften, die flexibel sind).
  • Bei flexiblen Aufgaben können Fehler durch Umschreiben oder Paraphrasieren korrigiert werden.
  • Bei OCR gibt es nur eine einzige korrekte Zeichenfolge. Globale Diffusionsmodelle leiden unter Strukturstabilitätsproblemen: Fehler in der geschätzten Sequenzlänge oder der absoluten Positionierung (Synchronisationsfehler) sind irreparabel und führen zu abgebrochenem Text oder Halluzinationen, da bereits freigegebene Tokens nicht mehr revidiert werden können.

2. Methodik: DODO

Die Autoren stellen DODO (Discrete OCR Diffusion Models) vor, das erste VLM, das blockweise diskrete Diffusion für die Dokumententranskription nutzt.

• Blockweise Zerlegung: Anstatt die gesamte Sequenz global zu diffundieren, zerlegt DODO die Generierung in aufeinanderfolgende Blöcke (z. B. 256 Token pro Block).
  • Jeder Block wird parallel innerhalb des Blocks diffundiert, aber die Blöcke werden sequenziell (autoregressiv) voneinander abhängig generiert.
  • Dies schafft einen „kausalen Anker" (committed prefix). Der vorherige Block dient als fester Kontext für den nächsten, was das Risiko von Langstrecken-Synchronisationsfehlern und Positionsverschiebungen eliminiert.
• Block-Kausalität und KV-Caching:
  • DODO (Bidirektional): Nutzt volle bidirektionale Aufmerksamkeit über die gesamte Sequenz. Dies ermöglicht dynamische Anpassungen, erfordert aber die Neuberechnung aller vorherigen Blöcke bei jedem Schritt (kein Caching).
  • DODO fast: Nutzt eine block-kausale Attention-Maske. Tokens in vorherigen Blöllen können auf den aktuellen Block achten, aber nicht umgekehrt. Dies stellt sicher, dass die Repräsentationen der bereits generierten Blöcke statisch bleiben, was die Verwendung eines exakten Key-Value (KV) Caches ermöglicht. Dies beschleunigt die Inferenz erheblich.
• Skalierung: Aufgrund der deterministischen Natur von OCR kann die Blockgröße auf 256 Token skaliert werden (im Vergleich zu 32 Token bei reinen Textmodellen), was die Parallelisierungseffizienz maximiert.
• Sampling-Strategie: Es wird eine Confidence-Thresholding-Strategie verwendet, bei der nur Tokens mit einer sehr hohen Vorhersagesicherheit (z. B. $p=0.98$) freigegeben werden, um Fehler bei der parallelen Generierung zu minimieren.

3. Schlüsselbeiträge

1. Identifikation der strukturellen Inkompatibilität: Die Arbeit zeigt auf, warum Standard-Masked-Diffusion für OCR ungeeignet ist: Die Starrheit von OCR macht sie anfällig für die Synchronisationsfehler globaler Diffusion, die bei flexiblen Aufgaben tolerierbar sind.
2. Einführung von DODO: Das erste VLM, das blockweise diskrete Diffusion nutzt, um die Vorteile der Parallelisierung mit der Stabilität autoregressiver Anker zu vereinen.
3. Architektonische Innovation: Die Anwendung von block-kausalen Masken und KV-Caching in einem multimodalen VLM-Kontext, was eine 3-fache Steigerung der Inferenzgeschwindigkeit ermöglicht.

4. Ergebnisse

Die Evaluation erfolgte auf Benchmarks wie OmniDocBench (komplexe Layouts, Tabellen, Formeln) und Fox-Page-EN (reiner Text).

• Genauigkeit: DODO erreicht eine Genauigkeit (gemessen am Normalized Edit Distance, NED), die mit state-of-the-art autoregressiven Modellen (wie Qwen2.5-VL) und spezialisierten OCR-Systemen (z. B. MonkeyOCR, Mistral OCR) konkurrierbar ist.
  • DODO (3B Parameter) erreicht auf OmniDocBench einen NED von 0,066, was deutlich besser ist als andere Diffusionsmodelle (z. B. Dimple mit 0,856) und besser als das reine autoregressive Qwen2.5-VL-3B (0,184).
• Durchsatz (Inferenzgeschwindigkeit):
  • DODO (ohne Caching) ist bereits schneller als das autoregressive Baseline-Modell, da die Reduktion der Anzahl der Vorwärtsdurchläufe durch die parallele Generierung die höheren Kosten pro Schritt kompensiert.
  • DODO fast (mit KV-Caching) erreicht einen Durchsatz von ca. 63 Tokens/Sekunde, was eine 3-fache Steigerung gegenüber dem autoregressiven Baseline (ca. 21 Tokens/Sekunde) und den bidirektionalen Varianten darstellt.
• Vergleich: DODO übertrifft alle vorherigen Diffusions-basierten VLMs um eine Größenordnung und schließt die Lücke zu autoregressiven Modellen in Bezug auf Genauigkeit, während es diese in der Geschwindigkeit übertrifft.

5. Bedeutung und Fazit

DODO beweist, dass diskrete Diffusionsmodelle eine praktikable, hochleistungsfähige Alternative zum dominanten autoregressiven Paradigma für die OCR sind.

• Paradigmenwechsel: Die Arbeit widerlegt die Annahme, dass Diffusion für starr deterministische Aufgaben wie OCR ungeeignet sei, indem sie die strukturellen Fallstricke (globale Synchronisation) durch eine blockweise Architektur umgeht.
• Praktische Relevanz: Durch die Kombination von hoher Genauigkeit und bis zu 3-facher Inferenzgeschwindigkeit eignet sich DODO ideal für Anwendungen mit niedriger Latenz und hohem Durchsatz, wie z. B. die Verarbeitung großer Dokumentenmengen in Echtzeit.
• Zukunftsausblick: Die Ergebnisse legen nahe, dass blockweise Diffusion ein vielversprechender Weg für die Beschleunigung von Vision-Language-Modellen ist, wobei zukünftige Arbeiten die Lücke zwischen Genauigkeit und Effizienz weiter verkleinern könnten.