DODO: Discrete OCR Diffusion Models

Le papier présente DODO, le premier modèle vision-langage utilisant la diffusion discrète par blocs pour surmonter les limitations de vitesse et de stabilité des approches existantes, permettant ainsi une reconnaissance optique de caractères (OCR) jusqu'à trois fois plus rapide tout en maintenant une précision proche de l'état de l'art.

L'essentiel

🦆 DODO : Le nouveau robot qui lit des documents à toute vitesse

Imaginez que vous devez transcrire un livre entier, page par page, en le lisant mot à mot. C'est exactement ce que font les systèmes actuels de reconnaissance de texte (OCR) : ils lisent un mot, puis le suivant, puis le suivant, comme un enfant qui apprend à lire. C'est précis, mais très lent.

Les chercheurs ont créé un nouveau modèle appelé DODO (Discrete OCR Diffusion Models). Pour comprendre comment il fonctionne, prenons quelques analogies amusantes.

1. Le problème : Le "Lecteur de Chantier" vs. Le "Peintre en Bloc"

L'approche actuelle (Autoregressive) :
Imaginez un maçon qui pose des briques une par une. Il doit attendre que la première soit sèche pour poser la deuxième. S'il se trompe sur la première brique, tout le mur risque de pencher. C'est ce que font les modèles actuels : ils génèrent le texte séquentiellement (mot après mot). Pour un long document, c'est comme attendre qu'une file d'attente avance : ça prend du temps.

L'approche DODO (Diffusion par blocs) :
Maintenant, imaginez un peintre qui doit remplir un tableau. Au lieu de peindre un seul pixel à la fois, il prend un pinceau large et remplit de grandes sections du tableau en même temps.

• Le défi : Si le peintre essaie de remplir tout le tableau d'un coup (modèle de diffusion classique), il risque de se tromper de place. Il pourrait mettre le ciel au milieu de la mer, ou écrire "Chat" à la place de "Chien" parce qu'il a mal estimé la taille du tableau.
• La solution DODO : DODO ne remplit pas tout d'un coup. Il découpe le tableau en blocs (comme des pages d'un livre). Il remplit le premier bloc, puis le deuxième, puis le troisième. Mais à l'intérieur de chaque bloc, il peint tout en même temps (en parallèle).

2. Pourquoi c'est si difficile pour les documents ?

Le papier explique une différence cruciale entre deux types de tâches :

• Décrire une image (ex: "Un chat sur un arbre") : C'est flexible. On peut dire "Un gros chat", "Un petit chat", "Un chat gris". Si le modèle se trompe un peu, ce n'est pas grave, le sens reste le même.
• Lire un document (OCR) : C'est rigide. Si le document dit "100 €", le modèle ne peut pas écrire "1000 €" ou "100 dollars". Il doit être parfait. Une seule erreur de position (mettre un chiffre trop tôt ou trop tard) rend tout le texte faux.

Les anciens modèles de diffusion (ceux qui essaient de tout faire en parallèle) échouaient ici parce qu'ils perdaient le fil : ils ne savaient pas exactement où commencer ou combien de mots il y avait, et ils se trompaient de place.

3. La magie de DODO : Des "Blocs de Sécurité"

DODO résout ce problème avec une astuce intelligente : la décomposition en blocs.

• L'analogie du train : Imaginez un train qui avance. Au lieu de regarder tout le trajet jusqu'à la destination finale (ce qui est flou et risqué), le train avance de gare en gare.
  1. Il arrive à la gare 1, il vérifie le quai, il dépose les passagers (les mots).
  2. Une fois la gare 1 validée, il part vers la gare 2.
  3. Il ne peut pas changer ce qui s'est passé à la gare 1. Cela garantit que le texte reste aligné et correct.

En faisant cela, DODO combine la précision d'un lecteur lent (qui vérifie chaque mot) avec la vitesse d'un lecteur rapide (qui lit des phrases entières d'un coup).

4. Les résultats : Vitesse fulgurante

Grâce à cette méthode, DODO est capable de :

• Lire jusqu'à 3 fois plus vite que les meilleurs systèmes actuels.
• Maintenir une précision quasi parfaite, aussi bonne que les systèmes lents.

C'est comme si vous pouviez lire un livre entier en regardant seulement quelques pages à la fois, mais en ayant la certitude que chaque mot est exactement là où il doit être.

En résumé

DODO est un nouveau robot qui a appris à lire des documents en découpant le travail en petits morceaux gérables. Au lieu de lire mot par mot (lent) ou de deviner tout le texte d'un coup (risqué et imprécis), il remplit des "blocs" de texte en parallèle, un par un.

C'est une révolution pour la numérisation de documents : cela rend le processus beaucoup plus rapide sans sacrifier la précision, permettant de transformer des montagnes de papiers en texte numérique en un clin d'œil.

Résumé technique

1. Problématique et Contexte

L'Optical Character Recognition (OCR) est une tâche fondamentale pour la numérisation de l'information, servant de pont entre les données visuelles et la compréhension textuelle. Bien que les modèles Vision-Language (VLM) modernes aient atteint une grande précision, ils reposent majoritairement sur un décodage autorégressif (AR).

• Limitation de l'AR : Le décodage autorégressif génère le texte token par token de manière séquentielle (de gauche à droite). Pour des documents longs, cela entraîne un coût computationnel élevé et une latence importante, car chaque token nécessite un passage avant (forward pass) distinct.
• Opportunité manquée : Contrairement à la génération de texte ouverte (comme la légende d'image) où plusieurs sorties sont valides, l'OCR est une tâche hautement déterministe. L'entrée visuelle dicte une séquence de sortie unique et rigide. Théoriquement, cela permettrait un décodage parallèle efficace via des modèles de diffusion, car les tokens peuvent être prédits indépendamment les uns des autres étant donné l'image.
• Échec des modèles existants : Les modèles de diffusion masquée (MDM) standards échouent sur l'OCR. Bien qu'ils permettent une génération parallèle, ils introduisent des instabilités structurelles (erreurs de longueur et d'alignement positionnel) qui sont bénignes dans des tâches flexibles mais catastrophiques pour l'OCR. Une erreur de position ou de longueur dans un modèle global rend le texte irrécupérable, car l'OCR ne permet pas de "réécrire" ou de paraphraser pour compenser.

2. Méthodologie : DODO

Pour résoudre ce paradoxe, les auteurs proposent DODO (Discrete OCR Diffusion Models), le premier VLM à utiliser la diffusion discrète par blocs (block discrete diffusion) pour la transcription de documents.

Concepts Clés :

• Diffusion par Blocs : Au lieu de traiter la séquence entière comme un bloc monolithique (ce qui cause des erreurs d'alignement global), DODO décompose la génération en une séquence de blocs causaux.
  • Le modèle génère un bloc de tokens (par exemple, 256 tokens) en parallèle, conditionné par les blocs précédents déjà décodés.
  • Cela ancre localement les indices et réduit la sensibilité aux erreurs de longueur globale.
• Hypothèse d'Indépendance Conditionnelle : L'OCR se prête parfaitement à l'hypothèse d'indépendance conditionnelle des tokens (une fois l'image donnée, la prédiction d'un token dépend peu des autres tokens masqués dans le même bloc), permettant une génération massive en parallèle.
• Gestion de la Mémoire (KV-Caching) :
  • DODO (Standard) : Utilise une attention bidirectionnelle sur l'ensemble de la séquence. Les représentations des blocs précédents sont recalculées à chaque étape, permettant une adaptation dynamique mais sans cache KV exact.
  • DODO Fast : Utilise un masque d'attention causal par blocs. Les blocs précédents ne regardent pas le bloc courant, ce qui fige leurs représentations. Cela permet d'utiliser un cache Key-Value (KV) exact, éliminant les calculs redondants et accélérant considérablement l'inférence.

Entraînement :

• Le modèle est basé sur l'architecture Qwen2.5-VL-3B.
• Entraîné sur olmOCR-mix-1025 (270k paires document-texte).
• Taille de bloc optimisée à 256 tokens (bien supérieure aux 32 tokens utilisés dans les modèles de texte pur), exploitant la rigidité de l'OCR pour maximiser le parallélisme.

3. Contributions Principales

1. Identification d'une incompatibilité structurelle : Les auteurs démontrent pourquoi les erreurs de position et de longueur, tolérées dans les tâches sémantiquement flexibles (comme la légende d'image), sont fatales pour l'OCR rigide, rendant la diffusion globale inefficace.
2. Introduction de DODO : Premier VLM utilisant la diffusion discrète par blocs. Cette approche impose un ancrage local et permet une adaptation dynamique de la longueur sans nécessiter une estimation globale parfaite.
3. Validation Empirique : DODO atteint une précision compétitive avec les modèles autorégressifs de pointe (SOTA) tout en offrant une accélération significative de l'inférence.

4. Résultats Expérimentaux

Les évaluations ont été menées sur deux benchmarks : OmniDocBench (documents complexes avec tableaux et formules) et Fox-Page-EN (texte dense).

• Précision (Normalized Edit Distance - NED) :
  • DODO (3B) obtient un NED de 0.066 sur OmniDocBench, surpassant largement les autres modèles de diffusion (Dimple, LaViDa, LLaDA-V qui ont des NED > 0.5) et rivalisant avec des modèles autorégressifs spécialisés comme MonkeyOCR ou Mistral OCR.
  • Il surpasse également sa propre base autorégressive (Qwen2.5-VL-3B) qui obtient un NED de 0.184.
• Débit (Throughput) :
  • DODO Standard : Débit d'environ 23 tokens/seconde, surpassant déjà l'exécution autorégressive cache du même modèle (~21 tokens/s) grâce à la réduction du nombre d'étapes séquentielles.
  • DODO Fast : Grâce au cache KV exact, le débit atteint ~63 tokens/seconde, soit une accélération de 3x par rapport à la base autorégressive et une amélioration massive par rapport aux modèles de diffusion standards.
• Efficacité du décodage : Alors que les modèles AR nécessitent 1 étape par token, DODO génère en moyenne 10 à 20 tokens par étape, réduisant le nombre total de passes avant d'un ordre de grandeur.

5. Signification et Impact

Ce travail démontre que la diffusion discrète n'est pas seulement une alternative théorique, mais une solution pratique et performante pour l'OCR, à condition d'adapter l'architecture aux contraintes de rigidité de la tâche.

• Changement de paradigme : DODO prouve que l'on peut dépasser les limitations de latence des modèles autorégressifs pour la reconnaissance de texte dense sans sacrifier la précision.
• Applications temps réel : L'architecture "DODO Fast" ouvre la voie à des applications d'OCR à haut débit et faible latence, essentielles pour le traitement de documents en temps réel, la numérisation massive et l'analyse de flux de documents.
• Limitations : Un compromis existe entre la précision et l'efficacité. La version "Fast" (avec cache figé) est légèrement moins précise que la version standard car elle ne peut pas réajuster dynamiquement les représentations des blocs précédents face au contexte courant.

En résumé, DODO résout le paradoxe de la diffusion pour l'OCR en introduisant une structure par blocs qui combine la stabilité de l'approche causale avec l'efficacité du parallélisme, établissant un nouvel état de l'art pour les modèles VLM non-autorégressifs.