DODO: Discrete OCR Diffusion Models

本文提出了 DODO，这是首个利用分块离散扩散模型解决传统自回归解码效率瓶颈的视觉语言模型，在保持接近最先进 OCR 准确率的同时实现了高达 3 倍的推理加速。

要点

这篇论文介绍了一个名为 DODO 的新模型，它的核心任务是OCR（光学字符识别），也就是把图片里的文字（比如扫描的文档、照片里的字）转换成电脑能编辑的文本。

为了让你轻松理解，我们可以把 OCR 想象成**“在嘈杂的派对上听写”，而 DODO 就是那个“超级听写员”**。

1. 以前的困境：慢吞吞的“单字接龙”

目前的顶级 OCR 模型（比如基于大语言模型的）大多采用**“自回归”**（Autoregressive）的方式工作。

• 比喻：想象你在玩“传声筒”游戏，或者像写对联。你必须先写出第一个字，确认了，才能写第二个字；确认了第二个，才能写第三个。
• 问题：如果文档有 1000 个字，你就得做 1000 次“思考 - 确认 - 写下一个”的动作。这就像单行道，车只能一辆接一辆过，一旦路很长（长文档），堵车（延迟）就严重了，速度非常慢。

2. 新的尝试：大胆的“填字游戏”，但容易出错

研究人员发现，OCR 其实有一个特点：图片里的字是确定的。图片里是"Apple"，就不可能是"Banana"。这不像写诗（可以有很多写法），OCR 只有一种标准答案。
既然答案唯一，理论上我们可以并行处理：不用等前一个字，直接猜整段话。

• 比喻：这就像玩填字游戏。以前的模型是一个格子一个格子填；现在的“扩散模型”（Diffusion Models）试图一次性把整张纸上的格子都填上，然后慢慢擦掉错误的，修正正确的。
• 问题：这种“一次性全填”的方法在写诗（创意任务）时很灵活，但在 OCR 这种**“零容忍”**的任务里会翻车。
  • 长度错误：模型可能猜错了总字数，导致后面多出一堆乱码，或者前面少了一截。
  • 位置错乱：模型可能把“标题”填到了“正文”的位置，而且一旦填错了，它很难回头修改（因为它是基于概率猜测的，不像人类可以逻辑推理）。
  • 结果：就像填字游戏里，你把“苹果”填在了“香蕉”的位置，整个句子就崩了。

3. DODO 的绝招：切块填字 + 流水线作业

DODO 发现，要解决“一次性全填”容易乱套的问题，最好的办法是**“分块处理”**。

• 核心创新：分块离散扩散（Block Discrete Diffusion）
  • 比喻：想象你要整理一长串乐高积木。
    • 旧方法（自回归）：一块一块地拼，拼完第一块再拼第二块。
    • 旧扩散模型（全局扩散）：把整条积木带扔进机器，试图一次性把它们都拼好，结果经常拼歪、拼错顺序。
    • DODO 的方法（分块扩散）：把长积木带切成小段（比如每段 256 个积木）。
      1. 先拼好第一段，把它锁定（作为确定的基础）。
      2. 然后，基于第一段，并行地快速拼好第二段（这一段里可以同时处理很多个积木）。
      3. 拼好第二段，锁定，再拼第三段……
  • 好处：
    • 快：因为每一段内部是“并行”的（像多人同时填一个填字游戏），速度比“单字接龙”快得多（论文说快了 3 倍）。
    • 稳：因为每一段都基于前一段“锁定”好的内容，不会出现“标题跑到正文去”或者“字数猜错”的灾难性错误。它既保留了扩散模型的速度，又有了传统模型的准确性。

4. 为什么叫 DODO？

DODO 是 Discrete OCR Diffusion Models 的缩写。虽然渡渡鸟（Dodo）已经灭绝了，但在这个领域，它象征着一种**“进化”**：从慢吞吞的旧方法，进化到了既快又准的新方法。

5. 总结：DODO 带来了什么？

• 速度提升：处理长文档时，速度提升了3 倍。以前需要 10 秒读完的文档，现在可能只要 3 秒。
• 准确率不打折：虽然快了，但它的准确率依然和目前最顶尖的慢速模型一样高，甚至更好。
• 适用场景：特别适合处理长文档、复杂的表格、多栏排版的扫描件。

一句话总结：
DODO 就像是一个聪明的流水线工头，它不再让工人一个个地搬砖（慢），也不再让所有人同时乱搬（容易乱），而是把砖块分成小堆，让工人们在每一堆里同时开工，搬完一堆再搬下一堆。这样既保证了秩序，又极大地提高了效率。

技术摘要

这篇论文提出了 DODO (Discrete OCR Diffusion Models)，这是首个利用**块离散扩散（Block Discrete Diffusion）**技术来加速光学字符识别（OCR）任务的视觉语言模型（VLM）。

以下是对该论文的详细技术总结：

1. 研究背景与问题 (Problem)

• 现有瓶颈： 当前的 OCR 任务主要依赖**自回归（Autoregressive, AR）**解码的视觉语言模型。AR 模型必须按顺序逐个生成 Token，导致在处理长文档时计算成本高、推理延迟大，成为文档数字化的关键瓶颈。
• 扩散模型的潜力与局限： 扩散模型（Diffusion Models）理论上支持并行解码，能显著加速推理。然而，现有的**掩码扩散模型（Masked Diffusion Models, MDMs）**在 OCR 任务上表现不佳。
  • 核心矛盾： OCR 是一个**语义刚性（Semantically Rigid）**的任务，视觉输入严格决定唯一的输出序列，几乎没有歧义。相比之下，图像描述（Captioning）等任务具有语义灵活性，允许多种等效表达。
  • 全局扩散的失败： 标准的 MDM 通常在一个固定的全局画布上进行并行去噪。在 OCR 中，这种机制会导致灾难性的结构不稳定性：
    1. 长度不匹配（Length Mismatch）： 如果模型预测的序列长度错误，会导致文本截断或填充幻觉，且无法像灵活任务那样通过改写来修正。
    2. 位置锚定失效（Positional Anchoring）： 并行解码将内容绑定到绝对位置索引。一旦早期步骤出现位置偏移（例如表格标题错位），由于“不可逆的掩码揭示”（Carry-over Unmasking）机制，后续文本无法调整位置来补偿，导致输出破碎。

2. 方法论 (Methodology)

为了解决上述矛盾，作者提出了 DODO 框架，其核心思想是将生成任务分解为因果锚定的块（Causally Anchored Blocks）。

• 块离散扩散（Block Discrete Diffusion）：

  • 不再对整个序列进行全局并行去噪，而是将序列划分为连续的块（例如每块 256 个 Token）。
  • 模型按顺序处理这些块：前一个块被解码并“提交”（Committed）后，作为条件（Prefix）用于生成下一个块。
  • 公式化： $p_\theta(x_{1:L}|I, c) = \prod_{b=1}^{B} p_\theta(x^{(b)} | x^{(<b)}, I, c)$，其中每个块内的 Token 通过掩码扩散并行生成，但块与块之间保持自回归依赖。

• 架构变体：

  1. DODO (标准版)： 使用全双向注意力机制。虽然前序块已固定，但它们的隐藏表示在每一步都会重新计算以关注当前块。这保证了信息流的最大化，但无法利用 KV-Cache，计算开销较大。
  2. DODO fast (加速版)： 引入块因果掩码（Block-Causal Attention）。前序块的表示被冻结，不再重新计算，从而允许使用精确的 KV-Cache。这消除了冗余计算，显著提升了推理速度。

• 训练策略：

  • 在训练和推理中均应用块因果掩码。
  • 利用 OCR 任务的高确定性，将块大小（Block Size）从文本任务常用的 32 Token 大幅扩展至 256 Token，最大化并行效率。
  • 使用置信度阈值（Confidence Thresholding, $p=0.98$）作为去噪调度策略，确保高置信度下才提交 Token，平衡速度与精度。

3. 主要贡献 (Key Contributions)

1. 理论洞察： 首次明确指出标准掩码扩散模型与 OCR 刚性需求之间的结构性不兼容。解释了为何在灵活任务中无害的位置/长度误差，在 OCR 中会导致灾难性失败。
2. 模型创新： 提出了 DODO，首个将块离散扩散应用于多模态文档转录的 VLM。通过“块内并行、块间自回归”的混合架构，既保留了并行解码的速度优势，又通过因果锚定保证了 OCR 所需的结构稳定性。
3. 性能突破： 证明了在保持与最先进自回归模型相当精度的同时，实现了高达 3 倍 的推理吞吐量提升。

4. 实验结果 (Results)

• 数据集： 在 OmniDocBench（包含复杂布局、表格、公式的 290 个文档）和 Fox-Page-EN（纯文本）上进行评估。
• 精度对比：
  • DODO 在 OmniDocBench 上的归一化编辑距离（NED）为 0.066，显著优于其他扩散模型（如 Dimple NED > 0.85）。
  • 其精度与基于 Qwen2.5-VL 的自回归基线模型（3B 参数）相当，甚至超越了部分专用 OCR 模型（如 MinerU, MonkeyOCR），并接近 Mistral OCR 等工业级引擎。
• 速度对比：
  • DODO fast 利用 KV-Cache，吞吐量达到 ~63 Tokens/sec。
  • 相比自回归基线（~21 Tokens/sec）提升了 3 倍。
  • 相比标准扩散模型（Dimple, LaViDa 等），速度提升了数倍，且精度不再下降。
• 消融实验：
  • 证明了“块训练”是必须的：仅在推理时使用块策略（Vanilla MDM + Inference Blocking）无法解决对齐问题，错误率依然很高。
  • 块大小分析显示，256 Token 是精度与速度的最佳平衡点；过大的块（>512）会重新引入位置同步问题。

5. 意义与影响 (Significance)

• 打破范式： DODO 证明了离散扩散模型不仅是理论上的可行方案，更是 OCR 等高确定性、低熵任务的实用且高性能的替代方案。它成功解决了扩散模型在长序列生成中常见的“幻觉”和“结构错位”问题。
• 效率革命： 通过块因果架构和 KV-Cache 的结合，DODO fast 展示了在保持高精度的同时，如何将推理延迟降低一个数量级。这对于需要处理海量文档的实时 OCR 应用场景（如金融报表处理、法律文档数字化）具有巨大的实际价值。
• 未来方向： 该工作为多模态大模型在刚性任务上的推理加速提供了新的架构思路，即通过结构化的约束（如块因果）来释放并行计算的潜力，而非盲目追求全局并行。

总结： DODO 通过引入“块离散扩散”机制，巧妙地平衡了 OCR 任务对绝对准确性的需求和扩散模型对并行效率的潜力，成功实现了比传统自回归模型快 3 倍且精度相当的文档识别，是 OCR 领域的一项重大技术突破。