💬 NLP

Rethinking Genomic Modeling Through Optical Character Recognition

OpticalDNA 引入了一种新颖的基于视觉的框架，将基因组建模重新定义为一项光学字符识别（OCR）任务，通过将 DNA 序列转化为结构化的视觉布局，从而实现比传统语言模型方法更少的标记（tokens）和可训练参数，并获得卓越的性能和高保真度的压缩。

原作者： Hongxin Xiang, Pengsen Ma, Yunkang Cao, Di Yu, Haowen Chen, Xinyu Yang, Xiangxiang Zeng

发布于 2026-06-08

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Hongxin Xiang, Pengsen Ma, Yunkang Cao, Di Yu, Haowen Chen, Xinyu Yang, Xiangxiang Zeng

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

核心问题：逐字阅读书籍的困境

想象一下，你正试图理解一座巨大的图书馆，但你被迫必须通过扫描每一个字母来理解它们，从第一页开始，一个接一个地读到最后一页。

这就是目前的 AI 模型处理 DNA 的方式。它们将基因组视为一条由字母（A、C、G、T）组成的超长一维字符串。问题在于，DNA 大部分都是“背景噪音”。就像一本书中有很多纯粹是填充内容的文本块一样，DNA 中也有长段的内容并无实际作用。然而，重要的部分（比如构建蛋白质的指令）稀疏地散布在整个序列之中。

目前的模型浪费了巨大的能量去阅读每一个字母，甚至是那些无聊的字母，只为了寻找那些重要的部分。这就像是为了在一本 1000 页的小说中找到特定的句子，而不得不阅读每一页上的每一个字母，甚至包括那些空白页。

新思路：将 DNA 视为一份文档

这篇论文的作者们提出了 OpticalDNA，他们提出了一个简单的问题：如果我们不再把 DNA 当作一个句子，而是把它当作一份文档呢？

请不要把 DNA 序列看作一条长线，而要把它看作一本多页的杂志。

布局： 他们不再使用单一的线条，而是将 DNA 序列“渲染”到一个二维网格上，就像电脑屏幕上的文本一样。它填满一页，然后溢出到下一页，就像书本一样。
视觉化： 他们将这些页面转化成了真实的图像。
AI 模型： 他们使用了一种最初为**光学字符识别（OCR）**设计的 AI 技术——这项技术能让计算机“阅读”文档照片中的文字。

它是如何运作的：“扫描与跳过”策略

通过将 DNA 转化为视觉文档，AI 可以利用“视觉”来理解其结构。

旧方法（顺序式）： AI 读取第 1 个字母，然后是第 2 个，接着是第 3 个……一直读到最后。它无法轻松地向前跳跃。
OpticalDNA 方法（视觉式）： AI 观察“页面”。它可以瞬间看到某一段特定的文本位于右上角。它可以将注意力直接“跳转”到那个特定区块，而无需阅读它之前的数百万个字母。

这类似于人类阅读菜单的方式。你不会通过阅读页面上的每一个词来寻找“意面”部分；你的眼睛会扫描布局，捕捉到加粗的标题，然后直接跳转过去。OpticalDNA 对 DNA 也做了同样的事情。

AI 通过“游戏”进行学习

为了教会这个 AI 如何出色地阅读 DNA 文档，研究人员并没有仅仅要求它“预测下一个字母”。相反，他们给了它六个特定的“游戏”（任务），这些游戏模拟了人类与文档交互的方式：

转录（Transcription）： “阅读这一整页 DNA 并将其打出来。”
定位（Grounding）： “阅读这一行 DNA 并告诉我它在页面上的确切位置（坐标）。”
感兴趣区域（ROI）阅读： “这里有一个画在页面上的框。框内的 DNA 是什么？”
补全（Completion）： “这里有一个被涂黑（遮盖）的文本框。请根据上下文猜猜那里原本是什么 DNA。”
检索（Retrieval）： “找出页面中所有出现序列 'ATCG' 的地方，并指出它们。”
分类（Classification）： “观察这整份文档，并告诉我它来自哪条染色体。”

通过玩这些游戏，AI 学会了理解 DNA 的结构，而不仅仅是字母本身。

结果：更快、更聪明、更便宜

论文声称，这种新方法相比以往的方法是一次巨大的升级：

效率： 由于 AI 可以“跳过”无聊的部分并专注于视觉布局，它使用 20 倍更少的“Token”（数据单元）即可处理相同长度的 DNA。这就像是将一本 1000 页的书总结成一份 50 页的大纲，且不会丢失重要的细节。
性能： 在预测基因如何受调控（eQTL 任务）的测试中，即使其他模型的参数量高达 985 倍之巨，OpticalDNA 依然击败了它们。
速度： 它可以比该领域的那些“巨头”模型更快、占用更少内存地处理大规模的 DNA 片段（高达 450,000 个字母）。
泛化能力： 它不仅在人类 DNA 上表现良好，在水稻 DNA 上也同样有效，这表明它学习到的是一种通用的“阅读”遗传文档的方法，而不仅仅是记住了人类的模式。

总结

OpticalDNA 是一种看待遗传学的新方式。它不再强迫计算机像读取缓慢的线性磁带一样去阅读基因组，而是将基因组转化为一份视觉文档。这使得 AI 可以利用它的“眼睛”去扫描重要模式、跳过噪音，并更高效地理解全局。这是一种从“阅读每一个字母”到“理解整体布局”的转变。

技术摘要：OpticalDNA —— 通过光学字符识别重新思考基因组建模

1. 问题陈述

本文指出当前基因组基础模型存在根本性的局限性，这些模型主要采用将 DNA 视为一维 token 序列的大型语言模型（LLM）架构。作者认为，这种“穷尽式顺序读取”范式在结构上与基因组数据的本质不匹配，原因有二：

缺乏结构感知读取： 基因功能是稀疏且不连续的，嵌入在长段低信息量的背景之中。顺序模型在所有 token 上均匀分配计算资源，而非专注于稀疏的功能位点，这导致了资源的浪费，并产生了跨越遥远位点的低效“跳跃式”依赖关系。
缺乏理解驱动的压缩： 高保真度压缩需要语义理解来识别任务相关的结构，同时抑制背景。现有的 token 级范式（使用碱基或 k-mer token）缺乏这种能力，对背景区域和功能区域分配了同等的计算量。因此，运行时和内存消耗随序列长度增加而迅速扩展，使得超长上下文建模（如全基因组）在计算上变得难以实现。

2. 方法论：OpticalDNA

作者提出了 OpticalDNA，这是一个基于视觉的框架，将基因组建模重新定义为一个类似于光学字符识别（OCR）的文档理解问题。该方法不再处理线性 token 流，而是将 DNA 序列渲染为结构化的二维视觉布局。

2.1. DNA 文档生成

渲染： 将一维 DNA 序列 $S$ 光栅化为结构化的多页文档 $D(S)$ 。核苷酸（A/C/G/T/N）以等宽字体逐行写入固定分辨率的页面（例如 640x64.6 像素）。
标注： 每个渲染页面都配有边界框标注 $B(p)$ ，将每个核苷酸映射到其特定的像素坐标 $(x_1, y_1, x_2, y_2)$ 和全局序列索引。这创建了视觉文档与原始序列之间无损且双射的映射。
多页处理： 跨越多个页面的长序列被视为单个文档对象，在保留全局顺序的同时实现区域级访问。

2.2. 模型架构

OpticalDNA 采用了一种视觉语言模型（VLM）架构，由以下部分组成：

视觉编码器 ( $E_\theta$ )： 基于 SAM–Conv–CLIP-L 前端，用于处理渲染的页面图像。它包含一个学习投影器和一个多页融合模块（使用自注意力机制），用于将来自多个页面的特征聚合为紧凑的视觉 token 序列。
文档解码器 ( $G_\psi$ )： 一个自回归解码器（基于 DeepSeek-3B），根据融合后的视觉 token 和文本提示生成任务输出。

2.3. 预训练任务

模型使用六种涵盖四种基因组原语的 OCR 式提示家族进行预训练，旨在与实际的基因组分析工作流保持一致：

识别（读取）： 自由形式的 DNA 转录 (T1)。
定位（Grounding）： 结合文本块空间定位的转录 (T2)。
ROI 识别： 在给定边界框的情况下转录特定区域 (T3)。
补全： 预测给定区域内的掩码核苷酸序列 (T4)。
检索： 定位查询子序列的所有出现位置 (T5)。
全局分类： 预测染色体层级的标签 (T6)。

这种训练方案迫使模型学习具有布局感知能力的表示，在保留细粒度基因组信息的同时，在降低的有效 token 预算下运行。

3. 核心贡献

范式转变： 本文声称是首个将基因组序列建模重新表述为 OCR 式文档理解问题的研究，从而摆脱了以序列 token 为中心的学习模式。
OpticalDNA 框架： 引入了第一个通过结构化视觉布局和以区域为中心的推理来学习表示的视觉 DNA 基础模型。
任务套件： 设计了六个受 OCR 启发的任务，涵盖核心基因组操作（读取、定位、检索、补全），作为统一的 DNA 理解基准。
效率： 证明了这种文档式表述能够在使用显著更少的参数和有效 token 的情况下，实现最先进的性能。

4. 实验结果

作者在三个基准测试上评估了 OpticalDNA：DNALONGBENCH（人类 eQTL）、RiceSubBench（水稻亚种）和 RiceWGPB（全基因组表型）。

eQTL 预测 (DNALONGBENCH)：
- OpticalDNA 在九种 GTEx 组织中实现了 0.852 (Linear Probe) 和 0.867 (MLP Head) 的最优平均 AUROC。
- 它超越了包括 HyenaDNA、Caduceus-Ph 和 JanusDNA 在内的近期基准模型。
- 至关重要的是，它在仅使用 ~256K 可训练参数（针对探针）和 ~20 倍更少的有效 token 的情况下实现了这些结果。它超越了拥有高达 985 倍激活参数（如 Enformer）的模型，而仅需微调 256k 参数。
跨亚种泛化能力 (RiceSubBench)：
- OpticalDNA（409M 参数）在所有域内及分布外（OOD）水稻亚种划分中均取得了最佳准确率，优于 Evo-2 (7B) 和 LucaOne (1.8B) 等大型模型。
- 它在强分布偏移下表现出鲁棒性，在特定 OOD 亚种上的表现比 LucaOne 提高了多达 13.88%。
全基因组表型预测 (RiceWGPB)：
- 在约 400M 碱基的基因组输入下，OpticalDNA 在千粒重和叶卷曲指数等性状上实现了最低的 RMSE。
- 推理效率： 它将代表性基因组的推理时间从 Evo-2 的数小时和 LucaOne 的数十分钟缩短至 12.3 分钟。
消融实验与鲁棒性：
- 视觉压缩： 随着渲染分辨率的增加（更高的压缩率），模型仍能保持稳定的性能，表明其对 token 减少具有鲁棒性。
- 渲染鲁棒性： 性能在文本密度、长宽比和字体的变化下保持稳定，尽管刚性的固定窗口布局会导致性能下降。
- 可解释性： Grad-CAM 可视化显示，模型产生局部归因，集中在短的连续区域上，反映了人类“类短语”式的阅读方式，而非弥散的碱基级注意力。

5. 重要性与主张

论文将 OpticalDNA 定位为不是对 DNA 新生物几何结构的发现，而是一种 计算层面的重新表述，即对基因组序列建模的重新构思。

效率 vs. 准确度： 其核心主张是，将 DNA 视为结构化文档可以实现“理解驱动的压缩”。通过将长序列转换为带有坐标索引的视觉布局，模型可以有选择地处理信息丰富的区域并抑制背景，从而实现卓越的准确度-效率权衡。
可扩展性： 该框架为长上下文基因组表示学习提供了一个可扩展的方向，能够处理标准顺序 LLM 在计算上难以实现的超长序列（高达 450k 碱基及全基因组）。
可解释性： 视觉 token 化天然支持区域级可解释性，允许在无需穷尽碱基扫描的情况下，实现对生物学意义信号（如剪接位点）的定位。
泛化能力： 跨物种迁移（人类到水稻）的成功表明，这种 OCR 式的视觉表述捕捉到了超越简单序列记忆的可迁移基因组规律。

作者总结道，虽然 DNA 在生物学上是一维序列，但通过通过文档式、以区域为中心的范式来重组信息访问，能更好地解决长上下文建模的计算挑战。