技術要約：OpticalDNA – 光学的文字認識を通じたゲノムモデリングの再考

1. 問題提起

本論文は、現在のゲノム基盤モデルにおける根本的な限界を指摘している。これらのモデルの多くは、DNAを1次元のトークンシーケンスとして扱う大規模言語モデル（LLM）アーキテクチャを採用している。著者らは、この「網羅的な逐次読み取り」パラダイムは、以下の2つの理由から、ゲノムデータの性質と構造的に乖離していると主張している。

1. 構造を意識した読み取りの欠如： ゲノム機能は疎（スパース）かつ不連続であり、情報の少ない長い背景領域の中に埋め込まれている。逐次型モデルはすべてのトークンに対して一様に計算資源を割り当てるため、背景領域にリソースを浪費し、遠く離れた遺伝子座間の「ジャンプのような」依存関係への集中ができない。
2. 理解に基づく圧縮の欠如： 高忠実度な圧縮には、背景を抑制しつつタスクに関連する構造を特定するという、意味的な理解が必要である。既存のトークンレベルのパラダイム（塩基またはk-merトークンを使用するもの）にはこの能力が欠けており、背景領域と機能領域の両方に同等の計算を割り当ててしまう。その結果、実行時間とメモリがシーケンス長に対して悪化し、超長文コンテキスト（例：全ゲノム）のモデリングを計算量的に不可能にしている。

2. 手法：OpticalDNA

著者らは、ゲノムモデリングを光学文字認識（OCR）スタイルの文書理解問題として再定義する、視覚ベースのフレームワークであるOpticalDNAを提案している。DNA配列を線形なトークンストリームとして処理するのではなく、この手法ではDNA配列を構造化された2次元の視覚的レイアウトへとレンダリングする。

2.1. DNAドキュメント生成

• レンダリング： 1次元のDNA配列 $S$ を、構造化されたマルチページ・ドキュメント $D(S)$ へとラスタライズする。ヌクレオチド（A/C/G/T/N）は、固定解像度のページ（例：640x640ピクセル）上に等幅フォントのような形式で、行ごとに書き込まれる。
• アノテーション： レンダリングされた各ページには、すべてのヌクレオチドを特定のピクセル座標 $(x_1, y_1, x_2, y_2)$ およびグローバルな配列インデックスにマッピングするバウンディングボックス注釈 $B(p)$ が付随する。これにより、視覚的ドキュメントと元の配列との間に、情報の欠落がない全単射なマッピングが作成される。
• マルチページ処理： 複数のページにまたがる長いシーケンスは、単一のドキュメントオブジェクトとして扱われ、リージョンレベルのアクセスを可能にしながら、グローバルな順序を保持する。

2.2. モデルアーキテクチャ

OpticalDNAは、以下の要素からなる視覚言語モデル（VLM）アーキテクチャを採用している。

• 視覚エンコーダ ($E_\theta$)： SAM–Conv–CLIP-L フロントエンドに基づいており、レンダリングされたページ画像を処理する。これには、学習済みのプロジェクターと、複数のページの情報をコンパクトな視覚トークンのシーケンスへと集約するためのマルチページ融合モジュール（自己注意機構を使用）が含まれる。
• ドキュメントデコーダ ($G_\psi$)： 融合された視覚トークンとテキストプロンプトに基づいてタスクの出力を生成する、自己回帰型デコーダ（DeepSeek-3Bに基づく）。

2.3. 事前学習タスク

モデルは、実用的なゲノム解析ワークフローに適合するように設計された、4つのゲノムプリミティブにわたる6つのOCRスタイルプロンプトファミリーを用いて事前学習される。

1. 認識（読み取り）： 自由形式のDNA転写 (T1)。
2. グラウンディング（接地）： テキストブロックの空間的な位置特定を伴う転写 (T2)。
3. ROI認識： 指定されたバウンディングボックス内の特定領域の転写 (T3)。
4. 補完： 与えられた領域内でのマスクされたヌクレオチド配列の予測 (T4)。
5. 検索： クエリとなる部分配列のすべての出現箇所を特定 (T5)。
6. グローバル分類： 染色体レベルのラベルの予測 (T6)。

このトレーニング体制により、モデルは、微細なゲノム情報を保持しながら、削減された実効トークン予算の下で動作する、レイアウトを意識した表現を学習することを強制される。

3. 主な貢献

• パラダイムシフト： 本論文は、ゲノム配列モデリングを、シーケンス・トークン中心の学習から、OCRスタイルの文書理解問題へと再定式化した最初の研究であると主張している。
• OpticalDNAフレームワーク： 構造化された視覚的レイアウトとリージョン中心の推論を通じて表現を学習する、初の視覚ベースのDNA基盤モデルの導入。
• タスクスイート： 読み取り、グラウンディング、検索、補完といったコアなゲノム操作をカバーする、6つのOCRに着想を得たタスクのデザイン。これはDNA理解のための統一されたベンチマークとして機能する。
• 効率性： このドキュメント形式の定式化が、既存のベースラインと比較して、大幅に少ないパラメータ数と実効トークン数で、最先端の性能を達成することを実証した。

4. 実験結果

著者らは、DNALONGBENCH（ヒトeQTL）、RiceSubBench（イネ亜種）、RiceWGPB（イネ全ゲノム表現型）の3つのベンチマークでOpticalDNAを評価した。

• eQTL予測 (DNALONGBENCH)：
  • OpticalDNAは、9つのGTEx組織において、平均AUROC 0.852 (Linear Probe) および 0.867 (MLP Head) という最先端の成績を達成した。
  • HyenaDNA、Caduceus-Ph、JanusDNAを含む最新のベースラインを上回った。
  • 極めて重要な点として、OpticalDNAは ~256Kの学習可能パラメータ（プローブ用）を使用し、ベースラインよりも ~20倍少ない実効トークン でこれらの結果を達成した。また、わずか256kのパラメータをチューニングするだけで、最大985倍多くの活性化パラメータを持つモデル（例：Enformer）を凌駕した。
• 亜種間汎化性能 (RiceSubBench)：
  • OpticalDNA (409M パラメータ) は、インドメインおよびアウトオブドメイン（OOD）のすべてのイネ亜種分割において最高の精度を達成し、Evo-2 (7B) や LucaOne (1.8B) といったより大規模なモデルを上回った。
  • 強力な分布シフトの下でも堅牢性を示し、特定のOOD亜種においてLucaOneを最大 13.88% 上回った。
• 全ゲノム表現型予測 (RiceWGPB)：
  • 約4億塩基のゲノム入力に対し、OpticalDNAは千粒重や葉巻リーフ指数などの形質において、最も低いRMSEを達成した。
  • 推論効率： 代表的なゲノムに対して、推論時間をEvo-2の数時間やLucaOneの数十分から、12.3分 にまで短縮した。
• アブレーションと堅牢性：
  • 視覚的圧縮： レンダリング解像度を高めても（高い圧縮率）、安定した性能を維持しており、トークン削減に対する堅牢性を示した。
  • レンダリングの堅牢性： テキスト密度、アスペクト比、フォントの変化に対しても性能は安定していたが、厳格な固定ウィンドウ・レイアウトでは低下が見られた。
  • 解釈可能性： Grad-CAMによる可視化により、モデルが拡散した塩基レベルの注意ではなく、人間の「フレーズのような」読み取りを模倣した、短く連続した領域に対する局所的な寄与を生み出していることが示された。

5. 意義と主張

本論文は、OpticalDNAを新しい生物学的幾何学の発見としてではなく、ゲノム配列モデリングの計算的な再定式化として位置づけている。

• 効率 vs 精度： 主要な主張は、DNAを構造化されたドキュメントとして扱うことで、「理解に基づく圧縮」が可能になるという点である。長大なシーケンスを座標インデックス付きの視覚的レイアウトに変換することで、モデルは背景を抑制しながら情報量の多い領域を選択的に処理でき、優れた精度と効率のトレードオフを実現できる。
• スケーラビリティ： このフレームワークは、長文コンテキストのゲノム表現学習に対するスケーラブルな方向性を提供し、標準的な逐次型LLMでは計算量的に困難な超長文シーケンス（最大450k塩基および全ゲノム）の処理を可能にする。
• 解釈可能性： 視覚的なトークン化は、リージョンレベルの解釈可能性を自然にサポートしており、塩基単位の徹底的なスキャンを行うことなく、生物学的に意味のある信号（例：スプライス部位）を特定することを可能にする。
• 汎用性： 種間転移（ヒトからイネ）の成功は、OCRスタイルの視覚的定式化が、単純な配列の記憶を超えて、転移可能なゲノムの規則性を捉えていることを示唆している。

著者らは、DNAは生物学的には1次元のシーケンスであるが、長文コンテキスト・モデリングの計算上の課題は、ドキュメント形式のリージョン中心のパラダイムを通じて情報へのアクセスを再編成することによって、より適切に解決できると結論づけている。