HierDoc: Hierarchical Page-to-Region Evidence Routing for Long-Document Visual Question Answering

技術要約: HierDoc

問題提起
マルチページ文書の視覚的質問応答（DocVQA）は、単一ページの読解から、エビデンスが複数のページや視覚的要素に疎に分散しているロングドキュメントの推論へと進化しています。既存のアプローチは、通常、以下のいずれか一方の粒度にのみ焦点を当てています：

• ページ中心型手法： 関連するページを検索することには注力していますが、リージョンレベルの操作を単なるナビゲーション補助として扱っており、微細なエビデンス選択を独立した最適化されたアクションとして定式化できていません。
• リージョン中心型手法： 関連するページが既に提供されていることを前提としており、上流の重要なタスクである「ページの取得」を軽視しています。
  その結果、ページ選択とリージョン選択は、統一されたエビデンス取得プロセスにおける連続的な最適化ステージとして機能するのではなく、互いに断絶したままとなっています。

手法: HierDoc フレームワーク
HierDocは、ロングドキュメントのエビデンス取得を、「ページからリージョンへ」という2段階の集合予測問題としてモデル化する、階層的なエビデンス・ルーティング・フレームワークを提案します。本システムは、以下の3つの明確なステージで動作します。

1. ページ・ルーティング（Page Policy）:

   • 質問とレンダリングされたドキュメントが与えられると、学習可能なページ・ポリシーが構造化されたエビデンス・ページの集合を選択します。
   • 単一の視覚的コンテキストよりも長いドキュメントを扱うため、ドキュメントは重複のないウィンドウに分割されます。ポリシーは各ウィンドウに対して独立して動作し、結果はマージされます。
   • 初期選択が閾値を超えた場合には**有界リフレクション（bounded reflection）**メカニメントがトリガーされ、別途の学習目的関数を必要とせずに、ポリシーが冗長なページを削減（プルーニング）することを可能にします。
   • ポリポリシーは、エビデンスの網羅性（Recall/F1）とコンテキストのボリュームのバランスを取り、無効なアクションにペナルティを与える構造化集合報酬を用いて、Group Relative Policy Optimization (GRPO) により最適化されます。

2. セマンティック解析およびリージョン・ルーティング（Region Policy）:

   • 選択されたページは、MinerU2.5-Pro によって候補となるセマンティック・リージョン（段落、表、図など）へとパースされ、各リージョンには離散的なエイリアス、バウンディングボックス、およびOCR/テーブルテキストが割り当てられます。これにより、パーサー固有の離散的なアクション空間が構築されます。
   • リージョン・ポリシーは、質問、選択されたページ画像（エイリアスをオーバーレイしたもの）、および候補リストを条件として、構造化されたエビデンス・リージョンIDの集合を出力します。
   • ページ・ルーティングと同様に、リフレクション・メカニズムがリージョン集合を最小限の十分なサブセットへと精緻化します。
   • リージョン・ポリシーもまた、Recall、Precision、F1のバランスを取りつつ、過剰なアクションや無効なエイリアスにペナルティを与える粒度固有の報酬を用いて、GRPO により最適化されます。

3. グラウンデッド・アンサリング（Grounded Answering）:

   • 独立した回答モデルは、選択されたフルページ（グローバルなレイアウトと要素間の関係を保持）とともに、選択されたリージョンのクロップ画像およびそれに関連するテキストメタデータ（OCR/テーブルテキスト）を受け取ります。
   • この設計は、グローバルなコンテキストを維持しながら、微細なローカル・エビデンスを強調します。リージョンが選択されていない場合、モデルはフルページのみで動作します。

主な貢献

1. 統一された階層的定式化： HierDocは、ページ取得とセマンティック・リージョン取得を、連続的かつ回答に依存しない（answer-agnostic）構造化集合ポリシーとして表現する初のフレームワークです。これにより、両方のルーティング決定が明示的かつ独立して分析可能になります。
2. 段階的な学習戦略： 著者らは、粒度固有の集合報酬を用いた段階的なGRPOによる学習戦略を開発しました。決定的なのは、空間的な教師信号（バウンディングボックス）を離散的なセマンティック・アクション空間（パーサー固有のエイリアス）にマッピングすることで、リージョン選択の効率的な学習を可能にした点です。
3. 包括的な評価： 本フレームワークは、5つのマルチページおよびロングドキュメントVQAベンチマークで評価されています。研究には、各コンポーネントの価値を分離するために、ルーティングとエビデデンス構成の制御されたアブレーションが含まれています。

実験結果

• パフォーマンス： HierDocは、オープンウェイト・システムの中で最高水準または競争力のある性能を達成しました。LongDocURL において、最強の報告済みオープンウェイト・ベースラインに対し、相対精度を**16.87%向上させました。MMLongBench-Doc では、ベースライン（Doc-V）に対し*27.36%**向上しました。
• 検索品質： ページ・ポリシーは既存のページ選択コンポーネントを大幅に上回り、MMLongBench-DocでPage F1を38.63%、LongDocURLで**56.76%**向上させると同時に、よりコンパクトなエビデンス集合（平均選択ページ数が少ない）を構築しました。
• アブレーションによる洞察：
  • 学習： ページ・ポリシーのGRPO学習は、未学習のバックボーンと比較して、ダウンストリームのQA精度を5.26%、F1を4.40%向上させました。
  • リージョン・ルーティング： ページのみのシステムに学習済みのリージョン・ルーティングを追加することで、QA精度が5.51%、F1が**4.82%**向上しました。
  • エビデンス構成： 選択されたリージョン・クロップと選択されたOCRを組み合わせることで、最良の結果が得られました。しかし、フルページを削除してクロップとOCRのみに依存するとパフォーマンスが低下したことから、グローバルなページ・コンテキストと微細なリージョン・エビデンスは相補的であることが確認されました。

意義と限界
本論文は、粗いページ・ルーティングと微細なリージョン・ルーティングを、連続的かつ個別に最適化されたステージとして構成することが、ロングドキュメントにおける疎なエビデンスの課題を効果的に解決することを主張しています。結果は、明示的で回答に依存しないルーティング・ポリシーが、エビデンスの局在化とダウンストリームの回答精度を大幅に高められることを示しています。

著者らは以下のいくつかの限界を認めています：

• エラーの伝播： 階層的設計は不可逆的であり、ページ・ルーティング中に漏れたエビデンスをリージョン・ステージで回収することはできません。
• 依存性： リージョン・ルーティングはパースにMinerUに依存しており、したがって、レイアウト・パースのエラー、OCRのノイズ、およびヒューリスティックな整合制約がアクション空間を制限する可能性があります。
• 最適化のギャップ： ポリシーは回答へのエンドツーエンドのフィードバックではなく、集合レベルの目的関数で最適化されています。そのため、選択指標の改善が必ずしも回答の質に比例して反映されるとは限りません。

著者らが示唆する今後の課題には、不確実性を考慮したリカバリの組み込み、エビデンス取得と回答の共同最適化、およびより広範なドキュメント領域におけるトレードオフの評価が含まれます。