Divide-Prompt-Refine: a Training-Free, Structure-Aware Framework for Biomedical Abstract Generation

技術概要：Divide-Prompt-Refine（DPR-BAG）

問題定義
生物医学アブストラクトは、情報密度が高く構造化された組織を持つため、情報検索、バイオキュレーション、知識発見などの下流自然言語処理（NLP）タスクにおいて極めて重要です。しかし、生物医学文献の相当部分がアブストラクトを欠いています。2026 年 4 月現在、PubMed 掲載論文の約 29% にアブストラクトが存在せず、この量は症例報告、編集者コメント、手紙などの出版タイプの増加によって駆動されています。これらの欠落したアブストラクトは、NLP 応用におけるボトルネックを生み出しています。

生物医学アブストラクト生成（BAG）のタスクは、全文記事からアブストラクトを自動的に生成することを目的としています。標準的な文書要約とは異なり、BAG は科学的報告の慣習（方法、結果、結論の構造化された提示）への準拠と、微細な生物医学エンティティおよび定量的知見の保持を要求します。既存のアプローチは、以下の 2 つの主要な課題に直面しています：

1. 抽出バイアスと断片化：従来の抽出型手法は、しばしば自然な流れを欠く断片的なテキストを生成します。LongT5 などの高度なモデルでさえ、長文書処理において強い抽出バイアスを示し、合成ではなく逐語的なコピーに依存しています。
2. 長文脈における忠実性のリスク：最先端モデル（例：GPT-4）は、分解されていない科学的全文からの抽出において、幻覚や情報の欠落に悩まされます。さらに、複雑な長文を処理するようにモデルに強制することは、事実の一貫性の低下を招く傾向があります。

手法：DPR-BAG フレームワーク
著者は、一貫性があり事実に基づいたアブストラクトを生成するための、学習不要のゼロショットフレームワークであるDPR-BAG（Biomedical Abstract Generation のための Divide, Prompt, Refine）を提案します。このフレームワークは、モジュール型パイプラインを通じて動作します：

1. 構造認識分解（Divide）：
   全文を単一のブロックとして処理するのではなく、DPR-BAG はBOMRCスキーマ（Background, Objectives, Methods, Results, Conclusions）に基づき、分類不能なコンテンツ用の「Others」カテゴリを加えた 6 つの修辞的側面に文書を分解します。

   • 分割戦略：著者は、文に修辞的ラベルを割り当てるためにLLM-SSC（Large Language Model-based Sequential Sentence Classification）を利用します。パラグラフの最初の文のラベルをそのパラグラフのグローバルラベルとして扱う**First Sentence Labeling（FS）**戦略を採用します。このアプローチは、微細な文脈的アンカーを提供することで、単純な長さベースの分割（NS）やセクションヘッダーの正規化（SH）を上回ります。

2. 並列要約（Prompt）：
   生成された各側面は、事前学習済みで指示チューニングされた LLM（実験では Llama-3.2:3B）を用いて、ゼロショット方式で独立して要約されます。

   • プロンプト戦略：本研究は、3 つのプロンプトの複雑さを評価します：
     • Basic Concise（BC）：粗粒度の焦点を伴う最小限の指示。
     • Detailed Instruction（DI）：JMIR 提出ガイドラインをモデル化し、サンプルサイズや p 値などの詳細な情報を強制するもの。
     • Structural Instruction（SI）：構造的スキーマを強制するために Markdown 形式を使用するもの。
   • エンティティガイダンス：このフレームワークは、TR-UMLS（TextRank 抽出を UMLS 概念にリンクさせたもの）や**Chain-of-Thought（CoT）**推論など、オプションのグラウンディング拡張機能をテストします。

3. 精緻化（Refine）：
   個々の側面の要約を連結し、最終的な LLM ベースの精緻化段階に渡します。このステップは、断片的な出力を統合されたアブストラクトに合成し、グローバルな談話の一貫性とスタイルの整合性を確保します。

4. 検証とフォールバック：
   6 つの側面要約すべてが失敗した場合、システムはコンテンツを Intro、Main Idea、Results & Conclusions の 3 つの広範なカテゴリに再グループ化する堅牢性メカニズムを実装しています。これが失敗した場合、空でない出力を保証するために「Lead-300」ヒューリスティック（最初の 300 文字）が使用されます。

主な貢献

1. DPR-BAG フレームワーク：全文記事を修辞的側面に分解し、並列要約を実行し、出力を精緻化する、学習不要の構造認識型 BAG 手法。
2. PMC-MAD データセット：BAG タスクのために特別にキュレーションされた、欠落アブストラクトを持つ 46,309 件の生物医学全文出版物の分布整合データセットの公開。
3. 包括的な評価：強力な抽出型およびファインチューニングされた抽象化ベースライン（LED、LongT5）に対する DPR-BAG の体系的比較により、タスク固有のファインチューニングなしで、抽象性と事実的一貫性において優れた性能を実証。
4. アブレーション洞察：プロンプト戦略と分割方法の詳細な分析により、プロンプトの複雑さに関する直感に反する知見を明らかに。

実験結果
PMC-MAD データセット上で評価された DPR-BAG（Basic Concise プロンプト使用）は、以下の結果を示しました：

• 抽象性：DPR-BAG は、ファインチューニングされたベースラインよりも有意に抽象度が高く（n-gram の新奇性が高く、密度が低い）、人間が執筆したアブストラクトに近似するアブストラクトを生成しました。
• 事実性：高い抽象性にもかかわらず、DPR-BAG はゼロショットおよびファインチューニングされたベースラインの両方と比較して、優れた事実的一貫性（AlignScore、MiniCheck、SummaC によって測定）を維持しました。ファインチューニングされたモデルは、しばしば抽象性の代償として事実性を犠牲にしました。
• 分割戦略：First Sentence Labeling（FS）戦略は Section Header（SH）正規化を有意に上回り、忠実な生成には微細な意味境界が必要であることを確認しました。
• プロンプト複雑性の知見：プロンプトの複雑さの増加（DI および SI）や明示的なエンティティガイダンスの注入（TR-UMLS、CoT）は、一般的に事実的な整合性を低下させました。著者は、複雑な指示がモデルにソースに基づく事実を犠牲にしてフォーマット制約との格闘を強いる「注意散漫効果」を観察しました。特に、CoT は一部の文脈で意味的整合性を向上させましたが、ソースとの事実的重なりを減少させることが多かったです。
• モデルスケーリング：より大規模なモデル（Qwen2.5:7B/14B）へのスケーリングは意味的整合性を向上させましたが、事実的重なりを犠牲にして抽象性をさらに高め、3B バックボーンに対する全体的な利点は生みませんでした。

意義
本論文は、低リソース環境におけるスケーラブルな生物医学アブストラクト生成のための学習不要の構造認識型フレームワークの可能性を強調しています。その知見は、生物医学分野における長文書要約においては、複雑な指示やファインチューニングに依存するよりも、修辞的構造によるテキストの分解と制御された簡潔なプロンプトの使用の方が効果的であることを示唆しています。DPR-BAG フレームワークは、欠落アブストラクトというボトルネックに対する実用的な解決策を提供し、専門モデルのトレーニングに伴う計算コストなしに、膨大な生物医学文献コーパスを下流 NLP 応用で利用可能にします。