論文要約：『The Last Fingerprint: How Markdown Training Shapes LLM Prose』

著者: E. M. Freeburg (独立研究者)
日付: 2026 年 3 月

1. 研究の背景と問題提起

大規模言語モデル（LLM）が生成するテキストにおいて、**「エムダッシュ（—）の過剰使用」は、AI 生成テキストの目印として広く認識・議論されています。一方、開発者コミュニティでは、LLM が構造化された出力（見出し、箇条書き、太字など）を好む傾向、すなわち「LLM は Markdown で思考する」**という観察が別個に議論されています。

しかし、これら 2 つの議論（「エムダッシュの過剰使用」と「Markdown 思考」）はこれまで接続されていませんでした。本論文は、このギャップを埋め、エムダッシュの過剰使用が単なるスタイルの欠陥ではなく、**Markdown 訓練データに起因する構造的指向が、プロース（自然な文章）に変換される際に漏れ出す「最後の痕跡」**であるという仮説を提示します。

2. 主要な仮説と理論的枠組み（5 段階の系譜）

著者は、エムダッシュが生成されるメカニズムを以下の 5 段階の「系譜（Genealogy）」で説明します。

1. 訓練データの飽和: LLM の訓練データ（The Pile, RedPajama など）は、GitHub や Stack Overflow などの Markdown 中心のプラットフォームから構成されており、高品質な構造化テキストの多くが Markdown 形式です。
2. 構造的な内部化: モデルは単に Markdown 構文を学ぶのではなく、ダッシュが「境界」や「構造の区切り」を示すという構造的指向を内部化します。
3. エムダッシュの二重レジスター性: Markdown におけるダッシュは「構造（建築）」ですが、プロースにおけるエムダッシュ（U+2014）は「構文（句読点）」として有効です。
   • 核心: 「Markdown ではなく、自然な文章を書け」という指示は、ヘッダーや箇条書きなどの明らかな構造化要素は抑制しますが、エムダッシュはすでに「文章として合法的」であるため、抑制指令をすり抜けてしまいます。これが「最後の指紋（Last Fingerprint）」です。
4. RLHF による増幅: 人間のフィードバックによる強化学習（RLHF）において、評価者が「明確で構造化された文章」を好む傾向があるため、エムダッシュの使用がさらに増幅されます。
5. 補完性: Markdown 訓練による潜在傾向と、RLHF による増幅は競合するものではなく、補完的な関係にあります。訓練データが「傾向」を提供し、RLHF がその「振幅」を決定します。

3. 研究方法

著者は 5 社（Anthropic, OpenAI, Meta, Google, DeepSeek）の 12 種類のインストラクションチューニング済みモデルを対象に、以下の 3 つの研究を行いました。

• 研究 1: 2 条件抑制実験
  • 条件: 「制約なし」と「プロース制約（見出し、箇条書き、太字、リストの使用禁止）」の 2 条件。
  • 対象: 約 24 万語の生成テキスト（各モデル約 1 万語）。
  • 目的: Markdown 要素が抑制された際、エムダッシュがどの程度残存するかを確認。
• 研究 2: 抑制グラデーション実験
  • 条件: 上記に加え、「エムダッシュの使用も禁止する」という明示的な条件を追加。
  • 目的: エムダッシュが構造的な衝動によって、明示的な禁止指令さえもすり抜けるかを確認。
• 研究 3: ベースモデル vs インストラクションモデル
  • 対象: Meta の Llama 3.1 8B のベースモデル（RLHF 前）とインストラクションモデル（RLHF 後）を比較。
  • 目的: 訓練データ由来の潜在傾向と、RLHF による増幅・抑制の効果を分離。

4. 主要な結果

4.1 Markdown 要素の抑制とエムダッシュの残存

• Markdown 要素: 「プロース制約」の指示により、ヘッダー、箇条書き、太字などの明示的な Markdown 要素は、ほぼすべてのモデルで 0 まで抑制されました。
• エムダッシュの残存: Markdown 要素は消えたものの、エムダッシュの頻度はモデルによって大きく異なり、抑制に抵抗しました。
  • OpenAI (GPT-4.1): 無制約時 10.62 回/1,000 語 → 抑制時 9.10 回/1,000 語（14% 減少のみ）。
  • DeepSeek V3: 6.95 → 5.41（22% 減少）。
  • Anthropic (Claude Opus 4.6): 9.09 → 0.19（98% 減少、ほぼ抑制）。
  • Meta (Llama): 0.00（無制約・抑制ともにゼロ）。
  • Google (Gemini 2.5 Pro): 3.53 → 0.00（完全抑制）。

4.2 抑制グラデーションの結果

「エムダッシュ禁止」を明示しても、GPT-4.1 や DeepSeek V3 などのモデルではエムダッシュが完全に消えませんでした（GPT-4.1 は 3.86 回/1,000 語残存）。これは、構造的な衝動が明示的な指令を上回ることを示しています。一方、Claude や GPT-5.4（最新モデル）は抑制に成功しました。

4.3 ベースモデルと RLHF の効果

Llama 3.1 8B の比較において、ベースモデル（RLHF 前）は少量のエムダッシュ（0.49 回/1,000 語）と Markdown 要素を生成していましたが、RLHF 後のインストラクションモデルではエムダッシュが 0 になりました。

• 結論: 訓練データは「エムダッシュを使う構造的傾向」を埋め込みますが、RLHF のプロセスがそれを増幅（OpenAI など）するか、抑制（Meta など）するかを決定します。

5. 論文の貢献と意義

1. メカニズムの解明: 「AI がエムダッシュを使いすぎる」という現象と「AI が Markdown で思考する」という現象を統合し、前者が後者の「プロースへの圧縮時に漏れ出した最小単位」であることを理論的に説明しました。
2. ファインチューニングの指紋（Signature）: エムダッシュの頻度や抑制への耐性は、モデルのトレーニングデータそのものではなく、特定のファインチューニング手法（RLHF の調整方針）の指紋として機能することを示しました。
   • 例：OpenAI の GPT-4.1 は抑制に強く、GPT-5.4 では改善されているなど、世代間やプロバイダー間で明確な違いが見られます。
3. 検出と帰属の新たな視点: 従来の統計的検出や透かしとは異なり、「構造的レジスターの痕跡」としてのエムダッシュ分析は、テキストが AI 生成かどうかだけでなく、どのプロバイダーのどのファインチューニング手法で生成されたかを特定する（モデル帰属）手段となり得ます。
4. 実用的な示唆: このメカニズムが特定されたことで、プロバイダーは意図的にエムダッシュの使用頻度を調整（増幅または抑制）することが可能であり、実際に GPT-5.4 などで改善が見られていることが示唆されています。

6. 結論

エムダッシュの過剰使用は、単なるランダムな癖やスタイルの欠陥ではなく、**Markdown 飽和の訓練データから獲得された構造的指向が、自然言語プロースに変換される過程で残存した「最後の指紋」**です。この痕跡の残存度合いは、モデルのファインチューニング戦略を反映しており、AI 生成テキストの分析において、スタイルの診断ツールとして新たな役割を果たす可能性があります。