The Last Fingerprint: How Markdown Training Shapes LLM Prose

论文概要

标题：最后的指纹：Markdown 训练如何塑造大语言模型散文风格
作者：E. M. Freeburg (独立研究员)
日期：2026 年 3 月
核心论点：大语言模型（LLM）中破折号（em dash, —）的过度使用并非随机的风格缺陷，而是模型从充满 Markdown 格式的训练数据中习得的“结构性思维”在纯文本散文中的残留。破折号是 Markdown 结构逻辑在自然语言中幸存的最小单位，被称为“最后的指纹”。

---

1. 研究问题与背景

• 现象 A（写作社区）：用户广泛观察到 AI 生成的文本过度使用破折号（em dash），将其视为机器生成的“指纹”或“破绽”。
• 现象 B（开发者社区）：观察到 LLM 倾向于“以 Markdown 思考”，默认输出标题、列表、粗体等结构化格式，即使未明确要求。
• 研究缺口：这两个讨论长期并行但互不关联。写作社区未从训练数据角度解释破折号问题，而开发者社区未将 Markdown 行为延伸至标点符号层面的分析。
• 核心假设：破折号是 Markdown 训练数据中的结构逻辑（用破折号表示边界）向自然语言渗透的结果。当模型被要求“写散文”而非"Markdown"时，大多数格式（标题、列表）会被抑制，但破折号因其兼具“标点符号”和“结构标记”的双重属性（Dual-register status），能够绕过抑制指令而幸存。

---

2. 方法论 (Methodology)

研究团队设计了三个主要实验，涉及来自 5 家提供商（Anthropic, OpenAI, Meta, Google, DeepSeek）的 12 个指令微调模型，总生成文本量约 24 万字。

研究 1：双条件抑制实验 (Two-condition Suppression)

• 条件：
  1. 无约束：要求写 1000 字文章。
  2. 散文约束：明确要求“仅使用流畅的散文段落，不使用任何 Markdown 格式（标题、列表、粗体等）”。
• 测量指标：统计每 1000 字中破折号（U+2014）的出现频率，以及显式 Markdown 特征（标题、列表等）的数量。
• 对比基线：8 篇人类出版文章（文学、新闻、技术写作）的破折号使用频率。

研究 2：抑制梯度实验 (Suppression Gradient)

• 目的：测试显式禁止破折号是否能消除该现象。
• 条件：
  1. 无约束。
  2. 禁止 Markdown 格式。
  3. 禁止 Markdown 格式 + 明确禁止使用破折号。
• 对象：选取了 4 个破折号使用率较高的模型进行测试。

研究 3：基础模型 vs. 指令微调模型 (Base vs. Instruct)

• 对象：Meta 的 Llama 3.1 8B。
• 方法：在相同硬件和量化设置下，对比其基础模型（Pre-RLHF）和指令微调模型（Post-RLHF）的输出。
• 目的：验证破折号倾向是源于训练数据（基础模型已有）还是由 RLHF（人类反馈强化学习）放大。

---

3. 关键贡献 (Key Contributions)

1. 五步谱系理论 (Five-step Genealogy)：
   提出了一个解释框架，将破折号产生的原因串联为：

   • 训练数据饱和（Markdown 主导的高质量文本）。
   • 结构内化（模型学会用破折号作为结构边界）。
   • 破折号的双重注册地位（既是标点又是结构标记）。
   • 后训练放大（RLHF 根据人类偏好放大或抑制该倾向）。
   • 互补性解释（训练数据提供“原材料”，RLHF 决定“音量”）。

2. “最后的指纹”框架：
   定义了破折号为 Markdown 结构化思维压缩进纯散文后幸存的最小单位。因为指令“写散文”无法识别破折号为格式，所以它得以保留。

3. 实证测量与指纹识别：
   量化了不同厂商模型的破折号频率及其对抑制指令的抵抗力，证明破折号行为是微调方法论（Fine-tuning methodology）的签名，而非通用的训练数据缺陷。

4. 统一两种 discourse：
   将“AI 过度使用破折号”和"AI 以 Markdown 思考”两个独立讨论统一为一个机制解释。

---

4. 实验结果 (Results)

A. Markdown 特征的普遍抑制

• 在“散文约束”条件下，所有 12 个模型的显式 Markdown 特征（标题、列表、粗体）几乎完全消失（降至 0 或接近 0）。
• 例外：Claude Haiku 3.5 保留了极少量的 Markdown 特征（0.9/1k）。

B. 破折号行为的显著差异 (Provider Variation)

破折号在抑制条件下的表现因模型而异，直接反映了微调策略：

• OpenAI (GPT-4.1)：抑制效果最差。从 10.62/1k 降至 9.10/1k（仅减少 14%）。即使在显式禁止破折号后（研究 2），仍保留 3.86/1k。
• DeepSeek (V3)：中等抑制。从 6.95/1k 降至 5.41/1k。
• Anthropic (Claude Opus 4.6)：强抑制。从 9.09/1k 降至 0.19/1k（98% 减少）。
• Google (Gemini 2.5 Pro)：完全抑制。降至 0.00。
• Meta (Llama)：零破折号。无论是基础模型还是指令模型，在约束条件下均产生 0 个破折号。
• 代际变化：OpenAI 的 GPT-5.4 相比 GPT-4.1 有显著改善（从 1.43 降至 0.29），表明该问题已被识别并修复。

C. 抑制梯度实验 (Study 2)

• 即使明确禁止使用破折号，GPT-4.1 和 DeepSeek V3 仍保留了相当数量的破折号（分别为 3.86 和 1.57 /1k）。
• 这证明了“结构冲动”（Structural impulse）能够覆盖显式的文本指令。

D. 基础模型 vs. 指令模型 (Study 3)

• Llama 3.1 8B 基础模型：产生了少量破折号（0.49/1k）和大量 Markdown 特征（28 个）。
• Llama 3.1 8B 指令模型：破折号降为 0，Markdown 特征减少。
• 结论：训练数据确实赋予了模型使用破折号的潜在倾向（Latent tendency），但 Meta 的 RLHF 过程选择抑制了这一倾向，而 OpenAI 的 RLHF 则放大了它。

---

5. 意义与讨论 (Significance)

1. 重新定义 AI 检测：
   破折号频率不应仅被视为 AI 生成的“缺陷”，而应被视为微调过程的诊断签名。不同的厂商（甚至同一厂商的不同代际模型）通过 RLHF 对这一潜在倾向进行了不同程度的放大或抑制。

2. 解释“为什么是破折号”：
   解释了为什么其他标点（如分号、逗号）没有表现出同样的抵抗性。因为破折号在 Markdown 中是结构分隔符，在散文中是合法标点，它是结构思维渗透进自然语言的唯一“合法通道”。

3. 对未来的启示：

   • 模型归因：通过分析文本中的破折号频率和抑制抵抗力，可以推断文本是由哪家厂商的哪个微调版本生成的。
   • 训练数据影响：证实了高质量训练数据（GitHub, Stack Overflow 等 Markdown 密集区）对模型底层结构偏好的深远影响。
   • 修复路径：一旦机制被识别（如 GPT-5.4 所示），可以通过调整 RLHF 奖励模型或系统提示词来有效消除该特征。

4. 局限性：

   • 目前缺乏 OpenAI 或 Anthropic 的基础模型（Pre-RLHF）进行直接对比，无法完全隔离 RLHF 的放大效应（仅能依赖 Llama 的抑制案例）。
   • 人类破折号使用频率本身波动巨大（0.33 - 17.12 /1k），因此“过度使用”需结合具体文体判断。

总结

该论文通过严谨的实证研究，揭示了 LLM 中破折号过度使用的深层机制：它是Markdown 饱和训练数据与**人类反馈强化学习（RLHF）**共同作用的产物。破折号作为“最后的指纹”，不仅暴露了模型的结构化思维惯性，更成为了区分不同厂商微调策略的独特标识。这一发现将 AI 写作风格分析从表面的统计检测提升到了对模型训练和微调机制的深层理解。