How Much Do LLMs Hallucinate in Document Q&A Scenarios? A 172-Billion-Token Study Across Temperatures, Context Lengths, and Hardware Platforms

该研究通过 RIKER 方法在 1720 亿 tokens 的超大规模评估中发现，尽管模型选择是影响幻觉率的最关键因素，但所有模型在长上下文（尤其是 200K 时）中仍会出现显著的事实编造现象，且温度设置需在准确性与生成稳定性之间进行权衡，而硬件平台对结果无显著影响。

要点

这篇论文就像是一份**“大型语言模型（LLM）在查阅文档时的诚实度体检报告”**。

想象一下，你雇佣了一群超级聪明的“图书管理员”（也就是 AI 模型），给他们一本厚厚的书（文档），然后问他们：“书里有没有提到某件事？”

这篇研究的核心问题就是：这些图书管理员在回答问题时，有多少次会为了显得自己很懂，而凭空捏造书里根本没有的内容（也就是“幻觉”）？

为了回答这个问题，研究团队（Kamiwaza AI）进行了一场史无前例的“大考”。他们测试了 35 个不同的模型，用了相当于1720 亿个单词的阅读量（这比人类几辈子读的书还多），并且把考试难度从“短文章”一直加到了“超长百科全书”。

以下是用大白话和比喻总结的五个核心发现：

1. 没有完美的“诚实者”：幻觉是不可避免的

比喻： 就像没有哪个学生能考 100 分一样，没有哪个 AI 模型能完全不撒谎。

• 发现： 即使在最理想的条件下（短文档、最佳设置），表现最好的模型也会犯错。
  • 顶尖选手（如 GLM 4.5）：每回答 100 个问题，大概会瞎编 1-2 个答案。
  • 普通选手：每 4 个问题里，就有 1 个是瞎编的。
  • 结论： 企业在使用 AI 查文档时，必须假设它一定会偶尔胡说八道，不能盲目全信。

2. 文档越长，越容易“胡言乱语”

比喻： 想象让一个学生在一张纸条上找答案，他很容易找对。但如果让他在一座图书馆（超长文档）里找答案，他不仅容易迷路，还更容易因为压力大而开始编故事。

• 发现： 随着文档长度增加（从 3 万字到 20 万字），AI 的“撒谎率”急剧上升。
  • 在短文档中，最好的模型撒谎率只有 1%。
  • 在超长文档中，没有任何模型能把撒谎率控制在 10% 以下。有些模型在超长文档里，甚至每 3 个问题就敢编 2 个！
• 警示： 厂商宣传的“支持 20 万字上下文”，并不代表它能可靠地处理 20 万字。在这个长度下，很多模型其实已经“崩溃”了。

3. 选对“人”比选对“工具”更重要

比喻： 如果你要找一个侦探破案，侦探的家族训练背景（模型家族） 比他的个头大小（参数量） 更重要。

• 发现：
  • 家族决定命运： 有些模型家族（如 GLM、MiniMax）天生就“嘴严”，不容易乱编。而有些家族（如 Llama 系列），不管个头多大（哪怕是巨大的 405B 参数），都特别爱“瞎编”。
  • 个头不是万能的： 一个巨大的模型（Llama 3.1 405B）在找事实方面很厉害（90% 正确），但它编造不存在事实的能力也极强（50% 撒谎）。
• 建议： 企业选模型时，不要只看谁参数大，要看谁“家族基因”里更诚实。

4. 温度设置（Temperature）：别死板地设为 0

比喻： “温度”就像 AI 的兴奋程度。

• 传统误区： 大家都认为把温度设为 0（最冷静、最死板）最准确。
• 研究发现：
  • 关于撒谎： 把温度设高一点（比如 0.7），反而能让很多模型少撒谎，因为它们更愿意尝试不同的思路，而不是死板地重复错误。
  • 关于“死循环”： 把温度设为 0 有一个巨大的副作用——AI 容易卡死（陷入无限循环，像复读机一样不停说话）。在长文档中，设为 0 导致卡死的概率比设为 1 高出48 倍！
• 建议： 不要盲目设 0。为了不让 AI 卡死，稍微给它一点“自由度”（温度 0.4 或 0.7）反而更安全、更稳定。

5. 硬件不重要，但“找东西”和“不瞎编”是两码事

• 硬件： 无论你用 NVIDIA、AMD 还是 Intel 的显卡，只要软件一样，AI 的表现就几乎没区别。选硬件时，看价格和速度就行，不用太担心它会改变 AI 的智商。
• 能力分离： 这是一个惊人的发现——“找得到答案”和“不乱编答案”是两种完全不同的能力。
  • 有些模型是“找书高手”，能在书里精准定位信息，但一旦书里没答案，它就立刻开始编。
  • 有些模型则是“诚实的笨蛋”，找不到答案就老实说“不知道”。
  • 教训： 现在的很多测试只考“找书能力”，这很危险。一个能精准找到信息的模型，可能同时也是一个高明的骗子。

总结：给企业的“避坑指南”

1. 别信“零幻觉”： 接受 AI 会偶尔撒谎的事实，建立人工审核或自动检测机制。
2. 别盲目追求长文档： 如果文档太长，AI 可能会“晕头转向”开始乱编。如果必须处理长文档，要格外小心。
3. 选对“家族”： 优先选择那些在“诚实度”上经过验证的模型家族，而不是只看参数大小。
4. 调整“温度”： 别死守温度 0，适当调高一点可以防止 AI 卡死，甚至减少撒谎。
5. 测试要真实： 别只在短文档上测试 AI，要在实际业务需要的长文档长度下测试，否则会被“虚假的高分”误导。

这篇论文告诉我们：AI 很强大，但它也是个会“一本正经胡说八道”的聪明人。我们需要更聪明地管理和使用它，而不是盲目崇拜它。

技术摘要

这是一份关于论文《LLMs 在文档问答场景中幻觉程度有多少？——一项跨越温度、上下文长度和硬件平台的 1720 亿 Token 研究》的详细技术总结。

1. 研究背景与问题 (Problem)

大型语言模型（LLM）在企业中最关键的应用之一是基于文档的问答（Document Q&A），即检索增强生成（RAG）或上下文填充。然而，幻觉（Hallucination）——即模型编造文档中不存在的事实或错误归因——是企业部署中的致命风险。

尽管这一问题至关重要，但准确量化 LLM 的幻觉程度面临三大挑战：

1. 静态基准的数据污染：传统基准测试数据可能被模型在训练阶段“见过”，导致性能虚高。
2. LLM 作为裁判的偏差：使用另一个 LLM 来评估答案的可靠性存在系统性偏差。
3. 统计置信度不足：现有评估通常规模过小，缺乏统计显著性。

此外，业界对于温度参数（Temperature）（是否应设为 0.0）、上下文长度（长文本是否会导致性能崩溃）以及硬件平台（不同 GPU 是否影响结果）对幻觉的影响缺乏大规模、系统性的实证数据。

2. 方法论 (Methodology)

本研究采用了 RIKER (Retrieval Intelligence and Knowledge Extraction Rating) 评估方法，这是一种**“以事实为优先（Ground-truth-first）”**的范式反转方法：

• 核心机制：不依赖现有文档提取事实，而是先生成已知事实的数据库，再基于此生成文档和测试问题。
• 优势：
  • 确定性评分：每个问题都有通过构造验证的正确答案，无需人工标注或 LLM 裁判。
  • 抗污染：文档和测试集可基于随机种子重新生成，彻底杜绝数据污染。
  • 可扩展性：可无限扩展规模。
• 问题分类：
  • L01-L04：单文档提取（测试检索与理解）。
  • L05-L10：多文档聚合（测试跨文档推理）。
  • L11-L12：幻觉探针（Hallucination Probes）：询问文档中不存在的实体或字段。任何具体回答都被视为确凿的幻觉。
• 评估指标：
  • 忠实度 (Faithfulness)：整体准确率。
  • ** grounded (Grounding)**：仅针对存在事实的问答准确率。
  • 幻觉率 (Fabrication)：针对不存在事实的问答错误率（核心指标）。
  • 聚合能力 (Aggregation)：跨文档合成能力。
  • 截断率 (Truncation)：衡量因无限循环导致的连贯性丧失。

3. 实验设计 (Experimental Design)

• 规模：超过 1720 亿 Token 的评估，跨越 4000 多次运行，是以往工作的数量级提升。
• 模型：35 个开源权重模型（涵盖 DeepSeek, GLM, Llama, Qwen, MiniMax, Granite 等家族），参数量从 1B 到 480B。
• 变量：
  • 上下文长度：32K, 128K, 200K。
  • 温度设置：0.0, 0.4, 0.7, 1.0（每个配置运行 8 次以获取统计显著性）。
  • 硬件平台：NVIDIA H200, AMD MI300X, Intel Gaudi3。

4. 关键发现 (Key Results)

4.1 幻觉是普遍且不可避免的

• 最佳情况：即使在 32K 上下文和最优温度下，表现最好的模型（GLM 4.5）仍有 1.19% 的幻觉率。
• 顶级模型：顶级模型的幻觉率通常在 5-7%。
• 中位模型：约 25% 的问题（即每 4 个问题就有 1 个）会编造不存在的事实。
• 长文本恶化：随着上下文增加，幻觉率急剧上升。在 200K 上下文中，没有任何模型能将幻觉率控制在 10% 以下。

4.2 上下文长度是性能下降的主要驱动力

• 性能崩溃：所有模型在长上下文中都会退化，但程度差异巨大。
  • 优雅退化：如 Qwen3 Next 80B-A3B，从 32K 到 200K 仅下降约 11 个百分点。
  • 灾难性崩溃：如 GLM 4.6，在 32K 时排名第 6（93.26% 准确率），在 200K 时跌至倒数第一（37.65%），幻觉率从 7% 飙升至 71.62%。
• 可用容量虚标：许多模型宣称支持 128K/200K，但在文档问答任务中，其有效可用容量远低于标称值。

4.3 模型选择优于模型大小

• 家族效应 > 参数量：模型家族对幻觉抵抗力的预测能力优于模型大小。
  • GLM 系列和 MiniMax 系列在所有尺寸下均表现出较低的幻觉率。
  • Llama 3.x 系列（无论 8B 还是 405B）普遍表现出高幻觉率。例如，Llama 3.1 70B 的幻觉率（49.50%）甚至高于其小尺寸版本。
• 结论：幻觉抵抗力主要是训练阶段的属性，而非单纯规模扩大的涌现能力。

4.4 温度设置的双重影响

• 打破"T=0.0 万能论”：
  • 准确率：T=0.0 在 60% 的情况下表现最佳，但并非绝对。
  • 幻觉率：对于 53% 的模型组合，更高的温度（如 0.4-1.0）反而降低了幻觉率。
  • 连贯性丧失（Coherence Loss）：T=0.0 在长上下文中极易导致无限生成循环（模型陷入死循环）。在 200K 上下文中，T=0.0 的循环失败率可能是 T=1.0 的 48 倍（如 GLM 4.7）。
• 建议：企业部署中，适度温度（T=0.4 或 0.7）通常能在准确率、幻觉控制和避免死循环之间取得最佳平衡。

4.5 硬件平台无关性

• 在 NVIDIA H200, AMD MI300X 和 Intel Gaudi3 上，使用相同的 vLLM 框架运行相同模型，结果在统计上无显著差异。硬件选择应基于成本和吞吐量，而非对模型忠实度的担忧。

4.6 检索能力与抗幻觉能力解耦

• 关键发现：模型擅长从文档中提取事实（Grounding），并不意味着它擅长拒绝回答不存在的事实（Fabrication Resistance）。
• 案例：Llama 3.1 70B 的检索准确率高达 90%，但其幻觉率也高达 49.5%。这意味着它非常擅长“找对答案”，但也同样擅长“编造答案”。
• 启示：仅测试检索能力的基准是不安全的，必须包含针对“不存在事实”的探针测试。

5. 研究意义与贡献 (Significance & Contributions)

1. 大规模基准数据：提供了目前最大规模的 LLM 文档问答幻觉评估数据集（1720 亿 Token），涵盖了多种模型、硬件和参数设置。
2. 方法论革新：验证了 RIKER 方法在消除数据污染和裁判偏差方面的有效性，为未来评估提供了新标准。
3. 颠覆行业认知：
   • 证明了长上下文并不等于长可用上下文，标称的上下文窗口往往不可靠。
   • 推翻了“温度设为 0 最安全”的教条，揭示了其在长文本中导致死循环的风险。
   • 揭示了检索能力与抗幻觉能力的解耦，警示企业不能仅凭检索基准选择模型。
4. 部署指导：
   • 模型选择是最高优先级的决策（模型间差距 >70 个百分点），远大于温度或硬件调整。
   • 必须针对实际部署的上下文长度进行测试。
   • 必须建立针对幻觉的检测和缓解机制，因为幻觉是不可避免的。

6. 局限性

• 仅评估了英文文档和问答。
• 仅针对开源权重模型（未包含 GPT-4, Claude 等闭源 API 模型）。
• 专注于文档问答，未涵盖摘要或代码生成等其他任务。

总结

这项研究通过严谨的大规模实验表明，当前 LLM 在文档问答中的幻觉是实质性且不可避免的。随着上下文长度的增加，幻觉率呈指数级上升。企业部署不能盲目依赖模型的标称参数或长上下文能力，而应优先选择经过验证的低幻觉模型家族（如 GLM），采用适度的温度设置以避免死循环，并建立针对幻觉的防御机制。同时，评估体系必须从单纯的“检索准确性”转向包含“抗幻觉能力”的综合评估。