Healthy LLMs? Benchmarking LLM Knowledge of UK Government Public Health Information

该论文提出了包含 8000 多道题目的新基准 PubHealthBench，用于评估大语言模型对英国政府公共卫生信息的掌握程度，研究发现尽管最新模型在选择题测试中表现优异甚至超越人类，但在自由回答场景下准确率仍不足 75%，表明在提供自由文本回复时仍需额外的安全保障措施。

要点

这篇论文就像是一次**“英国公共卫生知识大考”**，考官是英国健康安全局（UKHSA），考生则是目前世界上最先进的 24 个大语言模型（LLM，也就是各种 AI 聊天机器人）。

为了让你轻松理解，我们可以把这篇论文的内容想象成一场**“超级医生 vs. 普通路人”的知识竞赛**。

1. 为什么要考？（背景）

想象一下，你生病了，或者想知道怎么预防流感，你不想翻厚厚的政府文件，于是你问 AI 助手：“我该怎么预防？”

• 风险： 如果 AI 瞎编（也就是“幻觉”），告诉你错误的药方，可能会害了人。
• 现状： 以前我们考 AI 主要是考它懂不懂医学（比如怎么治病），但很少考它懂不懂**“公共卫生指南”**（比如政府发布的最新防疫规定、疫苗接种时间、食品安全建议等）。这些规定经常变，而且很具体。
• 目的： 作者们想看看，现在的 AI 到底能不能像一个**“读过所有英国政府健康指南的超级图书管理员”**那样靠谱。

2. 他们是怎么出题的？（方法：PubHealthBench）

作者们没有让人工去手抄几千道题（太累了），而是发明了一个**“自动出题机器”**：

1. 收集资料： 他们从英国政府网站下载了 687 份最新的 PDF 和网页指南（就像把整个图书馆的参考书都搬来了）。
2. 切块加工： 把这些长文档切成小块。
3. 自动出题： 让一个 AI 根据这些小块内容，自动生成8000 多道选择题。
   • 比喻： 就像老师把教科书复印下来，然后让另一个 AI 根据课文内容，自动出 8000 道填空题和选择题，用来考其他 AI。
4. 人工把关： 虽然机器出的题很多，但为了保险，人类专家随机抽查了 800 道题，确保题目没有逻辑错误。

3. 考试怎么考？（两种模式）

这次考试有两种玩法，就像**“做试卷”和“自由问答”**的区别：

• 模式一：选择题 (MCQA)
  • 玩法： 题目是“英国政府建议 65 岁以上人群接种流感疫苗吗？A. 是 B. 否 C. 看情况..."。
  • 特点： AI 只要从选项里选一个。这就像**“开卷考试，但答案就在选项里”**，AI 只要认字、能排除错误选项就行。
• 模式二：自由问答 (Free Form)
  • 玩法： 题目是“英国政府建议 65 岁以上人群接种流感疫苗吗？请回答。”
  • 特点： 没有选项，AI 必须自己组织语言回答。这就像**“闭卷考试”**，AI 必须完全靠自己的记忆，不能猜，也不能瞎编。

4. 考试成绩怎么样？（结果）

🏆 选择题模式：AI 简直是“学霸”

• 顶尖表现： 最新的付费 AI（如 GPT-4.5, o1 等）得分超过 90%。
• 对比人类： 普通人在用搜索引擎查资料的情况下，只能得88 分。
• 结论： 在“做选择题”这件事上，顶尖 AI 比普通人查资料还要快、还要准。它们几乎把政府指南背下来了。

📉 自由问答模式：AI 开始“露馅”

• 成绩下滑： 一旦去掉选项，让 AI 自由发挥，所有模型的分数都大幅下降，最好的模型也没超过 75%。
• 为什么？
  • 幻觉（瞎编）： AI 可能会编造一些听起来很专业但政府没说的建议。
  • 遗漏： 漏掉关键的时间点或人群限制。
  • 矛盾： 有时候 AI 给出的建议会和官方指南打架。
• 比喻： 在选择题里，AI 像个**“记忆力超群的复读机”，看到选项就能认出正确答案；但在自由问答里，它像个“有点自信的实习生”**，虽然知道大概意思，但一开口就容易说错细节，或者把别人的话当成自己的建议说出来。

5. 发现了什么有趣的规律？

• 大小模型差距大： 那些参数巨大、昂贵的“超级 AI"表现很好；但那些参数小、便宜的“小 AI"在自由问答里表现很差，甚至只有 20-30 分。
• 对谁更友好？ AI 对**“给普通大众看的指南”（比如“怎么洗手”）掌握得最好；但对“给医生看的专业指南”**（比如“复杂的用药方案”）掌握得较差。
  • 这很关键： 因为普通大众最可能直接问 AI 健康建议，所以 AI 在这个领域表现好是个好消息，但也不能掉以轻心。

6. 总结：我们该信任 AI 吗？

这篇论文告诉我们一个**“喜忧参半”**的故事：

• 好消息： 现在的 AI 确实非常聪明，它们阅读并记住了海量的英国政府健康指南。如果你问它们选择题，它们比普通人查资料还准。
• 坏消息： 如果你让 AI 像聊天一样自由地回答健康建议，它们仍然会犯错，甚至可能给出危险的建议（比如建议太早或太晚做某事）。

最终建议：
AI 可以作为一个**“超级助手”**，帮你快速找到信息，但在涉及健康这种严肃问题时，不能直接把它的话当成最终医嘱。我们需要给 AI 加上“安全带”（比如让它必须引用原文，或者让人类专家最后审核），才能放心地让它进入我们的日常生活。

一句话总结：
AI 是个读过很多书的“学霸”，但在没有选项提示的自由发挥中，它偶尔还是会“嘴瓢”说错话，所以我们在用它咨询健康问题时，还得留个心眼。

技术摘要

这是一份关于论文《HEALTHY LLMS? BENCHMARKING LLM KNOWLEDGE OF UK GOVERNMENT PUBLIC HEALTH INFORMATION》（健康的 LLM？评估大语言模型对英国政府公共卫生信息的掌握程度）的详细技术总结。

1. 研究背景与问题 (Problem)

随着大语言模型（LLM）的普及，其在医疗和公共卫生领域的潜在应用引起了广泛关注。然而，目前存在以下关键问题：

• 领域知识缺口：虽然医学领域已有多个 LLM 基准测试（如 USMLE），但针对公共卫生（Public Health）领域的综合基准测试尚属空白。公共卫生涉及预防、环境危害、社区干预和传染病爆发管理，与临床医学有所区别。
• 时效性与准确性风险：英国政府的公共卫生指南经常修订，且不同机构发布的指南存在差异。LLM 可能因训练数据截止或幻觉（Hallucination）而提供过时、不准确甚至误导性的信息，这对公众健康构成潜在风险。
• 缺乏评估工具：目前缺乏能够全面评估 LLM 对英国政府现行公共卫生指南掌握程度的工具，特别是针对非专家用户通过聊天机器人获取信息时的表现。

2. 方法论 (Methodology)

为了解决上述问题，作者团队（来自英国健康安全局 UKHSA）构建了一个名为 PubHealthBench 的新基准，并设计了自动化的评估流程。

2.1 数据集构建 (Dataset Construction)

• 数据来源：从英国政府网站（gov.uk）收集了 687 份 当前的公共卫生指导文件（包括 PDF 和 HTML 格式），涵盖 10 个公共卫生主题领域和 352 个具体指导领域。
• 预处理：
  • 将 HTML 转换为 Markdown。
  • 使用 GPT-4o-mini 视觉模型辅助提取 PDF 文本，确保保留标题层级。
  • 将文档切分为 20,488 个 文本块（Chunks），并保留上下文层级。
• 筛选与生成：
  • 利用 LLM 过滤掉不包含公共卫生建议的文本块，并剔除过长的块，最终保留 7,946 个 源文本块。
  • 使用 Llama-3.3-70B 模型，基于每个文本块自动生成 2 道 多项选择题（MCQA）。每道题包含 1 个正确答案和 6 个干扰项。
  • 采用“思维链”（Chain of Thought）提示和 JSON 格式输出。
• 质量控制：
  • 自动化过滤：使用 LLM 检测并剔除潜在的无效问题（如歧义、错误答案），将候选问题从 15,666 个筛选至 14,440 个。
  • 人工审查：随机抽取 800 道 题（约 10%）由人类专家进行双重审查。估算出最终数据集中歧义或无效问题的比例约为 5.5%。
  • 最终规模：PubHealthBench 包含 8,090 道 高质量 MCQA 题目。

2.2 评估设置 (Evaluation Setup)

研究评估了 24 个 私有和开源权重的 LLM（包括 GPT-4.5, o1, Llama-3.3, Gemma-3 等），分为三种模式：

1. PubHealthBench-Full：在全部 8,090 道题上进行零样本（Zero-shot）MCQA 测试。
2. PubHealthBench-Reviewed：在人工审查过的 760 道子集上进行测试，用于更精确的对比。
3. PubHealthBench-FreeForm：在相同的子集上，不提供选项，要求模型生成开放式自由文本回答。
   • 评估机制：使用“LLM-as-a-Judge"（GPT-4o-Mini）作为裁判，结合原始源文本块和正确答案，判断自由文本回答是否与官方指南一致。

2.3 人类基线 (Human Baseline)

• 5 名非公共卫生专家的人类测试者，在允许使用搜索引擎但禁止使用 AI 工具的情况下，对 600 道题目进行测试，平均耗时每道题 2 分钟。
• 人类平均得分为 88%，作为 LLM 性能的上限参考（理论上限经估算约为 97%）。

3. 主要贡献 (Key Contributions)

1. PubHealthBench 基准发布：首个专门针对英国政府公共卫生指南的大规模 LLM 基准，包含超过 8,000 道基于真实文档生成的 MCQA 题目。
2. 自动化生成管道：提出了一套从文档提取、分块、分类到自动生成 MCQA 及错误检测的完整自动化流程，解决了人工构建大规模专业基准耗时的问题。
3. 多维评估框架：不仅评估了 MCQA 能力，还引入了自由文本生成评估，更贴近现实世界中用户与聊天机器人的交互场景。
4. 人类基线对比：建立了非专家人类在搜索辅助下的性能基线，明确了 LLM 在何种程度上优于或劣于人类的初步检索能力。

4. 关键结果 (Key Results)

4.1 多项选择题 (MCQA) 表现

• 顶级模型表现优异：最新的私有模型（GPT-4.5, GPT-4.1, o1）在 MCQA 设置下准确率超过 90%（GPT-4.5 达到 92.5%），显著优于人类基线（88%），并接近理论上限。
• 开源模型表现：大多数 5B-15B 参数量的开源模型得分在 75% 以上，显示出一定的知识储备。
• 推理模型差异：具有“推理”能力的模型（如 o1, o3-Mini）在 MCQA 任务中并未比非推理模型表现出显著优势，表明该任务主要依赖知识检索而非复杂推理。
• 领域差异：模型在“气候与健康”和“包容性健康环境”领域表现最好，而在“化学品与毒理学”领域表现较差。
• 受众差异：模型对面向公众（Public Guidance）的指南掌握最好（GPT-4.5 达 96.1%），对临床指南（Clinical Guidance）的掌握相对较弱。

4.2 自由文本 (Free Form) 表现

• 性能显著下降：在自由文本模式下，所有模型的性能均大幅下降，没有任何模型超过 75% 的准确率。
• 差距巨大：最佳模型 o1 在自由文本模式下得分为 74%，相比其 MCQA 得分下降了 17 个百分点。其他模型（如 Llama-3.3-70B）的下降幅度甚至超过 40 个百分点。
• 错误类型：主要问题包括：
  1. 遗漏关键信息：未包含指南中的必要点。
  2. 幻觉与矛盾：添加了指南中不存在的建议，或给出了与官方指南时间、干预措施相悖的建议（例如建议过早或过晚进行干预）。
• 模型规模影响：小参数模型（<15B）在自由文本模式下的表现极差（部分低于 40%），且与顶级模型的差距从 MCQA 的 10-20 分扩大到自由文本的 35 分以上。

5. 意义与结论 (Significance & Conclusion)

• 积极信号：最先进的 LLM 确实掌握了大量的英国公共卫生知识，在结构化问答（MCQA）中表现甚至优于普通人类使用搜索引擎的检索能力。这表明 LLM 有潜力成为公共卫生信息的有效辅助工具。
• 风险警示：在自由文本生成（即真实聊天场景）中，LLM 的准确性显著降低，且存在严重的幻觉风险，特别是在临床指南和具体干预时间点上。
• 部署建议：
  • 在将 LLM 用于公共卫生应用时，不能仅依赖模型生成的自由文本。
  • 需要引入额外的安全护栏（Safeguards）或检索增强生成（RAG）机制，确保回答严格基于官方源文档。
  • 对于小参数模型，直接用于此类高风险领域存在较大风险。
• 未来工作：该基准为后续研究提供了基础，未来需进一步探索多轮对话、图像查询以及跨语言/跨国家的公共卫生指南评估。

总结：该论文揭示了 LLM 在公共卫生知识上的“双刃剑”特性——它们拥有强大的知识储备，但在自由生成回答时容易出错。因此，在将其应用于现实世界的公共卫生决策支持时，必须采取严格的验证和辅助措施。