Healthcare LLM Benchmarks Are Only as Good as Their Explicit Assumptions
本文认为，医疗大语言模型基准测试表现与现实世界部署之间的差距源于对用户行为未经检验的隐含假设，为此提出一个框架以对这些假设进行分类，并引入“基准测试卡片”和分阶段评估以系统性地解决这些问题。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
以下是用简单语言和日常类比对该论文的解读。
核心问题：“驾驶考试”与“真实交通”
想象一下你正在学习开车。你在一条安静、空旷的赛道上参加驾驶考试，有一位完美的教练给你提供清晰、书面的指令。你以优异成绩通过了考试。考试结果显示你是一位“完美司机”。
但随后，你坐进真实城市的汽车里。突然，有人乱穿马路，天气恶劣，乘客在大声喊方向，你必须做出瞬间决策。结果你撞车了。
这篇论文指出，医疗人工智能（大语言模型） 目前正处于完全相同的情况。我们拥有称为基准测试的“驾驶考试”，人工智能模型在其中得分高达 95% 或更高。但是，当我们把它们放入真实的医院、面对真实患者时，它们的性能会急剧下降。
作者认为：问题不在于人工智能很差，也不在于考试编写得不好。问题在于，这些考试基于一些在现实世界中站不住脚的隐藏假设。
两类隐藏假设
作者将这些隐藏假设分为两类。你可以把它们想象成“游戏规则”和“结果规则”。
1. 任务假设（“游戏规则”）
这些是关于人工智能在测试中如何与人互动的猜测。
- 假设： 测试假设患者会输入完美、完整的句子，就像医生写报告一样。
- 现实： 真实患者是混乱的。他们可能会忘记症状、感到困惑、提出后续问题，或者输入破碎的句子。
- 解决方法： 这很容易测试。我们只需要查看真实的对话，看看测试是否与之匹配。如果测试过于“干净”，我们可以重新设计测试，使其更混乱、更贴近现实。
2. 结果假设（“结果规则”）
这些是关于人工智能给出答案后会发生什么的猜测。
- 假设： 测试假设如果人工智能给出了“正确”的医疗建议，患者实际上会遵循并好转。
- 现实： 人类是不可预测的。患者可能会忽视人工智能的建议、误解它，或者决定完全做别的事。人工智能可能是“对”的，但如果人类不听，健康结果仍然会很糟糕。
- 解决方法： 你无法通过更好的计算机测试来解决这个问题。你无法在屏幕上完美模拟人类行为。要测试这一点，你必须进行现实世界的实验（如临床试验），观察真实人类的行为。
“一半”的发现
作者研究了一项真实的医学研究，以查看性能下降在多大程度上是由哪种类型的假设引起的。
- 结果： 他们发现，“完美测试分数”与“现实世界失败”之间的差距正好被一分为二。
- 50% 是因为测试与人们说话的方式不匹配（任务假设）。
- 50% 是因为测试没有考虑到人们的实际行为（结果假设）。
这非常重要，因为这意味着无论我们将计算机基准测试做得多么完美，我们最多只能解决一半的问题。另一半需要通过真实世界的人类测试来验证。
提出的解决方案
为了解决这个问题，作者建议采用两种新工具：
1. 基准卡（“配料标签”）
目前，当发布一项新的人工智能测试时，就像买了一个没有标签的蛋糕预拌粉。你不知道里面有什么，也不知道它是为谁准备的。
作者提出了基准卡（BenchmarkCards）。这是附在每个测试上的简单文件，明确列出“隐藏假设”。
- 示例： “本测试假设用户是医生，而不是患者。”或者“本测试假设用户只会问一个问题。”
- 为何有帮助： 医院在使用测试之前，可以查看卡片并说：“哦，这个测试假设患者是完美的。这不符合我们的医院。我们不能信任这些结果。”
2. 分阶段评估（“训练营”）
作者建议采用循序渐进的过程，而不是直接全面部署到医院：
- 从基准测试开始： 获取初始分数。
- 检查“任务”假设： 用真实、混乱的患者对话测试人工智能。如果失败，则修复模型或测试。
- 检查“结果”假设： 如果人工智能通过了对话测试，则进行小型现实世界研究，看看人们是否真的听从建议并好转。
- 部署： 只有当你证明对话风格和人类行为都符合预期时，才发布人工智能。
总结
这篇论文认为，我们试图通过观察一张静态图片来预测人工智能在现实世界中的运作方式。但医疗保健是一部电影，而不是一张照片。
为了弥合这一差距，我们需要停止假装我们的测试是完美的。我们需要写下我们的假设（基准卡），并分阶段进行测试，承认有些事情（如人类行为）只能通过观察真实人类来证明，而不能通过运行代码来证明。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。