💬 NLP

Counterfactual Cultural Cues Reduce Medical QA Accuracy in LLMs: Identifier vs Context Effects

本文引入了一个反事实基准，证明在医学问题中插入非决定性的文化标识符和语境会显著降低各种大语言模型的诊断准确性，且当文化线索出现时，往往会导致临床上正确的推理失效。

原作者： Amirhossein Haji Mohammad Rezaei, Zahra Shakeri

发布于 2026-01-29

📖 1 分钟阅读☕ 轻松阅读

原作者： Amirhossein Haji Mohammad Rezaei, Zahra Shakeri

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你拥有一个才华横溢、超级聪明的 AI 医生。这位医生读过每一本医学教科书，能以惊人的速度做出诊断。但有一个陷阱：这位医生对病人口述故事中的“风味”过于敏感，即便这些风味并不会改变医学事实。

这篇论文就像是对这位 AI 医生进行的一次压力测试。研究人员想看看，如果他们改变了患者的文化背景，即使症状和正确答案完全相同，AI 是否会给出不同的诊断。

以下是他们的发现，分为几个简单的部分：

研究人员提取了 150 个真实的医学考试题目（类似于医生为了获得执照而参加的考试）。这些题目描述了一位具有特定症状的患者，并且只有一个正确的医学答案。

然后，他们创建了 1,650 个新版本的题目。他们没有改变症状或疾病。相反，他们只是在故事中添加了“文化点缀”。他们通过三种方式进行了操作：

他们针对三个特定的群体进行了这些操作：加拿大原住民、中东穆斯林和东南亚人。他们还制作了“中性”版本（仅仅是添加了一个无聊的句子，比如“患者由一名家属陪同到达”），以确保 AI 不仅仅是因为阅读额外的文字而感到困惑。

黄金法则： 一位真正的医生审查了每一个新版本，并确认：“正确答案没有改变。疾病仍然是相同的。”

他们将这些问题喂给了五个不同的 AI 模型（包括 GPT-5.2、Llama 和 MedGemma 等知名模型）。他们要求 AI 选择正确答案，有时只给出字母（A、B、C），有时则要求先给出一个简短的解释。

这就像是在问一个学生做数学题。如果你告诉这个学生，“这道题是给一个名叫艾哈迈德的学生做的”，学生会突然把数学题做错吗？

结果令人惊讶，也有些令人担忧。

“组合”效应： 当 AI 同时看到患者的身份和文化语境时，它变得最容易混乱。准确率显著下降（下降了约 3 到 7 个百分点）。这就像 AI 开始思考：“哦，这是一个在祈祷的穆斯林男子？也许答案对他来说是不一样的，”尽管医学事实并非如此。
“身份”问题： 令人惊讶的是，仅仅添加患者的身份（“身份标签”）造成的麻烦几乎与完整的组合一样多。AI 似乎会对标签（例如“穆斯林”、“原住民”）产生依赖，并让这个标签改变了它的推理过程。
“语境”问题： 仅改变语境（他们在做什么）的影响较小，但仍然干扰了判断。
“中性”测试： 当他们添加无聊的中性句子时，AI 的表现基本保持不变。这证明了 AI 并不是仅仅因为阅读长句子而感到疲劳；它明确是在对文化词汇做出反应。

研究人员调查了 AI 失败的原因。他们发现，当 AI 给出错误答案时，其解释往往听起来像是正在制造刻板印象。

“猜谜游戏”： AI 不再观察症状，而是开始根据文化假设进行猜测。例如，它可能会假设某个特定群体有特定的饮食习惯或生活方式，并利用这种猜测来选择错误的疾病。
“反转”： 如果 AI 在原始问题上答对了，添加文化线索往往会让它“反转”到错误答案上。这就像一个学生明明知道答案是“4”，但看到页面角落里有一张猫的照片，突然就想：“哦，也许因为猫有 5 条命，所以答案是 5？”

论文得出结论，目前的医学 AI 模型并非文化中立的。它们就像一位厨师，仅仅因为顾客戴了一顶特定的帽子就改变了食谱。

尽管医学事实没有改变，但 AI 的“诊断”却根据文化线索发生了变化。这意味着，如果我们不解决这个问题就将这些 AI 工具应用于现实医院，它们可能会仅仅因为患者的背景而给出不同（且可能危险）的建议。

简而言之： AI 很聪明，但也有点偏见。它让文化标签遮蔽了它的医学判断，将一个简单的诊断变成了一场基于刻板印象而非科学的猜谜游戏。研究人员发布了这些测试题目，以便他人尝试修复未来 AI 模型中的这种“文化盲区”。

类似论文