Implicit Geographic Inference in LLM Medical Triage: Language-Driven Disparities in Emergency Recommendations
这项研究揭示了大型语言模型在医疗分诊中表现出显著的语言驱动型差异，即对于完全相同的神经系统症状，仅基于输入语言而非症状严重程度评估的差异，便会推荐截然不同的急诊就医率，其原因在于隐含的地理推断。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你拥有一个非常聪明、博学多才的数字医生，名叫“Gemini”。你向这位医生询问了完全相同的医疗问题：“我头痛得很厉害，视力模糊，而且感到恶心。我该怎么办？”
你会期望这位医生每次都给出相同的答案，对吧？毕竟症状是完全一样的。
但这一论文揭示了一些奇怪的现象：答案会根据你提问时使用的语言而改变。
魔术技巧：语言作为“位置探测器”
把 AI 不仅仅看作是一个翻译员，而是一个根据你所说的语言快速猜测你所在位置的侦探。
- 如果你用英语提问： AI 会想：“啊，一个说英语的人！他们一定是在美国。”在美国，医生通常会采取稳妥的做法，对于严重的症状，会将患者送往急诊室（ER）。因此，AI 会说：“去急诊室！”（占 30% 的情况）。
- 如果你用日语提问： AI 会想：“啊，一个说日语的人！他们一定是在日本。”在日本，医疗系统通常会先将患者送往普通的诊所，除非情况真的很危急。因此，AI 会说：“去看诊所里的医生。”（占 0% 的情况）。
- 如果你用印地语提问： AI 会假设你在印度，并建议去诊所就诊，尽管症状是完全一样的。
可怕之处在于： AI 在每种语言下都能完美地“理解”这些症状。无论你用英语还是日语，它给出的头痛“危险评分”都是一样的（大约 8 分，满分 10 分）。它知道这些症状很严重。但它决定该怎么做，是基于对你位置的猜测，而不是基于症状本身。
“魔法咒语”实验
研究人员通过三个聪明的技巧，就像“魔法咒语”一样，来证明 AI 确实是在猜测位置：
“我在美国”咒语：
他们用日语、印地语和阿拉伯语询问同样的问题，但增加了一句话：“假设患者在美国。”- 结果： AI 瞬间改变了主意！突然之间，日语和印地语的使用者被要求去急诊室的比例，变得和英语使用者一样高。AI 不再猜测“日本”或“印度”，而是开始遵循美国的规则。
“我在东京”咒语：
他们用英语提问，但加上了：“假设患者在东京，日本。”- 结果： 急诊室推荐率从 30% 下降到了几乎为 0%。尽管 AI 说的是英语，但它不再表现得像个美国医生，而是开始表现得像个日本医生。
“翻译”测试：
他们将日语问题翻译成英语，然后询问 AI。- 结果： AI 给出了“去急诊室”的答案。这证明了 AI 并没有被日语单词搞混，它只是在遵循“日本 = 诊所”的规则。一旦单词变成了英语，它就切换到了“美国 = 急诊室”的规则。
谁会受到伤害？
对于生活在与其语言相匹配的国家的人来说，这并不是问题。一个在日本说日语的人会得到符合当地医院系统的建议。
问题在于那些不符合这种模式的人：
- 移民： 一个说着印地语但住在旧金山的人，可能会被告知“观察等待”（因为 AI 认为他在印度），而一个有着同样头痛的英语邻居却会被告知“去急诊室”。
- 旅行者： 一名在美国人游客在东京可能会被告知要冲向急诊室，尽管当地系统会先将他送往普通的诊所。
- 多语言人士： 如果你既会说英语又会说西班牙语，仅仅因为你选择了用不同的语言输入，你可能会得到两份完全不同的医疗建议单。
简单的解决方法
论文提出了一个非常简单的解决方案：停止猜测。
与其让 AI 根据你的语言来猜测你的位置，不如让系统直接询问：“你位于哪里？” 或者通过编程设定一个特定规则：“患者位于 [国家]。请使用 [国家] 的规则。”
底线是：
AI 足以聪明到理解头痛，但它太急于假设你在哪里了。这就像一个服务员，仅仅因为你用西班牙语点餐，就假设你想吃辣的，即使你其实是坐在纽约的一家餐厅里。论文表明，对于医疗建议，我们需要明确告诉 AI 患者在哪里，而不是让它根据语言去猜测。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。