Revealing Treatment Non-Adherence Bias in Clinical Machine Learning Using Large Language Models
本研究表明，通过使用大语言模型分析临床笔记，在 21.7% 的高血压患者中识别出的治疗依从性差问题引入了显著的偏差，这种偏差扭曲了因果推断，降低了模型性能，并加剧了临床机器学习系统中的健康差异。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正试图教一个机器人如何安全驾驶汽车。你给了机器人一个庞大的过往驾驶日志库。日志里写着：“当红灯亮起时，驾驶员踩下了刹车，车辆停止了。”
机器人学到了一个简单的规则：红灯 = 踩刹车 = 停车。 它假设每一次驾驶员看到红灯时，他们都确实踩了刹车。
但问题在于：在现实生活中，有些司机看到红灯后，心里想着“我赶时间”，于是就直接闯了过去。日志里并不会记录“驾驶员无视了红灯”，它只会说“驾驶员看到了红灯”。
如果你的机器人不知道哪些人实际上停下了，哪些人没有，它就会学到一个错误的规则。它认为刹车功能非常完美，但实际上，它是在从一群混合了“停下的人”和“没停下的人”的数据中学习。这使得机器人对未来交通的预测既危险又不准确。
这篇论文讨论的正是在医疗机器学习领域修复这个问题的研究。
现实世界的问题：“沉默”的未依从行为
医生使用计算机程序（机器学习）来决定患者的治疗方案，特别是针对高血压（hypertension）的治疗。这些程序会查看电子健康记录（EHR）——本质上就是患者的数字日记。
计算机假设：“如果医生写了‘开具药物 X 的处方’，那么患者就服用了药物 X。”
但患者是人。有时他们会忘记，有时药物让他们感到头晕，有时他们买不起药。他们停止了服药，但计算机并不知道这一点。它只看到了文件里的处方记录。
作者称这种现象为**“治疗不依从偏差”（Treatment Non-Adherence Bias）**。这就像机器人以为驾驶员踩了刹车，而实际上他们并没有。
他们是如何识破谎言的：超级阅读者
长期以来，研究人员必须直接询问患者：“你吃药了吗？”但人们往往会撒谎或忘记说实话。
在这项研究中，研究人员使用了一个大语言模型（LLM）。你可以把这个 LLM 想象成一个超级聪明、不知疲倦的阅读助手。他们将成千上章、带有手写风格的杂乱医生笔记喂给了它。
虽然计算机数据库只看到了“处方：利西诺普利（Lisinopril）”，但 LLM 阅读了医生的笔记，并发现了隐藏的线索，例如：
- “患者表示因为头晕停止了服药。”
- “患者忘记去取药了。”
- “患者药用完了。”
利用这个“超级阅读者”，他们分析了 3,623 名患者。他们发现，其中有 786 人（约 22%） 实际上并没有按照医嘱服药，尽管计算机记录显示他们正在服药。
他们的发现
一旦他们将“诚实的”患者与“不依从的”患者区分开来，他们发现了一些有趣的模式：
- 谁更容易漏服药物？ 年轻患者和黑人患者更容易出现不依从的情况。
- 为什么？ LLM 阅读了笔记并将原因进行了分组。最大的原因是副作用（如头晕或头痛）。第二大原因是健忘。其他原因还包括取药困难或丢失药物。
危险所在：为什么这会破坏计算机模型
这篇论文最核心的部分是：如果你忽略这个问题，会发生什么。研究人员测试了两件事：
因果推断（弄清什么才有效）：
他们尝试计算某种特定药物的效果。- 错误做法： 当他们把那些“不依从”的患者（即并未实际服药的人）也包含在“接受治疗组”中时，计算机就产生了困惑。它认为药物无效，因为那些其实没吃药的人并没有好转。
- 结果： 在某些情况下，这种偏差非常严重，甚至扭转了结论。计算机认为某种药物是有害的，而实际上它是有益的，反之亦然。
预测模型（猜测未来）：
他们构建了预测患者预后的模型。- 错误做法： 通过向模型输入“脏数据”（即计算机认为患者服药了，但实际上并未服药），模型的准确度下降了 5%。
- 结果： 这听起来可能不多，但在医学领域，5% 的准确度下降意味着可能会错过那些最需要帮助的人的诊断。它还让系统变得不公平，加剧了医疗差距，尤其是对于那些更容易出现不依从行为的弱势群体（如黑人患者）。
解决方案：清洗数据
研究人员表明，如果你简单地从训练数据中剔除那些没有按时服药的患者，计算机模型实际上会变得更好且更公平。
这就像清洗你的驾驶日志。如果你删除了那些闯红灯的记录，你的机器人就能学会正确的规则：“如果你踩下刹车，你就会停下。”
总结
这篇论文是对医疗 AI 界的一个警告：你不能仅仅依赖处方记录。
如果你用“假设每个人都会按时服药”的数据来训练医疗 AI，你就是在建立一个基于谎言的系统。这个谎言会让 AI：
- 误解哪些药物真正有效。
- 对患者健康做出更差的预测。
- 对那些在服药方面遇到困难的人产生不公平的对待。
作者建议使用 AI 工具（如他们使用的 LLM）来阅读医生笔记，找出那些“撒谎者”（不依从的患者），并在训练医疗模型之前清洗数据。这能确保未来医疗 AI 的准确性与公平性。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。