Population representativeness cannot be assessed for most FDA-authorized AI medical devices targeting high-disparity conditions
这项研究显示，对于针对高差异性疾病的 76.6% 的经 FDA 授权的 AI 医疗设备而言，由于未报告种族数据，无法从公开记录中评估人口代表性，这一差距在查阅底层同行评审文献时依然存在，并凸显了当前披露指南在确保公平可评估性方面的失败。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
人工智能已悄然成为现代医学中的标准工具，帮助医生阅读X光片、发现肿瘤并预测心脏风险。这些工具并非魔法；它们是基于大量患者数据训练出来的计算机程序，用以识别模式。为了让程序对每个人都有效，它必须在与最终治疗对象特征相符的各类人群中进行训练。如果一个工具仅从某一类人身上学习，那么在用于不同人群时可能会失效，从而可能导致误诊或错误的治疗。这是一个关乎公平与安全的问题。当一种医疗设备获准使用时，监管其工作的政府机构——美国食品药品监督管理局（FDA）会发布一份证据摘要。这些文件旨在作为公共记录，展示哪些人接受了测试以及该设备表现如何。关键问题在于，这些摘要是否完整地说明了该设备的测试对象是谁，特别是针对那些对某些种族和族裔影响更为严重的疾病。
一个研究小组致力于回答这个问题，他们通过检查截至2025年底在美国获批的几乎所有的人工智能医疗设备来进行研究。他们查看了1,428种设备，涵盖了从扫描大脑图像的工具到分析心律的工具。他们的目标是观察这些公开文件是否允许任何人判断：设备的测试人群是否与实际遭受这些设备旨在治疗的疾病的人群相匹配。研究人员发现，现有信息中存在显著缺口。在约四分之三的设计用于治疗已知存在种族差异之疾病的设备中，公开文件并未报告测试数据中人员的种族或族裔。缺乏这一基本信息，人们就无法判断该设备是在公平混合的患者中进行的测试，还是仅在不代表更广泛人口的群体中进行的测试。
研究人员开发了一份特定的清单来评估这些文件，寻找诸如参与测试的患者的种族、年龄和所在地等细节。他们发现，虽然存在一些信息，但关于种族和族裔的最关键数据在绝大多数情况下都是缺失的。这种信息的缺失不仅仅是因为摘要过于简短；研究人员进行了更深入的挖掘，查看了这些设备背后的原始科学研究。即使他们找到了完整的研究论文，在大多数情况下，数据仍然缺失。这表明问题不仅在于政府如何总结信息，而是在于研究本身。用于证明这些设备有效的研究往往没有包含足够多关于参与者人口统计学特征的细节。
研究还显示，当数据存在时，它往往显示测试组与受疾病影响最大的群体并不匹配。例如，一些用于检测皮肤癌（一种在深色皮肤人群中可能更难诊断的疾病）的设备，几乎完全是在浅色皮肤的人群中进行测试的。在其他情况下，用于心脏疾病的设备所测试的人群，并未反映出某些少数族裔社区中较高的心脏病发病率。研究人员指出，虽然有些设备确实提供了关于其测试组的优秀且详尽的信息，但这些只是例外而非普遍现象。大多数时候，公共记录中根本不包含做出公平判断所需的数字。
其中最令人震惊的发现是，研究人员无法仅根据文本内容可靠地评定这些设备的公平性。他们发现，当被要求解释模糊的描述或判断一组患者与某种疾病的匹配程度时，不同的专家经常产生分歧。然而，他们可以可靠地就简单的二元事实达成一致：即某个数字是否被报告了。这使得团队得出结论：目前的报告制度不足以确保公平。这些文件往往对最重要的细节保持沉默。研究人员提出了一项新的、简单的报告标准，要求制造商列出关于测试人员种族、年龄和背景的具体数字，而不是仅仅编写笼统的陈述。
这项工作的意义对于患者、医生和医院来说是显而易见的。如果一家医院想要购买一种新的用于辅助诊断疾病的人工智能工具，他们目前无法通过查阅公开的审批文件来确认该工具是否在与其患者特征相符的人群中进行过测试。他们只能靠猜测。研究表明，对于最常见且致命的疾病，正在投入使用的工具往往是建立在无法反映最需要它们的人群现实情况的数据之上的。研究人员强调，这并不是一个可以通过简单要求增加文字就能解决的问题；行业必须开始报告具体的、结构化的数据。在此之前，公共记录仍是不完整的，这为日益塑造美国医疗保健体系的医疗技术的安全性和公平性留下了一个关键的盲点。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。