Demographically-Conditioned Synthetic Medical Images for Bias Mitigation and Bias Detection in Disease Classifiers
本文提出使用一种基于人口统计特征条件的合成生成器，通过预训练来减轻训练偏差，并用于检测医学图像分类器中的评估偏差，证明了合成少数群体队列可以克服样本量限制，从而提高分类器的效率，并在真实数据稀缺的情况下提供可靠的公平性审计。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正在试图教一个机器人识别不同种类的水果。你给它看了成千上万张红苹果的照片，但只给了它少量的青梨的照片。机器人会成为识别苹果的高手，但在看到梨时可能会感到困惑或出错，仅仅是因为它见到的梨不够多。这是“机器学习”中的一个常见问题，即计算机通过观察数据来进行学习。在医学影像领域，这个问题变得更加严重。如果一个计算机程序被训练用来识别 CT 扫描中的疾病，但其训练数据主要来自年轻男性，那么该程序可能会无法识别老年女性身上的疾病。这不仅仅是一个小故障；这是一种偏见形式，可能导致不公平或危险的医疗决策。
为了解决这个问题，科学家们经常尝试对计算机进行“审计”，检查它在不同人群中的表现如何。但问题在于：在现实世界中，通常很难获得那些少数群体（如老年女性）的大量图像来进行测试。这就像是在试图判断一位厨师做素食菜肴的水平如何，但你手里只有三顿素食可以品尝。样本量太小，以至于你无法确定这位厨师是真的水平不行，还是你只是运气不好，刚好试到了那三顿饭。这篇论文正是针对这一问题展开研究的：当我们在缺乏足够真实数据的情况下，如何训练公平的医疗 AI，以及当我们的测试集规模过小时，如何进行公平的测试？
这项研究背后的研究人员决定尝试一个聪明的技巧：他们构建了一个“数字孪生”生成器。把它想象成一台神奇的艺术机器，可以创造出全新的、虚假的医学图像，这些图像看起来很真实，但其实是由计算机生成的。他们教这台机器专门为那些通常缺失的群体（如老年女性或年轻男性）生成 CT 扫描图像。然后，他们将这些虚假图像用于两种方式。首先，他们利用这些虚假图像进行“预训练”医疗 AI，在向它展示仅有的少量真实图像之前，先为它打下一个广泛且平衡的基础。其次，他们使用这些虚假图像作为一个庞大的测试集，以观察 AI 是否对每个人都保持公平。
结果非常有效。当他们仅仅将虚假图像作为增加训练数据的手段（将其与真实图像混合在一起）时，虽然这确实比仅使用真实数据提高了 AI 的性能，但并不是最好的方法。这就像是试图通过同时阅读字典和小说来学习一门语言；计算机会对这种平衡感到有些困惑。然而，当他们先用虚假图像建立一个强大的基础，然后再用极少量的真实数据对 AI 进行微调（仅为通常用量的 1%）时，结果令人惊叹。AI 变得极其准确且公平，其表现甚至优于使用大量真实数据训练的模型。这就像是 AI 从虚构的书籍中学到了疾病的“语法”，然后只需要一些真实的句子就能完善它的“口音”。
在测试方面，虚假图像成为了公平性检查中的超级英雄。当研究人员尝试在小组真实的患者身上测试 AI 时，由于测试组的人数太少，结果显得不稳定且不可靠。但当他们在由他们的机器生成的庞大“虚假”患者群体上进行测试时，结果则要稳定得多。这个虚假测试集能够完美地预测 AI 在哪些群体中表现欠佳（正确排序），其结果与你拥有一个庞大且完美的真实世界测试集时所得到的结果相匹配。事实上，对于那些真实患者最少的群体，虚假测试集的可靠性是真实测试集的数倍。然而，值得注意的是，虽然虚假数据在识别“哪里”存在偏差方面表现出色，但根据计算机做出最终决定的方式不同，具体的数值（如精确的准确率得分）与真实数据相比仍会有轻微的变化。
该论文明确反对将虚假数据和真实数据混合在一个大池子里进行训练的做法。他们发现，虽然这种“联合增强”方法确实有所帮助，但“两阶段”方法（先从虚假数据中学习，然后再用真实数据进行精炼）要优越得多。秘诀在于操作顺序：先从平衡的虚假数据中学习基础知识，然后再用真实数据进行精炼。他们还表明，虽然虚假数据在识别偏差“位置”方面非常出色（即对群体进行排序），但你仍然需要一些真实数据来确保对于代表性充分的群体，其具体数值是准确的。
简而言之，这篇论文表明，我们不需要等待数十年去收集足够的真实数据来创建公平的医疗 AI。通过使用合成图像进行智能的两步训练法，我们可以用一小部分真实数据创造出公平的分类器，并利用同样的合成图像来可靠地审计系统是否存在偏差，特别是针对那些通常被排除在讨论之外的人群。这是迈向确保医疗技术惠及所有人（而不仅仅是多数人）的重要一步。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。