💻 computer science

FairGen: Preference-Aligned Diffusion for Demographically Equitable Medical Image Synthesis

FairGen 是一个公平性感知扩散框架，它通过嵌入符合医师偏好的特征来合成人口统计学平衡的医学图像，在显著提高皮肤科、放射科和神经影像任务中的亚组覆盖率并减少诊断偏差的同时，保持了极高的诊断准确性。

原作者： Zhimin Li, Ruichen Zhang, Zhen Tan, Howard J Aizenstein, Jingtong Hu, Tianlong Chen

发布于 2026-06-16

📖 1 分钟阅读☕ 轻松阅读

原作者： Zhimin Li, Ruichen Zhang, Zhen Tan, Howard J Aizenstein, Jingtong Hu, Tianlong Chen

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在尝试教一台计算机识别不同类型的皮肤病、肺部问题或大脑疾病。为此，你向它展示了数千张照片。但问题在于：我们拥有的相册非常不平衡。这些相册里充满了浅肤色人群、年轻人和男性的照片，但几乎没有关于深肤色人群、老年人或女性的照片。

因为计算机只见过这些“稀有”群体的极少数例子，所以当它以后遇到这些群体时就会感到困惑。它可能会漏掉深肤色患者的疾病，因为它从未学习过这种疾病在深色皮肤上呈现的样子。这就像是只教一个人在晴天开车；一旦下雨，他们就不知道该怎么做了。

走进“FairGen”：平衡的照片工作室

研究人员在这篇论文中创建了一个名为 FairGen 的工具。把 FairGen 想象成一个神奇的、专注于公平性的照片工作室。它不仅仅是复制现有的照片，而是利用先进的 AI 来创造新的、真实的医学图像，以填补这些缺失的空白。

以下是它的工作原理，我们使用简单的类比来解释：

1. 问题所在：倾斜的图书馆

想象一个图书馆，其中 90% 的书都是关于猫的，只有 10% 是关于狗的。如果你请一名学生写一篇关于“宠物”的报告，他会对猫了如指掌，但对狗几乎一无所知。在医学影像中，“书”就是患者的照片。如果一家医院大多是年轻、浅肤色男性的照片，那么基于这些照片训练出的 AI 在诊断老年女性或深肤色人群时表现会很糟糕。

2. 解决方案：FairGen 的三个魔术技巧

FairGen 不仅仅是制作随机的照片；它制作的是聪明的照片，以修复图书馆的不平衡问题。它使用了三个特定的技巧：

技巧一：“均衡器”（重采样）
想象 AI 是一位正在烹饪炖菜的厨师。如果锅里有很多土豆但胡萝卜不够，炖菜的味道就会很差。FairGen 会观察食材（数据），然后说：“我们需要更多胡萝卜！”它专门针对缺失的群体（如深肤色或老年大脑），并告诉 AI 在学习过程中要格外关注它们。
技巧二：“多样性卫士”（多样性损失）
有时，当 AI 试图解决问题时，它会变得偷懒，只是一遍又一遍地复制同样的东西。FairGen 有一个“多样性卫士”，确保生成的新照片各不相同。它确保 AI 不仅仅是创造了 100 张一模一样的深肤色患者照片，而是创造了 100 种独特且真实的变体。
技巧三：“医生的耳语”（符合医师偏好的对齐）
这部分是最重要的。通常情况下，AI 只是试图让图片看起来“真实”。但在医学领域，仅仅看起来真实是不够的；图片必须显示出正确的医学细节。
研究人员邀请了真正的医生来充当评委。他们向 AI 展示成对的生成图像，并询问：“哪一张显示了痴呆症的具体征兆？”或者“哪一张正确地显示了皮疹？”
AI 从医生的选择中学习。这就像一个学生不仅死记硬背教科书，还有一个导师在旁边指出具体应该观察什么。这确保了生成的图像不仅好看，而且在医学上是准确的，即使是对于罕见情况也是如此。

3. 结果：更公平的未来

研究人员在三种不同类型的医学图像上测试了 FairGen：皮肤照片、胸部 X 光片和脑部扫描。

“之前”的画面： 标准的 AI 模型就像一个带有偏见的法官，经常会对少数群体做出错误的判断。
“之后”的画面： 当 AI 使用 FairGen 生成的这些平衡后的照片进行训练时，它变得更加公平了。
- 对于皮肤图像，公平性提高了 95.9%。
- 对于胸部 X 光片，提高了 80.0%。
- 对于脑部扫描，提高了 35.2%。

至关重要的是，AI 在诊断多数群体时并没有变得更差。它不需要为了帮助他人而“牺牲”某些人的准确性；它只是变得能更好地观察每一个人。

这篇论文实际在表达什么（以及没有表达什么）

它在做什么： 它证明了我们可以使用 AI 来生成合成医学图像，从而修复数据不平衡问题。它表明这些“伪造”的图像可以被用来训练更公平、更好的诊断计算机。
它不是在做什么： 论文谨慎地指出，这是一个研究工具，而不是一个已经准备好进入医院的成品。
- 这些“伪造”的图像是用于训练其他计算机的，而不是直接给医生看以诊断患者。
- 该研究使用了现有的公开数据集和专家评审来证明概念的可行性，但它不是一个治疗患者的临床试验。
- 作者警告说，虽然这些图像看起来很真实，但必须谨慎使用，因为 AI 有时会产生“幻觉”（看起来很真实但并不真实的虚假细节）。

简而言之：

FairGen 就像是医学 AI 的“人口统计学均衡器”。它利用医生的指导来创建一组平衡的训练照片，确保下一代医学 AI 不仅仅为大多数人服务，而且能为每个人提供良好的服务，无论他们的肤色、年龄或性别如何。

技术摘要：FairGen

问题陈述

由于医疗获取能力的差异以及不同人群间疾病流行率的差异，医学影像数据集经常表现出严重的统计学人口特征不平衡。这些不平衡现象因疾病表型在不同人口统计群体中的表现方式不同（例如，银屑病在深色皮肤上表现为灰色而非鲑鱼粉色）而进一步加剧，使得某些表现形式在标准数据集中自然呈现稀缺状态。因此，在这些数据上训练的 AI 模型面临着延续诊断偏差的风险，导致在代表性不足的子群体中性能大幅下降（例如，胸部 X 线摄影模型在黑人亚群中的准确率可能降低高达 50%）。

现有的公平性感知生成方法面临诸多局限：生成对抗网络（GANs）通常会降低图像质量或需要经过精心策划的数据集；而近期的扩散模型尝试则依赖于在平衡数据集上进行高昂的微调，或使用可能过度矫正或放大偏差的后验控制手段。此外，即使是目前最先进的扩散模型，其生成的输出在面对中性提示词时，也往往表现出以白人和男性为主的倾向。目前缺乏一种可扩展、模态无关且能将公平性目标直接嵌入生成过程并同时保留病理相关视觉特征的框架。

方法论：FairGen 框架

FairGen 是一个公平性感知扩散框架，旨在合成具有人口统计学平衡性的医学图像，同时保持临床保真度。该框架通过一个集成三个核心组件的统一流水线运行：

属性-疾病重采样（Attribute-Disease Resampling）：
为了从源头解决数据不平衡问题，FairGen 采用了两种互补的重采样策略：
- 类别平衡随机采样（CBRS）： 根据频率为代表性不足的“属性-疾病”对分配权重，并结合一种梯度感知机制，为具有较高训练梯度的组（表明学习难度较大）增加权重。
- 平方根随机采样（SQRS）： 对组频率应用平方根变换，以避免过度放大稀有类别，同时也集成了梯度感知调整。
类别多样性正则化（Class-Diversity Regularization）：
将类别多样性损失（ $L_r$ ）集成到扩散训练目标中。该损失在不同类别的噪声预测变得难以区分时会对模型进行惩罚，从而强制实现类间清晰的区别，防止模式崩塌或多数群体的支配地位。它确保了在所有敏感属性和疾病类别下都能生成多样化的合成样本。
医生对齐的偏好引导（Physician-Aligned Preference Guidance）：
为确保生成的图像保留具有临床意义的特征，FairGen 引入了直接偏好优化（DPO）。
- 数据构建： 医生根据特定的临床提示词（例如，“年龄高于 75 岁，痴呆”）审查候选图像对，并选择更符合目标表型的图像（基于解剖学线索，如增宽的脑沟，而非仅仅是通用真实感）。
- 优化： 训练一个奖励模型来区分优选与非优选样本。该奖励信号在每个时间步引导扩散模型与医生认可的表型保持一致，防止在罕见或少数病例中抹除细微的病理特征。

该框架利用 Stable Diffusion v1-4 作为骨干网络。在训练期间，VAE 和文本编码器保持冻结，仅对 U-Net 进行带有新增公平性损失的微调。在下游阶段，生成的合成数据与真实数据相结合，并在分类器训练期间应用动态的性能感知重加权机制，以进一步减少残余偏差。

核心贡献

框架设计： 引入了 FairGen，这是一个模态无关的扩散框架，通过重采样、多样性正则化和医生对齐的偏好引导，将公平性直接嵌入到生成流水线中。
医生对齐： 提出了一种将临床专业知识整合进生成式 AI 的新颖方法，通过构建由医生基于特定病理特征（而非仅仅是统计平均值）选择图像的偏好数据集，确保模型学习到具有临床相关性的表型。
全面评估： 在涵盖生成保真度和下游诊断公平性的三个不同模态（皮肤科、放射科和神经影像学）上进行了严格评估。

结果

该框架在 Fitzpatrick-17k（皮肤图像）、CheXpert（胸部 X 线摄影）和 OASIS（T1 加权 MRI）数据集上进行了评估。

生成保真度与公平性：

图像质量： FairGen 在五种基准模型（包括 Stable Diffusion、FairDiffusion、CBRS、SQRS 和 CBDM）中实现了最低的 Fréchet Inception Distance (FID) 分数，其中皮肤图像相对提升 10.1%，胸部 X 线摄影提升 13.0%，MRI 提升 3.0%。
生成公平性： FairGen 显著降低了不同人口统计子群之间 FID 分数的方差。对于皮肤图像，FID 方差从 862.2（Stable Diffusion）降至 317.3，表明少数群体的合成保真度与多数群体相当。
视觉证据： 定性分析和 t-SNE 投影显示，FairGen 生成的潜在特征分布呈均匀混合状态，而基准模型则表现出明显的敏感属性聚类现象。

下游诊断性能：

公平性指标： 使用 FairGen 生成数据训练的模型在公平性指标（人口统计学平价、机会平等、等化敏感子群性能和归一化准确率范围）方面取得了实质性改善。
- 皮肤图像： 公平性提升 95.9%。
- 胸部 X 线摄影： 提升 80.0%。
- 脑部 MRI： 提升 35.2%。
准确率： 该框架保持了与使用原始临床数据训练的模型相当的竞争性诊断准确率，证明了公平性的提升并未以牺牲性能为代价。
专家验证： 在盲法成对评估中，当评估疾病相关的临床特征时，专家在皮肤图像比较中 85% 的情况下更倾向于 FairGen 生成的图像，在胸部 X 线摄影比较中则为 55%。

外部验证：
性能趋势在独立队列（ISIC、IXI、MIMIC-CXR）上得到了验证，证实了该框架的益处可以延伸至原始分布内数据集之外，尽管作者指出这些属于基准水平的评估。

意义与主张

论文将 FairGen 定位为一个用于公平性感知医学图像合成和子群感知模型开发的研发阶段框架。其主要意义在于证明了可以在不损害诊断准确性或图像质量的情况下，减轻医学影像中的人口统计学偏差。

作者强调：

公平性是可以实现的，且不存在性能惩罚： 在保持竞争性预测性能的同时，可以提高子群公平性。
临床基础至关重要： 集成医生对齐的偏好确保了合成数据能够保留细微的、与病理相关的特征（例如皮层萎缩），而这些特征在标准生成模型中往往会丢失。
可扩展性： 该框架为昂贵的重新训练或脆弱的后验控制提供了一种可扩展的替代方案。

作者明确指出，FairGen 并非准备好取代现有工作流的部署阶段决策支持系统。相反，它作为一个工具，用于数据集增强、教学演示以及开发更公平的 AI 模型。他们承认存在局限性，包括专家研究中缺乏正式的多名评价者一致性统计，以及在临床使用前需要进行前瞻性临床验证、校准和风险分析。该工作被呈现为迈向更公平的部署前医学 AI 研究的一步。