FairHealth: An Open-Source Python Library for Trustworthy Healthcare AI in Low-Resource Settings

本文介绍了 FairHealth，这是一个开源 Python 库，旨在通过提供一个统一的模块化框架来弥合医疗人工智能在低资源环境中的关键差距，该框架集成了公平性审计、隐私保护的联邦学习、低带宽可解释性，以及针对全球南方数据集的专用工具。

要点

想象一下，你正在组建一支医生团队，前往互联网信号不稳定、电力供应不可靠且缺乏专科医生的偏远村庄提供帮助。你希望利用计算机程序（人工智能）来协助他们，但你面临着三大主要担忧：

1. 是否公平？ 计算机对待来自村庄的年轻女性，是否与对待来自城市的年长男性一视同仁？
2. 是否安全？ 我们能否在不窃取私人患者记录的情况下训练计算机？
3. 能否信任它？ 如果计算机提出建议，当地护士能否在不具备数学博士学位的情况下理解其做出该选择的原因？

FairHealth 是一款全新的免费“工具箱”（一个 Python 库），专为解决孟加拉国及其他资源匮乏地区面临的上述三个问题而设计。你可以将其视为医疗伦理人工智能的瑞士军刀。

以下是该工具箱的运作方式，分解为其六大核心工具：

1. “公平之镜” (fairhealth.fairness)

问题所在： 人工智能模型通常基于富裕国家的数据进行训练。当你在不同地区使用它们时，它们可能会针对特定人群（如女性或特定族裔）出现误判。这就像是一个仅基于伦敦天气训练的天气应用程序，试图预测撒哈拉沙漠的降雨；它根本无法奏效。
该工具： 该模块如同一面镜子，用于检查人工智能是否存在偏见。它会运行“公平性审计”，以查看人工智能是否平等对待不同群体。

• 现实案例： 论文显示，若不使用此工具，用于检查心跳（心电图）的人工智能在男女之间的公平性仅为 23%。在使用该工具“修复”人工智能后，公平性跃升至 71%。

2. “翻译器” (fairhealth.explain)

问题所在： 大多数人工智能都是“黑盒”。它给出答案，但无人知晓其得出答案的过程。在资源匮乏地区的繁忙诊所中，医生无法要求计算机科学家解释其中的数学原理。他们需要简单的理由。
该工具： 该模块将复杂的数学转化为通俗易懂的规则，就像一位翻译在与当地长者交谈。

• 现实案例： 它不再说“概率得分为 0.88"，而是说：“规则 1：高血压 AND 高血糖 = 高风险”。论文中提到的一项研究发现，医生更喜欢这种简单的“基于规则”的解释，而非复杂的图表。

3. “秘密金库” (fairhealth.federated)

问题所在： 由于隐私法规，医院无法共享患者记录。这就像试图通过发送实际食材来教厨师新食谱，但这些食材却被锁在金库里。
该工具： 该工具使用一种特殊的“魔法锁”（称为同态加密）。它允许医院在不打开金库或发送实际患者数据的情况下共同训练人工智能。它们仅发送关于食谱的“加密提示”。

• 结果： 论文声称，该方法将互联网传输的数据量减少了97.5%（即使在慢速连接下也能快速运行），同时确保数据在数学上无法被黑客破解。

4. “紧急分诊” (fairhealth.lowresource)

问题所在： 在疾病爆发期间（如登革热），诊所会不堪重负。他们需要一种快速的方法来对患者进行分类，但系统必须能够离线运行并使用当地语言。
该工具： 这是一个针对登革热的智能分类助手。它提出简单的问题（年龄、地点、住房类型），并以英语或孟加拉语提供建议。

• 现实案例： 如果达卡的一名儿童发烧，该工具可以立即指出：“严重：立即就医”，帮助医生决定谁需要优先获得帮助。

5. “公平罗盘” (fairhealth.equity)

问题所在： 当灾难发生（如洪水）时，援助往往流向最容易到达的地方（城市），而将受灾最严重的农村地区抛在脑后。旧的人工智能模型只是复制了这一错误。
该工具： 该模块充当罗盘，指向最需要帮助的人，无论他们居住在哪里。它使用一种特殊技术来忽略“地点偏见”。

• 现实案例： 在 2022 年孟加拉国洪水中，该工具改变了优先援助名单。一个名为 Sunamganj 的农村地区，此前在援助排名中位列第 14 位，现被正确提升至第 1 位，因为模型意识到他们遭受的苦难最为深重。

6. “开放图书馆” (fairhealth.datasets)

问题所在： 大多数医疗人工智能研究需要特殊许可（“数据使用协议”）才能访问患者记录。这将独立研究人员、学生或没有大型医院网络的国家的人们拒之门外。
该工具： FairHealth 是首个仅使用已免费公开数据的工具箱。你无需申请许可或签署法律文件。

• 益处： 任何拥有计算机的人都可以下载数据，并立即开始构建公平的人工智能。

总结

FairHealth 是一款免费、开源的工具包，旨在帮助研究人员和医生构建公平（不歧视）、隐私（保护秘密安全）且可解释（易于理解）的人工智能。它是专门为资源匮乏环境的挑战而构建的，仅使用对所有人免费的数据。

你可以像安装任何其他应用程序一样安装它（pip install fairhealth），并开始使用这些工具，使医疗人工智能对每个人来说更加安全和值得信赖。

技术摘要

技术摘要：FairHealth

问题陈述

机器学习在医疗保健领域展现出巨大潜力，然而其在现实世界中的部署，特别是在低收入和中等收入国家（LMIC）环境中，受到三大结构性限制阻碍：

1. 人口统计偏差：基于总体数据训练的模型往往在少数群体中表现不佳。例如，未经校正的基于心电图（ECG）的心肌梗死检测模型在性别群体间的差异影响比率为 0.23，远低于 0.80 的公平性阈值。
2. 隐私约束：医疗记录的法律保护阻碍了机构间的数据共享。虽然联邦学习（FL）提供了解决方案，但现有的 Python 库缺乏医疗研究人员可访问的加密同态加密（HE）集成。
3. 可解释性差距：低收入和中等收入国家（如孟加拉国）的临床决策支持工具需要临床医生无需机器学习专业知识即可理解的解释、在低带宽环境下的运行能力以及对本地语言的支持。现有库（如 SHAP、LIME）缺乏临床工作流的集成。

当前的工具包（如 PyHealth）涵盖了广泛的电子健康记录（EHR）数据集，但遗漏了公平性审计、联邦学习以及针对低收入和中等收入国家的特定部署。相反，公平性库（如 AIF360）缺乏特定于医疗保健的数据集，而联邦学习框架（如 FATE）缺乏医疗保健焦点并施加了高昂的工程开销。

方法论与库设计

FairHealth 是一个开源的模块化 Python 库，旨在解决上述差距。它基于五项同行评审的研究成果构建，并划分为六个松散耦合的模块。该库遵循三大核心设计原则：

• 仅限公开数据：所有数据集均可从公开来源下载，无需机构数据使用协议（DUA）。
• 论文锚定：每个模块均与特定的同行评审出版物相关联，关键结果记录在文档字符串中以确保可追溯性。
• 临床框架：输出以临床语言而非机器学习术语呈现，并经由涉及 14 名医疗保健专业人员的研究验证。

核心模块

1. fairhealth.fairness（生物信号公平性）：

   • 功能：为生物信号和表格数据提供与模型无关的公平性指标（人口统计 parity、均衡 odds、差异影响）。
   • 创新：包含 intersectional_fairness 以同时评估多个敏感属性（例如：性别 × 年龄）。
   • 验证：在 PTB-XL 数据集上进行了演示，对抗性去偏将差异影响比率从 0.23 提升至 0.71，同时保持 AUROC 为 0.8472。

2. fairhealth.explain（混合可解释性）：

   • 功能：结合先验模糊逻辑规则与后验 SHAP 解释。
   • 创新：解决了资源受限环境中的“信任赤字”。一项临床医生验证研究显示，71.4% 的受访者偏好这种混合方法，而非仅使用 SHAP 或仅使用分数的解释。
   • 性能：在 UCI 孕产妇健康风险数据集上实现了 88.67% 的准确率，比梯度提升基线高出 2.46 个百分点。

3. fairhealth.federated（隐私保护联邦学习）：

   • 功能：实现带有同态加密（HE）和差分隐私（DP）的联邦学习。
   • 创新：采用 MedHE 方法，将自适应梯度稀疏化与 CKKS 同态加密协同设计。
   • 性能：在保持宏观 F1 分数与标准 FedAvg 统计等效的同时，将通信开销降低了 97.5%（从 1,277 MB 降至 32 MB）。它将针对成员推断攻击（MIA）的抵抗力提升至接近随机水平（51.1% 的成功率）。

4. fairhealth.lowresource（多语言分诊）：

   • 功能：一个支持英语和孟加拉语的登革热分诊决策树分类器。
   • 创新：利用人口统计特征（年龄、性别、区域类型等）在低带宽条件下运行。
   • 性能：实现了 0.802 的 F1 分数和 0.851 的 AUC。一项试点研究（n=50）报告称，用户对其置信度阈值机制（将低置信度病例转诊给医生）的满意度为 75%。

5. fairhealth.equity（灾害援助分配）：

   • 功能：一种用于公平洪水援助分配的对抗性去偏架构。
   • 创新：使用梯度反转层学习区域不变的风险脆弱性表示，纠正历史数据中的城市偏差。
   • 性能：在孟加拉国 87 个乌帕齐拉（upazilas）上的评估显示，该模型将统计 parity 差异减少了 41.6%，区域公平性差距减少了 43.2%，且 R² 成本极小（2.7 个百分点）。

6. fairhealth.datasets（公开加载器）：

   • 功能：六个特定数据集的运行时加载器，包括 PTB-XL、MIMIC-III Demo、登革热监测和洪水损害（PDNA）等标准数据集，以及孟加拉国特定的孕产妇健康数据。
   • 数据真实性说明：针对孟加拉国孕产妇健康模块，库中集成的 Healthcare_Access_Score（医疗可及性评分）和 MMR（每 10 万人的孕产妇死亡率）变量并非合成或模拟值，而是源自真实的公开注册机构。具体来源包括：(1) DGHS Dashboard 2024（孟加拉国卫生服务总局仪表盘）和 (2) UNFPA MPDSR 2023（联合国人口基金孕产妇和围产期死亡监测与响应报告）。这些指标均为上述机构发布的真实公开数据，确保了研究基础的真实性和可验证性。

关键结果与贡献

该论文声称以下贡献：

1. 统一框架：首个可 pip 安装的库，专门针对医疗保健领域集成了联邦学习、公平性、可解释性和低资源工具。
2. 可复现性：首个完全基于公开可用数据集构建的医疗保健人工智能工具包，消除了独立研究人员获取机构数据使用协议的障碍。
3. 低收入和中等收入国家焦点：精选了现有机器学习库中未收录的孟加拉国特定健康数据集（孕产妇、登革热、洪水），其中孕产妇数据直接源自 DGHS 和 UNFPA 的官方公开记录。
4. 开放实现：提供了五项同行评审方法的开源代码，支持直接复现和扩展。

技术性能亮点：

• 公平性：在心电图数据上将差异影响比率从 0.23 提升至 0.71。
• 隐私：在联邦学习中实现 97.5% 的通信减少（使用同态加密），同时保持模型效用（宏观 F1 ≈ 0.95）。
• 可解释性：71.4% 的临床医生偏好混合模糊逻辑+SHAP 解释。
• 公平性：改变了 70.6% 受灾地区的优先排序，显著提升了脆弱农村地区的排名（例如：苏纳姆甘杰）。

意义与主张

该论文将 FairHealth 定位为现有广泛覆盖库（如 PyHealth）的补充层，专门针对其他工具留白的“可信度维度”（公平性、隐私、可解释性）。其主要意义在于通过以下方式推动全球南方医疗保健人工智能研究的民主化：

• 消除对机构数据访问协议的需求，仅使用如 DGHS Dashboard 和 UNFPA MPDSR 等真实公开注册数据。
• 提供专为低带宽和多语言临床环境定制的工具。
• 确保公平性和隐私不是事后想法，而是机器学习工作流中集成且可审计的组成部分。

作者指出，该库使全球研究人员（包括没有医院隶属关系的研究人员）能够开展严谨、可复现的医疗保健人工智能研究。未来的工作仅限于扩展联邦模块，以支持基于 TenSEAL 的完整 CKKS 加密用于神经网络权重，并集成用于登革热监测的实时仪表板。