Advancing Health Equity through Multi-Level Fairness in Health Informatics

在现代医院中，一场无声的革命正在发生。计算机正在学习阅读医疗记录、识别症状模式，并以人类医生无法比拟的速度和精度建议治疗方案。这些基于机器学习构建的工具，有望简化护理流程并挽救生命。然而，正如任何由人类历史锻造而成的工具一样，它们也带有过去的指纹。用于教导这些计算机的数据——关于谁生病了、谁接受了治疗以及谁被遗忘了——往往反映了根深蒂固的社会不平等。当计算机从带有偏见的数据中学习时，它可能会在无意中学会对某些患者的处理方式不如其他患者公平，从而加剧了它原本希望解决的差距。这并非代码中的漏洞，而是对代码旨在理解的世界的一种反映。当今科学家面临的核心挑战不仅是让这些系统变得准确，更要确保它们是公平的，从而使技术的益处能够惠及每一位患者，无论其背景如何或居住在何处。

亚利桑那大学的研究人员尼克·索莱恩（Nick Souligne）和维格内什·苏比安（Vignesh Subbian）已将注意力转向这一关键问题。他们致力于研究健康信息学领域目前是如何处理公平性问题的。具体而言，他们调查了一种被称为“多层公平性”（multi-level fairness）的策略。多层公平性并不试图仅在计算机模型的某一个阶段修复偏差——例如在计算机学习前清洗数据，或者在计算机做出决策后调整最终答案——而是试图在过程中的多个环节进行干预。研究人员想知道，这种全面的方法是否确实能为弱势群体带来更好的健康结果，以及科学家报告其研究工作的方式是否足以证明这一点。在审查了大量现有研究后，他们发现，尽管在多个阶段应对偏差的想法很有前景，但该领域仍难以将这些技术修复与现实世界的健康公平联系起来，且报告这些努力工作的规则往往过于模糊，难以真正发挥作用。

研究人员首先对当前的努力进行了梳理。他们发现，许多研究只关注单一类型的偏差或单一的修复方法。一些研究人员在训练模型前清洗数据，一些人在模型学习时进行调整，还有一些人在最终预测时进行微调。然而，作者观察到，极少有研究将这些方法结合成一个连贯的策略。在对数百项关于缓解偏差的研究进行审查时，只有极小部分研究实际上结合了不同的技术，甚至更少的研究关注了这些组合如何影响特定人群，例如少数族裔或低收入人口。作者认为，依赖单一的修复手段就像试图通过堵住一个漏洞来阻止船体漏水，却忽略了其他的洞；水仍然会进到船里。他们主张，为了真正推进健康公平，我们需要在计算机开发的每一步都解决偏差问题，从数据收集的那一刻起，直到医生在诊所使用该工具的那一刻为止。

论文的很大一部分篇幅集中在“技术公平”与“实际健康公平”之间的差距上。研究人员指出，一个计算机模型在狭义上可能是“公平”的——即对不同种族群体的疾病风险预测同样准确——但仍可能无法改善健康状况。这是因为模型可能会忽略某些群体面临的复杂且重叠的障碍，例如交通工具的匮乏或生活在贫困中的压力。如果模型预测一名患者需要某种特定治疗，但患者负担不起或无法到达医院，那么无论该预测多么准确，都无法对他们提供帮助。作者强调，真正的公平需要超越数字，去观察模型的预测在现实世界中是如何运作的，特别是对于那些面临多重劣势的人群。他们认为，衡量成功的标准不应仅仅看计算机的表现有多好，而应看它是否带来了公平的医疗机会和全民健康的提升。

为了确保这些努力具有透明度和问责制，论文检查了科学家报告其工作的标准。目前，存在诸如 TRIPOD-AI 和 MINIMAR 之类的指南，指导研究人员在发布新的医疗模型时应包含哪些信息。这些标准要求提供有关所用数据及模型测试方式的细节。然而，作者发现这些指南在涉及公平性方面往往力有不逮。它们很少要求研究人员解释如何在开发的每个阶段检查偏差，或者如何确保模型能对边缘化群体发挥良好作用。缺乏这些细节，其他科学家或医院管理人员就很难判断一个新工具是否对所有患者都是真正安全且公平的。研究人员指出，虽然 TRIPOD-AI 是一个良好的起点，但它需要进一步扩展，以要求明确报告如何检测和修复偏差，以及模型在实际医院部署后对健康公平产生了怎样的影响。

基于这些发现，作者对未来提出了两项明确的建议。首先，他们敦促研究人员将公平性嵌入构建计算机模型的整个生命周期中。这意味着在收集数据时检查偏差，在训练过程中进行更具包容性的调整，并在模型发布后不断监测其是否公平地对待每个人。其次，他们呼吁建立一种更严格的新型报告标准。他们建议科学界应达成一致，采用一套统一且全面的规则，要求作者详细说明为确保公平所采取的每一个步骤，包括他们如何处理不同群体以及如何衡量对健康公平的影响。通过这些改变，该领域可以超越简单的技术修复，构建一个让机器学习真正成为缩小而非扩大健康差距工具的未来。索莱恩和苏比安的工作提醒我们，实现全民健康之路不仅需要更聪明的计算机，还需要一种更周全、更诚实的方法来构建和分享它们。