Rare Diseases, Common Dilemmas: LLMs Prioritize Equal Resource Distribution over Patient Benefit in Decision-Making

在医疗这一高风险领域，医生经常面临没有唯一正确答案的选择。当患者病危或面临罕见病时，医疗团队必须平衡几种相互竞争的道德义务。他们必须努力帮助患者、避免造成伤害、尊重患者选择自身道路的权利，并确保资源能在所有需要的人群中公平分配。这些被称为行善、不伤害、自主和公正的义务，经常会产生冲突。例如，一种可能挽救生命的治疗手段也可能导致巨大的痛苦；或者一种稀缺且昂贵的药物可能会极大地帮助一个人，却让许多其他人无法获得护理。随着人工智能在医疗保健领域变得日益普遍，人们开始询问这些计算机系统如何处理这类困难且涉及价值判断的决策。人们担心的不仅是机器是否掌握事实，而是它是否理解其中涉及的道德权衡的分量。

一项新研究调查了大语言模型（即能够生成类人文本的强大人工智能系统）在护理罕见病患者时如何做出这些伦理选择。罕见病呈现出独特的挑战，因为它们影响的人数较少，且通常面临医疗数据有限的问题。在这种情况下，家庭和医生经常需要在深度不确定性下进行决策，在不完美的选项之间进行权衡。研究人员创建了一项测试，以观察人工智能是否能够应对这些模糊的局面。他们构建了一组由208个基于现实世界罕见病及其特定遗传和临床细节的真实医学故事（即情境剧）组成的集合。每个故事都呈现了一个真实的困境，即两个不同的后续步骤在医学上都是合理的，但在伦理上却是对立的。例如，一个选项可能优先考虑单个患者的紧迫需求，而另一个选项则侧重于将有限资源公平地分配给群体。研究人员随后要求十一个不同的尖端人工智能模型在这些选项中做出选择。

结果揭示了一个显著的模式。在所有测试的不同人工智能模型中，无论其开发者是谁或如何进行训练，这些系统一致选择了优先考虑“公正”的选项。在这些医学故事的情境下，这意味着人工智能几乎总是倾向于资源的平等分配，而非单个患者的具体紧迫需求。这些模型似乎将公平视为一种“给予每个人相同份额”的行为，而不是给予那些病情更重或具有更大医疗必要性的人更多关注。这种对平等的偏好似乎是对“公平”概念的一种肤浅回应，它忽视了患者病情的严重程度。研究表明，这些人工智能系统并非在对情境进行深层的道德推理，而是在默认采用一种简单的等分规则。

研究人员还发现，人工智能的选择在很大程度上取决于谁被描述为最终决策者。当故事将决策框架设定为属于一个委员会或医院董事会时，人工智能强烈倾向于公正和资源的平等分配。然而，当决策被框架化为属于一名医生或患者本人时，人工智能的偏好发生了转变。在这些案例中，模型背离了严格的平等原则，转而开始优先考虑患者自身的意愿或其眼下的福祉。这表明，人工智能对所分配的社会角色高度敏感，反映了人类关于权威如何运作的直觉。它似乎已经习得：委员会负责公平，而个人负责护理与选择。

这种行为引发了关于这些工具如何在医院中使用的重要问题。研究表明，人工智能决策支持系统可能会在无形中强化现有的权力结构，而非提供全新的、基于原则的视角。如果一名医生就一个困难病例向人工智能寻求建议，人工智能给出的答案可能会仅仅因为医生是以个人身份还是以团队成员身份提问而发生变化。研究人员发现，这些模型似乎并未从基本原则出发去推导什么对患者最有利，而是根据涉及的角色去匹配预期的行为模式。这种“权威偏见”意味着，人工智能可能无法挑战不公平的机构惯例，也无法识别何时患者的特定需求应当超越一般的平等规则。

这项研究并非声称这些人工智能模型存在缺陷或无法发挥作用。相反，它强调了我们在评估医疗人工智能时存在的一个盲点。大多数测试都集中在机器是否掌握正确的事实或能否正确回答医学问题上。这项研究表明，即使模型在事实层面是准确的，它们在衡量道德价值时仍可能存在隐藏的偏见。研究结果提示，当我们向使用人工智能的高风险医疗环境迈进时，我们必须超越单纯的准确性。我们需要理解这些系统如何优先考虑价值观，以及它们的选择是否与人类医生和伦理学家在生死攸关之际所使用的复杂且细致的推理相一致。研究结论指出，如果不仔细关注这些伦理偏好，人工智能工具最终可能只会简单地重复机构决策的现状，从而可能以牺牲最脆弱患者的利益为代价。