Multi Armed Bandit Based Adaptive Model Selection for Clinical AI Governance An Infrastructure Approach to Safer AI Use in U.S. Healthcare
本文提出了一种基于多臂老虎机（Multi-Armed Bandit）的临床人工智能治理框架，该框架通过平衡预测质量、成本和安全惩罚，在已验证的模型中进行动态选择，并通过 MIMIC-IV 模拟实验证明，尽管最小化遗憾（regret-minimizing）策略优于静态部署，但要实现对次优模型的自信退役，所需的数据量显著高于典型的临床数据流。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在医院重症监护室（ICU）这种高风险的环境中，医生依赖计算机程序来帮助预测哪些患者最有可能死亡。这些被称为临床人工智能模型的程序，通过对大量过去的医疗记录进行训练，以识别生命体征和实验室检查结果中的细微模式。然而，医院经常发现自己拥有好几个不同版本的这些程序，每个程序由不同的团队构建，且运行所需的各种数据量也各不相同。有些模型简单且成本低廉，只需要基础的心率和体温读数；另一些则复杂且昂贵，需要全套的血液检查和先进的影像学检查。目前的标准做法是选择一个模型，坚持使用它，并将其用于每一位患者，直到下一次预定的审查。这种静态的方法假设在一次性测试中选定的模型将永远是最佳选择，忽略了患者群体会发生变化、数据可用性会发生转移以及运行这些程序的成本每天都在变化的现实。
医院管理人员面临的挑战在于，如何在不进行冒险猜测的情况下管理这些工具组合。他们需要一个系统，能够根据特定患者实时决定使用哪个模型，在运行程序的成本与患者的安全之间取得平衡。如果医院切换得太快，可能会因为一次偶然的运气不佳而丢弃一个好的工具；如果切换得太慢，则可能会在出现更好的选择后，仍然继续使用一个昂贵或不准确的工具。这一困境处于计算机科学与医疗治理的交汇点，提出了一个根本性的问题：究竟需要多少证据，才能有信心地退役一个旧模型并替换为一个新模型，尤其是当患者的结果可能在几天后才能知晓时？
波士顿大学的研究员朱利安·博尔热斯（Julian Borges）通过构建一个医院决策过程的数字模拟来解决这个问题。他没有在真实患者身上进行测试（因为这在伦理上是不可能的，且具有潜在危险），而是利用一个庞大的公开历史重症监护室住院数据库创建了一个虚拟环境。在这个模拟中，三个不同的计算机模型被视为决策机器的“臂”（arms）。其中一个臂是一个仅使用生命体征的简单模型，另一个是使用核心实验室检查的中等复杂度模型，第三个是使用扩展面板实验室检查的复杂模型。每个“臂”都有与之相关的不同“成本”，代表了收集和处理所需数据的运营负担。目标是观察一个自适应系统是否能学会为每位患者选择最佳的“臂”，或者它是否能有信心地决定完全停止使用某个特定的“臂”。
这项研究引入了一种看待模型选择的新思维方式，将其视为一个连续的选择序列，而非一次性的配置。该系统被赋予了一套规则，即“治理权重”，用以告知它在节省资金与拯救生命之间应如何取舍。例如，系统被编程为会对漏掉死亡病例的情况进行严厉惩罚，同时也会考虑到运行更复杂模型的成本。随后，研究人员在 7,383 次虚拟患者住院记录上运行了该模拟，模拟了现实医院中结果延迟到达（有时在预测发出数小时或数天后）的过程。他们将这个自适应系统与其他几种策略进行了比较，其中包括简单地坚持使用在模拟开始前看起来表现最好的模型，以及其他旨在最小化“遗憾”（即因未选择完美选项而造成的损失）的数学方法。
模拟结果揭示了一个令人惊讶且清醒的现实，即临床人工智能变化的速率。尽管进行了数千次模拟，但那个旨在做出有信心的、受控误差决策的自适应系统，从未成功退役过三个模型中的任何一个。简单、廉价的模型与复杂、昂贵模型之间的性能差异实在太小，以至于在研究的时间范围内无法通过确定性来检测出来。系统发现，在研究者设定的特定规则下，最“便宜”的模型实际上是最佳选择，但它与其他模型的差距非常微小，以至于系统需要更多的数据才能确定这一点。为了有信心地证明最昂贵的模型比最便宜的模型差，模拟显示医院大约需要观察 7,500 个该特定模型的结局。在 7,383 名患者的模拟流中，并未达到这一要求。
这一发现表明，基于短期表现数据快速更换 AI 模型的想法可能并不现实。研究计算出，在患者通常到达该特定医院的速率下，需要近五年的持续入院记录，才能收集到足够的证据来有信心地退役那个最昂贵的模型。即使一个模型明显出了问题且表现不佳，系统仍需要大约 3,000 个结局来绝对确定其应当被弃用，而这个过程大约需要两年时间。研究人员指出，虽然其他更快速的方法可以在不带安全网的情况下更快地转向其他模型，但这意味着始终存在出错的可能性。
研究还探讨了如果医院选择的模型最初就是错误的情况。在这些场景中，即书面上表现最好的模型在模拟中表现不佳时，那些较快的、旨在最小化遗憾的系统能够在患者流中切换到更好的模型。然而，那个旨在对决策保持绝对确定的系统，即使在原始模型明显失效时，切换速度也慢得多。这突显了一个基本的权衡：医院可以选择快速切换模型并承担出错的风险，或者可以等待压倒性的证据以获得确定性，但这种确定性是以时间为代价的，同时也意味着可能继续使用一个次优的工具。
最终，这项研究证明，退役临床 AI 模型不仅是一个技术问题，更是一个治理问题。医院改变其工具的速度很大程度上取决于其为自己设定的规则，例如它如何衡量成本与准确性之间的价值，以及任务本身的难度。该研究提供了一个清晰的数学框架供医院委员会使用，使他们能够精确计算出在可以安全进行更改之前需要收集多少患者结局。它将模糊的“也许我们应该更换”的感觉转化为了一个具体的数字，表明对于许多当前的 AI 模型而言，证据的界限是很长的，而耐心是安全、自适应使用 AI 的必要组成部分。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。