Intelligent Healthcare: AI and Machine Learning in Diagnosis, Precision Medicine, and the Pursuit of Explainable, Trustworthy Clinical Systems

如今的医院产生了惊人的信息量。每当一名患者走进医院，就会创建一个记录，进行一次扫描，或进行一次血液检查。这些数据包括人体内部的图像、药物清单、医生书写的笔记，甚至是来自心率监护仪的数字流。几十年来，人类专家一直是唯一能够通过这些信息寻找模式，从而识别疾病迹象或预测未来健康问题的人。但数据的容量已经增长到如此庞大的程度，以至于人工审查已不再足够。这正是人工智能介入的地方。这些计算机系统旨在通过学习示例而非遵循一套僵化的规则来设计。它们可以被训练去识别X光片中的肿瘤，就像放射科医生那样，或者发现暗示心脏病发作即将到来的患者病史中的细微变化。其前景在于，这些工具可以帮助医生看得更清晰，行动得更迅速。然而，问题仍然存在：这些系统是否值得信赖，可以被用于现实中的医院，因为在那里，一个错误就可能以生命为代价？

由研究人员 Ekta R. Kaneriya、Maulik K. Shah 和 Krishna H. Sapariya 最近进行的一项综述，准确地审视了这些技术目前的现状。作者并没有进行新的患者实验；相反，他们收集并分析了过去几年中数百项现有的研究和报告。他们的目标是将那些在纸面上看起来很完美的实验室实验，与那些在真实医疗环境中经过测试的系统区分开来。他们考察了人工智能正在应用的五个特定领域：医学影像、电子健康记录、药物研发、精准医疗和远程患者监测。他们的发现是一个处于转型期的领域。这项技术无疑是强大的，并且在许多情况下，它已经展示出能够比传统方法更好地改善诊断和预测风险。然而，通往广泛、可靠使用的道路被重重障碍所阻挡，包括对隐私的担忧、难以理解计算机如何得出结论的问题，以及系统可能对某些人有效但对其他人失效的风险。

在医学影像领域（如X光和CT扫描），该技术取得了最显著的进展。研究人员指出，深度学习系统——一种模仿人类大脑的类型的人工智能——在识别图像中的疾病方面已变得异常出色。例如，这些系统现在可以高精度地识别乳腺癌钼靶检查中的乳腺癌或检测脑肿瘤。在全球疫情期间，这些工具被迅速部署，以帮助区分胸部扫描中的不同类型的肺炎。研究表明，当这些系统在精心挑选的现有图像上进行测试时，其准确率可以超过百分之九十九。然而，该综述强调了一个关键差距。一个在受控测试中表现完美的系统，并不一定意味着已经准备好进入繁忙的医院。在实际临床使用中，最成功的工具是那些让医生参与其中的工具。计算机可能会标记一个可疑部位，但放射科医生仍必须审查图像并在结果成为患者记录的一部分之前签字确认。这种人类监督仍然至关重要，因为计算机可能会被从未见过的设备差异或患者群体所误导。

除了图像之外，人工智能还被应用于被称为电子健康记录的、庞大且往往杂乱无章的患者病史中。这些记录包含实验室结果、药物清单和医生的手写笔记。研究人员发现，机器学习模型可以筛选这些数据，以预测严重疾病，如心脏病或败血症（一种致命的感染反应）。在一项针对二十项研究的主要综士中，这些计算机模型被证明在识别心脏病风险患者方面，优于目前医生使用的标准评分方法。同样，持续监测医院记录的系统可以向工作人员发出败血症早期迹象的警报，从而有可能在病情变得危急之前将其捕捉到。该技术也被用于预测药物的不良反应或标记有跌倒风险的患者。然而，作者指出，虽然这些模型在研究论文中经常表现强劲，但一旦转移到不同的医院，它们往往会遇到困难。在一个城市训练的模型可能会在另一个城市失效，因为医生书写笔记的方式或使用的设备类型可能会有显著差异。这种在原始测试环境之外缺乏可靠性的现象，是建立信任的主要障碍。

这些技术的影响延伸到了实验室，在那里它们正在加速新药的研发。传统的寻找新药的过程需要十多年时间，耗资数十亿美元，且大多数候选化合物在过程中都会失败。人工智能现在正通过预测不同分子如何与人体相互作用，来帮助缩短这一时间线。研究人员观察到，这些工具可以从头开始设计全新的候选药物，而不仅仅是筛选现有的化学库。有些系统甚至可以在药物进行动物实验之前，模拟药物可能产生的副作用。尽管前景广阔，但该综述警告说，计算上的成功并不保证生物学上的现实。一个在计算机屏幕上看起来完美的分子，在活体生物测试时往往会失败。只有极小部分的在科学期刊上发表的药物研发工作真正达到了动物验证阶段，这提醒我们，数字模拟与有效药物之间的差距仍然很宽。

在精准医疗领域，目标是摆脱对所有患者采取相同治疗方式的做法，转而根据个人的特定遗传和分子构成量身定制治疗方案。人工智能是实现这一目标的引擎，因为它能够结合DNA测序、医学影像和健康记录的数据，构建出患者的完整画像。研究人员强调了一些案例，在这些案例中，这些系统有助于通过面部照片识别罕见遗传疾病，或根据患者独特的分子特征匹配癌症疗法。然而，一个严重的担忧在于公平性。用于训练这些系统的数据在历史上主要来自欧洲血统的人群。因此，这些模型可能会产生对其他背景患者准确性较低的结果，从而可能加剧健康差异。作者强调，这不仅仅是一个可以用更好的数学方法解决的技术问题，而是一个需要从代表性不足的人群中收集更多样化信息的数据问题。

最后，该综述探讨了远程患者监测，即通过可穿戴设备在医院之外追踪心率和血氧水平等健康数据。人工智能分析这种连续的信息流，以检测恶化的早期预警信号。例如，在心力衰竭护理中，这些系统可以向医生发出警报，提示可能发生的变化，从而防止住院。美国食品药品监督管理局已经批准了数十种此类AI驱动的监测设备，这表明该领域在监管方面比其他领域走得更远。尽管如此，研究人员指出，这些系统必须经过精心设计，以避免因过多的虚假报警而引起医生的厌烦，这被称为“警报疲劳”。如果一个系统频繁发出警报，临床医生可能会开始忽略它，从而使目的落空。

尽管取得了这些成功，研究人员指出，在人工智能成为医疗护理的标准组成部分之前，必须解决几个深刻的挑战。最大的问题之一是隐私。这些系统需要访问敏感的患者数据，即使数据已经去除了姓名，有时仍可以通过手段重新识别身份。还存在“黑箱”问题。许多最强大的AI模型过于复杂，以至于即使是其创造者也无法完全解释它们是如何得出特定结论的。在医疗领域，错误的决策可能导致误诊或有害的治疗，因此医生对于无法理解的系统持谨慎态度。这种不透明性造成了法律和伦理风险。此外，运行这些系统所需的计算能力是巨大的，这可能会让规模较小的医院掉队，因为它们无法负担必要的科技投入。

为了应对这些担忧，该综述指向了日益发展的“可解释人工智能”领域。这种方法旨在使计算机的推理过程可视化，例如通过突出显示导致诊断的X光片的特定部分，或列出触发警告的实验室数值。研究人员发现，虽然这些解释有助于建立信任，但它们并不是完美的解决方案。一个系统可以提供一个清晰的解释，但该解释最终仍可能是错误的；或者，解释在技术上是准确的，但对忙碌的医生来说并不实用。未来的道路涉及更好的监管、更多样化的数据，以及对这些工具设计方式的转变。医疗人工智能的未来不在于取代医生，而在于创造一种伙伴关系，由计算机处理海量的数据处理工作，而人类则提供判断、背景和同理心。

作者总结道，虽然人工智能正在从实验实验室转向实际应用，但可靠的采用不仅需要高准确率。它还需要在不同医院进行稳健的测试、具有医生可理解性的透明模型，以及严格的患者隐私保护。这项技术具有改变医疗保健的潜力，使诊断更准确，治疗更个性化。但要实现这一潜力，周围的基础设施必须建立在确保这些系统公平、安全且值得信赖的基础上。接下来的几年将决定该领域能否克服这些障碍，将人工智能带来的益处带给每一位患者，无论他们居住在哪里，或拥有什么样的背景。