Explainable Artificial Intelligence for Predictive Modeling in Nephrology: A Scoping Review
这项针对18项研究的范围综述表明，尽管可解释人工智能模型（特别是使用XGBoost和SHAP的模型）在肾脏疾病预后预测方面达到了极高的准确度，但由于缺乏前瞻性、多中心验证以及与真实世界工作流的整合，其临床转化目前仍面临障碍。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
每年，全球有数百万人面临肾衰竭的威胁，这是一种可能在无声无息中进展，直到需要透析或移植才能生存的疾病。长期以来，医生一直依赖标准测试（例如测量血液中一种被称为肌酐的废物水平）来及早发现这些问题。近年来，被称为机器学习的强大计算机程序开始帮助医生预测谁更有可能生病。这些程序可以筛选海量的患者数据——例如年龄、病史和实验室结果——以寻找人类肉眼可能会错过的复杂模式。然而，这些程序通常像一个封闭的“黑匣子”一样运行：它们给出一个预测，但并不解释是如何得出该结论的。这种缺乏透明度的现象让许多医生对计算机的建议感到犹豫，尤其是在错误的判断可能意味着生死之别的时候。为了解决这个问题，研究人员正在开发一种称为“可解释人工智能”的新方法，这种方法迫使计算机展示其推导过程，揭示究竟哪些因素导致了它的预测。
一个研究小组着手调查这种新方法在针对肾脏疾病方面效果如何。他们收集并审查了 2019 年至 2025 年间发表的 18 项不同研究，这些研究使用了这些可解释工具来预测急性肾损伤、慢性肾脏病恶化或死亡等结果。他们的目标是确定这些模型不仅是否准确，而且是否已准备好在真实的医院中使用。研究人员发现，这些计算机模型在做出预测方面确实非常出色。在他们审查的研究中，这些模型能以极高的准确度正确识别有风险的患者，其表现往往能达到甚至超过传统的统计方法。最常用的计算机程序类型是一种被称为 XGBoost 的复杂算法，而让这些程序进行自我解释最流行的方法是一种被称为 SHAP 的技术。这种技术就像一束聚光灯，能够突出显示对每位患者最重要的具体细节。在几乎所有案例中，计算机指出的内容都与人类医生已知的重要因素一致：高水平的肌酐、低肾小球滤过率、高龄以及糖尿病史。
尽管取得了这些令人鼓舞的结果，但该综述揭示了计算机在实验室中的能力与实际临床护理之间存在显著差距。绝大多数研究（约 94%）都是回顾性地分析已经收集的数据，而不是对新患者进行实时测试。此外，大多数研究是在单一医院进行的，这意味着这些模型尚未经过测试，以验证它们是否能在不同的城市或不同的国家发挥作用。虽然模型在训练数据上表现良好，但没有一项研究报告说这些工具已成功整合到医院的日常工作流程中。目前还没有医生在使用由这些可解释模型驱动的仪表盘或警报系统来为患者做出决策。研究人员指出，虽然这项技术在技术层面是可靠的，并且能识别出正确的风险因素，但它仍停留在“概念验证”阶段。
作者总结道，虽然可解释人工智能在肾脏病学领域具有巨大的潜力，但它尚未准备好投入广泛应用。这些工具在理论上足够准确且透明，足以赢得信任，但它们尚未证明自己能够在繁忙医院的复杂现实中生存下来。为了向前迈进，该领域需要开展一些研究，测试这些模型在患者到达医院时的实时表现，而不是仅仅基于旧记录。研究人员还需要研究如何将这些计算机系统连接到医生每天使用的电子病历系统中。在采取这些步骤之前，这些可解释模型的强大预测能力仍然是一个等待着被投入实践的潜在解决方案。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。