The Impact of Artificial Intelligence (ChatGPT) on Medical Decision-Making in the Healthcare System of Afghanistan
这项针对喀布尔42名医疗专业人员的研究表明，尽管由于资源短缺和辅助患者教育的需求，ChatGPT正日益被阿富汗的早期职业医生所采用，但其在临床决策中的整合仍受到有关人工智能幻觉显著安全问题的制约，因此需要严格的人类监督和明确的指导方针。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在医生诊室的静谧角落里，治愈的工具始终是人类经验、正式教育与最新医学书籍的结合。几十年来，医生做出正确选择的能力取决于他们回忆事实的能力以及查阅参考资料所需的时间。如今，一种新型工具进入了诊室：人工智能。具体而言，大语言模型是经过海量文本训练的计算机程序，能够进行对话、回答问题并在数秒内总结复杂信息。这些系统通常被称为 ChatGPT 等名称，就像一座永不熄灭的数字图书馆。它们有望成为医生的强大助手，提供即时的医学知识获取途径，而这在以往可能需要耗费数小时才能找到。但问题依然存在：一个基于模式生成文本的机器，能否被托付于人类患者关乎生死的决策，尤其是在医疗系统已经捉襟见肘的地方？
这个问题不仅是理论上的，它也是阿富汗迫在眉睫的现实。该国的医疗系统面临着严峻挑战，包括专科医生短缺、医疗资源更新滞后以及多年动荡带来的持续影响。在这种环境下，小诊所里的医生可能是方圆数英里内唯一的医学专家，被迫在没有资深同事支持或缺乏全面药物数据库的情况下做出艰难的诊断。为了了解这些医生是如何应对这一差距的，喀布尔大学的研究人员进行了一项研究，旨在观察人工智能是否正在其诊所中使用，其效果如何，以及是否安全。他们关注的是实际情况，超越了技术“能够”做什么的设想，转而考察它在实地中“正在”做什么。
研究人员调查了在喀布尔公立和私立诊所工作的 42 名医疗专业人员。这一群体包括医生、外科医生和专科医生，其中有一个显著趋势：大多数参与者较为年轻，近三分之二的从业年限不足六年。这些处于职业生涯早期的医生是使用人工智能最频繁的人群。他们利用这些工具来查询通用医学信息、解读复杂的实验室检测结果，并检查药物可能的副作用。对于许多人来说，这项技术已成为填补因缺乏实体教科书或无法获取国际医学期刊而留下的信息空白的主要方式。
当医生们评估人工智能的表现时，一个关于其优势与危险弱点的清晰图景浮现出来。该工具在解释医学概念方面获得了高度评价。医生发现，计算机可以将晦涩的技术术语转化为患者易于理解的简单语言，使其成为患者教育的极佳资源。然而，当话题转向安全性时，气氛发生了剧烈的转变。当被问及针对实际治疗所给建议的可靠性时，医生们表达了显著的担忧。专家们，特别是外科医生和内科医生，警告说计算机可能会编造事实。在人工智能领域，这被称为“幻觉”（hallucination），即系统生成了一个听起来自信且逻辑通顺，但完全错误的回应。在医疗环境中，这可能意味着错误的药物剂量、虚假的医学研究，或是忽略了患者特定病史的建议。
研究发现，虽然人工智能通常遵循全球通用的医学规则，但它经常建议一些在阿富汗根本不存在的治疗方案或药物。医生可能会收到一份完美的用药建议，但该药物在当地药房却无法买到，导致他们只能拥有一份无法执行的方案。此外，计算机看不见患者；它不知道患者的准确体重、外貌特征或当地环境的具体情况。由于这些风险，医生对建议的安全性给出了最低分。他们明确表示，虽然该工具在收集信息方面很有用，但尚未准备好独立做出医疗决策。病例越复杂，医生对机器的信任度就越低。
尽管存在这些严重的保留意见，医疗界的整体看法仍然保持着谨慎的乐观。在接受调查的医生中，近 60% 的人认为人工智能最终将改善阿富汗的医疗体系。他们的乐观并非源于对技术的盲目崇拜，而是源于对信息的迫切需求。在一个可能需要等待数日才能见到专科医生的系统中，通过计算机快速获得答案的感觉就像是一次巨大的升级。然而，研究人员强调，这种希望附带一个严格的条件：这项技术必须作为辅助工具，而不是人类判断的替代品。研究结论指出，为了让人工智能在阿富汗既安全又有效，必须制定明确的规则。医生需要接受培训，以谨慎的方式使用这些工具，始终根据自身的知识和当地诊所的实际情况来复核计算机的建议。如果没有这样的监管，这个原本旨在提供帮助的工具可能会导致危险的错误。前进的道路不是拒绝这项技术，而是将其与紧握方向盘的人类手掌相结合。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。