When Do Physicians Trust AI? The Role of Clinical Context in Decision Support: SMART vignette study
这项针对420名美国医生的研究表明，过往的AI接触经验，而非特定的临床情境或提供的信息量，是正向影响医生对AI赋能的临床决策支持工具之信心与信任度的主要因素。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在现代医学中，医生们正开始使用一种新型助手：人工智能。这些计算机程序通常被称为临床决策支持系统，它们可以扫描患者记录并建议下一步行动，例如是否开具某种药物或将患者转诊给专科医生。其前景在于这些工具将帮助医生做出更好、更快速的选择。然而，一个工具只有在使用者足够信任并愿意听取其建议时才是有用的。如果医生因为不理解或不相信程序的正确性而忽略计算机的建议，那么这项技术就失败了。医院和研究人员面临的重大问题不仅在于软件在计算机上是否运行正常，而在于什么能让医生在现实世界中感到有信心去使用它。是由于医疗问题的类型吗？是因为医生了解了关于计算机如何思考的多少信息吗？还是仅仅因为医生以前是否使用过这种技术？
斯坦福大学的一个研究小组试图通过向美国四百二十名全科医生和内科医生设定特定的医疗情境，来回答这些问题。他们并没有要求医生在真实的患者身上使用真实的计算机程序。相反，他们使用了一种精心设计的调查方法，让医生阅读关于一名三十三岁女性 Jess 的短篇故事（即情境描述）。在这些故事中，Jess 表现出了某种健康问题的症状。在一些故事中，Jess 需要开具抗抑郁药物处方；而在另一些故事中，她需要转诊给处理注意力问题的专家。研究人员通过改变故事的细节来测试三种不同的变量。首先，他们改变了医疗决策的类型，对比了开具处方与进行转诊。其次，他们改变了医生接收到的关于人工智能工具本身的信息量；有些医生得到的是简短的描述，而另一些医生则得到了更长的描述，其中包含了关于该工具开发地以及训练方式的细节。第三，他们观察了医生自身的背景，记录了哪些医生曾在研究或实践中使用过人工智能。
研究人员希望观察这些变化是否会使医生对最终决策感到更加或更加不自信。他们假设，如果医生了解更多关于工具运作方式的信息，他们会感到更有信心；并且当决策涉及较高风险（如开具新药）时，他们会对工具持怀疑态度。他们还想知道，已经熟悉人工智能的医生对所提供信息的反应是否会有所不同。研究发现，信息量的多少并不像预期的那样重要。无论医生阅读了五句还是十句关于该工具的内容，他们对决策的信心都保持不变。医疗决策的类型虽然没有改变医生整体的信心水平，但它改变了医生对工具本身的看法。当场景涉及开具药物时，医生不太可能相信该工具会对每位患者都给出一致的建议，并且更倾向于依赖自己的判断而非计算机的建议。相比之下，当场景涉及转诊时，他们则更愿意信任该工具的一致性。
然而，最重要的发现来自于对医生过去经验的观察。研究表明，那些已经在研究或临床实践中使用过人工智能的医生，在使用该工具做出最终决策时，感到明显更有信心。这些有经验的医生也更有可能表示，该工具改善了他们能够提供的护理水平，并且计算机的结果对他们的最终选择做出了贡献。这表明，经验带来了信心。有趣的是，研究人员发现，先前的经验并不会让医生盲目地信任工具；相反，它让医生在有效使用工具方面感到更加踏实。研究还排除了这样一个观点，即仅仅向医生倾倒更多关于软件的技术细节就能让他们更信任它。事实上，额外的信息对他们的信心或对工具有效性的感知并没有产生可衡下的影响。
这些结果表明，将人工智能整合进医学领域的路径不在于完善用户手册，而在于为使用者做好准备。研究人员得出结论，未来医生的培训应侧重于如何将计算机的建议与自身的临床判断相结合，而不仅仅是教他们如何操作软件。如果医生要信任这些工具，他们需要了解如何在实际情境中使用它们，而他们的信心似乎随着经验的积累而自然增长。这项研究强调，尽管技术正在飞速发展，但人的因素仍然是关键因素。为了让人工智能真正造福患者，医学界必须确保医生感到准备充分且愿意与之协作，而这种准备度似乎源于接触与实践，而非仅仅是更多的数据。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。