Pediatric Autism Diagnosis Accuracy and Confidence: A Comparison of Experienced and Inexperienced Clinicians Making Decisions with and without AI Decision Support
本研究评估了一种用于儿科自闭症诊断的基于人工智能的决策支持工具，发现虽然该系统具有可用性并能提升信心，但仅在人工智能判断正确时，它才会显著提高经验不足的临床医生的准确率，这凸显了开展人工智能素养培训以防止过度依赖和自动化偏见的至关重要性。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你是一名正试图判断一个孩子是否患有自闭症谱系障碍（ASD）的医生。这就像是在解一个复杂的拼图，拼图碎片散落在不同的笔记、电子邮件和家长的观察记录中。有时，画面很清晰；但有时，它又是模糊的，甚至经验丰富的医生也可能会遗漏某个碎片。
为了解决这个问题，研究人员开发了一个名为 ADIS（自闭症诊断识别软件）的数字助手。你可以把 ADIS 想象成一支高科技荧光笔，它能阅读孩子的病史，并用下划线标出符合官方“规则书”（DSM-5）的特定行为。它不会做出最终裁决，它只是指出线索并说：“嘿，看这里，这可能很重要。”
研究人员想要观察当两类不同的人使用这个工具时，它的效果如何：
- 资深专家（The Veterans）： 已经完成了完整医学训练的医生。
- 实习医生（The Trainees）： 仍在学习阶段的医学生或住院医师。
他们设计了一个测试，让这些医生审查四个真实的案例。其中两个案例开启了荧光笔（ADIS）功能。另外两个案例，医生必须独自完成。至关重要的是，研究人员秘密地编写了程序，让 ADIS 在某些案例中是正确的，而在另一些案例中是错误的，以此来观察医生的反应。
以下是他们的发现，用简单的术语进行了分类：
1. “自信陷阱”
当荧光笔开启时，医生对自己的答案感到更加自信。这就像在开车时有了 GPS；即使你已经知道路线，有了 GPS 的语音引导，你也会觉得更有底气。
- 问题在于： 这种自信感并不符合现实。当 GPS 指错路时，医生依然感到同样笃定。他们并没有意识到这个工具犯了错。
2. 实习医生 vs. 资深专家
结果显示了两组人之间有趣的差异：
- 实习医生（缺乏经验者）： 他们就像是盲目信任 GPS 的乘客。当 ADIS 正确时，他们表现出色。但当 ADIS 错误时，他们会盲目跟随，导致准确率降至零。他们缺乏说出“等等，GPS 错了，我知道一条近路”的能力。
- 资深专家（经验丰富者）： 他们更加怀疑。当 ADIS 错误时，他们通常会忽略工具并得出正确的诊断。然而，当 ADIS 正确时，他们有时会忽略这个工具并得出错误的结论，因为他们太过于相信自己的经验了。他们就像是熟悉后街小道的资深司机，有时甚至会忽略 GPS，即便 GPS 是正确的。
3. “黑匣子” vs. “玻璃盒”
通常情况下，AI 工具就像是黑匣子：你输入数据，结果就会跳出来，但你不知道它是如何得出的。
ADIS 则不同，它更像是一个玻璃盒。它会明确展示它高亮显示了哪些句子以及为什么要这样做。研究人员认为，这种透明度可以阻止人们盲目信任它。
- 令人惊讶的是： 即便他们能看到工具是如何运作的，医生们仍然陷入了过度信任工具（尤其是实习医生）或过度信任自己（尤其是资深专家）的陷阱。看到工作的过程并不自动意味着他们在判断何时信任工具时变得更聪明了。
4. 沟通方式
当被要求向专家解释他们的决策时：
- 资深专家 像是简报官：他们提供简短、精炼的报告，使用官方医学代码和专业术语。他们知道该过滤掉什么。
- 实习医生 则是讲述者：他们写的描述非常长且详细，包含了每一个微小的细节，因为他们还不确定哪些信息才是重要的。
总结
这项研究的结论是，这种数字荧光笔易于使用且深受用户喜爱。然而，它附带了一个警告标签：它在工具准确时效果最好，并且要求使用者具备质疑工具的能力。
如果你给一名实习医生一个会犯错的工具，他们很可能会不加思考地跟随错误。如果你给一位资深专家一个工具，他们甚至可能在工具正确时也选择忽略它。研究人员建议，在分发这些工具之前，医生不仅需要接受如何使用该软件的培训，更需要接受如何使用 AI 的培训。他们需要学会何时信任“GPS”，以及何时信任自己的地图。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。