When Advice Overrides Reasoning: Diagnostic Deference to AI- and Faculty-Labelled Recommendations in Undergraduate Dental Education
这项针对本科牙科生的研究表明，虽然外部建议通常能提高诊断准确性，但来自人工智能和教师来源的不准确建议都会导致学生以相似的比例错误地推翻其原本正确的判断，这表明人工智能标签在削弱独立推理方面并不比人类专业知识更具特异性。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你是一名正在试图破解谜团的侦探。你直觉认为凶手是某人，但这时一位“超级聪明”的计算机或一位名侦探介入并说：“不，肯定不是他，而是这个人。”你会坚持自己的直觉，还是立即改变立场？这就是学习与医学领域中一场日益激烈的辩论的核心。我们正生活在一个人工智能（AI）无处不在的时代，从撰写论文到诊断疾病。核心问题不仅在于 AI 是否聪明，而在于我们是否过于渴望听从它。
人类有一种已知的心理特性叫做“自动化偏差”（automation bias）。可以这样理解：如果 GPS 告诉你向左转，即使你看到了“道路封闭”的标志，你也可能因为 GPS 听起来如此自信而选择相信它。在医学领域，这是非常危险的。如果一名医学生过度信任错误的计算机建议，他们可能会错过真正的病症。但这里有个转折：我们不仅信任计算机，我们也信任我们的老师。这项研究试图解决的大谜题是：当答案错误时，学生是更倾向于相信来自机器人的回答，还是来自人类教授的回答？以及，建议本身是否错误是否会产生影响？
本文通过对一组牙科学生进行研究，深入探讨了这一问题。研究人员设计了一个游戏，由 80 名学生（主要是四年级和五年级的学生）来解决 16 个不同的牙科谜题。这些并非真实的患者，而是关于孩子牙痛、牙齿断裂或龋齿的详细案例描述（称为“临床情境”）。对于每个谜题，学生首先做出自己的判断并评估自己的信心程度。然后，他们会看到一条建议。这里的诀窍在于：这条建议有时是正确的，有时是错误的。并且，该建议被标注为来自“AI”或“教职人员”（教授）。
结果是一把双刃剑。当建议正确时，它帮助学生纠正了错误。全班的平均得分从约 58% 上升到了 66%。这是好消息：当信息正确时，学生愿意学习并自我修正。
然而，坏消息也非常显著。当建议是“错误”的时候，学生经常放弃自己原本正确的答案，转而选择错误的答案。在那些学生原本持有正确答案的情况下，这种情况发生的比例接近 30%。用一个比喻来说：想象你确信宝藏就在那棵橡树下。这时，一个声音说：“不，它在松树下。”尽管你对橡树下的判断是正确的，但在大约三分之一的情况下，你却去挖了那棵松树。
这项研究最令人惊讶的部分在于它“没有”发现什么。许多人担心 AI 是一种特殊的“魔法”，更容易误导我们，甚至比人类更甚。他们担心学生会盲目地跟随机器人而非教授。但数据表明并没有差异。无论错误的建议贴着“AI”还是“教职人员”的标签，学生上当的概率几乎完全相同（AI 为 29.2%，教职人员为 30.5%）。这项研究表明，问题并不在于 AI 本身具有独特的危险性，而在于任何具有权威性的声音，如果学生没有接受过如何反复核查的训练，都可能覆盖掉学生自身的推理能力。
那么，结论是什么？本文并不是说 AI 很坏，或者我们应该禁用它。相反，它暗示未来的牙医（或许也是我们所有人）真正的教训应该是：不要把建议当作命令。无论建议来自超级计算机还是睿智的老师，目标都应该是去验证它。研究结论认为，我们需要教给学生的不仅是如何使用这些工具，还有如何去质疑它们，以确保他们的临床推理始终处于驾驶座的位置，无论谁在提供导航。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。