Public perceptions of AI-driven decision-making in healthcare: A structural equation modeling approach

想象一下，医疗系统就像一座巨大且繁忙的图书馆，而医生则是这里的资深馆长。多年来，他们是唯一被允许取书、整理书架并推荐能让你康复的故事的人。但最近，一种新型的助手来到了这里：一个由人工智能（AI）驱动的、速度极快且极其聪明的机器人馆长。这个机器人可以在一秒钟内扫描数百万本书，发现人类可能忽略的模式，甚至能根据你特定的心情推荐最完美的故事。听起来很棒，对吧？但问题在于：仅仅因为机器人速度快，并不意味着每个人都信任它。有些人担心机器人会讲错故事，或者窃取他们的秘密，甚至完全取代人类馆长。

这项研究深入探讨了普通人的内心世界，旨在回答一个大问题：我们是信任这个新的机器人馆长，还是担心它会搞砸我们的健康？为了理解这些答案，我们需要了解几件事。首先是“AI素养”，这只是一个高级说法，意思其实是：“你知道这个机器人大脑是如何运作的吗？”其次是“熟悉度”，即你在日常生活中看到或使用这些机器人的频率。最后是“人类监督”的概念，即相信人类馆长仍然掌控全局，在监督机器人的工作以确保其行为正确。研究人员想要观察：了解更多关于机器人的知识、亲自使用它，或是信任人类馆长，是否会改变我们对机器人是否“有用”、“有风险”或“公平”的看法。

来自阿姆斯特丹大学的研究团队决定通过对荷兰公众进行一次大规模的“快照式”调查，来了解他们的真实想法。他们邀请了近 4,000 人参与调查——其中男女比例约各占一半，平均年龄为 52 岁——来填写问卷。他们并没有简单地问“你喜欢 AI 吗？”，而是将其细分为三种具体的情感：医疗领域的自动化决策（ADM）是否有用？是否有风险？以及是否公平？

为了找到答案，他们使用了一种特殊的数学工具，叫做结构方程模型（Structural Equation Modeling）。你可以把它想象成一张连接不同圆点的巨大且复杂的地图。研究人员在诸如“你对 AI 的了解程度”与“你认为它是否有风险”等元素之间画线，以观察哪些圆点拉动的线索最强。他们还观察了那些使用聊天机器人获取健康建议的人，与仅使用谷歌搜索的人，在感受上是否有差异。他们还检查了如果人们相信自己的医生能够分辨出人类撰写的笔记与 AI 撰写的笔记，是否会对整个系统感到更安心。

那么，这张地图揭示了什么呢？研究结果有点像一场带有意外转折的过山车之旅。

首先，人们对不同类型 AI（如聊天机器人、深度伪造或生成式 AI）了解得越多，就越认为它具有有用性。这就像了解魔术的原理后，你会更欣赏魔术师的技艺一样。但转折在于：同样的熟悉度也让他们觉得它更具风险。似乎当你对机器人了解多一点时，你就会意识到它不仅仅是一个完美的工具，更是一个强大的、可能会出错的工具。因此，了解更多并不只是让人们喜爱它，同时也让他们意识到了危险的存在。

其次，研究发现了一个非常有趣的现象，那就是关于“人类馆长”的部分。让人们认为 AI 是公平且有用的最主要因素，是他们对医生分辨 AI 内容与人类内容能力的信心。如果一个人相信：“我的医生能看出这是电脑写的，”那么他们更有可能认为整个系统是公平的。事实证明，我们关注的其实不是对机器人本身的信任，而是对那个牵着机器人绳索的人的信任。如果我们认为人类处于控制地位并且能够识别错误，我们就会感到安全。

第三，那些实际使用对话式智能体（如聊天机器人或虚拟助手）来获取健康信息的人，感受与其他人不同。这些使用者认为该系统风险较低且更加公平。这就像骑自行车：第一次骑的时候，你会觉得摇晃且可怕；但一旦你骑了几次，它就会变得平常且安全。使用这些工具似乎让原本可怕的机器人变成了一个友好的助手。然而，研究指出，大多数受访者目前使用这些聊天机器人的频率并不高，所以这种“骑行效应”尚未在所有人身上显现。

有趣的是，研究还观察了使用传统健康网站（如官方医院页面）的人是否会有不同的感受。结果显示，依赖这些传统数字来源的人认为 AI 更有风险，但这并未改变他们对 AI 是否有用或公平的看法。这就像是固守“旧方式”会让新机器人看起来更加可疑。

一项研究并未发现的联系是：“AI 素养”（你对技术的理解程度）与感到 AI 有风险之间并没有强关联。你可能会认为，如果你了解汽车引擎的工作原理，你就不会那么害怕它。但在 AI 领域，了解其运作方式并不一定会让人们对风险感到更安全。研究人员认为，这可能是因为理解技术会让一部分人看清危险，而另一部分人则会变得过度自信，两者相互抵消了。

研究人员谨慎地指出，这项研究只是一个时间点的“快照”，而不是未来的“电影”。他们不能确定使用聊天机器人是否导致了人们恐惧感的降低；他们只能知道这两者是同时发生的。他们还提到，由于调查使用了简单的提问方式，因此可能存在一些他们未能捕捉到的更细微的情感变化。

最终，这篇论文讲述的是关于“信任”的故事。它表明，如果 AI 要真正成为医疗领域中有益的一部分，我们不仅需要更好的机器人，还需要确保人们信任使用这些机器人的医生。如果人们相信他们的医生可以时刻盯着 AI 并纠正任何错误，公众就更有可能认为这项技术是公平且有用的。但如果我们忽略了其中的“人类角色”，那么在大家眼中，机器人可能仅仅是一个可怕且充满风险的机器。