Intellectual Humility as a Cognitive Filter for AI-Generated Health Misinformation. An Evolutionary Perspective on Epistemic Vigilance
这项研究表明，智力谦逊作为一种有效的进化适应，通过降低伪科学内容的感知可信度，在过滤人工智能生成的健康虚假信息方面发挥了作用，尽管它并未增强识别人工智能作为来源的能力。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
核心理念：大脑中的健康建议“嗅探器”
想象一下，你的大脑内置了一个安全系统，旨在防止你相信危险的谎言。这项研究的研究人员想要观察，当这些谎言是由一个超级聪明的机器人（人工智能）而非人类编写时，这个系统运作得如何。
他们关注的是一种特定的性格特质，叫做智性谦逊（Intellectual Humility, IH）。请不要把 IH 理解为“害羞”，而要把它看作是一个大脑中的“低电量”警告灯。它是一种能够说出“我对此可能并不了解”或“我并不掌握所有知识，所以我需要核实我的来源”的能力。
这项研究提出了一个问题：拥有这种“低电量”警告灯，是否能帮助人们识别由 AI 生成的虚假健康建议？
实验过程：三种健康手册
研究人员设计了一个场景：99 名大学生需要阅读一段关于一个人寻求运动建议与一位 AI 助手之间的对话。为了测试学生的“嗅探器”功能，他们提供了三个不同版本的 AI 建议：
- 真实版本（科学准确）： AI 给出的建议基于真实的科学（例如：“运动能促进大脑化学物质分泌，有助于改善情绪”）。
- “似是而非”版（中度伪科学）： AI 给出的建议听起来很有道理，但实际上是编造的（例如：“运动可以排毒大脑”或“它可以取代心理治疗”）。
- 完全荒谬版（高度伪科学）： AI 给出的建议完全是虚构的（例如：“肌肉会产生磁场来清洁你的细胞”）。
转折点： 所有这三段对话都是由同一个 AI 编写的。学生在实验结束前并不知道它们分别是哪一种。
研究发现：“选择性过滤器”
研究结果揭示了智性谦逊运作方式中一些非常有趣的现象。它更像是一个选择性过滤器，而不是一把钝重的锤子。
- “锤子效应”（并未发生的情况）： 如果谦逊意味着人们变得普遍怀疑，那么谦逊的人会对一切都产生怀疑，包括真实的科学。但事实并非如此。
- “选择性过滤器”（实际发生的情况）：
- 当建议是真实科学时，谦逊的人信任它的程度与不谦逊的人一样。他们不会拒绝正确的信息。
- 当建议是虚假时，谦逊的人更擅长识别它。他们对虚假建议的信任度评分要低得多。
- 关键细节： 谦逊的人无法区分“中度虚假”和“完全虚假”。对他们而言，一旦建议跨过了荒谬的界限，它们就统统属于“坏信息”。他们不会去评判谎言的严重程度，而是直接予以拒绝。
“谁说的？”之谜
研究人员还询问了学生：“你认为这段文字是人类还是 AI 写的？”
令人惊讶的部分在于：了解来源并不重要。
- 有些学生猜是“AI”，有些猜是“人类”，还有些不确定。
- 然而，学生是否正确猜出了是“AI”，对他们是否相信该建议没有任何影响。
- 即使学生知道这段文字是由机器人编写的，如果他们缺乏智性谦逊，他们仍然会相信那些虚假的建议。
- 相反，谦逊的人即使认为那是人类写的，也会拒绝虚假的建议。
类比： 想象你在品尝一碗汤。
- 来源归因是在问：“是厨师还是机器人做的这碗汤？”
- 内容评估是品尝这碗汤，看看它是咸了还是变质了。
- 研究发现，知道谁做了这碗汤并不会改变汤的味道。如果汤变质了（伪科学），你需要一双敏锐的舌头（谦逊）来尝出腐败的味道，无论谁是厨师。
进化论的解释
作者认为，从进化的角度来看，这解释得通。几千年来，人类只与人类交流。我们的大脑进化出了识别他人言语中逻辑错误或操纵手段的能力，而不是识别“谁”在说话（因为当时所有人都是人类）。
AI 是一个新事物，我们的脑部尚未进化出应对它的机制。我们的大脑里并没有一个专门的“机器人检测器”按钮。然而，我们确实拥有一个古老的“糟糕论证检测器”。智性谦逊让这个检测器保持灵敏，使我们能够识别出伪科学的“腐烂汤水”，即便烹饪者是我们从未谋面的机器。
“真相悖论”
有一个奇怪的发现：学生在建议为真实时，比在建议为虚假时，更容易猜出文本是 AI 写的（正确率分别为 69% 和 48%）。
作者认为，这是因为真实的科学听起来非常精确且具有机械感，这让它在人类看来显得“过于完美”。而虚假的科学往往使用华丽、感性或“听起来像人”的语言，从而误导我们认为这是由人编写的。
总结
论文得出结论：智性谦逊是抵御 AI 生成的健康误导信息的强大盾牌，但这仅仅是因为它帮助我们判断信息的质量，而非编写者的身份。
- 谦逊能让你说： “这听起来是编造的，所以我不会相信它”，即便你不知道它来自机器人。
- 谦逊并不能帮你说： “这是来自机器人的，所以我不会相信它”。
这项研究表明，为了防范 AI 健康谣言，我们不应仅仅尝试教人们如何识别机器人。相反，我们应该鼓励那种“承认自己不知道”的习惯，这会自然而然地让我们具备识别谎言的能力。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。