Eroding the Truth-Default: A Causal Analysis of Human Susceptibility to Foundation Model Hallucinations and Disinformation in the Wild
该论文通过构建 JudgeGPT 与 RogueGPT 双轴框架并结合结构因果模型分析，揭示了人类对基础模型幻觉的易感性主要源于“流畅性陷阱”导致的源监控失效及“假新闻熟悉度”的调节作用，而非政治立场，从而主张针对认知源监控而非人口统计学特征进行干预。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
这篇论文就像是一份**“人类防骗能力体检报告”**，专门研究当人工智能（AI）写的文章越来越像人话时，我们普通人到底能不能分得清真假。
为了让你轻松理解，我们可以把这篇研究想象成一场**“真假新闻大闯关”**游戏。
1. 游戏背景：AI 越来越会“装”
现在的 AI（比如 GPT-4）写文章太流畅了，读起来跟真人写的一模一样。这就带来一个大麻烦：我们怎么知道眼前这条新闻是真人记者写的，还是 AI 瞎编的（也就是所谓的“幻觉”或“假新闻”）？
作者开发了两个工具：
- JudgeGPT（裁判机）： 一个网站，让你去读文章，然后打分：“这文章是真的吗？”和“这是人写的还是机器写的？”
- RogueGPT（捣蛋鬼）： 一个后台程序，专门用不同的 AI 模型（如 GPT-4, Llama-2 等）生成各种新闻片段，用来“骗”你。
2. 核心发现：我们为什么会被骗？
研究人员找了 154 个人，让他们读了 918 篇文章，结果发现了三个惊人的秘密：
🕵️♂️ 秘密一：政治立场不重要，“见多识广”才重要
- 大众误区： 很多人以为，左派或右派的人更容易被骗，或者某个党派的人更聪明。
- 研究真相： 政治立场跟你能否识破假新闻几乎没关系（相关性极低）。
- 真正的高手： 那些**“经常看假新闻”**的人，反而更擅长识破它们！
- 比喻： 就像**“打疫苗”。如果你以前见过很多假新闻（就像身体接触过弱化的病毒），你的免疫系统（大脑）就记住了这些骗术，下次再遇到类似的，你就能一眼看穿。这叫“预接种”（Pre-bunking）**。
🤖 秘密二：GPT-4 是“伪装大师”
- 研究真相： 在所有的 AI 模型中，GPT-4 写出的文章最像人写的。
- 数据说话： 当人们看到 GPT-4 的文章时，几乎所有人都觉得“这肯定是人写的”，完全分不出来。而其他模型（如 Llama-2）稍微露点马脚，大家还能猜出是机器。
- 比喻： 如果其他 AI 是“画得不错的假人”，那 GPT-4 就是**“以假乱真的仿生人”**，连最挑剔的“裁判”都分不清。
🧠 秘密三：大脑会“累”，也会“学”
- 学习效应： 刚开始玩游戏时，大家容易被骗。但玩了一会儿后，大家变聪明了，能更快认出 AI 文章。
- 疲劳效应： 但如果一直不停地读，大脑累了，判断力又会下降。
- 比喻： 你的大脑像一块肌肉。刚开始锻炼（识别假新闻）时很吃力，练多了肌肉就发达了（识别力变强）；但练太久不休息，肌肉就会酸痛无力（判断失误）。
3. 我们该怎么办？（给未来的建议）
既然 AI 越来越像人，光靠我们“瞪大眼睛”去猜已经不够了。作者提出了三个“防身术”：
给文章发“身份证”（技术层面）：
- 既然人眼分不清，那就靠技术水印。就像给真钞印防伪线一样，给 AI 生成的文章加上加密标记（C2PA 标准）。不管文章多像人写的，只要有这个标记，就能一眼看出是机器。
- 比喻： 别指望你能凭肉眼看出哪张钞票是假的，让验钞机来帮你。
教大脑“练肌肉”（教育层面）：
- 不要只教人“查来源”（因为 AI 也能伪造来源），要教人**“查逻辑”**。
- 比喻： 以前我们教人看衣服辨真假，现在要教人看**“骨架”**。AI 虽然说话流利（衣服好看），但逻辑经常是断裂的（骨架是歪的）。训练大家去抓这些逻辑漏洞。
主动“打疫苗”（心理层面）：
- 不要等被骗了再去辟谣（那是事后诸葛亮），要主动让人接触一点假新闻，并告诉你是怎么骗人的。
- 比喻： 就像**“预防针”**。在病毒大规模爆发前，先让你接触一点点弱化的病毒，让你的大脑产生抗体。当你以后遇到真正的 AI 假新闻时，你的大脑会自动报警：“嘿，这招我熟！”
总结
这篇论文告诉我们：AI 在“装人”这件事上已经非常成功了，尤其是 GPT-4。 靠政治立场或单纯的经验已经不够用了。
未来的出路在于：技术上加水印（身份证），教育上练逻辑（练肌肉），心理上打疫苗（预接种）。 只有这样，我们才能在 AI 时代保持清醒，不被“完美的谎言”带偏。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。