Generative Large Language Models in Automated Fact-Checking: A Survey
本综述系统地回顾了 199 篇研究论文，旨在对生成式大语言模型如何集成到自动化事实核查工作流中进行全面的分类与分析，涵盖了它们在验证、数据生成、评估及多语言应用中的角色，并指出了当前的局限性与未来的研究方向。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
大局观：信息洪流与新一代图书管理员
想象一下，互联网是一个巨大且混乱的海洋。每天，数以百万计的信息浪潮拍打着海岸。其中大部分是真实的，但也有一些是危险的“假浪潮”（误导信息），它们会冲刷掉信任，使人们感到困惑，并造成现实世界的伤害。
长期以来，我们依靠人类“救生员”（事实核查员）游向海中，抓住假浪潮，并检查它们是否真实。但海洋变得越来越大，浪潮来得也越来越快。救生员们快要溺水了。
**生成式大语言模型（LLMs）**登场了。你可以把它们想象成超级聪明、不知疲倦的机器人助手，它们能够阅读、写作和推理。这篇论文是一份关于我们目前如何利用这些机器人来协助救生员的“大规模成绩单”。作者研究了 199 篇不同的研究论文，旨在看清这些机器人在做什么，在哪里失败了，以及我们如何让它们变得更好。
机器人助手的三个主要工作
论文将机器人的工作组织成三个主要类别，就像工厂的流水线一样：
1. 数据工厂（合成数据生成）
问题： 要训练一个能识别假新闻的机器人，你需要成千上万个真实和虚假新闻的例子。但通过人工寻找并标注这些例子既慢又贵。这就像试图通过只给孩子看三个苹果，就教会他们识别苹果一样。
机器人的任务： 机器人现在被用来编写自己的练习题。它们可以拿一个真实的新闻故事进行改写、翻译，甚至发明一个看起来很真实的虚假版本。
- 代价： 如果机器人制造了太多“完美”的假故事，它可能会变得太擅长识别“机器人制造”的假货，却无法识别“人类制造”的假货。这就像只用假身份证的照片来训练保安，他们可能会错过真正的伪造品。
2. 流水线（预测任务）
这是核心工作：实际进行事实核查。论文将其分为四个站点：
- 站点 A：声明检测器。 机器人扫描一条杂乱的社交媒体帖子，并说：“嘿，这句话是一个可以核查的声明！”它会清理句子，去除俚语和混乱之处，使其准备好接受检查。
- 站点 B：档案搜索。 机器人会问：“以前有人查过这个吗？”它会搜索过去的核查数据库，看看这个故事是否是已经被拆穿的旧谎言。
- 站点 C：证据猎人。 如果这是一个新的声明，机器人会外出寻找证据。它会搜索互联网上的文章、科学论文或官方报告，以支持或反驳该声明。
- 站点 D：判决。 最后，机器人根据证据做出决定：真实、虚假或“信息不足”。至关重要的是，它现在可以写出解释，说明它为什么做出这样的决定，就像老师向学生解释答案一样。
3. 质量控制检查员（评估）
问题： 我们如何知道机器人做得好不好？过去，我们使用简单的数学方法将机器人的答案与“正确”答案进行比较。但如果机器人写了一段很长、很华丽的解释，简单的数学无法判断其推理逻辑是否真的合理，还是仅仅听起来不错。
机器人的任务： 现在，我们正在使用一个机器人来给另一个机器人打分。我们要求第二个机器人阅读第一个机器人的工作，并询问：“这个解释诚实吗？它使用了正确的证据吗？”
- 代价： 如果评分机器人存在偏见或产生困惑，它可能会给一份好的工作打差分，或者反之。这就像让学生自己批改自己的作业；他们可能会对自己太宽容了。
特殊情况：多语言挑战
论文指出了一种巨大的不平衡。大多数机器人都是基于英语训练的。它们就像是非常聪明但难以理解印地语、斯瓦希里语或阿拉伯语对话的英语母语者。
- 目前的解决方法： 许多研究人员将外语声明翻译成英语，让机器人进行核查，然后再将答案翻译回原语言。
- 风险： 这就像是在玩“传声筒”游戏。当信息传回原始语言时，意思可能已经发生了变化，或者某种微妙的文化笑话可能会丢失，从而导致错误的判决。论文认为，我们需要能够直接用当地语言思考和核查事实的机器人，而不是仅仅依赖翻译。
机器人的弱点（幻觉）
论文强调了一个主要的缺陷：幻觉。
想象一个如此自信以至于会编造事实的机器人。它可能会说：“这个声明是假的，因为一位著名的科学家曾说过……”然后又发明了一个假的名字来指代那位科学家。
- 危险之处： 机器人得到了最终的正确答案（声明是假的），但原因却是错误的（使用了虚假证据）。这是危险的，因为它看起来很可信，但实际上是在撒谎。论文指出，在许多情况下，当机器人尝试解释其答案时，它们有 80% 的概率会编造细节。
未来：团队协作与新规则
论文建议，未来的方向不是由一个机器人独自完成所有工作，而是转向智能体系统（Agentic Systems）——即一组专门工作的机器人团队。
- 一个机器人将声明拆解成小块。
- 另一个机器人负责搜寻证据。
- 第三个机器人负责检查数学计算。
- 第四个机器人充当“辩论教练”，通过反驳第一个机器人来发现错误。
底线：
生成式人工智能是事实核查的一种强大工具，能够承担人类无法跟上的繁重工作。然而，它并不是一根魔杖。它仍然会编造内容，在处理非英语语言方面存在困难，并且需要仔细的监督。这项研究的目标是建立一个可靠、透明且具有包容性的系统，帮助我们在信息海洋中航行，而不被假浪潮冲走。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。