Customized large language models can outperform Community Notes in correcting misinformation
本文介绍了 MUSE，这是一个定制的大型语言模型框架，它通过整合信任感知检索与多模态推理，在识别和纠正各类内容中的虚假信息方面超越了社区附注（Community Notes），从而提升了响应质量以及用户对虚假信息的识别能力。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
数字公共广场正面临着一个持久的问题：虚假信息传播的速度比真相还要快。在社交媒体上，一条误导性的帖子可以在任何人有机会进行核实之前，触达数百万人。多年来，对抗这一现象的主要手段一直是人力。众包系统——即由志愿者撰写注释以纠正错误说法——已成为平台的标准工具。这些注释之所以有价值，是因为它们由能够提供背景和细微差别的人编写，但它们有一个显著的弱点：速度太慢。当志愿者写好更正内容时，误导性的帖子可能已经造成了破坏。此外，人类志愿者无法覆盖每一条帖子，导致大量误导信息处于未受监管的状态。
科学家们长期以来一直试图利用人工智能来填补这一空白，希望机器能像识别真相一样快速识别谎言。然而，标准的 AI 模型在处理此类任务时往往表现不佳。它们基于旧数据进行训练，无法看到正在发生的实时事件。它们还会“幻觉”，即编造事实或引用并不存在的来源。挑战不仅在于构建一个能够阅读的机器，还在于构建一个能够进行验证、能够在文本和图像等不同类型的媒体之间进行推理，并且不会引入新错误或偏见的机器。目标是建立一个像不知疲倦、公正的查证员一样的系统，能够在可疑帖子出现的一瞬间做出响应。
华盛顿大学的一个研究小组开发了一个名为 MUSE 的新系统，专门用以解决这一问题。MUSE 是一个定制的人工智能框架，旨在实时识别并纠正误导信息。与仅依赖过去所学知识的旧模型不同，MUSE 配备了一种机制，可以搜索实时网络以获取最新的证据。当它遇到一条社交媒体帖子时，它不会仅仅进行猜测；它会将内容拆解，搜索可靠信息来支持或反驳其中的说法，然后根据这些证据撰写更正内容。该系统旨在处理结合了文本与图像的复杂帖子，确保能够验证从标题到照片的一切内容。
为了测试这种方法是否真的有效，研究人员将 MUSE 与目前在 X 平台（原名 Twitter）上最优秀的真人撰写的注释进行了对比。他们收集了数百条真实的帖子，其中一些包含明显的谎言，一些包含微妙的误导细节，还有一些则是完全准确的。对于每条帖子，他们将 AI 的响应与人类志愿者撰写的高质量注释以及经验较少的用户撰写的普通注释进行对比。评估过程非常严格，由专业事实核查专家组成的评审小组根据十三项不同的标准对响应进行评分。专家们观察系统是否正确识别了错误部分、解释是否合理，以及引用的来源是否值得信赖且确实存在。
结果显示，该新系统具有明显优势。专家给出的评分显示，MUSE 生成的响应质量显著高于即使是最好的真人撰写的注释。在十分制量表中，AI 的平均得分为 8.1 分，而排名最高的人类注释平均分为 6.3 分。这种差距不仅仅是风格问题；AI 在识别帖子中误导性部分的准确度更高。虽然标准的 AI 模型经常无法识别问题或编造事实，但 MUSE 在近 90% 的响应中都能正确识别并解释不实之处。它提供的链接也几乎总是可达且相关的，而标准模型经常引用失效或虚假的链接。该系统在政治、健康和时事等领域表现均衡，且没有表现出某些 AI 系统常有的政治偏见。
研究人员还想知道人们是否真的会信任机器给出的更正。他们进行了一项涉及近千名参与者的研究，向他们展示误导性帖子和 AI 生成的更正。结果令人鼓舞：在阅读了 AI 的解释后，参与者识别出原帖具有误导性的能力显著提升，他们对虚假说法的信任度下降了。然而，没有任何一项更正能显著影响参与者分享误导信息的意愿，其分享意愿普遍保持在较低水平。有趣的是，告知人们该更正来自人工智能并没有降低他们的信任度。无论是否披露来源，系统的有效性都保持在高水平，这表明解释的质量比作者的身份更为重要。
这项工作的最重要方面之一是系统如何处理未知情况。研究人员发现，MUSE 不需要依赖预先存在的事实核查来完成工作。即使是对于从未被任何人核查过的帖子，该系统也能在网上找到新鲜证据并构建可靠的更正。它还能快速完成任务，在标准计算机硬件上生成完整响应仅需约两分钟。运行该系统的成本也很低，每条帖子约为 0.2 美元，这比雇佣人类志愿者审查每一件内容要便宜得多。
该研究确实存在局限性。该系统目前可以处理文本和图像，但尚无法分析视频。它还依赖于网络上存在可靠信息；如果帖子涉及的是尚未有可靠来源报道的突发新闻事件，系统会被设计为表示不确定，而不是进行猜测。研究人员是在单一平台上测试该系统的，尽管该平台使用广泛，但在其他平台上的结果可能会有所不同。尽管存在这些界限，研究结果仍提供了充满希望的前景。通过将机器的速度与搜索和验证现实世界证据的能力相结合，MUSE 表明我们可以构建出能够帮助人们在现代互联网所需规模和速度下辨别真伪的工具。这项工作表明，对抗误导信息的未来或许不是在人类与机器之间做选择，而是建立一种让机器处理繁重的验证工作，从而让人类判断力专注于最复杂案例的系统。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。