AutoJourn: Multi-Perspective Summarisation, Bias Detection and Bias Neutralisation for LLM-Generated News in Automated Journalism
AutoJourn 是一个演示系统，它利用大语言模型从社交媒体中提取多元观点，生成平衡的多视角新闻摘要，并通过提示工程、检索增强和偏见分析的集成流水线，在自动化新闻报道中检测或中和偏见。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正走进一个巨大的、嘈杂的数字广场，每个人都在大声发表自己的意见。这就是互联网，特别是社交媒体，在这里，新闻不仅仅是发生，而是从成千上万个碎片化的对话中涌现出来。在这个广场上，一种新型的“记录员”已经到来：大语言模型（LLM）。把这些人工智能记录员想象成极其快速、流利的作家，他们能在瞬间读完整个广场并写出一篇新闻报道。但问题在于：如果你要求单个人工智能去总结一场混乱的争论，它往往会不经意地偏向某一方，抹平差异，或者无意中重复了其训练数据中隐藏的微妙偏见。这就像是请一位翻译来总结一场由说不同语言、持有截然不同价值观的人进行的辩论；结果可能是一个“中立”的故事，却完全错失了争论的重点。这就是这篇论文所探讨的问题：我们如何让人工智能不仅能写新闻，还能写出能够诚实捕捉现实中人们复杂、冲突且多元观点的新闻，同时还能发现并修正自身的偏见？
于是，AutoJourn 登场了，这是研究人员设计的一个聪明的新工具，旨在成为人工智能的“具备偏见意识的新闻编辑”。AutoJourn 不再是让人工智能去猜测新闻内容，而是扮演着那个数字广场上超级有组织的协调员。首先，它倾听混乱的社交媒体喧嚣，并将这些嘈杂的声音分类为不同的群体：即“赞成”阵营和“反对”阵营。它并不只是将它们混在一起，而是确保保留每个阵营独特的色彩。然后，它会撰写三份不同的摘要：一份给支持者，一份给批评者，以及一个特殊的“合并”版本，试图公平地平衡双方，同时又不丢失辩论中的张力。
在有了这些平衡的摘要后，AutoJourn 会用它们来撰写一篇完整的新闻文章。但它并未止步于此。该工具内置了一个“测谎仪”和“偏见扫描器”。它逐句阅读文章，寻找任何隐蔽的偏见——例如政治倾向或不公平的刻板印象。如果它发现了一句带有偏见的句子，它不仅会标记出来，还会提供一个改写版本，即一个“中性化”的版本，既保留事实，又去除情感或不公平的色彩。研究人员对该系统进行了测试，发现它成功地提取了多元化的观点，并生成了具有可读性且平衡的摘要。当他们尝试修复那些带有偏见的句子时，他们的“BART + LLM”组合（两种不同人工智能模型的结合）在保持故事原意不变的情况下，成功减少了约 91.5% 的偏见。他们还展示了该工具可以生成感觉更加诚实、而非单一扁平化叙事的新闻。
这篇论文并不声称已经解决了“完美客观性”这一不可能完成的任务，也不说这个工具已经准备好在明天取代人类记者。相反，它展示了一个工作演示——一个原型——证明了建立这样一个系统是可能的：即追踪观点是如何从混乱的社交媒体线程转化为精炼的新闻故事，并随后检查该故事的公平性。这是向让 AI 新闻生产更加透明迈出的一步，向我们展示了偏见究竟隐藏在哪里，并为我们提供了修复它的工具，同时在最终的故事中保留数字广场上多元的声音。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。