Community Notes undermoderate polarizing content by design creating risks in electoral processes

该论文通过分析全球 13 个国家共 190 万条社区笔记数据,指出 X 平台的社区笔记系统因依赖跨党派共识的设计机制,虽然能捕捉主要极化维度,却会系统性低估并放任针对美国、英国、法国和德国选举的极化内容,从而对公民话语和选举进程构成潜在风险。

Paul Bouchaud, Pedro Ramaciotti

发布于 Thu, 12 Ma
📖 1 分钟阅读☕ 轻松阅读

Each language version is independently generated for its own context, not a direct translation.

这篇文章就像是一份关于社交媒体“大众评审团”(Community Notes)的体检报告。它发现了一个有趣但令人担忧的现象:这个系统在设计上非常聪明,能找出大家都能接受的“最大公约数”观点,但这也导致它在处理极具争议的政治话题(尤其是选举期间)时,往往会“手下留情”,让很多有问题的内容溜过去。

我们可以用几个生动的比喻来理解这项研究:

1. 核心机制:寻找“最大公约数”的翻译官

想象一下,X 平台(原 Twitter)上有一个巨大的**“大众评审团”**。当有人发了一条可能虚假的消息时,用户可以写“小纸条”(Community Notes)来澄清事实。

  • 传统做法:像请专家裁判,专家说这是假的,那就是假的。但专家太少了,而且大家总觉得专家有偏见。
  • X 的做法:让成千上万的普通用户来给这些“小纸条”打分。
  • 关键算法:系统不仅看谁打了分,还看打了分。它假设用户有不同的“政治立场”(比如左派和右派)。
    • 如果一条“小纸条”只有左派觉得好,右派觉得坏,系统会认为这是“偏颇的”,不显示
    • 只有当左派和右派都觉得这条“小纸条”很有用时,系统才会把它显示出来。

比喻:这就像是一个**“外交翻译官”**。如果两个吵架的国家(左派和右派)都能听懂并同意翻译官的话,翻译官的话才会被广播。如果只有一方同意,翻译官就闭嘴。

2. 研究发现:聪明的系统,却“怕”吵架

研究人员分析了全球 13 个国家、190 万条“小纸条”的数据,发现了一个设计上的**“阿喀琉斯之踵”**:

  • 它很擅长抓“共识”:系统确实能精准地捕捉到每个国家最主要的政治分歧线(比如美国的左/右,法国的左/右,或者反精英情绪)。
  • 它不擅长抓“争议”:正因为系统只展示“大家都同意”的内容,那些最尖锐、最让人火大、最两极分化的虚假新闻,往往因为无法达成共识,而被系统“过滤”掉了。

比喻:想象一个**“和平调解员”**。

  • 如果有人说“今天天气真好”,左派和右派都同意,调解员会大声广播:“大家看,天气真好!”(这是已审核的内容)。
  • 如果有人说“选举被操纵了”,左派觉得是真相,右派觉得是谎言。因为双方吵得不可开交,调解员为了“保持中立”和“避免冲突”,选择什么都不说
  • 结果:那些最危险、最容易引发社会动荡的谣言,因为没人能达成共识,反而大摇大摆地留在了平台上,没人去纠正。

3. 选举期间的“隐形风险”

论文特别关注了美国、英国、法国和德国的选举。

  • 现象:在选举期间,关于选举的“小纸条”被成功显示出来的比例,远低于关于诈骗、体育或日常生活的“小纸条”。
  • 原因:选举话题天生就是“火药桶”。左派和右派很难就“选举是否公平”达成共识。
  • 后果:系统为了追求“跨党派共识”,实际上放弃了对选举谣言的监管。这就像在足球赛决赛现场,裁判因为怕得罪球迷,对明显的假球行为视而不见,只吹罚那些大家都能接受的轻微犯规。

比喻:这就好比在选举辩论上,主持人(算法)规定:“只有当所有观众都点头同意时,我才能指出选手在撒谎。”结果,选手说了最离谱的谎话,因为观众吵翻了天,主持人只能保持沉默。

4. 为什么这很重要?

这项研究告诉我们,“众包”(Crowdsourcing)并不总是完美的解决方案

  • 优点:它比专家更灵活,更能获得用户的信任,不容易被指责有偏见。
  • 缺点:它天生就无法处理那些极度极化的问题。在政治极化严重的社会,真相往往是分裂的,而系统只想要“和谐”。

总结
X 的“社区笔记”就像一个追求和平的调解员。它在处理日常琐事和明显诈骗时非常有效,但在面对政治选举这种“世界大战”级别的议题时,它因为害怕激化矛盾,反而选择性地失明了。这给民主选举和公共讨论带来了潜在的风险:最危险的谎言,往往因为太具争议性,而逃过了系统的监管。

一句话总结
这个系统为了不让任何人感到被冒犯,结果让那些最具有煽动性的谎言在选举期间“逍遥法外”。