Analyzing Toxic Behavior and Its Impact on the Mastodon Community
本文利用机器学习分析了毒性内容在 Mastodon 去中心化且审核机制不一致的生态系统中的发展与传播,为研究其对社区健康与治理的影响提供了见解。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
想象一下,互联网是一座巨大且繁忙的城市。在大多数城市中,都有一个中央市长办公室来制定所有规则:禁止乱扔垃圾、禁止大声喧哗和禁止打架。这就是大型中心化社交媒体网站的工作方式;一家公司为整个平台制定规则。但还有另一种类型的城市:由成千上万个独立的微型村庄组成的联邦。在这个世界里,每个村庄都有自己的市长、自己的法律和自己的生活风格。有些村庄严谨而安静,而有些则狂野而自由。这就是 Mastodon 的世界,一个没有单一老板控制一切的社交媒体平台。
在这个去中心化的城市里,人们可以谈论任何事情,但有时,噪音会变得太大。“毒性”(Toxicity)是研究人员用来描述网络上人们言语中刻薄、仇恨或粗鲁的部分——比如谩骂、侮辱或仇恨言论。因为没有一个单一的市长来阻止这一切,所以很难判断是整个城市都不安全,还是仅仅其中一个村庄正处于糟糕的一天。科学家们很好奇:拥有百万种不同的村庄规则会让整个城市变得更危险,还是这些村庄实际上能更好地维持文明?本文通过使用计算机工具阅读数百万条消息,深入探讨了这个问题,看看 Mastodon 的这些“村庄”究竟是充满毒性的,还是仅仅被误解了。
伟大的 Mastodon 恶作剧搜寻行动
两位研究人员,Pasan 和 Olga,决定在 Mastodon 的数字村庄里扮演侦探。他们想看看缺乏中央老板是否意味着恶劣行为正在肆虐,或者这些独立的社区实际上在保持友好方面做得很好。为了做到这一点,他们不仅仅是靠猜测;他们抓取了一个庞大的数据网。他们观察了 25,777 名用户 在短短 三天时间 内(2025 年 5 月 1 日至 5 月 3 日)的帖子。那是大量的闲聊!总计,他们收集了 1,035,949 条帖子 的数据,不过他们的详细分析侧重于所选实例中前 10 名最活跃用户的帖子。
他们专注于英语世界中最活跃的 10 个村庄(称为“实例”)。把它们想象成主要的城镇广场:有些是巨大的通用枢纽,如 mastodon.social,而另一些则是较小的专业俱乐部,如 infosec.exchange(针对安全极客)或 chaos.social(针对活动家)。为了确定人们是否在表现恶劣,他们使用了一个超级聪明的计算机大脑——Google Perspective API。这个工具阅读文本并给出从 0 到 1 的“毒性评分”。0 分就像小狗一样可爱,而 1 分则像暴风雨一样糟糕。他们只观察英语帖子,以确保计算机大脑能正确理解笑话和侮辱。
他们的发现:令人惊讶的真相
这里有一个转折:研究人员原本预计,由于没有中央老板,情况可能会有些混乱。但数据讲述了另一个故事。当他们查看所有这些村庄的平均“毒性评分”时,数字出人意料地低。事实上,没有任何一个村庄的平均分高于 0.2。这意味着,平均而言,对话大多是礼貌且文明的。
然而,并非每个村庄都完全相同。研究人员发现了一些有趣的差异:
- 大玩家: 最大的村庄 mastodon.social 拥有超过 5,871 名用户 和近 43,000 条帖子。尽管规模巨大,它的毒性评分却非常低。看来,即使面对庞大的人群,规则依然有效。
- 安静的人: 像 chaos.social、mstdn.social 和 hachyderm.io 这样的村庄,其评分低到几乎为零(低于 0.1)。这些社区似乎拥有一种“表现恶劣是不酷的”文化。
- 离群值: 有一个村庄脱颖而出:aethy.com(在数据表中列为 'athey.com')。这是一个规模较小的场所,拥有 163 名用户 和 345 条帖子,但它拥有这组数据中最高的毒性评分,为 0.214。虽然这仍然被认为是一个“低”分,但它在这一组中是最高的。
这意味着什么?
论文指出,拥有去中心化系统并不自动意味着地方会充满毒性。事实上,村庄的大小似乎并不如村庄的管理方式那样重要。大村庄 (mastodon.social) 尽管有数千人,仍能保持友好;而小村庄 (aethy.com) 的刻薄率稍高。这暗示了也许较小的村庄在维持秩序方面会面临更多挑战,可能是因为他们有更少的人手来进行管理,或者拥有不同的规则。
研究人员谨慎地表示,他们并没有说已经永远解开了这个谜团。他们认为,低毒性评分表明 Mastodon 用户普遍倾向于友好,并且地方性的社区规则可以运作良好。但他们也指出,那个略显“刻薄”的村庄证明了每个社区都需要关注自己的规则。如果一个村庄不自我监督,那些刻薄的东西可能会开始侵入。
因此,这篇论文的故事是一个带有微小警告的希望之歌。去中心化的互联网并不是一个充斥着侮辱的无法无天的荒原;它主要是一个友好的邻里。但就像现实生活中一样,每个社区都需要一套良好的规则和积极的邻居来维持现状。研究人员希望通过理解这些模式,不同的村庄可以互相学习,让整个联邦成为一个适合大家聊天的地方。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。