Toxicity in Twitch Chats: An LLM-Based Analysis Across Gaming Communities
本文利用预训练大语言模型分析了 2000 万条 Twitch 聊天消息，揭示出其中 2.4% 的消息具有毒性，且在不同游戏类型和具体游戏标题间存在显著差异，从而凸显了基于特定社区规范实施针对性监管策略的必要性。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，Twitch 就像一个巨大、繁忙的数字广场，数百万人聚集在此观看他人玩电子游戏。虽然这个广场充满了兴奋感和社区氛围，但它也有阴暗的一面：人们大声辱骂、讲刻薄笑话或散布仇恨。这篇论文就像研究人员进行的一次大规模人口普查，旨在弄清楚这个广场中究竟发生了多少“不良行为”，以及这些行为的具体样貌。
以下是他们研究发现的简要概述，使用了简单的类比：
侦探工作：他们如何统计不良行为
研究人员并没有逐条阅读 2000 万条聊天消息（那将耗费一生！），而是利用强大的人工智能（大型语言模型）构建了一名“数字侦探”。
- 规则手册：他们向这名 AI 提供了 Twitch 官方关于何为不良行为的“规则手册”。该手册包含四个主要类别：骚扰（欺凌、威胁）、歧视（基于种族、性别等的仇恨言论）、色情内容和脏话（粗口）。
- 上下文：就像人类需要听到整段对话才能判断某人是在开玩笑还是在恶意攻击一样，AI 被赋予了"10 秒记忆”。它能够阅读特定聊天消息之前的消息，以理解上下文。
- 测试：在信任 AI 之前，他们让人类专家检查其工作。AI 与人类达成一致的概率，与两个不同人类之间达成一致的概率相当。这证明了 AI 是一名可靠的侦探。
重大发现：他们发现了什么？
1. 整体氛围
在聊天中输入的每 100 条消息中，约有2 到 3 条具有毒性。这听起来可能很小，但在 2000 万条消息的城市中，这意味着近 50 万条刻薄或有害的消息。
- 最常见的违规行为：绝大多数不良行为属于骚扰（如欺凌或辱骂）。
- 配角：骚扰几乎总是伴随着脏话（粗口）。这就像一个欺凌者利用脏话来让他们的侮辱更具杀伤力。
- 较罕见的违规行为：歧视和色情内容发生的频率较低，但它们依然存在且不容忽视。
2. 每款游戏都有其独特的“个性”
研究人员观察了不同类型的游戏（流派）和具体游戏，以查看“氛围”是否发生变化。
- "MOBA"人群：像《英雄联盟》和《Dota 2》这样的游戏（团队在复杂战斗中对抗）拥有最高的毒性聊天率。这就像一个高风险的体育竞技场，人们很容易情绪失控。
- “体育”人群：像《FIFA》这样的游戏拥有最低的毒性率。
- “惊喜”因素：即使在同一个流派内，游戏之间也存在差异。例如，《反恐精英》和《无畏契约》（两者都是竞技射击游戏）的聊天行为非常相似，几乎像双胞胎。但《荒野大镖客 2》的毒性率远高于其类别中的其他游戏。
- 结论：毒性不仅仅取决于游戏的类型；它取决于特定的社区和该特定游戏的规则。你不能以同样的方式对待每一个游戏社区。
3. “一刀切”的问题
该论文指出，试图用一条适用于所有人的规则来纠正不良行为，效果不会太好。
- 因为《英雄联盟》玩家表现出的恶意方式可能与《我的世界》玩家不同，所以管理工具需要针对特定游戏进行定制。
- 研究人员发现，尽管 AI 很出色，但 Twitch 自己的“规则手册”有时却很模糊。很难区分“欺凌者”和只是“经常说脏话”的人，甚至人类也难以就这种区别达成一致。
核心结论
该研究得出结论，虽然大多数聊天内容是正常的，但那 2-3% 的毒性内容是一个真实存在的问题，它塑造着社区。这种“不良行为”主要是欺凌和骂脏话，但它会根据你正在观看的游戏而变化。为了使这些网络空间更安全，我们需要认识到每个游戏社区都是独特的，维持和平的规则也必须同样独特。
注意：该论文严格专注于分析数据以了解毒性模式。除了建议管理策略应根据这些发现进行更有针对性的调整外，它并未提出具体的临床治疗方案、新的软件产品或未来的应用。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。