在广阔的数字娱乐领域,在线社区已成为数百万玩家的主要聚集地。在这些空间内,一种被称为“毒性”(toxicity)的现象长期以来一直是研究人员关注的主题。这一术语描述了那些可能导致人们远离对话的粗鲁、无礼或不合理的评论。虽然人们对一般游戏群体(尤其是涉及性别混合的群体)中的敌意给予了大量关注,但一个快速增长的特定游戏领域却在很大程度上仍未得到深入研究。这些是围绕“乙女”游戏(otome games)构建的社区,这是一种恋爱模拟类型,玩家在其中扮演女性主角,与男性角色建立关系。这些游戏已从小众爱好演变成价值数十亿美元的全球产业,吸引了数亿玩家。然而,在这些女性主导的空间内的社会动态,以及它们所面临的特定形式的虐待,至今尚未被系统性地衡量。了解毒性如何在这些独特的环境中体现,不仅对于寻求安全空间的玩家至关重要,对于托管这些空间的平台以及开发这些游戏的开发者也同样重要。
一个研究小组致力于填补这一空白,对乙女游戏社区中的毒性进行了首次大规模调查。他们将研究重点放在两个主要的社交媒体平台:微博(一个类似于 Twitter 和 Facebook 结合体的中国平台)和 Reddit(一个英语论坛网络)。在从 2024 年初到 2025 年中旬为期十八个月的时间里,研究人员收集并分析了超过 62 万条帖子。为了理解如此海量的文本,他们首先创建了一个名为 OtomeSCAN 的专门工具。该框架使他们能够收集数据、进行清洗,然后使用先进的人工智能模型来识别哪些帖子具有毒性。由于现有的旨在用于通用互联网的工具往往无法理解乙女粉丝特有的俚语和文化细微差别,研究人员利用一个包含 4,300 多条帖子的精心人工标注数据集训练了自己的模型。这些经过人工验证的数据作为“地面真值”(ground truth),让团队能够教会其人工智能识别针对该社区的侮辱、威胁和骚扰。
结果揭示了两个平台之间存在着显著且令人惊讶的分歧。在微博上,乙女社区的毒性率高得惊人,超过五分之一的帖子包含有害内容。相比之下,Reddit 上的同一类社区显示出低于 4% 的毒性率,这一数字与该网站上的一般游戏讨论几乎完全一致。这表明,平台本身的环境在冲突表达方式方面起到了巨大的作用。在中国的这个平台上,虐待行为经常针对玩家本身,通常攻击他们的身份或智力。然而在 Reddit 上,敌意更有可能针对游戏内的虚构角色或制作这些游戏的开发者,而非粉丝本身。这种差异凸显了毒性并非一个统一的问题;它会根据发生冲突的文化和技术规则的变化而改变形态。
研究还追踪了这些毒性爆发随时间变化的情况,发现它们通常会对现实世界的事件做出反应。当一款游戏发布新更新时,当一位名人发表了嘲讽玩家的言论时,或者当一个粉丝群体感到其权利受到侵犯时,毒性帖子的比例就会大幅飙升。在一个案例中,在一次针对社区的外部攻击之后,微博上毒性帖子的比例在短短三天内从大约 22% 跳升至 37% 以上。研究人员观察到,这些激增并非随机发生的;它们遵循一种模式,即内部冲突或外部压力会导致社区转向内部,通常针对游戏开发者或玩家本身。研究识别出近两百起用户群体似乎在协调攻击的实例,他们经常使用相似的语言或模板来骚扰开发者,尽管研究人员指出,这些是潜在的协调模式,而非单一组织化阴谋的证据。
除了数据之外,研究人员还仔细观察了这些毒性帖子中所使用的语言,以了解玩家如何试图规避检测。在微博上,近 40% 的独特毒性词汇使用了巧妙的技巧来隐藏其含义,例如使用俚语、缩写或使用同音字(听起来相同但看起来不同的字符)来替代。这使得这些辱骂性内容能够绕过标准的过滤器。而在 Reddit 上,语言则更加直接,极少有试图伪装侮辱的行为。研究结论认为,尽管乙女游戏已经构建了一个庞大且盈利的产业,但其周围的社区面临着通用游戏研究所忽视的独特挑战。研究结果表明,一种“一刀切”的在线空间管理方法是行不通的;相反,平台和开发者需要理解这些社区特定的文化和语言动态,以构建更健康的玩家环境。
技术摘要:“闭嘴,让我享受乙女游戏”:理解并衡量乙女游戏社区的毒性
问题陈述
乙女游戏作为一种以叙事驱动的恋爱模拟类型,主要面向女性玩家,已成为全球游戏市场的重要力量。尽管取得了商业成功并拥有庞大的用户群,这些社区仍面临着普遍存在的网络毒性(toxicity),而这一现象在研究领域仍处于被忽视的状态。现有的游戏毒性研究主要集中在通用的、性别混合的多人游戏环境中,记录了基于性别的敌意和协同骚扰。然而,乙女社区拥有独特的社会结构——其特征是主要为单一性别的玩家群体、与非玩家角色(NPC)之间强烈的准社会关系(parasocial bonds),以及组织化的“饭圈”(fandom)文化——这些特征可能会产生独特的毒性模式。
目前的毒性检测工具(如 Perspective API、OpenAI Moderation)难以处理乙女社区中盛行的特定语言细微差别、俚语和规避策略。此外,目前缺乏对这些特定生态系统中毒性的流行程度、目标群体、时间动态和语言特征的系统性理解。这一空白阻碍了为数百万面临歧视和骚扰的女性玩家制定有效的缓解策略。
方法论:OtomeSCAN 框架
为了解决这些差距,作者引入了 OtomeSCAN 框架,旨在收集、评估和分析乙女游戏社区中的毒性。该研究重点关注了四个特定的乙女游戏社区和两个通用的游戏对照组,涵盖了两个主要的社交平台:微博(中文)和 Reddit(英文)。
1. 数据集构建
- 数据收集: 作者收集了从 2024 年 1 月到 2025 年 5 月期间的 620,045 条帖子。
- 研究组: 《恋与深空》、《Mr. Love: 璀璨星途》、《光与夜之恋》以及一个通用的乙女社区。
- 对照组: 《原神》(一个具有相似变现/更新周期的混合性别 RPG)以及一个通用游戏社区。
- 基准真相标注(Ground Truth Annotation): 为了评估检测模型,作者手动标注了 4,308 条帖子。
- 标签: 二元毒性(有毒/无毒)和目标群体。
- 目标群体: 识别出八个类别:玩家、NPC、游戏开发者、平台管理员、政策制定者、身份群体、其他游戏相关实体以及未知。
- 可靠性: 标注过程实现了高度的标注者间一致性(针对目标群体的 Cohen's Kappa > 0.82)。
2. 检测器评估
研究在标注的数据集上评估了七种毒性检测器:
- 通用型检测器: Perspective API、OpenAI Moderation API 和 COLD(针对中文)。
- LLM 驱动的检测器: 四个使用上下文提示(In-context prompting)的模型(DeepSeek-V3、DeepSeek-R1-Distill-Qwen-14B、GPT-4o、GPT-4o mini)。
- 优化: 通过对提示词设计(思维链、仅定义、推理、shot 数量)进行消融实验,作者确定 5-shot 推理提示(Reasoning prompt) 效果最佳。
- 选择: 针对微博数据选择了 DeepSeek-V3 (F1=0.82),针对 Reddit 数据选择了 GPT-4o mini (F1=0.78),两者表现均显著优于难以处理领域特定语言和语境的通用检测器。
3. 分析流程
利用选定的 LLM 驱动检测器,作者分析了完整的数据集,以调查以下内容:
- 流行度与模式: 比较不同平台间的毒性比例和目标分布。
- 时间动态: 识别与现实世界事件(如游戏更新、外部攻击)相关的毒性激增。
- 语言特征: 分析毒性片段(toxic spans)及其变体策略(俚语、缩写、同音字)的使用情况,以规避审核。
- 协同行为: 使用 TF-IDF 向量相似度和余弦相似度阈值来检测潜在的协同集群。
核心发现
1. 平台特有的流行度与目标
- 微博 vs. Reddit: 两者在毒性流行程度上存在显著差异。在微博上,22.20% 的乙女相关帖子具有毒性,而在 Reddit 上仅为 3.71%。相比之下,通用游戏社区在两个平台上的毒性水平都处于较低水平(约 3.5%)。
- 目标分布:
- 微博: 毒性主要针对 玩家 (47.20%) 和 游戏开发者 (29.84%)。
- Reddit: 毒性重心转向 NPC (36.49%) 和 游戏开发者 (22.75%),玩家成为罕见的目标 (9.68%)。
- 交互模式: 在微博上,毒性帖子通常获得的点赞和评论较少(负相关),表明存在平台层面的抑制。然而,采用语言规避策略(俚语、同音字)的毒性帖子会获得显著更多的互动。在 Reddit 上,毒性帖子与评论数呈正相关,表明毒性往往引发互动而非受到抑制。
2. 时间动态与事件
毒性激增与特定的现实世界事件密切相关,这些事件被归类为社区内冲突、外部攻击、游戏更新和消费者权益抗议。
- 升级: 在外部攻击(例如某说唱歌手嘲讽乙女玩家)期间,微博上的毒性比例在 72 小时内从 22.20% 跳升至 37.09%。
- 目标转移: 在这些事件期间,毒性的目标往往随时间演变,从具体的诉求(如游戏更新)演变为针对玩家或开发者的更广泛的身份攻击。
3. 语言特征
- 变体策略: 微博上的毒性帖子频繁使用语言变体来规避检测。微博上 39.89% 的独特毒性片段使用了俚语、缩写和替换(如同音字)等策略,而 Reddit 仅为 22.77%。
- 词汇: 微博的毒性通常涉及“饭圈”术语和身份标记语言(例如“饭圈”、“国乙”——对国内乙女玩家的贬义称呼)。Reddit 的毒性则更为直接,侧重于游戏机制、变现手段(“贪婪”、“骗局”)以及对角色的不满。
4. 潜在协同行为
研究在乙女社区中识别出 191 个潜在协同集群。
- 目标: 这些集群中有 64.40% 针对游戏开发者。
- 模式: 大多数集群规模较小(中位数为 2 条帖子)且持续时间短。然而,一部分账号在多个集群中重复参与。值得注意的是,一名拥有超过 2,000 名粉丝的认证社区影响力人物(influencer)被确定为连接多个集群的核心节点,此外还有一些在发帖期前不久创建的账号。
贡献与意义
本文做出了三个主要贡献:
- 首次大规模实证研究: 它提供了对乙女游戏社区毒性的首次系统性测量,揭示了与通用游戏社区截然不同的流行率、目标分布和交互模式。
- 专门的检测框架: 它提出了一个针对乙女内容的 LLM 驱动检测框架并进行了验证,实现了较高的 F1 分数(微博 0.82,Reddit 0.78),并优于通用型工具。作者公开了包含 4,308 条手动标注帖子的数据集,以支持未来的研究。
- 协同行为特征化: 它识别了潜在协同行为的可观察模式,强调游戏开发者是协同行为的主要目标,并且特定的用户账号(包括影响力人物)可能在这些集群中扮演反复出现的角色。
意义:
作者认为,尽管乙女游戏拥有巨大的市场潜力和用户基础,但这些社区的毒性治理仍然极少。研究强调,乙女社区面临着独特的挑战,包括基于身份的敌意和由叙事驱动的冲突,这需要定制化的管理策略而非通用方法。通过揭示这些动态,这项工作旨在为游戏开发者和平台管理员提供信息,帮助他们为边缘化游戏社区构建更健康的在线空间。作者强调,他们关于协同行为的发现是观察性的,并不代表最终证明了意图,而是标记了值得进一步调查的模式。
每周获取最佳 computer science 论文。
受到斯坦福、剑桥和法国科学院研究人员的信赖。
请查收邮箱确认订阅。
出了点问题,再试一次?
无垃圾邮件,随时退订。