💻 computer science

Cultural Targets, Structural Frames, Binding Morals: A Cross-Lingual Audit of Online Hate in Multicultural Singapore

这项针对 2025 年新加坡社交媒体语料库的研究表明，尽管英语、中文和马来语社群中的特定仇恨目标各不相同，但网络仇恨的底层道德框架和威胁结构却保持着显著的一致性，这表明跨语言的审核策略应当优先考虑共同的道德与情感模式，而非特定文化的攻击目标。

原作者： Emilio Ferrara

发布于 2026-06-23

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Emilio Ferrara

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是使用简单语言和日常类比对该论文进行的解释。

大局观：仇恨的三层蛋糕

想象一下，新加坡是一个巨大的、多元文化的聚餐现场。人们坐在三张不同的桌子旁，分别说着英语、中文和马来语。他们都在讨论同一群“外来者”（比如移民、不同的宗教团体或来自中国大陆的人），但他们是用各自的语言在交流。

研究人员想知道：这三张桌子上的仇恨是完全不同的，还是存在某种隐藏的模式？

他们发现，网络上的仇恨就像是一个三层蛋糕。随着你从顶层到底层的移动，每一层都在发生变化：

顶层（“谁”）： 这是具有文化特异性的。它就像是菜单。英语桌子的讨论主要集中在穆斯林和 LGBTQ+ 群体上。中文桌子的焦点在于本地华人与来自中国大陆的人之间的紧张关系。马来语桌子的焦点则是宗教和 LGBTQ+ 问题。人们讨厌的对象 完全取决于他们坐在哪张语言桌子旁。
中间层（“如何”）： 这是共享的。这是投诉的“配方”。无论使用哪种语言，如果有人讨厌外籍劳工，他们都会将其框架化为一种“经济威胁”（抢走工作）。如果他们讨厌某个宗教团体，他们就会将其框架化为一种“宗教威胁”。这种攻击的方式在三种语言中惊人地相似。
底层（“为什么”）： 这是普世的。这是道德基础。研究人员发现，仇恨通常不是关于“公平”（比如“这不公平”）。相反，它几乎总是关于纯洁性（神圣性）和忠诚度（背叛）。这是一种感觉，即“你是肮脏的”或“你不属于我们的一员”。这种道德语法在英语、中文和马来语中几乎是完全一致的。

核心结论： 仇恨的目标是地方性和特定性的，但仇恨的语法（结构和道德推理方式）是一种所有人都在使用的共享语言，无论他们使用什么词汇。

“放大器”问题：什么是被听到的，什么是被说出的

研究还观察了当有人发布一条仇恨评论后会发生什么。人们是仅仅忽略它，还是放大它（例如：分享或回复）？

把互联网想象成一个巨大的音响系统。

生产（Production）： 这是指有多少人说了某件事。
共鸣（Resonance）： 这是指音响系统如何将声音回放得更大声。

研究人员发现了一个奇怪的脱节：

音响系统是“本土主义”的： 尽管人们针对许多不同的群体发布仇恨言论，但“音响系统”（算法和人类参与度）只调大针对反移民仇恨的音量。
沉默： 针对宗教团体或 LGBTQ+ 人士的仇恨会被发布，但不会被如此大规模地放大。这就像有人对着一个音量被调得很低的麦克风在喊叫。
结果： 一个社区所生产的内容并不等于该社区所放大的内容。受众会选择性地提升对移民投诉的关注，而让其他类型的仇恨消退在背景中。

“测量尺”问题：为什么我们无法计算出精确数字

其中一个最重要的技术性发现是关于测量的。

想象一下，试图用八个不同颜色的色盲机器人去数篮子里有多少个“红色”苹果。

研究人员要求八个不同的 AI 模型来计数“仇恨”。
结果： 机器人之间无法达成一致。一个机器人可能认为某条评论是仇恨，而另一个可能认为这只是强烈的观点。即使是最优秀的机器人，在处理最棘手的案例时，彼此的认同率也仅为 42%。
教训： 因为“测量尺”（AI）是不稳固的，论文指出我们不能信任仇恨评论的精确数字（例如，“恰好有 5,000 条仇恨评论”）。
解决方案： 研究人员并没有专注于计算总量，而是专注于结构。他们观察的是模式（例如：“针对 A 群体的仇恨总是被框架化为经济威胁”）。这些模式是清晰且一致的，即便精确的数量是模糊的。

“事件”测试：仇恨会在重大新闻期间激增吗？

最后，研究人员检查了在新加坡 2025 年重大事件（如选举、逮捕或宗教紧张局势）期间，仇恨是否会爆发。

预期： 你可能会认为，当重大新闻发生时，仇恨评论会像波浪一样激增。
现实： 仇恨量呈现出一种稳定、平直的线条。它并没有在选举或逮捕期间跳升。
类比： 这就像一条流速恒定的河流。投进一颗大石头（新闻事件）可能会引起水花，但它不会改变河流的速度。仇恨是一种持续存在的背景噪音，而不是对特定新闻周期的反应。

关键发现总结

目标是地方性的，但仇恨的“语法”是全球性的。（他们讨厌谁取决于语言；但如何以及为何讨厌则是相同的）。
仇恨是由“纯洁性”和“忠诚度”驱动的，而非公平。
受众是选择性的。 他们放大针对移民的仇恨，却忽视针对其他群体的仇恨。
我们无法完美地计数仇恨。 AI 工具的分歧太大，无法给出精确数字，因此我们必须关注仇恨的模式而非数量。
仇恨是稳定的，而非反应性的。 它并不会仅仅因为重大的新闻事件而激增。

技术摘要：文化目标、结构框架与结合性道德

问题陈述
在线仇恨研究传统上侧重于单一语言、单一平台的语境，主要从发送者的角度进行检测。目前仍有两个关键问题尚未得到充分探索：(1) 仇恨的结构组成部分（目标、威胁框架、道德基础）在同一社会内共存的不同语言公众之间是共享的，还是具有文化特异性的；(2) 一个社区产生的仇恨是否与其受众所放大的仇恨是相同的。此外，该领域面临着方法论上的挑战：用作标注者的大型语言模型（LLMs）在绝对仇恨盛行率上往往存在分歧，这使得跨语言的原始速率比较变得不可靠。

方法论
本研究利用了一个以新加坡为中心的 2025 年语料库，包含来自 Facebook、Reddit 和 YouTube 的 3100 万条条目。该数据集包括 176 万条提及 11 个对新加坡具有显著意义的外群体（如：中国籍人士、外籍劳工、宗教团体、LGBTQ）的评论，涵盖英语、简体中文和马来语。

标注流程： 作者采用了两阶段分类过程。第一阶段使用高召回率的词汇和原型过滤器。第二阶段使用基于 LLM 的孤立二元仇恨决策，并设有明确的虚无假设（例如：中性提及、政策批评），以避免夸大盛行率。确认过程需要通过两个独立措辞的提示词达成共识。
模型基准测试： 将 8 个开源 LLM 与一个 211 条条目的经过人工裁定的“硬”金标准集（hard gold set）进行了基准测试。研究发现一致性上限较低（ $\kappa \approx 0.42$ ），表明在标注者层面，绝对盛行率是定义模糊的。因此，本研究采用 Phi-4（14B 参数）作为主要标注器，因为它在独立人工检查中表现出卓越的准确率（0.95）、Cohen's $\kappa$ （0.91）和召回率（1.00）的平衡。所有发现均使用第二个独立模型（Qwen2.5）进行复现，以确保稳健性。
分析： 分析侧重于相对结构比较而非绝对速率。它通过 Cramér's $V$ 和全变差距离（Total Variation distance）衡量跨语言差异，涉及四个维度：目标显著性、威胁框架、道德基础和情绪。统计显著性使用带有 Benjamini–Hochberg FDR 控制的 $\chi^2$ 检验进行测试。共鸣（放大）通过 Facebook 上的线程内配对比较进行建模，并控制了线程、长度和时间变量。

核心贡献

分层文化权变性： 本文提出了一个可证伪的论题，即在线仇恨受文化权变性的结构化影响。研究表明，随着从“仇恨什么”（目标）转向“如何构架”（威胁）再到“为何仇恨”（道德基础），跨语言差异呈单调递减趋势。
生产-共鸣脱节： 研究强调了仇恨的接收侧，表明受众的放大行为具有选择性的本土主义特征，且并不线性追踪生产量。
测量有效性： 本研究确立了对于像仇恨这样具有争议的概念，绝对盛行率在 LLM 标注者之间并非定义明确（其一致性上限仅为 $\kappa \approx 0.42$ ）。论文主张将相对结构作为主要的分析单位，而将绝对速率仅视为经过校准的范围。

结果

目标（具有文化特异性）： 目标的显著性因语言而异（ $V=0.25$ ）。英语话语较为广泛（关注穆斯林、中国籍人士、LGBTQ）；中文话语集中在本地华人/中国轴心；马来语话语则侧重于宗教和 LGBTQ。
威胁框架（结构性）： 虽然目标不同，但目标与威胁框架之间的映射关系是稳健的。宗教团体通过宗教威胁被构架；移民/外国国民通过经济、安全或替代威胁被构架；本地华人则通过政治权力被构架。反穆斯林敌意表现出最高的跨语言不变性。
道德基础（近乎普遍）： 仇恨的道德语法在不同语言间高度共享（ $V=0.08$ ）。仇恨主要由结合性（binding）道德基础（神圣性/55–75%、忠诚、权威）而非个体化基础（公平）驱动。
表达方式： 仇恨主要是由蔑视驱动的（各语言占比 94–96%）以及愤怒的，并频繁出现非人化现象（21–35%）。它主要是外群体不满（反移民）而非反体制；反移民和反建制立场呈负相关。
共鸣： 仇恨性评论通常比中性提及的放大程度更低。然而，放大效应具有选择性的本土主义倾向：反 CECA、反中国籍人士和反外籍劳工的仇恨会被优先放大，而针对宗教和 LGBTQ 群体的仇恨则会被抑制。
事件反应性： 仇恨量在 2025 年重大新加坡事件（如选举、种族事件）前后并未出现显著激增，表明存在一个稳定的基线而非由事件驱动的波动。

意义与主张
本文主张，将“在线仇恨”视为单一、同质的盛行率会掩盖其分层结构。核心发现是，虽然目标是局部选择且具有文化可塑性的，但仇恨的语法（威胁框架和结合性道德基础）是跨语言共享的。

这对跨语言内容审核具有直接影响：

政策迁移： 基于威胁框架而非特定目标的检测器或政策，比基于目标的政策更容易实现跨语言迁移，因为后者需要本土化。
审核目标： 减少仇恨的产生与减少其传播是不同的。由于放大效应具有选择性的本土主义特征，审核策略必须考虑到受众过滤仇恨的方式与生产方式不同。
方法论严谨性： 研究警告不要仅依赖 LLM 的绝对仇恨盛行率指标，主张进行相对结构分析和以人为锚点的校准。

作者保持了审慎的研究范围，指出其发现特定于新加坡语境（单一社会、一年时间），且语料库是无行为者的（分析评论而非用户）。他们强调，其理论视角是描述性的，而非因果性的。