Posts of Peril: Detecting Information About Hazards in Text
本文介绍了一种用于检测社交媒体文本中危害相关信息的新模型，证明了此类指标与传统的语义情感指标有所不同，并揭示了非真实账号如何策略性地利用危害叙事来影响地缘政治事件。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，互联网是一个巨大的、混乱的城市广场，数以十亿计的人每秒钟都在那里大声叫喊、低声耳语或张贴告示。长期以来，研究这个广场的科学家们一直痴迷于测量人群的“情绪”。他们建造了工具来检测一条帖子是快乐的、愤怒的还是悲伤的，就像是一个风向标，告诉人们今天是晴天还是暴风雨天气。但有一种特定的天气是这些旧工具经常遗漏的：那种关于落石或潜伏危险的突然、尖锐的预警。在现实世界中，人类天生会对威胁保持高度关注，因为忽视一只老虎比忽视一朵美丽的花要危险得多。这篇论文关于构建一种全新的、超灵敏的“危险雷达”来处理文本。它不仅仅是在寻找愤怒的词汇；它试图捕捉关于“危害”（hazards）的具体信息——即那些可能伤害某人或导致某种代价的事物。研究人员想要知道：我们能否教计算机比以前更好地识别这些危险信号？当我们使用这种新的雷达去倾听现实世界的争论和战争时，会发生什么？
这项研究背后的团队决定构建一种新型 AI 模型，一个专门用于嗅探社交媒体帖子中“危害信息”的数字侦探。他们将“危害”定义为任何可能对个人造成重大伤害或代价的负面事件，例如自然灾灾害、袭击或对安全的威胁。为了训练这个侦探，他们并没有仅仅喂给它一本“可怕词汇表”（比如“炸弹”或“杀戮”），因为那样太简单了。相反，他们收集了一千多条社交媒体帖子，并让人工进行阅读，以判断：“这到底是在描述一个真实的危险，还是仅仅是一个悲伤的故事？”他们利用这些人类的回答来教计算机模型识别危险的“语境”，而不仅仅是识别词汇。
当他们测试这个新模型时，结果显示它是一个相当敏锐的侦探。它的表现优于那些仅仅通过统计可怕词汇并经常产生混淆的旧式“词典法”。有趣的是，该模型发现，识别危害并不完全等同于识别愤怒或悲伤。一条帖子可能充满了恐惧，但仍不涉及具体的危害；而另一条帖子可能在没有过度情绪化的情况下，描述了一个可怕的危害。该模型学会了辨别其中的差异，这表明“危险”是互联网噪音中一种独特的信号。
为了验证这个新工具在现实世界中是否真的有效，研究人员将其应用于两个庞大且混乱的数据集：关于 2023 年以色列与哈马斯战争的数百万条帖子，以及关于 2022 年法国大选的数百万条帖子。他们想要观察“信息行动”（information operations）——即协同运作以推动特定叙事的账号群体——是如何以不同方式使用危害信息的。
在战争数据集中，他们发现了一些引人入胜的现象。真实的普通账号倾向于在最初袭击发生后，讨论涉及儿童和平民的危害。然而，那些协同运作的群体（即“机器人”或有组织的运动）似乎改变了叙事方向。他们侧重于讨论加沙平民面临的危害，并经常利用这些故事来试图影响公众舆论或请求援助。研究人员注意到，这些群体并非随机地谈论危险；他们似乎在有选择性地挑选并强调哪些危害，以符合其特定的目标。例如，一些群体强调加沙人的危险以博取同情，而另一些群体则可能忽略这些同样的危险，以推动不同的议程。
在法国大选数据集中，模式略有不同，但也同样具有启发性。一些协同运作的群体劫持了关于选举的对话，转而讨论乌克兰战争，利用危害性语言来要求援助或政治行动。他们发现，这些群体在谈论核能危害或特定威胁的方式上，与普通选民截然不同。该模型表明，这些“非自然”账号正在将危害信息作为一种战略工具，通过框架化事件，使他们的立场看起来更紧迫，或者使对手看起来更危险。
论文指出，这种新的“危害检测器”是理解信息传播的一个强有力的全新视角。它表明，虽然我们已经擅长测量人群的“温度”（情感），但我们一直忽略了那些可能驱动人群陷入恐慌或采取行动的具体“警告”（危害）。研究人员正在将他们的工具作为一个免费软件包分享出来，以便其他科学家和记者可以利用它来调查网络上如何讨论危险。他们承认这仅仅是第一步——就像建造一种新型望远镜一样——未来仍需要更多的研究来使其更加精准。但就目前而言，他们已经证明了在社交媒体上存在着一层此前被标准工具所忽视的“危险话语”层，揭开这一层有助于我们理解人们在危机期间如何试图相互影响。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。