Beyond Content: Behavioral Policies Reveal Actors in Information Operations
本文介绍了一种与平台无关的框架，该框架通过将用户活动建模为序列决策过程以识别稳定的行为策略，在检测恶意影响力行动方面优于传统的基于内容的方法，即使在数据有限或存在合成内容的情况下，也能实现更高的准确率和更早的检测。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，互联网是一个巨大且混乱的数字广场。多年来，试图识别麻烦制造者（如机器人或协同网络水军）的安全人员主要观察两件事：人们在说什么（内容）以及他们的朋友是谁（社交网络）。这就像是通过阅读钱包里的内容或检查通讯录来试图抓捕扒手一样。但近来，这些“扒手”变得更加聪明了。他们可以利用人工智能撰写完美的句子，并且学会了隐藏自己的好友列表。这使得旧有的“看文字”的方法变得不再那么有效。
为了解决这个问题，科学家们开始关注另一件事：一个人行为的“节奏”。把它想象成一场舞蹈。即使舞者更换了服装或音乐，他们独特的步法、转身和停顿方式通常保持不变。在计算机科学领域，这被称为“行为策略”（behavioral policy）。其核心理念是：一个人如何以及何时与平台互动，是一种比他们实际说了什么更难伪造的“指纹”。研究人员提出的重大问题是：我们能否仅仅通过观察他们的“舞步”，即便无法读懂他们的“歌词”，也能抓住坏人？
这篇题为《超越内容：行为策略揭示信息行动中的参与者》（Beyond Content: Behavioral Policies Reveal Actors in Information Operations）的论文，通过将 Reddit 作为实验场，深入探讨了这个问题。研究人员研究了超过 12,000 名用户，其中包括 Reddit 官方标记为与俄罗斯互联网研究机构（即“水军”）有关联的 99 个账号，以及数千名普通用户（即“有机用户”）。他们不仅阅读帖子，还将每个用户的历史记录视为一系列决策序列，就像玩家在视频游戏中选择“发起新主题”、“回复评论”或“等待回应”一样。
团队使用了一个巧妙的数学技巧，称为“逆强化学习”（Inverse Reinforcement Learning）。想象一下，你正在观察一位名厨烹饪。你不知道食谱，但通过观察他们如何切菜、搅拌和品尝，你可以推测出他们遵循的秘密规则。研究人员也做了同样的事情：他们观察水军和普通用户的行为，并尝试逆向工程出每一组人所遵循的“规则手册”（或策略）。他们发现，水军拥有一种非常特定且僵化的“舞蹈程序”。他们会在特定时间段（如美国清晨）进行爆发式的快速发布，创建许多新的讨论主题，并且很少进行一来一回的对话互动。相比之下，普通用户的节奏则更加轻松、多样，通常从回复现有的对话开始。
结果令人震惊。当研究人员根据这些“舞步”（行为策略）构建检测器时，它识别水军的效果远好于基于帖子文本的检测器。表现最好的行为模型能以 94.9% 的准确率正确识别水军，而基于文本的模型仅为 91.2%。更令人印象深刻的是，即使只看到用户极短的一段历史——仅三次操作——行为检测器依然表现出色。这表明，水军的“指纹”几乎在他们发布足够多的文字被文本分析捕捉到之前，就已经显露出来了。
论文还测试了当坏人试图作弊时，这些检测器的稳健程度如何。他们模拟了水军账号被“劫持”（即混合了真实人类的行为）或数据被故意加入噪声进行干扰的情景。行为检测器表现得更为稳健；它们呈现出“优雅降级”，这意味着即使数据很杂乱，它们依然能维持相当不错的水平，而基于文本的检测器则显得更为吃力。然而，作者指出，这并非万能灵药。他们发现了一些“超级水军”，这些人极其擅长模仿普通人的行为，以至于即使是先进的检测器也会被迷惑，将其误认为是正常用户。
简而言之，这项研究表明，在 AI 生成文本和隐匿网络协作的时代，识别协同信息运动的最佳方式可能不是去读他们说了什么，而是观察他们的动作。通过将用户建模为具有特定习惯的决策者，我们可以发现那些文字本身可能掩盖的操纵性隐藏模式。虽然这项研究针对的是 Reddit 以及 2015-2018 年间的数据，但它为维护我们的数字广场安全提供了一个充满前景的新工具：关注节奏，而非仅仅关注韵律。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。