A field experiment of social influence and behavioral contagion with bots on Reddit

技术摘要：关于 Reddit 上机器人社交影响与行为传染性的实地实验

问题陈述
随着现代社会演变为人类与智能机器共存的混合系统，一个关键问题仍然存在：人工代理对人类行为的影响与人类代理相比如何？这种影响是否会在社交网络中产生级联效应？虽然先前的研究表明人类可能会将机器视为其他人类（CASA 范式），但其他研究则表明在感知方面存在显著差异，特别是在道德主体性、信任和情感反应方面。本研究调查了基于来源（人类 vs. 机器人）和行动动机（逻辑、随机、情感或道德）时，社交影响和行为传染性是否会有所不同。具体而言，作者考察了用户是否容易受到来自人工代理的正向行为刺激，以及这些刺激是否会引发在线社区的下游效应。

研究方法
研究人员在 Reddit 上进行了一项大规模实地实验，该平台具有典型的机器人人口和同伴监督文化。

• 实验设计： 研究团队创建了两个账号：一个表现为典型的普通人类用户，另一个是表象上的机器人（通过在用户名中包含“bot”来遵守 Reddit 的“机器人礼仪”）。这两个账号都会向经验相对不足的用户授予象征性的“钻石恒久远”（Diamonds are Forever）奖励（价值 1.00 美元）给其帖子或评论。
• 处理组设置： 实验采用了 2（来源：人类 vs. 机器人）× 4（动机）析因设计，外加一个对照组。四种动机分别为：
  1. 逻辑型 (LOG)： 表扬清晰的推理和逻辑。
  2. 随机型 (RAN)： 说明奖励来自于随机抽奖。
  3. 情感型 (EMO)： 表扬情感基调和共情能力。
  4. 道德型 (MOR)： 表扬道德直觉和正直品质。
  • 对照组： 根据相同的标准筛选贡献，但不进行任何干预。
• 样本选择： 研究针对 12 个综合兴趣类子版块（subreddits），过滤掉敏感话题、特定参与度（帖子评论数 1–5，获赞数 2–6）以及用户经验不足（账号年龄 >30 天，评论数 10–499，发帖数 0–99）的用户。最终数据集包含 2,442 个观测值。
• 数据收集与分析： 在处理后的九天后，研究人员检索了受处理用户的完整活动历史。他们测量了：
  • 直接效应： 数量（贡献次数、文本长度）、内容（正面情绪、特定动机的词汇显著性）以及直接沟通（私人感谢消息）。
  • 间接效应（影响）： 投票数、回复数量以及受处理用户随后贡献的回复总文本长度。
  • 统计方法： 由于 Reddit 活动呈现长尾分布，作者使用非参数 Mann-Whitney U 检验分析了个体内变化 ($\Delta M = M_{after} - M_{before}$)。研究重点关注了在获得奖励后 12 小时内进行的贡献。

核心结果
研究针对当前 AI 时代象征性奖励的有效性得出了反直觉的结论：

1. 并未普遍增加活跃度： 与预期奖励会提升生产力的观点相反，研究发现没有统计学证据表明奖励增加了用户活动量（发帖/评论次数）或总文本长度（与对照组相比）。
2. 机器人随机奖励的反噬效应： 使用随机/抽奖动机的机器人奖励 ($B_{RAN}$) 显著降低了用户活跃度。收到此类奖励的用户与对照组及其他动机奖励的接收者相比，贡献次数更少，且文本更短。
3. 直接沟通： 奖励成功引发了直接接触。用户向人类账号发送私人感谢消息的可能性显著高于向机器人发送。在人类账号中，随机动机引发的回复比逻辑或道德动机引发的回复更少。
4. 内容变化： 唯一显著的内容转变是，收到机器人随机抽奖奖励的用户，其正面语调有所下降。
5. 间接影响（溢出效应）： 奖励通常不会增加后续贡献的影响力（投票/回复）。唯一的例外是来自人类账号且带有道德动机的奖励 ($H_{MOR}$)，这类奖励获得的投票数和回复长度显著高于对照组和其他人类处理组。然而，该效应在经过多重比较校正后具有敏感性。
6. 对操纵的抵御能力： 结果表明，在线用户对通过象征性奖励进行的简单行为操纵具有抵御能力，特别是当来源是机器人或动机被视为具有随意性时。

意义与主张
论文声称，这些发现凸显了在线用户对平台算法和人工代理进行的简单行为操纵具有抵御能力。作者认为，虽然影响可以级联，但影响的强度在很大程度上取决于感知的来源和动机。

• 人类 vs. 机器感知： 结果支持了人类对机器进行不同判断的假设；当机器人采用情感或道德动机（超出其感知能力范围）时，其效果较差；且当机器人采取随机行为时，甚至可能产生反作用。
• 伦理治理： 研究强调了透明标注自动化代理的必要性。由于用户对感知到的人类与机器人的反应不同，且机器人可能产生反噬或无法有效参与，因此透明度对于伦理平台治理和维持信任至关重要。
• 语境转变： 作者认为，缺乏积极效应可能源于由于激进的平台变现和 AI 激增导致的用用户愤世嫉俗情绪。这使得用户对低成本的同伴互动（如象征性奖励）反应减弱。他们警告说，虽然简单的方案可能会失败，但更复杂的模拟人类对话的方案仍可能有效，因此需要持续警惕。

论文总结道，虽然象征性奖励可以激发直接的人际沟通，但目前它们并不能作为增加 Reddit 生态系统中生产力或积极传染性的可靠杠杆，且使用机器人的行为带有降低参与度的风险。