论文技术总结：人类对人工智能系统共情行为的归因

论文标题：Human attribution of empathic behaviour to AI systems（人类对人工智能系统共情行为的归因）
作者：Jonas Festor, Ivo Snels, Bennett Kleinberg
机构：荷兰蒂尔堡大学、英国伦敦大学学院

---

1. 研究问题 (Problem)

随着大型语言模型（LLM）生成用于提供社会和情感支持的文本日益普遍，理解用户如何感知此类内容中的共情特质至关重要。尽管已有研究指出人类对 AI 生成的内容存在“负面偏见”（Negativity Bias），即一旦得知内容源自 AI，其感知质量、真实性和共情度会下降，但现有文献结论不一。

本研究旨在解决以下核心问题：

1. 来源效应与标签效应的解耦：人类对共情（认知、情感、动机）的感知是主要由文本的实际来源（人类 vs. AI）决定，还是由预设标签（告知用户是人类写的还是 AI 写的）决定？
2. 共情维度的差异：AI 生成的文本在共情的三个核心维度（认知共情、情感共情、动机共情）上是否表现出与人类文本不同的感知模式？
3. 个体差异的影响：参与者对技术的态度（如 AI 态度、技术亲和力）如何调节上述判断？

2. 方法论 (Methodology)

本研究包含两个预注册实验（Study 1 和 Study 2），采用混合实验设计，严格控制了文本来源和标签条件。

• 实验设计：

  • 自变量：
    • 实际来源 (Source)：人类撰写 vs. LLM (GPT-4) 生成。
    • 标签条件 (Label)：告知用户文本由“人类”撰写、“人工智能”生成，或“无标签”（Study 1 包含，Study 2 移除）。
  • 因变量：参与者对关系建议文本的评分，包括：
    • 整体质量 (Overall Quality)
    • 认知共情 (Cognitive Empathy)：识别他人情绪状态的能力。
    • 情感共情 (Emotional Empathy)：体验与他人相似情绪的能力。
    • 动机共情 (Motivational Empathy)：改善他人福祉的内在动机。
  • 控制变量：技术亲和力 (ATI)、AI 态度量表 (AIAS-4)、共情分量表问卷 (ECQ)、人口统计学变量。

• 刺激材料：

  • 使用了 Kleinberg et al. (2024) 的数据集，精选了 50 条人类撰写和 50 条 AI 生成的“分手建议”文本。
  • 筛选标准：这些文本在之前的测试中均被高评分为具有“人性”（Human-like），以最小化风格差异，确保比较的公平性。

• 参与者与流程：

  • Study 1：N = 641（有效样本）。采用 3（标签）× 2（来源）混合设计。
  • Study 2：N = 500（有效样本）。移除了“无标签”组，增强了标签提示的视觉显著性（使用图标 👤 vs 🤖）和重复频率，以强化操纵效果。
  • 统计分析：使用多层线性模型（Multilevel Models, MLM）处理嵌套数据（文本被多次评分，参与者评分多条文本），并控制个体差异。

3. 主要发现 (Key Results)

核心发现：AI 文本在质量与特定共情维度上优于人类文本

两个实验均一致发现，LLM 生成的建议文本在整体质量、认知共情和动机共情上显著高于人类撰写的文本。

• 来源效应 (Source Effect)：无论标签如何，AI 生成的文本得分更高（效应量 Cohen's d 在 0.34 到 0.68 之间）。
• 标签效应 (Label Effect) 的局限性：
  • 在 Study 1 中，标签对任何维度均无显著影响。
  • 在 Study 2 中，仅在“整体质量”和“情感共情”上观察到微弱的负面偏见：当被告知是 AI 生成时，评分略低于被告知是人类生成时。
  • 关键结论：这种负面偏见非常微弱，且未能抵消 AI 文本本身的优越性。即，即使参与者知道文本是 AI 写的，他们仍然认为 AI 写的建议比人类写的更好（在认知和动机共情上）。

共情维度的特异性

• 认知共情 (Cognitive)：AI 显著优于人类，且不受标签影响。
• 动机共情 (Motivational)：AI 显著优于人类，且不受标签影响。
• 情感共情 (Emotional)：
  • 在两个实验中，实际来源（人类 vs. AI）对情感共情的评分没有显著差异。
  • 仅在 Study 2 中观察到标签效应：当标签为"AI"时，情感共情评分略低。这支持了理论观点，即情感共情（涉及真实的情感体验）是 AI 难以模拟的领域。

个体差异

• 对 AI 持更积极态度的人（AIAS-4 高分）倾向于对所有维度给出更高评分。
• 然而，个体差异并未改变“AI 文本优于人类文本”这一总体模式。

4. 主要贡献 (Key Contributions)

1. 挑战“负面偏见”假说：与近期多项研究（如 Osborne & Bailey, 2025; Rubin et al., 2025）不同，本研究并未发现强烈的负面偏见。相反，发现 AI 生成的共情文本在认知和动机维度上具有内在优势，这种优势足以抵抗来源标签带来的负面影响。
2. 解耦来源与感知：证明了在关系建议语境下，语言特征（Linguistic Features） 比 作者身份信念（Authorship Beliefs） 更能驱动共情感知。AI 生成的文本在逻辑结构和表达关怀的措辞上可能比人类更优化。
3. 区分共情维度：明确了 AI 在“认知”和“动机”共情上的模拟能力极强，但在“情感”共情（涉及真实情感体验）上存在感知瓶颈，且人类对此有敏锐的直觉（仅在标签提示下才表现出差异）。
4. 方法论严谨性：通过预注册、大样本、多层模型分析以及精心筛选的高质量刺激材料，提供了比以往研究更稳健的证据。

5. 意义与启示 (Significance)

• AI 支持系统的设计：设计者应专注于优化语言特征（如准确识别情绪、表达改善意愿的措辞），因为这是用户感知共情的核心驱动力，而非过度担忧用户对 AI 身份的排斥。
• 政策与安全：
  • 信任风险：由于人类容易将共情特质归因于 AI（即使知道是 AI），这可能导致用户过度信任 AI 系统。
  • 安全隐患：如果用户认为 AI 具有高度的“动机共情”和“认知共情”，他们可能更容易接受 AI 的建议，包括潜在的有害建议（如自残建议），因为用户可能误以为 AI 像人类一样关心他们的福祉。
• 社会影响：AI 可能在情感支持领域（如心理健康、医疗辅助）被更广泛地接受，因为它能提供比人类更一致、无偏见的“共情”回应，尽管这种共情是模拟的。

总结：该研究表明，人类对 AI 共情能力的感知正在发生转变。在高质量的关系建议场景中，AI 生成的内容在感知质量上超越了人类，且这种优势在很大程度上不受“它是 AI"这一事实的负面影响。这既为 AI 辅助支持系统的部署提供了机遇，也提出了关于信任边界和伦理安全的新挑战。