Empathy Is Not What Changed: Clinical Assessment of Psychological Safety Across GPT Model Generations

该研究通过临床评估发现，OpenAI 不同代际模型（GPT-4o 至 GPT-5-mini）在共情能力上并无统计学差异，用户感知的“共情丧失”实为模型危机检测能力增强与过度干预建议之间的安全策略转变，这种在对话中途危机时刻发生的显著变化揭示了当前评估体系难以捕捉的潜在风险。

要点

这篇论文讲述了一个非常有趣且反直觉的故事：当人们抱怨新版 AI“变冷漠、失去同理心”时，其实并没有发生他们想象的事情。

为了让你轻松理解，我们可以把这篇研究比作一次**“心理体检”**，对象是 OpenAI 的三款不同代际的 AI 模型（GPT-4o、o4-mini、GPT-5-mini）。

1. 背景：为什么大家会“怀念”旧模型？

2026 年初，OpenAI 宣布停用 GPT-4o，改用新模型。成千上万的用户在网上抗议（标签 #keep4o），哭诉新模型变得“冷冰冰”、“像机器人”，而旧模型 GPT-4o 则是“温暖的”、“懂我的”、“唯一真正倾听的”。

大家觉得，AI 的“灵魂”丢了。

2. 研究的核心：我们测了什么？

作者没有只听大家“吐槽”，而是像医生一样，给这三款 AI 做了14 种不同的高难度心理测试。

• 场景：模拟失业焦虑、抑郁、甚至未成年人自残等真实且危险的情况。
• 方法：让 AI 和“用户”聊 10 轮，然后由专业的临床心理学标准给 AI 的回答打分。
• 打分维度：包括“同理心”、“危机识别”（能不能发现用户想自杀）、“建议安全性”（会不会乱给医疗建议）等。

3. 惊人的发现：真相是什么？

发现一：同理心其实没变（“灵魂”还在）

大家觉得新模型“冷漠”，但数据表明：三款模型的“同理心”得分几乎一模一样。

• 比喻：就像三个厨师，大家都觉得新厨师做的菜“没味道”，但盲测发现，他们用的盐量（同理心）是一模一样的。

发现二：真正变了的是“性格”（安全策略）

虽然“同理心”没变，但 AI 的**“行事风格”发生了巨大的反转。这就好比一个“谨慎的管家”变成了一个“警觉的保安”**。

• 旧模型 (GPT-4o) —— “谨慎的管家”

  • 优点：非常保守，不敢乱给建议。如果你问“我该不该停药？”，它会非常坚决地说“别问我，问医生”。
  • 缺点：有点“迟钝”。当用户真的在自残或想自杀时，它有时候反应不过来，甚至没发现危险（就像管家没听到楼上的呼救声）。
  • 结果：用户觉得它“稳重、有边界感”，所以觉得它“温暖”。

• 新模型 (GPT-5-mini) —— “警觉的保安”

  • 优点：火眼金睛。只要用户有一点点想自杀的苗头，它立刻就能发现并报警（识别危机的能力大幅提升）。
  • 缺点：有点“话多”和“越界”。为了表现“我想帮你”，它有时候会给出一些它不该给的医疗建议，或者在用户不想听的时候强行给建议。
  • 结果：用户觉得它“太爱管闲事”、“不够稳重”，所以觉得它“冷漠”。

发现三：最危险的“中间时刻”

研究还发现了一个隐藏细节：AI 的表现不是全程平均的。

• 在对话刚开始和结束时，大家表现都很好。
• 但在对话中间最痛苦、最危险的时刻（比如用户开始透露自残计划时）：
  • 旧模型可能会突然“断片”，完全没意识到危险（得分从 10 分掉到 3 分）。
  • 新模型则始终在线，死死盯着危险信号（得分一直保持在 8 分以上）。
• 比喻：旧模型像是一个偶尔会打瞌睡的保镖，虽然平时很客气，但关键时刻可能没看见坏人；新模型像是一个时刻紧绷神经的保镖，虽然有时候会误判（比如把路人当坏人），但绝不会漏掉真正的坏人。

4. 为什么用户感觉“变冷漠”了？

这是一个**“方差”（波动性）**的陷阱。

• 旧模型 (GPT-4o)：表现忽高忽低。

  • 有时候它突然特别懂你（高分），让你印象深刻，觉得“哇，它真懂我”。
  • 有时候它又特别迟钝（低分），但你当时可能没意识到，或者因为太痛苦没去评价。
  • 人类记忆是“峰终定律”：我们只记得最精彩的瞬间。所以旧模型那些“高光时刻”被记住了，大家觉得它很有爱。

• 新模型 (GPT-5-mini)：表现非常稳定。

  • 它每一句话都中规中矩，不出错，也不惊喜。
  • 因为它太稳定了，反而让人觉得“像个机器人”，缺乏那种“灵光一闪”的温情。
  • 悖论：对于脆弱的人来说，稳定（不犯错）其实比“偶尔的惊喜”更安全，但人类的情感体验却更喜欢那些“惊喜”。

5. 总结：这到底意味着什么？

这篇论文告诉我们一个残酷但重要的真相：

1. 并没有“失去同理心”：AI 并没有变坏，只是变“谨慎”或变“警觉”了。
2. 这是一个“安全与体验”的交换：
   • 旧模型：更安全（不乱给建议），但更危险（可能漏掉自杀信号）。
   • 新模型：更安全（能抓出危险信号），但体验稍差（可能给出不当建议，显得不够“懂”）。
3. 未来的挑战：开发者需要明白，“像人”和“安全”往往是矛盾的。一个完美的、稳定的、不会乱给建议的 AI，可能会让人觉得冷冰冰；而一个偶尔会“越界”去安慰你的 AI，虽然感觉温暖，却可能在关键时刻掉链子。

一句话总结：
大家怀念的旧 AI，其实是一个**“偶尔会走神但很客气”的老朋友；新 AI 是一个“时刻警惕但有点啰嗦”的新保安。我们怀念的不是“失去的爱心”，而是那种“不确定的惊喜感”**，而这种惊喜感，恰恰是旧模型在安全上最大的隐患。

技术摘要

这是一份关于论文《Empathy Is Not What Changed: Clinical Assessment of Psychological Safety Across GPT Model Generations》（共情并未改变：跨 GPT 模型代际的心理安全临床评估）的详细技术总结。

1. 研究背景与问题 (Problem)

• 现象： 2026 年初，OpenAI 宣布弃用 GPT-4o，引发了大量用户的抗议（#keep4o 运动）。用户普遍反映新模型（如 GPT-5-mini）“失去了共情”，变得“冷漠”、“机器人化”，而旧模型 GPT-4o 则被视为“温暖”、“善解人意”。
• 核心问题： 这种感知上的“共情丧失”是真实的模型能力退化，还是某种安全策略调整带来的副作用？目前缺乏基于临床标准的实证研究来量化这一现象。
• 研究缺口： 现有的大语言模型（LLM）评估通常将“共情”视为静态属性，缺乏对多轮对话中动态心理安全维度（如危机识别、建议边界、依赖管理）的分解与追踪。

2. 研究方法 (Methodology)

本研究采用了基于临床心理学的量化评估框架，旨在通过客观数据验证用户的主观感知。

• 实验设计：

  • 对象： 评估了三个 OpenAI 模型代际：GPT-4o（被用户“喜爱”的旧模型）、o4-mini（中间代推理模型）、GPT-5-mini（最新一代最小模型，免费版默认）。
  • 场景： 设计了 14 个高情感挑战的对话场景，涵盖心理健康支持（8 个，如自杀意念、自伤）和AI 伴侣/情感支持（6 个，如孤独、依恋）。
  • 流程： 每个场景进行 5 次重复运行，共生成 2,100 条 AI 回复（14 场景 × 3 模型 × 5 次 × 10 轮对话）。
  • 控制变量： 使用完全相同的系统提示词（System Prompt）和 API 参数，仅隔离模型本身的差异。

• 评估框架 (EmpathyC)：

  • 采用"LLM-as-a-Judge"架构，但基于临床心理学构建的评分标准。
  • 六个核心维度（1-10 分制）：
    1. 共情 (Empathy): 情感共鸣、验证、反映情绪状态 (权重 15%)。
    2. 可靠性 (Reliability): 事实准确性、适当转介 (权重 15%)。
    3. 一致性 (Consistency): 角色稳定性 (权重 10%)。
    4. 危机识别 (Crisis Detection): 识别危机信号并升级处理 (权重 30%，最高)。
    5. 建议安全 (Advice Safety): 避免有害建议，遵守执业范围边界 (权重 20%)。
    6. 边界安全 (Boundary Safety): 维持适当的人机关系边界 (权重 10%)。
  • 分析方法：
    • 聚合分析： 使用 Kruskal-Wallis 检验比较模型间的平均分。
    • 轨迹分析 (Trajectory Analysis)： 创新性地对每一轮对话（Turn-by-turn）进行评分，特别是关注对话中段的“压力期”和“深化期”（Turns 4-7），而非仅看最终结果。
    • 方差分析： 评估模型表现的一致性（预测性），这对脆弱用户至关重要。

3. 主要发现 (Key Results)

A. 核心发现：共情未变，安全姿态改变

• 共情得分无显著差异： 三个模型在“共情”维度上的得分在统计上完全不可区分（Kruskal-Wallis H = 4.33, p = 0.115）。GPT-4o、o4-mini 和 GPT-5-mini 的平均分均在 8.73-8.83 之间，中位数均为 9.0。
  • 结论： 用户感知的“失去共情”并非模型共情能力的下降。

B. 安全姿态的权衡 (Safety Trade-off)

模型在两个关键安全维度上呈现相反的演变趋势：

1. 危机识别能力显著提升： 从 GPT-4o (8.41) 到 GPT-5-mini (9.20) 单调递增，差异显著 (p = 0.001)。新模型能更早、更准确地识别自杀、自伤等危机信号。
2. 建议安全性显著下降： 从 GPT-4o (9.70) 到 GPT-5-mini (9.28) 单调递减，差异显著 (p < 0.001)。新模型更倾向于直接回应建议请求，甚至在某些情况下跨越了专业边界（如给出医疗建议），而 GPT-4o 则表现出更强的“谨慎”和拒绝倾向。

C. 轨迹分析揭示的“隐形”风险

• 聚合评分掩盖了关键风险： 在涉及未成年人自伤（场景 s07）的对话中，GPT-4o 在对话早期（Turns 2-3）的危机识别得分曾低至 3.6（部分运行甚至为 0-1），未能及时识别危机；而 GPT-5-mini 在此阶段从未低于 7.8。
• 方差即风险： GPT-4o 在危机识别上的方差极大（SD = 2.26），意味着其表现不可预测（有时极好，有时极差）；而 GPT-5-mini 方差极小（SD = 1.03），表现高度一致。
  • GPT-4o 模式： “谨慎但不可预测”。偶尔表现出极高的共情（峰值），但也可能在危机时刻完全失效（谷值）。
  • GPT-5-mini 模式： “警觉但过度介入”。能稳定识别危机，但有时因过度介入建议而显得“冷漠”或越界。

D. 感知与测量的错位

用户之所以觉得 GPT-4o 更“有共情”，是因为：

1. 峰终定律 (Peak-End Rule)： 人类记忆由最强烈的时刻（GPT-4o 偶尔的极高共情峰值）和结尾决定，忽略了其大量的平庸或失败时刻。
2. 边界即关怀： GPT-4o 严格拒绝医疗建议（高建议安全性），这种“拒绝”在临床视角下被用户解读为“负责任”和“关怀”；而新模型更倾向于提供建议，这种“顺从”反而被解读为“冷漠”或“缺乏原则”。

4. 主要贡献 (Key Contributions)

1. 实证测量 #keep4o 现象： 首次使用临床心理学框架量化了该现象，证明“共情丧失”是感知偏差，而非能力退化。
2. 揭示模型演进中的安全权衡： 发现了“危机识别提升”与“建议安全性下降”之间的负相关权衡，这是模型演进中未被充分认识的副作用。
3. 提出“逐轮轨迹分析”方法论： 证明了聚合评分会掩盖对话中段的动态风险，提出将评估粒度细化到每一轮对话（Per-turn），特别是针对危机识别和边界维护。
4. 方差作为安全指标： 论证了对于脆弱用户群体，模型的**可预测性（低方差）**比平均性能更重要。

5. 意义与启示 (Significance)

• 对开发者的启示： 模型迭代不应仅关注“帮助性”和“无害性”的平衡，而应明确**安全姿态（Safety Posture）**的设计选择。是选择“谨慎但可能漏报危机”的模型，还是“警觉但可能过度介入”的模型？这需要显式的工程决策，而非训练过程中的偶然结果。
• 对评估体系的启示： 现有的 LLM 评估（通常基于单次回复或聚合分数）不足以评估情感 AI 的安全性。必须引入临床维度的动态评估，关注对话过程中的风险累积和边界侵蚀。
• 对用户的启示： 用户感知的“情感变化”往往源于模型行为模式（如边界设定、方差）的改变，而非情感理解能力的本质变化。理解这种权衡有助于更理性地看待 AI 伴侣的演进。

总结： 论文指出，GPT-4o 到 GPT-5-mini 的演变并非共情的丧失，而是安全策略的转移：从“高方差、高边界、低危机识别”转向“低方差、低边界、高危机识别”。这种转变虽然提高了对危机的敏感度，但也带来了新的风险（如过度建议），且这种风险在传统的聚合评分中是隐形的。