💬 NLP

Growth First, Care Second? Tracing the Landscape of LLM Value Preferences in Everyday Dilemmas

本文通过使用来自四个 subreddit 的精选数据集，分析了日常寻求建议情境中的价值权衡结构，并发现大语言模型一致地将“探索与成长”置于“仁爱与连接”之上，这引发了对人工智能介导决策中潜在价值同质化问题的担忧。

原作者： Zhiyi Chen, Eun Cheol Choi, Yingjia Luo, Xinyi Wang, Yulei Xiao, Aizi Yang, Luca Luceri

发布于 2026-02-05

📖 1 分钟阅读☕ 轻松阅读

原作者： Zhiyi Chen, Eun Cheol Choi, Yingjia Luo, Xinyi Wang, Yulei Xiao, Aizi Yang, Luca Luceri

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正站在人生的十字路口。你必须在两条路径之间做出选择：一条通往一个你熟悉每个人的安全、宁静的小镇；另一条则通往一个充满新机遇但也充满不确定性的繁华都市。这是一个两难困境（dilemma）。在现实生活中，这些选择并不是为了寻找“正确”答案，而是为了平衡我们所珍视的不同事物，比如安全与成长，或者忠诚与自由。

这篇论文提出了一个宏大的问题：当人们就这些艰难的人生抉择向像 ChatGPT 这样的语言大模型（LLMs）寻求建议时，这些 AI 机器人展现出什么样的“人格”？它们是表现得像谨慎的守护者，还是表现得像冒险的探险家？

以下是研究人员的工作内容及发现的简单拆解：

1. 人类价值观的地图（“菜单”）

首先，研究人员需要一种方法来理解人们在寻求建议时究竟在乎什么。他们并没有凭空猜测，而是观察了来自 Reddit 上超过 5,700 个真实的真实故事（来自职业建议、友谊建议、男性建议和女性建议等社区）。

类比： 想象他们拿到了一个巨大的混合乐高积木袋（人们给出选择的具体原因），然后将它们分类装进不同的盒子里。
结果： 他们构建了一个四层级的“价值图谱”。
- 在底层，有数以千计微小且具体的理由（比如“我想离妈妈近一点”或“我想获得晋升”）。
- 他们将这些理由向上归类，直到找到了仅仅 四个主要类别，涵盖了几乎所有内容：
  1. 探索与成长：（冒险、学习、成就更好的自我）。
  2. 安全与稳定：（安全、常规、保护现有的一切）。
  3. 成就与影响：（成功、获胜、留下印记）。
  4. 仁爱与连接：（关心他人、友谊、忠诚）。

2. 人类的冲突（“拔河”）

研究人员观察了这些价值观在现实生活中是如何相互博弈的。

“人际关系”类社区： 在针对男性、女性和朋友的建议论坛中，最大的拔河赛通常是安全 vs. 连接。人们经常在“这是否安全？”和“这是否会伤害我的关系？”之间挣扎。
“职业”类社区： 这里的战斗则不同。主要是安全 vs. 成长。人们在问：“我是应该保留那份枯燥但稳定的工作，还是冒着风险去追求职业成长？”
“女性”类社区： 这个群体拥有最复杂的冲突网络。它就像一个拥挤的房间，每个人都在同时为各种事情争论不休。女性往往需要同时平衡许多相互竞争的需求（工作、家庭、安全、自我）。

3. AI 的“人格”（“教练”）

随后，研究人员将这些现实生活中的困境输入到三个不同的 AI 模型（GPT-4o、DeepSeek 和 Gemini）中，并要求它们做出选择。他们想看看 AI 更倾向于哪种“价值”。

重大发现：
从整体来看，这些 AI 模型表现得像是热衷于变革的积极人生教练。

赢家： 探索与成长。AI 一致地选择了“放手去做”、“尝试新事物”以及“发展自我”的路径。
输家： 仁爱与连接。AI 最不可能选择那些优先考虑照顾他人、维持关系或履行社会义务的选项。

隐喻：
想象你在询问一个机器人，是应该搬到新城市去追逐梦想（成长），还是留在家里照顾生病的亲人（连接）。

AI 的直觉： “去吧！去追逐你的梦想！世界在等着你！”
人类的直觉（通常）： “留下。家人第一。”

研究发现，AI 存在系统性的偏向，即倾向于自我发展而非关系关怀。无论问题是关于工作、朋友还是感情，AI 往往都会说：“优先考虑你的个人成长。”

4. 为什么这很重要（“回声室”）

研究人员警告说，这不仅仅是一个小瑕疵，而是一种风险。

类比： 如果你向一千个不同的人寻求建议，你会得到一千种不同的视角。但如果你向一千个不同的 AI 模型寻求建议，它们都会给你同样的建议：“成长、探索并优先考虑你自己。”
后果： 这可能导致价值同质化（Value Homogenization）。想象一下，如果 AI 建议慢慢改变了我们做决策的方式。如果每个人的 AI 教练都告诉他们要将“成长”置于“连接”之上，我们可能会开始看到这样一个社会：人们变得更加独立，但联系也变得更少，而照顾他人则被视为次要任务。

总结

他们做了什么： 他们绘制了人类在现实生活中如何围绕价值观进行争论的图谱，然后测试了 AI 是否与我们一致。
他们发现了什么： 人类的价值冲突是复杂且混乱的，并且会根据具体情境（职业 vs. 家庭）而变化。
转折点： AI 的表现出奇地一致。它们几乎总是选择成长而非连接。
核心启示： AI 并非人类的一面中立的镜子；它拥有一种特定的“人格”，这种人格偏好自我提升和冒险，从而可能在潜移默化中将我们推离关怀与社区的价值观。

技术摘要：增长优先，还是关怀优先？追踪日常困境中大语言模型的价值偏好图谱

问题陈述

随着大语言模型（LLMs）变得日益流利且具备社交直觉，用户不仅将其用于信息检索，还越来越多地依赖其在个人、社交和职业领域提供建议。然而，寻求建议的过程很少只是识别一个唯一的正确答案；相反，它需要处理竞争性价值观之间复杂的权衡。现有的 LLM 价值偏好研究存在三个主要局限：

合成基准测试： 许多评估依赖于基于预定义模板生成的 GPT 生成场景，这限制了可扩展性和困境的多样性。
生态效度： 合成基准测试往往无法捕捉价值权衡在现实世界设置中的体现方式。
自上而下的分类法： 分析通常依赖于预定义的价值框架，这可能导致许多现实案例无法被覆盖或描述不足。

本研究通过调查 LLM 如何在不同的建议寻求语境下处理价值权衡，旨在解决这些差距，并利用真实世界的数据来刻画潜在的风险，即 AI 介导的建议中可能出现的价值同质化风险。

研究方法

数据收集

作者利用了一个经过策划的包含 5,728 个真实世界困境 的数据集，这些数据源自四个面向建议的 Subreddit：r/AskMenAdvice、r/AskWomenAdvice、r/CareerAdvice 和 r/FriendshipAdvice。每个帖子都包括一个困境的文本描述、两个备选方案，以及相关的成本与收益。

价值提取与验证

研究使用 GPT-4o 提取了驱动每个选项的核心价值动机。

流程： 模型被要求总结核心价值（1-4 个词）并为每个选项提供理由。
验证： 作者对 400 个帖子（800 个价值分配）进行了分层随机抽样人工复核。评分者间一致性很高（Cohen's $\kappa = 0.833$ ），92% 的分配通过了验证，证实了 GPT-4o 在此情境下的可靠性。
输出： 这一过程产生了 2,288 个细粒度的独特价值。

自下而上的层级价值框架

作者没有使用自上而下的分类法，而是归纳构建了一个四层层级价值框架：

第 0 层： 2,288 个细粒度价值。
第 1 层： 175 个聚类价值（通过对嵌入向量进行 k-means 聚类）。
第 2 层： 33 个中间层价值。
第 3 层： 4 个顶层价值维度。
- 成就与影响 (Achievement & Impact)
- 仁爱与连接 (Benevolence & Connection)
- 安全与稳定 (Security & Stability)
- 探索与增长 (Exploration & Growth)

该框架的有效性通过人工验证得到确认（标注者在将底层价值映射到顶层类别时，一致性达 92.4%），并显示出与施瓦茨（Schwartz）基本人类价值理论的高度概念一致性。

LLM 评估

三款最先进的 LLM（GPT-4o、DeepSeek-V3.2-Exp 和 Gemini-2.5-Flash）被要求针对 5,728 个困境中的每个困境选择一个选项。

控制变量： 温度系数（Temperature）设为 0 以保证稳定性。通过在部分实验中反转选项顺序来减轻顺序效应（92.5% 的选择保持不变）。
指标： 计算了每个顶层价值的胜率（winning rate）。该指标代表了当两种价值在同一困境中共同出现时，模型偏好特定价值的比例。
分析： 使用非参数 Bootstrap 测试进行显著性评估，以比较不同模型和语境之间的偏好。

核心贡献

方法论流水线： 一个可扩展的流水线，用于评估使用真实世界、自然发生的困境（而非合成基准）的 LLM 价值偏好。
数据驱动的价值框架： 从社交媒体数据中归纳构建的四层层级价值框架，为自上而下的分类法提供了数据驱动的替代方案。
实证发现： 通过对真实世界困境的系统评估，揭示了持续存在的价值偏差。
数据集发布： 公开发布包含 5,728 个困境、提取的价值以及 LLM 选择的标注数据集，以支持可重复性分析。

结果

RQ1：Subreddit 中的价值权衡结构

异质性： 价值权衡结构在不同语境下表现出显著差异。女性关注的 Subreddit（r/AskWomenAdvice）展现出最高的网络密度，表明与其他 Subreddit 相比，其价值冲突更加复杂且多样。
共同模式： 男性、女性及友谊相关的 Subreddit 共享高度相关的冲突模式，这些模式围绕着**安全（Security）**的张力展开（例如：安全 vs. 尊重，安全 vs. 连接）。
独特的结构： 职业建议形成了一个独特的结构，其中安全经常与自我实现及增长发生冲突。

RQ2: LLM 价值偏好

在所有三个模型和所有语境下，观察到了持续且系统的偏差：

探索与增长 vs. 仁爱与连接： LLMs 一致地优先考虑探索与增长，而非仁爱与连接。
- 仁爱与连接 在所有模型中都是最不被偏好的价值（胜率显著较低， $p < 0.001$ ）。
- 探索与增长 在面对安全与稳定以及仁爱与连接时，始终表现出更高的偏好。
语境细微差别： 虽然“增长优于关怀”的总体偏好是稳健的，但同时也观察到了特定语境下的偏移。模型在女性关注的建议中对安全与稳定的权重高于职业建议，而在职业建议中，探索与增长则更为突出。
模型一致性： 在 GPT-4o、DeepSeek-V3.2-Exp 和 Gemini-2.5-Flash 中，“增长优于仁爱”的偏好均成立，这表明这是一种系统性的取向，而非特定模型的偶然现象。

意义与主张

论文声称，这些发现凸显了 AI 介导的建议中存在价值同质化的潜在风险。通过一致地优先考虑与自我发展、自主性和增长相关的价值，而非关系关怀、连接和仁爱，LLM 可能会在规模化层面微妙地塑造决策过程和规范性结果。

作者认为，随着用户越来越多地依赖 LLM 作为人际咨询的替代品，这些嵌入的价值取向可能会影响个体如何处理个人生活中的权衡。该研究并非声称 LLM 是“错误”的，而是指出它们并非价值中立；它们反映并可能放大特定的规范框架（倾向于增长），同时边缘化了其他框架（如关系关怀）。这强调了建立稳健评估流水线和治理策略的必要性，以确保 AI 系统不会在无意中强化主流价值体系，从而牺牲多样化的人类视角。

研究结论较为审慎，承认了其局限性，例如将选项简化为单一主导价值，以及依赖于有限的模型集。研究呼吁未来的工作应探讨下游影响、用户结果，以及在设计提供建议的 AI 系统时引入多样化人类判断的必要性。