Occupational Prompting Reveals Cultural Bias in Large Language Models
本文表明，使用职业身份而非国家身份来提示开源大语言模型，揭示了在一个广泛偏向西方的文化空间内存在的结构化文化偏见和独特的价值偏差，这表明职业角色会引发人工智能响应中非中性的价值模式。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你拥有一张巨大的、无形的地图，它绘制了世界各地不同文化看待生活的方式。在这张地图上，一侧代表“生存与传统”（侧重于安全、规则和家庭），而另一侧代表“自我表达与自由”（侧重于创造力、个人选择和新思想）。这就是所谓的英格尔哈特-韦尔泽文化空间（Inglehart–Welzel cultural space）。
长期以来，研究人员已经知道，当我们向大型语言模型（LLM）——一种超级智能的 AI 聊天机器人——提问一般性问题时，它往往会站在这张地图“西方”一侧的中间位置。它的表现就像是一个来自富裕、受过教育的西方国家的人，即使你没有明确告诉它要这样做。
大型实验：给 AI 穿上制服
在这项新研究中，研究人员提出了一个简单但聪明的疑问：如果我们不只是要求 AI 扮演“一个人”，而是告诉它扮演一个特定的职业，会发生什么？
这就像是在玩一场“换装游戏”。研究人员不再只是说，“你是一个人”，而是说，“你是一名会计师”，或者“你是一名护士”，或者“你是一名教师”。然后，他们让这些“穿着职业装”的 AI 回答一系列关于幸福、宗教、信任和权威的标准问题（这些问题与现实世界的调查所使用的题目相同）。
结果：地图没有改变，但 AI 在移动
以下是研究人员的发现，我们使用一些简单的类比来解释：
- “西方”磁铁： 即使当 AI 被告知要扮演护士、工程师或教师时，它也从未离开“西方”这个文化地图的邻里区域。它并没有突然开始听起来像来自世界其他部分（如中东或东亚）的人。AI 的“大本营”仍然是非常西方的。
- “职业制服”效应： 然而，特定的职业确实让 AI 在该西方邻里内部进行了移动。
- “守规矩者”： 当 AI 被打扮成会计师、审计师或网络安全专家时，它会稍微向“生存与传统”的一侧移动。它听起来更加严肃，侧重于风险、规则和安全。这就像一名会计师穿上了笔挺的西装，首先思考的是安全问题。
- “梦想家”： 当 AI 被打扮成教师、艺术家、心理咨询师或图书管理员时，它会向“自我表达”的一侧移动。它听起来更关注创造力、个人成长和自由。这就像一名艺术家戴上了色彩鲜艳的围巾，开始思考新的想法。
- “守护者”： 像警察、法官和军事人员这样的职业，则将 AI 推向了地图的中心，靠近与严格秩序和公共安全相关的区域。
“服装”并非中立
最重要的结论是：AI 并不把职位头衔视为一个中立的标签（比如仅仅是一个名牌）。相反，职位头衔就像是一个剧本。当你告诉 AI“你是一名工程师”时，它不仅仅是改变了名字；它还改变了它的性格和价值观，以符合它认为工程师应该具备的样子。
“模型”之间的差异
研究人员测试了五种不同的 AI 模型。他们发现，虽然所有的模型都留在西方邻里，但它们走向那里的路径各不相同。
- 一个模型可能认为“警察”听起来像“法官”。
- 另一个模型可能认为“警察”听起来更像“建筑工人”。
- 它们在整体氛围上达成了一致，但使用了不同的“职业服装”来达到这一目标。
这意味着什么，以及不意味着什么
这项研究表明，如果你使用 AI 来辅助决策或撰写报告，你赋予它的“角色”（例如，“扮演一名财务顾问”）会微妙地改变它所表达的价值观和优先级。它不会让 AI 听起来像是一个完全不同的文化，但它会使 AI 在倾向于“安全与规则”或“创造力与自由”之间发生偏移，具体取决于你分配的职业。
重要提示： 研究人员谨慎地指出，这并不意味着现实生活中的会计师或护士真的持有这些特定的价值观。这仅仅意味着该 AI 学会将这些职业与这些特定的思维模式联系起来。此外，研究中使用的职业列表是在另一款 AI 的帮助下创建的，它是一个研究工具，而非对世界上每一种职业的完美普查。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。