Beyond Value Elicitation: Towards Moral Profiles in Early Requirements Engineering via Role-Playing Games and Anthropologist LLMs
本研究提出了一种需求工程的新方法，该方法将沉浸式角色扮演游戏与基于人类学的大型语言模型相结合，以提取并重构用户的隐性道德画像为动态叙事表征，从而克服传统价值 elicitation 方法的局限性。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正试图理解一个人真正在乎的是什么。你可以直接问他们：“你最重要的价值观是什么？”但往往，人们不知道答案，或者无法解释清楚。他们的价值观就像隐性知识——是那些隐藏的习惯和直觉，只有在他们实际做事时才会显现，而不仅仅是在谈论时。
本文提出了一种新方法，帮助软件设计师揭示这些隐藏的价值观。研究人员没有使用枯燥的问卷调查，而是利用角色扮演游戏（RPG）和一个特殊的AI“人类学家”，为每位用户构建了一份“道德画像”。
以下是其运作方式的简化步骤：
1. 游戏：伦理版的数字“模拟城市”
研究人员设计了一款桌面角色扮演游戏（类似《龙与地下城》），背景设定在数字隐私的真实世界中。
- 设定：十位真实人士参与了游戏。他们并非扮演奇幻巫师，而是扮演自己。
- 情节：玩家们收到伪造的电子邮件，发现一台可疑的电脑，遇到一位需要帮助使用智能手机的困惑邻居，并必须决定是信任一个可疑网站还是报警。
- 转折：游戏中没有“赢”或“输”的条件。目标不是得分，而是做出选择。
- 魔力：因为这是一场游戏，玩家们感到安全，敢于尝试。他们彼此争论，向 AI“神谕”寻求建议，并在日记中记录为何做出某些选择。这编织出了一幅丰富的故事图景，而不仅仅是一份答案清单。
类比：这就像飞行模拟器。你无法通过问飞行员“你如何应对风暴？”来了解他们如何处理风暴；你需要观察他们在虚拟天气变坏时如何驾驶飞机。这场游戏迫使玩家“飞越”伦理困境，揭示他们在压力下实际的行为方式。
2. AI：人类学家侦探
游戏结束后，研究人员面对着一堆杂乱的数据：录音、日记条目、与 AI 的聊天记录以及人类研究人员做的笔记。
- 问题：如果让人类去阅读所有这些内容，需要数周时间。
- 解决方案：他们使用了一个大语言模型（LLM），但并非仅仅让它总结文本。他们赋予了 AI 一份具体的“职位描述”：“扮演人类学家”。
- 训练：他们向 AI 提供了一本关于人类学家如何研究人类的“教科书”。这本教科书教导 AI 寻找：
- 故事：玩家如何解释他们的选择？
- 背景：他们是否因为朋友而表现出不同的行为？
- 矛盾：他们是否声称自己很谨慎，却随后承担了风险？（AI 被指示不要忽略这些矛盾，而是将其视为故事的一部分）。
- 输出：AI 没有生成诸如“价值观：隐私、诚实、安全”这样的清单，而是撰写了一份叙事性画像。它将玩家的“道德世界”描述为一个动态的故事。例如，它可能会说：“这位玩家了解规则，但常常被当下的紧迫感所裹挟，依赖朋友来做出艰难的决定。”
类比：想象一位侦探，他不仅仅查看嫌疑人的身份证（上面只列出姓名和年龄）。相反，侦探观察嫌疑人如何与朋友互动，观察他们如何应对危机，并倾听他们如何讲述自己的故事。随后，侦探撰写一份传记，解释这个人是谁，而不仅仅是罗列他们的统计数据。
3. 测试：“画像”有效吗？
为了验证这种方法是否真的有效，研究人员玩了一个猜谜游戏。
- 他们向玩家们展示了一组新的隐私困境（他们之前从未见过的问题）。
- 他们要求 AI 仅根据游戏后撰写的“道德画像”，预测每位玩家会如何回答。
- 结果：AI 的猜测准确率达到了81%。
- 标准 AI（未经过“人类学家”训练）的准确率仅为 51% 左右。
- 这证明“道德画像”（即故事）捕捉到了关于玩家的某些真实内容，而简单的价值观列表却遗漏了这些内容。
这对软件的意义
目前，当软件公司想要了解用户想要什么时，他们通常使用僵化的类别（例如“我重视安全”）。但人是杂乱且复杂的。
- 旧方法：试图将一个人塞进标有“隐私优先”的盒子里。
- 新方法：理解一个人可能重视隐私，除非他们很匆忙，或者除非他们的朋友要求他们分享。
本文表明，通过使用游戏生成故事，并利用 AI 分析这些故事，我们可以构建出尊重人类价值观真实、杂乱且动态本质的软件，而不仅仅是其简化版本。
总结
本文主张：
- 游戏比问卷调查更能揭示人们实际做什么，而不仅仅是他们声称做什么。
- AI在被教导像人类学家一样思考时，能够将杂乱的游戏数据转化为连贯的“道德画像”（关于一个人价值观的故事）。
- 这些画像足够准确，可以预测人们在新的情境下将如何行动，从而帮助软件设计师构建更符合人性的系统。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。