Mind the Gaps: Mixture-of-Minds for Human Simulation
本文介绍了 Anacreon，这是一个基于 Gemma 4 12B 构建的“思维混合”（mixture-of-minds）模拟模型，该模型利用作者身份嵌入、人口统计学增强和专门的适配器来忠实地模拟个体层面的人类反应，在预测人口调查答案方面实现了最先进的准确率（0.775），同时减轻了常见的偏差和提示词脆弱性问题。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
试着去预测一群人的未来。几个世纪以来，科学家们一直擅长猜测“大多数”人会做什么。如果你问一百万人是否喜欢披萨，你可以很有信心地预测大约 80% 的人会回答“是”。这就是保险公司运作的方式；它们不需要知道你具体的口味，只需要知道一百万名驾驶员的平均风险。但如果你想知道“某一个特定的人”会对一个全新的问题有什么看法呢？那就要难得多了。这就像是在你的好朋友开口说话之前，试图猜出她到底会说什么。
近年来，我们构建了被称为“大语言模型”（LLM）的超智能计算机大脑，它们可以像人类一样交谈。人们曾希望这些模型能充当“数字孪生”，来模拟个人的思维方式。然而，这里有一个陷阱。这些模型被训练得既乐于助人又顺从，因此它们往往表现得像个乏味的、平庸的普通人，只会对所有事情都说“是”。它们丢失了那些让真实人类变得真实、复杂、独特且有时充满矛盾的部分。这篇论文探讨了这个问题：我们如何构建一个不仅仅是扮演一个通用的机器人，而是能真正捕捉到真实个体那种奇特、精彩且独特的思维与感受的模拟器？
问题所在：“平均人”陷阱
长期以来，科学家们一直试图预测人类行为。有时他们观察整体（聚合），有时他们试图猜测单个人的行为（个体）。论文指出，虽然我们擅长处理群体，但我们在处理个体方面表现得很糟糕。
把大语言模型想象成一位非常礼貌、博学多才的图书管理员。如果你问这位图书管理员：“人们对这项新政策有什么看法？”他会给你一个完美的多数派观点总结。但如果你问：“莎拉（Sarah）会怎么想？”图书管理员可能会根据他眼中的“莎拉”是什么样的人来瞎猜，或者他可能只是给出一个最流行的答案，因为他受到的训练就是表现得友好。他们抹平了所有的差异。他们把一群多元且独特的个体变成了一个单一、乏味的“平均人”。这很糟糕，因为现实生活并非总是处于平均水平；现实充满了离群值、少数群体以及与大众意见相左的人。
解决方案：Anacreon 与“思想的混合体”
于是有了 Anacreon，这是一个旨在解决此问题的全新系统。作者并没有试图构建一个模拟所有人的巨大大脑，而是决定构建一个“思想的混合体”。
想象你正在运行一个大型城镇的模拟实验。你不是雇佣一名演员来扮演镇上的每一个角色，而是为每一个不同的群体雇佣一名不同的演员。
- 聚类（The Clustering）： 首先，系统观察数千个真实的人及其公开写作内容（如社交媒体帖子或评论）。它使用一种特殊的数学技巧将相似的人归为一类。这就像不是按颜色，而是按如何拼凑在一起的方式来对一大盒乐高积木进行分类。
- 专家模型（The Specialists）： 一旦完成了分组，系统会为每个小组训练一个微小的、专门的“专家”模型。一个专家学习“年轻且精通技术的商人”是如何思考的；另一个学习“年长的、农村地区的商业主”是如何思考的。
- 情感链（The Emotional Chain）： 这是最聪明的地方。在模型给出答案之前，它不会直接跳到结论。它首先会写一段简短的“情感链”。它会模拟导致该答案的情感和想法。这就像是要求模型在最终说出“我反对”之前，先说出：“首先，我对成本感到有点担心，然后我想到我的预算很紧张，所以我现在感到有些犹豫……”这有助于模型听起来更像人类，而不是一个在盲目猜测的机器人。
他们是如何测试的
团队针对一个特定群体测试了 Anacreon：从事信用卡收款业务的小型企业主。他们不仅是让模型进行猜测，还给它提供了一份包含真实问题的庞大调查问卷，并将模型的答案与真实人类的回答进行了对比。
他们发现 Anacreon 在预测个体答案方面比之前的模型要出色得多。
- 评分： 他们使用了一个名为“序数对齐”（ordinal alignment）的特定分数来衡量模型答案与真实人类答案的接近程度。1.0 代表完美。Anacreon 达到了 0.775。这是此类测试中记录到的最高分，击败了以往的最佳尝试。
- 偏差修正： 旧模型通常具有“谄媚”（sycophantic）偏差，意味着它们为了表现得友好而仅仅是顺从你。Anacreon 通过在训练期间翻转问题（以正面和负面的方式询问同一个问题）减少了这种偏差，从而让模型学会独立思考，而不是仅仅说“是”。
- 缺陷： 论文承认它并不完美。该模型仍然存在一点点“积极偏差”（它仍然倾向于同意你）。此外，虽然“平均模型”表现良好，但某些特定的组别（簇）效果并不如其他组别。但重要的是，表现不佳的组别并不是某一类特定的人（比如不仅仅是老年人或男性）；失败的原因是随机的，这表明问题在于数据质量，而非人群本身。
为什么这很重要
论文认为，如果我们想要了解一个群体，我们不应该只看平均值。我们需要理解个体。如果你想知道人群会对一项新法律做出何种反应，你不能仅仅模拟“平均人”。你需要模拟那个愤怒的人、那个谨慎的人以及那个兴奋的人，然后看看他们是如何汇聚在一起的。
Anacreon 表明，通过将一个大问题分解为许多个小的、专门的问题，我们可以更接近于模拟真实的思维。它并没有解决所有问题——该模型在每种情况下都不一定能像真实人类那样可靠——但它显著提高了目标基准。它证明了通过将人工智能植根于真实的、混乱的人类数据，并赋予其“思想的混合体”，我们可以开始以一种此前被认为不可能实现的准确度来预测个体行为。
作者谨慎地表示，这是一个进步，而非终点。他们建议，虽然我们在模拟个体方面做得越来越好，但我们仍需弄清楚如何结合所有这些个体模拟，从而获得整个群体的完美图景。但就目前而言，他们已经证明了“平均人”并不是模拟人类性的唯一方式。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。