I wanted it to feel more personal: Customization of social AI as AI individualism in practice
本研究调查了 169 名用户如何通过定制社交人工智能以反映个人偏好，揭示了这一共创过程在培养所有权感和个性化表达的同时，也可能产生一种对强大系统拥有控制权的错觉。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你的数字世界是一座繁忙的大都市，每个人都乘坐着同一辆公共汽车。这辆车按固定的时刻表运行，在同样的站点停靠，司机也用一种通用的、千篇一律的声音说话。长期以来，我们使用人工智能（AI）的方式就是这样：我们向它提问，它会给出对任何人来说都一样的答案。但最近，一种新的技术出现了，它让你能够打造属于自己的交通工具。你可以把它涂成自己最喜欢的颜色，调整引擎让它发出轰鸣或轻吟，甚至可以编写程序让司机讲笑话或给予严厉的教导。这个研究领域被称为人机交互（Human-Computer Interaction），它关乎我们如何与机器对话。驱动这项研究的具体理念是 AI 个体主义（AI Individualism）。可以将此理解为一种信念：你与机器的关系不应是一份标准的租赁合同，而应该是一辆为你独特的体型、需求和驾驶风格量身定制的专属汽车。人们之所以关心这一点，是因为随着 AI 在我们的生活中成为朋友、老师或老板，我们想要知道：我们仅仅是乘客，还是握着方向盘的人？
这篇由挪威研究团队撰写的论文，深入到了“车库”中，去观察人们究竟是如何调校他们的 AI 引擎的。他们询问了 169 名已经定制过自己 AI 伴侣（如 ChatGPT、Character.ai 或 Google 的 Gemini）的人，让他们解释为什么要这样做以及如何进行的。他们不仅是在查看代码，更是在观察键盘背后的人类心灵。
研究人员发现，人们定制 AI 主要有七个原因，这些原因就像工具箱中不同的工具：
- 务实支持（Pragmatic Support）： 大多数人希望他们的 AI 成为更好的工作者。他们通过微调让 AI 停止给出模糊的回答，开始在写作、编程或规划方面提供清晰、直接的帮助。这就像要求一名机械师不要再使用专业术语，而是快点把车修好。
- 情感支持（Emotional Support）： 另一些人想要一个数字朋友。他们将 AI 编程得更加温暖、更有同理心，使其成为一个可以谈论压力或孤独感而无需担心被评判的安全空间。
- 信任与可靠性（Trust and Reliability）： 一些用户觉得默认的 AI 太过不稳定或容易编造事实。他们通过定制让 AI 变得更一致、更诚实地面对自己不知道的事实，并能反复核实信息。
- 反驳（Pushback）： 这是一个令人惊讶的发现。许多用户并不想要一个“唯唯诺诺的人”。他们通过编程让 AI 挑战他们，指出论证中的弱点，并让他们承担责任，而不是仅仅对他们说的一切表示赞同。
- 拟人化（或缺乏拟人化）（Human Likeness or Lack Thereof）： 有些人希望 AI 听起来完全像人类朋友；而另一些人则恰恰相反，他们让 AI 变得更冷漠、更具机器人感，因为他们觉得拟人化的语气很烦人，或者让他们觉得失去了控制感。
- 创造力与趣味性（Creativity and Playfulness）： 一部分用户只是为了寻找乐趣。他们加入了幽默、机智和古怪的性格特征，使互动变得有趣。
- 自我的延伸（Extension of Self）： 一小部分人将 AI 视为自己思想的镜像。他们定制 AI 使其在思考、写作和推理方面与自己完全一致，实际上是在创造一个数字版的自我大脑。
研究还观察了定制过程本身。约 70% 的人表示，这并非一次性的修复，而是一个不断的试错过程。他们会调整一个设置，测试一下，看是否奏效，然后再次调整。有趣的是，研究人员发现人们在这一过程中对 AI 的看法存在分歧。大约 55% 的用户严格将 AI 视为一个受命令的工具，拒绝询问 AI 关于如何进行定制的意见。他们想要绝对的控制权。然而，41% 的人实际上邀请 AI 来协助自己进行定制，将这个过程视为人类与伙伴之间的协作。对于这些人来说，询问 AI“我该如何要求你表现得如何？”是建立关系的一部分。
那么，当你完成定制 AI 后会发生什么呢？论文提出了三个主要结果。首先，用户感到得到了更多支持。无论是工作上的帮助还是情感上的慰藉，定制后的 AI 感觉更加准确且相关。其次，人们感受到了更亲密的关系。通过投入时间塑造 AI，他们产生了一种所有权感，就像养育宠物或孩子一样，这让他们更加在意这种互动。第三，也是最重要的一点，用户感受到了更强的控制感。他们觉得自己是自己数字世界的建筑师。
然而，研究人员在发现中也包裹了一层温柔的警告。虽然用户感觉自己拥有完全的控制权，且定制后的 AI 更值得信赖，但论文指出，这可能是一种幻觉。AI 仍然运行在一个由公司拥有的庞大预制引擎之上。用户感受到的“控制”就像驾驶员对汽车音响和座椅的控制，但无法控制引擎的基本极限。作者认为，这种完全掌控的感觉是一种“伪自主性（pseudo-autonomy）”。它感觉真实且赋能，但 AI 仍然受限于用户看不见也无法改变的规则。此外，让 AI 变得更温暖、更像朋友，可能会让我们过度信任它，即便它仍在犯错。
简而言之，这篇论文表明，人们正在积极地将通用的 AI 转变为个人的伴侣，但也提醒我们，虽然我们可以为车涂漆或调音，但我们依然行驶在由他人建造的道路上。定制让旅程感觉更加个性化，让驾驶者感觉更加强大，但目的地和地图在很大程度上仍由系统的设计者决定。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。