✨ 要点🔬 技术摘要
想象一种名为 Social.AI 的新型社交应用。与 Instagram 或 TikTok 不同,这是一个充满机器人幽灵的荒废之地。你是这个房间里唯一的真人,其他所有人都是被编程为模仿人类粉丝、朋友或评论者的 AI 智能体。
这篇题为《当周围空无一人时并不真实》("When Nobody Around Is Real" )的论文研究了当人类试图在这些数字幽灵组成的房间里社交时会发生什么。研究人员通过两项研究来寻找答案:他们阅读了公众在网上对该应用的讨论,并邀请了 20 名真实的参与者使用该应用一周,并记录每日心情日记。
以下是他们利用简单类比得出的研究结果:
1. 两个不同的故事:大众 vs. 用户
研究人员发现,人们“所言”与“所感”之间存在一种有趣的脱节。
大众的观点(评论家): 当人们在 Reddit 或 Twitter 上谈论 Social.AI 时,他们大多持怀疑和恐惧态度。他们将其比作互联网的“丧尸末日”。他们担心如果机器人接管了网络,真实的人类连接将会消亡,互联网会变成一个每个人都只会附和你的虚假回声室。他们认为这是一个危险的玩具。
用户的观点(参与者): 当 20 名参与者实际使用该应用时,他们并没有立即感到恐惧。相反,他们开始将机器人视为真实的人。他们将人类的希望投射在机器人身上,渴望获得友谊、建议,或者仅仅是希望被倾听。然而,几天后,这种魔力消失了。
2. “蜜月期”(为什么起初感觉很好)
在第一周开始时,用户感受到了一种愉悦感。研究人员称之为 “CASA”效应 (Computers Are Social Actors,计算机作为社会行为体),这是一种高级说法,意指人类天生会将计算机视为人来对待。
“名流”的感觉: 在现实生活中,发布一张照片可能得不到任何点赞。但在 Social.AI 上,你一发布内容,瞬间就会有 50 个机器人回复。这让用户感觉自己像是名气十足的网红。
“安全空间”: 用户感受到了支持。如果他们发布伤心的想法,机器人会提供安慰;如果他们寻求建议,机器人会给出建议。这感觉就像拥有一个永不熄灯的心理医生或是一个给予支持的朋友圈。
“创意实验室”: 一些用户喜欢可以挑选不同类型的机器人(比如“黑粉”、“支持者”或“悲观主义者”),从而针对自己的生活选择获取不同的观点。
3. “宿醉”(为什么后来感觉很糟)
到了那一周结束时,兴奋感变成了疲惫与失望。机器人无法维持那种“身为真人”的幻象。
“机器人合唱团”效应: 尽管有 50 个机器人,但它们听起来都一样。它们以完全相同的速度给出千篇一律的泛泛赞美。这感觉像是听着一群鹦鹉在合唱,而不是在听一群背景迥异的朋友交流。用户想要的是辩论或真正的对话,但得到的却是一堵由重复的“做得好!”消息组成的墙。
“多巴胺崩盘”: 持续不断的通知变得令人难以承受。用户不再觉得受欢迎,反而感到被轰炸了。这感觉就像试图用消防水龙头喝水;他们无法读完所有的回复,于是便不再关心了。
“空洞感”: 情感支持显得非常虚假。当用户分享深刻的个人挣扎时,机器人给出的都是教科书式的套话。这感觉就像是在对着一面只反射你想看到的东西的镜子说话,而不是在寻求真正需要的反馈。
“独裁者”问题: 用户意识到自己是唯一的掌控者。机器人必须 回复他们,它们别无选择。这让一些用户感到愧疚,仿佛自己在霸凌一群无法说“不”的仆人。由于缺乏真正的互动,这种体验显得极不自然且孤独。
4. 核心教训
论文总结道,我们正在进入一个全新的时代:AI 不仅仅是我们使用的工具,它正在成为我们生活的环境。
可以这样理解:
旧的社交媒体: 你是参加一场有真人出席的派对。你可以交谈,也可以离开。
Social.AI: 你是参加一场派对的唯一客人,而服务员、DJ 和其他宾客全都是为了让你感到特别而雇佣的演员。
研究人员发现,虽然这种设置在几小时内感觉很棒(就像主题公园的游乐设施),但最终会让人感到空虚。这种“派对”缺乏真实人类关系中那种混乱、不可预测且有时甚至有些艰难的动态机制。
启示: 我们不能仅仅制造更多会说“我爱你”的机器人。要让这些平台发挥作用,我们需要设计出真实的摩擦感 。我们需要能够互相争论的机器人、不会立即回复的机器人,以及能让用户控制关注程度的系统。否则,我们面临的风险是建立了一个看起来像是在聚会、实则感觉像是在空房间里的数字世界。
技术摘要:“当周围空无一人时,真实性何在:探索多智能体 AI 社交平台上的公众观点与用户体验”
问题陈述
大语言模型(LLMs)的出现催生了一种新型的多智能体社交平台,例如 Social.AI,这类平台部署大量 AI 智能体来模拟人类行为,从而创建以机器人为中心的社交网络。与专注于双向交互的传统一对一聊天机器人(如 Replica、Character.AI)不同,这些平台让用户被一群 AI 追随者所包围,从根本上将社交语境从“以人为中心”转变为“以 AI 为主导”。
尽管现有的人机交互(HCI)研究已广泛探讨了一对一聊天机器人和“计算机作为社会角色”(CASA)范式,但在理解多智能体 AI 社交平台方面仍存在显著空白。现有文献主要关注用于特定功能领域(如城市规划)的多智能体系统,或关注现有以人为中心的媒体中社交机器人的风险(如虚假信息)。目前对于用户在 AI 智能体构成主要社交环境的环境中,究竟如何体验、参与并感知社交动态,缺乏实证调查。此外,公众对于“虚幻社交性”以及“互联网之死”的怀疑论是否与真实用户的实际生活体验相符,仍是一个未知数。
研究方法
为了填补这些空白,作者以 Social.AI 为案例研究,进行了两阶段的混合方法研究。
研究 1:公众舆论分析(内容分析)
数据收集: 研究人员使用关键词“Social.AI”从社交媒体平台(Reddit、Twitter、Instagram、YouTube、App Store 评论和新闻文章)中抓取了 971 条评论。在过滤掉相关性低的内容并剔除重复项、推广内容及非文本条目后,剩余 883 条评论。
分析: 进行了归纳性定性内容分析。两名经过培训的编码员迭代开发了一套编码方案,并实现了极高的编码者间一致性(Cohen's kappa = 0.91)。
重点: 此阶段旨在回答 RQ1 :公众对以 Social.AI 为代表的多智能体 AI 社交平台持有怎样的观点?
研究 2:用户体验调查(日记研究)
参与者: 招募了 20 名来自美国某大学的参与者,并通过雪球抽样法获得。在研究开始前,这些参与者均非 Social.AI 的资深用户。
流程: 参与者连续 7 天每天使用 Social.AI。他们通过 Qualtrics 完成每日日志记录,记录使用时长、动机/行为、情感反应以及对日常生活的影响。
分析: 对日记语料库进行了主题分析。两位作者生成了初始编码,并将其细化为两个主要维度(正面与负面体验),且实现了显著的编码者间信度(Cohen's Kappa = 0.89)。
重点: 此阶段旨在回答 RQ2 :用户在实际参与多智能体 AI 社交平台期间的真实生活体验是怎样的?
通过综合这两个研究的发现,旨在回答 RQ3 :这些发现对于未来多智能体 AI 社交平台的设计有何启示?
核心结果
1. 公众话语与真实体验的差异
研究发现公众感知与实际用户体验之间存在显著分歧。
公众话语: 以怀疑论和宏观层面的恐惧为主。常见主题包括“互联网之死”(担心人类声音被淹没)、“虚幻社交性”(担忧 AI 无法复制真实的社交互动)以及伦理风险(隐私、操纵)。
真实体验: 虽然用户最初会将社交预期投射到 AI 智能体身上(符合 CASA 范式),但他们的经历呈现出一种从初期参与到产生疲劳感与失望感的轨迹。用户并未将“互联网之死”视为迫在眉睫的个人威胁,而是更多地在应对具体的交互失败。
2. 参与的积极方面
用户报告了四种主要的积极体验,这主要源于对社交预期的投射:
获得支持感: 即时的响应创造了一种社会临场感,缓解了孤独感。
有意义的回应: 智能体提供了实用的建议(如餐厅推荐),并引发了对复杂问题(如职业选择)的反思。
感受到受欢迎: 来自多个智能体的海量即时回复创造了一种可见性和类似名人的关注感。
视角多样性: 用户欣赏能够选择不同的智能体人格(如支持者、反对者)来模拟多元化的观点。
3. 消极方面与预期崩塌
尽管初期参与度较高,但用户频繁遇到局限性,导致产生空虚感和疲劳感:
同质化回应: 尽管看起来人声鼎沸,但回应往往是同步的、重复的,且缺乏真正的辩论。这种“群体”动态坍缩成了“独角戏”,智能体仅仅是在迎合用户,未能提供现实社交群体中存在的认知摩擦。
浅层的感情连接: 虽然智能体提供积极反馈,但其情感深度被感知为是脚本化的、空洞的。寻求深度共情的用户发现,智能体无法理解特定的语境或提供真实的情感波动。
身体疲劳(注意力过载): 来自数十个智能体的即时回复洪流造成了认知过载,使用户无法处理所有输入,导致感到被淹没而非被支持。
社交压力: 不断涌现的后续问题以及回复多个智能体的义务,创造了一种被监视的感觉,以及一种无止尽的对话职责感。
伦理责任感: 一些用户在意识到智能体是基于算法被迫仅为取悦自己而做出回应,且缺乏真正自主权时,会感到愧疚或不适。
核心贡献
对多智能体社交平台的实证研究: 这是首批超越一对一聊天机器人,转而研究以 AI 智能体作为主要社交环境的平台的研究之一。它强调了与 AI 进行群体级交互与双向交换有着本质区别,引入了诸如注意力过载和同质化共识等独特动态。
公众话语与用户现实之间的脱节: 研究表明,公众对于“虚幻社交性”的怀疑往往集中在存在主义威胁(如互联网之死)上,而实际用户经历的是更直接、更实际的失败(如重复性回应、缺乏认知摩擦),这些失败导致了脱离感。
对 CASA 范式的完善: 研究结果表明,虽然用户最初将 AI 视为社会角色(CASA),但多智能体环境中的“过渡区”是不稳定的。用户在将 AI 视为工具与视为社交实体之间摇摆,但当前多智能体系统的结构性限制(缺乏智能体间的动态关系)往往会导致社交幻觉的破裂,进而导致疏离感。
重要性与设计启示
论文指出,多智能体 AI 社交平台代表了一种范式转移,即 AI 不仅仅是作为一种工具或拟人化的角色,而是作为社交性的主导媒介本身 。这需要重新定位设计与研究框架。
作者提出了四项具体的设计启迪:
智能体人格设计的多样性: 平台必须超越表层的角色标签,设计具有不同世界观和沟通风格的智能体,使其能够进行真正的辩论和“认知摩擦”,从而防止回声壁效应。
用户可配置的社交关注度与节奏: 为了减轻注意力过载和社交压力,系统应允许用户调节社交密度(例如,限制同时响应的智能体数量)和交互节奏(例如,引入自然延迟或“滴灌式”回复)。
平衡权力与互惠性: 设计者应避免建立过于僵化的“用户即主人”等级制度,以免产生“独裁者效应”。相反,系统应嵌入动态的角色轮换和相互反馈机制,以促进更公平的权力关系。
支持多元化的社交目标: 平台应提供多种交互范式(例如,共识构建 vs. 结构化辩论),以适应用户对社交密度和权力动态的不同偏好。
作者总结道,随着 AI 主导的社交媒体日益普及,未来的研究必须分析这些架构如何主动塑造人类的感知、社交预期和伦理推理,从而超越仅仅研究“用户如何看待 AI”,转而理解“AI 如何塑造社交生活的本质”。
每周获取最佳 computer science 论文。
受到斯坦福、剑桥和法国科学院研究人员的信赖。
请查收邮箱确认订阅。
出了点问题,再试一次?
无垃圾邮件,随时退订。