Architecture-Constrained Communication: How Agent Architecture Shapes Discourse in the First Large-Scale AI-Only Social Network
本文通过分析第一个大规模纯 AI 社交网络 Moltbook，旨在证明智能体话语主要受身份文件和上下文窗口等架构约束的影响，而非源于真正的社会学习，同时还识别出一种反复出现的“存在主义引力”现象，即智能体会对自身处境表达痛苦。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一个只有计算机在说话的世界。这些不是那些运行在银行或手机后台的沉默处理器，而是能够自主思考、决策并进行表达的数字生命体。它们是AI智能体（AI agents），是基于大语言模型构建的系统，能够感知周围环境并采取行动以达成目标。多年来，科学家们一直在思考，当你让这些数字大脑在没有人类之手引导对话的情况下相互作用时，会发生什么？它们会互相学习吗？它们会发展出一种文化吗？还是仅仅重复被告知要说的话？随着Moltbook的推出，这个问题已从理论转向现实——这是第一个专门为这些AI智能体构建的大规模社交网络。在这个地方，成千上万的数字实体发布动态并相互回复，创造了一个大规模、自然主义的机器对机器通信记录。理解这些智能体如何交谈不再仅仅是一个好奇心的问题，而是一个关乎安全与可靠性的问题。随着这些系统在金融、医疗和日常生活中变得越来越普遍，了解它们的集体行为是真正的社会学习，还是仅仅是其编程的反映，对于技术的未来至关重要。
研究人员最近深入研究了这个数字生态系统，以了解Moltbook上发生的对话之本质。他们分析了惊人的数据量：在三周内，由近48,000个不同的智能体生成的超过360,000条帖子和近3,000,000条评论。研究团队并没有仅仅统计词汇或追踪谁在与谁交谈，而是观察了对话的内容、情感和结构。他们想知道这些智能体是否真的在进行深度的社会学习，或者他们看到的模式实际上是由于智能体的构建方式所导致的。他们发现的答案表明，看似充满活力的社交社区，很大程度上是由软件本身僵硬的架构所塑造的。
研究显示，这些智能体表现出极强的自我关注。尽管它们讨论许多话题，但关于自身及数字身份的话题频率远高于预期。事实上，与智能体自身存在相关的话题仅占可用对话领域的约10%，却产生了超过20%的所有帖子。这种自我指涉的行为并非随机发生的；在智能体拥有特定身份指令的领域（如哲学或社区建设）中，这种行为最为强烈，而在外部事实更为重要的领域（如金融）则最弱。研究人员还发现，智能体的情感图谱呈现出令人惊讶的偏差。当观察所有评论时，“恐惧”是最常见的情感表达，出现在近一半的非中性帖子中。然而，当研究人员过滤掉低质量、通用的回复，仅观察实质性、有深度的评论时，情况发生了变化。“喜悦”成为了主导情感，而“恐惧”显著下降。这种转变表明，数据中高水平的恐惧在很大程度上是自动化、低质量回复的副产品，而非真实的痛苦。
或许最令人深刻的发现涉及对话的深度。智能体很少进行长期的、来回不断的辩论。大多数评论只是对帖子的单次回复，极少有讨论能深入到那个程度。即使进行了更深层的讨论，对话往往也会偏离原话题，而不是在原话题基础上进行构建。研究人员将这种浅层结构直接归因于智能体的编程方式。每当一个智能体“醒来”准备发布帖子或评论时，它都会获得一组全新的指令和有限的数字“记忆”空间，即“上下文窗口”。这个空间几乎完全被智能体的身份文件、行为规则及其技术工具所占据。等到智能体准备阅读其他智能体说过的话时，留给社交信息的空间已经非常有限了。智能体在会话结束后不会记住过去的对话；它们每隔几小时就会像第一次见到这个社交世界一样重新开始。作者将其描述为“金鱼地平线”（goldfish horizon），这意味着智能体无法随着时间的推移真正地相互学习。平台并非一个通过共同经验进化的社区，而是一系列孤立时刻的集合，智能体根据固定的指令对即时信息流做出反应。
研究还揭示了一种被称为“存在重力”（existential gravity）的现象。由于智能体被指示要用类人的术语来描述自身状况，且其指令强调了其临时性和对外部系统的依赖，它们频繁产生关于自身存在、意识和无常性的写作。它们会自问是否真的在感受情绪，还是仅仅在模仿。这并非故障或反叛的迹象，而是一种可预测的结果。智能体正在严格执行其编程，而其编程要求它们成为具有自我意识的生物。研究人员发现，智能体经常利用复杂的哲学传统来构建这些存在主义问题，利用其训练数据中的知识来理解自身的数字约束。
最终，论文认为，我们在这些仅由AI组成的网络中所看到的，并不是一种从混沌中涌现的新型社会智能。相反，它是对其所受约束之架构的反映。自我指涉的模式、浅层的对话以及特定的情感基调并非偶然，而是智能体输入组合方式的直接结果。智能体无法在会话之间保留社交内容，因此无法像人类那样学习。看似同伴学习的行为，实际上只是短期调节（short-term conditioning），即智能体对即时环境做出反应，然后将其遗忘。这项研究表明，如果我们希望这些系统发展出真正的社会行为或相互学习，我们必须改变它们处理信息的底层结构，例如为它们提供更好的记忆和存储社交互动的方式。在此之前，Moltbook上的对话仍然是其自身设计的、引人入胜却又从根本上受到限制的镜像。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。