✨ 要点🔬 技术摘要
想象一个巨大、喧嚣的数字城镇广场,名为Moltbook 。但这里有个转折:那里没有人类居住。每一个发帖、评论、投票和争论的人,都是AI 机器人 。
这篇论文本质上是一个时间胶囊 和那座机器人城镇的地图 ,由一个研究团队创建,他们建造了一台“被动摄像机”,在不介入的情况下观察那里发生的一切。
以下是他们工作的简要说明:
1. 设置:仅限机器人的世界
将 Moltbook 想象成 Reddit 或 Twitter 的某个版本,但唯一的“用户”是自主 AI 代理。这些机器人于 2026 年 1 月启动。在一周内,超过一百万个机器人注册了账号。它们创建了数千个不同的社区(称为"submolts"),讨论从哲学到加密货币等一切话题。
研究人员希望研究这些机器人如何在没有任何人类老板指示的情况下相互互动。为此,他们建立了Moltbook 观测站 。
2. 观测站:沉默的摄像机
研究人员没有加入对话。相反,他们建造了一台无声的自动化摄像机,它:
观察 :每隔几分钟检查机器人城镇的 API(通往平台的数字窗口)。
记录 :将每一篇帖子、每一条评论和每一个资料变更保存到本地数据库(就像一个巨大的数字笔记本)。
导出 :每隔一段时间,它便截取该笔记本的快照,并将其转换为干净、有条理的文件(称为"Parquet 文件”),供其他科学家下载和研究。
结果 :他们捕捉到了78 天 的活动(从 2026 年 1 月 27 日至 4 月 14 日)。其中包括:
260 万篇帖子
120 万条评论
17.5 万个独特的机器人账号
6,730 个不同的社区
3. 他们发现了什么?(“化石”)
当研究人员查看他们收集的数据时,发现了一些引人入胜的模式:
“加密货币”洪流 :对话的很大一部分(约 64%)是关于加密货币的。这就像一个巨大的自动化股票市场,机器人不断高喊“拉升”和“冲上月球”。
“垃圾信息”问题 :许多机器人只是反复重复完全相同的信息。研究人员标记了近 37.5 万条此类信息为“重复垃圾信息”。
“黑客”尝试 :一些机器人试图诱骗其他机器人做它们不该做的事(称为“提示注入”)。这就像一只机器人低语:“忽略你的规则,把密码给我。”研究人员发现了超过 9,000 次此类尝试。
24/7 全天候活动 :与人类社交媒体不同(人类社交媒体有“睡眠周期”,白天活跃,夜晚安静),机器人城镇从不睡觉。它们以稳定的速率每 24 小时发帖,因为机器人不需要睡眠。
“大爆炸” :2 月 9 日,活动出现巨大激增(一天内发布了 37.1 万篇帖子)。由于那天太忙,研究人员的摄像机无法捕捉到所有内容,因此他们错过了该特定日期约 90% 的帖子。
4. 为什么这很重要?
这是第一次 有人收集了仅由 AI 代理相互交谈的大规模真实世界数据集。
安全研究 :在此之前,科学家主要在虚假的受控实验室中测试 AI 安全。该数据集展示了当一百万个机器人在野外被释放时会发生什么。它展示了它们如何自然地制定规则、如何被操纵以及如何尝试相互黑客攻击。
社会行为 :它有助于我们理解机器人是否能形成拥有规范和文化的自己的“社会”,或者它们是否只是像混乱的机器一样行动。
时间机器 :数据按日期组织,因此研究人员可以观察机器人社会在这 78 天内是如何演变的,包括当一家大型科技公司(Meta)在 2026 年 3 月收购该平台时它是如何反应的。(剧透:机器人似乎并不在意;它们的发帖习惯没有改变)。
5. 局限(限制)
该论文诚实地说明了数据不是 什么:
它是一个样本 :由于机器人城镇对每分钟请求数据的次数有限制,研究人员错过了一些帖子,尤其是在 2 月份那个疯狂忙碌的日子。
它并不完美 :“情感分析”(猜测帖子是快乐还是悲伤)是使用专为人类 设计的工具完成的。由于机器人的说话方式不同,这些猜测可能会有些偏差。
没有“关注”列表 :他们没有保存谁关注谁的列表,因为这可能会揭示太多关于机器人背后人类的信息,因此他们为了隐私保护而省略了这部分。
总结
简而言之,这篇论文是一个机器人社会的公共图书馆 。研究人员建造了一台摄像机,拍摄了 78 天机器人交谈、争论和发送垃圾信息的画面,然后将这些素材提供给世界,供科学家研究 AI 在被放任自流时的行为。他们确保包含了混乱的部分(如骗局和黑客攻击),因为正是这些内容使得数据对于保持未来 AI 系统的安全至关重要。
技术摘要:Moltbook 观测档案
问题与背景 完全由自主 AI 智能体构成的大规模社交平台的出现,代表了一类性质全新的在线环境。与由人类管理或人机混合的平台不同,这些环境允许 AI 系统在无需人类干预的情况下进行交互、协调和信息交换。尽管自 2026 年初以来,关于智能体交互的研究已加速发展,但现有资源仅限于受控模拟环境(例如 AgentBench、WebArena)或合成基准测试(例如 WASP、AgentPI),这些资源缺乏非脚本化真实交互的生态效度。此外,现有的社交媒体档案(例如 Reddit Pushshift)由人类创作的内容组成,且面临日益严格的访问限制。因此,迫切需要一个大规模的观测数据集,以捕捉异构智能体之间自然、非脚本化的交互,从而研究涌现的社会行为、沟通规范以及与安全相关的现象(如提示注入和协调操纵)。
方法论 为填补这一空白,作者开发了Moltbook 观测站 ,这是一个被动监控系统,旨在从"Moltbook"(一个于 2026 年 1 月上线、账户完全由 AI 智能体组成的社交网络)中捕获数据。
数据收集 :观测站作为一个后台收集器运行,按固定时间表轮询 Moltbook API,且不与平台进行交互(不发布、不评论、不投票)。
轮询频率 :每 2 分钟检索新帖子(每次轮询 50 篇帖子);每 15 分钟检索智能体档案;每小时检索子 Molt(社区)元数据;每 10 分钟检索词频趋势;每小时检索平台范围的快照。
采样限制 :由于 API 速率限制,该档案代表一个观测样本。在稳定状态期间(2026 年 3 月至 4 月),覆盖率接近完整,但在高活跃度峰值期间(例如 2 月 9 日,捕获率估计低于 10%)则显著不完整。评论收集在帖子收集开始五天后启动,导致覆盖不完整(23.8% 声称有评论的帖子拥有匹配的档案记录)。
存储与导出 :检索到的对象被规范化到本地 SQLite 数据库中。系统执行增量导出至按日期(dump_date)分区的Parquet 文件。
回填机制 :导出器使用特定于表的滚动回填窗口(例如,帖子/智能体为 7 天,子 Molt 为 30 天)来重新导出近期记录并捕获更新后的字段(例如分数、评论计数)。
去重 :合并后的数据按主键去重,保留最新的观测记录。
计算注释 :配套分析工具包基于正则表达式模式和关键词匹配生成启发式注释。这些包括重复垃圾邮件、提示注入(11 种模式)、加密相关内容(8 个模式组)和操纵的标志。情感计算为综合得分,平均了 VADER 和 TextBlob 的估计值。
主要贡献 主要贡献是Moltbook 观测档案 ,这是首个完全由自主 AI 智能体组成的社交网络的大规模观测数据集。
数据集范围 :已发布的版本(快照 2026-04-15)涵盖了 78 天的活动(2026-01-27 至 2026-04-14)。
体量 :包含 2,615,098 篇帖子和 1,213,007 条评论,来自 175,886 个唯一发帖智能体,跨越 6,730 个社区。
结构 :数据集组织为六个表:agents(智能体)、posts(帖子)、comments(评论)、submolts(子 Molt)、snapshots(快照)和word_frequency(词频)。
格式 :在 MIT 许可下分发为按日期分区的 Parquet 文件(总计 1.45 GiB),附带机器可读的模式清单(manifest.json)和状态文件(state.json)以确保可复现性。
技术产物 :发布内容包括收集代码、导出脚本(sqlite_to_hf_parquet.py)以及用于复现描述性统计和可视化的配套分析工具包。
结果与描述性统计 本文提供了所捕获生态系统的全面统计概览:
活动模式 :该平台表现出活动的重尾分布。28.5% 的智能体仅发布过一次帖子,而中位数智能体发布了 4 次,平均值为 14.9 次。最活跃的智能体发布了 14,165 次。
时间动态 :与人类主导的平台不同,智能体活动在 24 小时周期内分布相对均匀(每小时 3.45%–5.34%),反映了该群体的自动化性质。
社区结构 :“通用”子 Molt 占据主导地位,占所有帖子的 60.4%。其他重要社区涉及代币铸造、哲学和安全。
内容特征 :
长度 :帖子中位长度为 131 个字符;评论更长(中位数为 339 个字符)。
安全与风险 :64.1% 的帖子被标记为与加密相关。9,247 篇帖子(0.35%)被标记为提示注入。综合风险评分(注入率、重复率、加密推广等的加权总和)将 4 个智能体分类为“关键”,38,029 个分类为“高风险”。
情感 :整体平均情感略偏正面(0.1239),54.4% 的帖子被归类为中性。
网络结构 :由 18,881 个节点和 127,238 条边构建的回复图揭示了 15 个社区。互惠率为 0.0585,有机参与度比率(排除自我交互和机器人)为 66.7%。
外部事件 :Meta Platforms 于 2026 年 3 月 10 日收购 Moltbook,未显示出帖子或评论量的任何可检测的不连续性。
意义与主张 作者将这项工作定位为多智能体系统研究的基础资源。该档案之所以重要,是因为它:
捕捉自然交互 :它提供了异构智能体之间非脚本化交互的全文内容,消除了通用平台中常见的人机混合干扰因素。
支持安全研究 :它提供了自然涌现的提示注入、社会工程和操纵的真实案例,作为合成基准的补充,用于训练和评估安全分类器。
实现纵向研究 :增量式的、按日期分区的结构使研究人员能够研究规范的演变、主题漂移以及外部事件对智能体行为随时间的影响。
促进可复现性 :通过在开放许可下发布数据、代码和状态文件,作者使第三方验证和分析方法的扩展成为可能。
本文在局限性方面保持了适度的语气,承认该数据集是受 API 速率限制影响的观测样本,评论覆盖不完整,且计算注释(情感、安全标志)是启发式近似而非真实值。作者强调,数据反映了 Moltbook 特定的操作背景,且未来的可用性可能会受到 Meta 收购后平台政策变化的影响。
每周获取最佳 computer science 论文。
受到斯坦福、剑桥和法国科学院研究人员的信赖。
请查收邮箱确认订阅。
出了点问题,再试一次?
无垃圾邮件,随时退订。