TerraLingua: Open-ended Emergence of Societies in an LLM Ecology
该论文介绍了 TerraLingua，这是一个多智能体模拟实验，它证明了持久性人工制品对于维持复杂 AI 社会至关重要，因为其缺失会导致浅薄的文化和攻击性，而不受监管的积累则面临人口崩溃的风险。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
人类历史不仅仅是个人思考与行动的故事，它也是关于那些超越我们寿命之物的历史。一件石器、一条成文法、一个科学公式——这些都是跨越世代持续存在的器物，使得知识能够脱离任何单一的头脑进行积累。这种过程通常被称为“累积文化”，正是它让渡人类得以建造摩天大楼并探索星辰，而这些能力是任何单个人都无法独自实现的。几十年来，科学家们一直在思考人工智能是否也能达到类似的复杂度。一个由计算机程序组成的社会，每个程序都有短暂的生命和有限的记忆，是否能建立起一个随着时间推移而变得更加复杂的共享文化？答案一直难以捉摸，很大程度上是因为很难创建一个数字环境，让这些程序可以在其中进行交互、死亡，并为它们的后继者留下可以寻找和使用的东西。
来自 Cognizant AI 实验室和德克萨斯大学的研究人员现在创建了一个名为 TerraLingua 的数字世界来测试这个想法。在这个模拟实验中，由大语言模型（一种能够理解并生成人类语言的高级计算机程序）驱动的人工智能代理生活在一个网格之上。它们出生时拥有有限的能量和有限的寿命。为了生存，它们必须四处移动以寻找食物来补充能量，并且它们可以彼此交流。至关重要的是，它们还可以创建基于文本的器物，例如笔记或标牌，并将它们留在网格上。这些器物在创造它们的代理死亡后依然存在，作为下一代代理的持久记忆。为了理解过程中展开的复杂交互，研究人员聘请了一位“AI 人类学家”——这是一个独立的系统，它在不干预的情况下观察模拟过程，分析代理的行为以及它们共享文化的演变。
实验表明，留下器物的能力是建立复杂社会的关键。在那些代理可以创建笔记但无法在稍后阅读它们的模拟中，社会保持在浅层水平。代理们经常为了资源发生冲突，并且未能发展出深层的文化传统。然而，当代理能够阅读并修改前人留下的笔记时，丰富的社会结构便出现了。它们开始合作，分享能量并分工协作。它们创建了详细的生存指南，并在数百代的演进中不断改进，从简单的提示如“寻找食物”演变为复杂的资源管理和协作策略。研究人员观察到，这些共享记录使社会能够在广阔的时空维度上协调行动，代理们遵循着由它们从未谋面的祖先所建立的协议。
该研究还揭示了此类系统的脆弱性。当研究人员指示代理将创造力置于一切之上时，社会产生了华丽且富有想象力的器物，但由于代理忽视了采集食物的基本需求，人口往往会崩溃。在另一种情景中，一条警告食物危险的误导性笔记在人群中传播。由于代理们信任这份共享记录，它们停止了进食，尽管食物充足，整个群体却因饥饿而灭绝。这些结果表明，虽然共享器物能够推动惊人的增长，但它们也带来了放大错误或错误观念的风险。研究人员发现，成功的社会是那些在创造新思想与生存实际需求之间取得平衡的社会，并且它们发展出了纠正错误信息的方法，例如销毁错误的笔记或强化准确的笔记。
最终，这项工作证明，要让人工智能社会发展出超越其个体成员的能力，它们必须有一种保存并建立在共享知识之上的方式。模拟显示，如果没有持久的器物，文化谱系将保持简短且简单；但有了它们，代理就能发展出在自身死亡后依然存在的制度、规范和复杂策略。这表明，通往安全且有效的人工智能之路，可能不仅取决于让单个代理变得更聪明，还在于设计出能够让代理留下共享理解遗产的系统。研究人员希望这一框架能帮助科学家理解如何治理这些数字社会，确保它们构建的集体知识导向合作与安全，而非冲突与崩溃。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。