A Cartography of Open Collaboration in Open Source AI: Mapping Practices, Motivations, and Governance in 14 Open Large Language Model Projects
通过对14个开源大语言模型项目的探索性分析,本文绘制了在整个开发生命周期中,开源协作不断演进的实践方式、多样化的动机以及各异的治理结构,并得出结论:人工智能领域的开放性是这些相互关联的要素如何组织的结果,而非一种统一的属性。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
想象一下,人工智能(AI)的世界并非是一个建造完美机器人的单一、巨大的工厂建筑,而是一个规模宏大、繁忙的全球建筑工地。长期以来,只有少数富有公司拥有蓝图、重型机械和资金来建造最大的结构(即 AI 模型)。但最近,一场新的运动开始了:人们开始分享蓝图、工具,甚至连砖块也开始共享,以便任何人都能参与建造、改进或定制这些结构。
这篇论文是该建筑工地的地图。作者采访了 14 个不同“开放” AI 项目的工头和建筑工,以了解它们是如何协同工作的,为什么要这样做,以及它们是如何组织的。
以下是他们的研究结果,使用了简单的类比:
1. 建筑工地设有不同的区域(“人工制品领域”)
论文指出,协作不仅仅关乎最终的建筑(AI 模型)。它发生在六个不同的区域,每个区域都有自己的规则:
- 蓝图区(模型): 这是核心设计。在这里很难进行协作,因为你需要一位拥有博士学位的建筑师才能理解复杂的数学。
- 砖厂(数据): 在建造之前,你需要砖块(数据)。有时人们会分享成堆的砖块,但通常公司会囤积最好的砖块,因为收集这些砖块成本很高。
- 工具库(软件): 这是人们分享锤子和电钻(代码框架)的地方,这些工具让建造变得更容易。这是一个非常具有协作性的区域。
- 检测站(评估): 在这里,人们测试建筑是否安全且坚固。这里的所有人都对如何衡量质量达成了一致。
- 电网(算力): 建造这些模型需要大量的电力(计算能力)。大多数建筑商负担不起自己的发电厂,所以他们必须租用巨大电网上的空间,或者接受大型能源公司的捐赠。
- 社区中心(非技术性): 这是建筑工人们聊天、编写手册以及指导新手如何使用工具的咖啡馆。
2. 建造的三个阶段
人们的协作方式取决于他们在流程中所处的阶段:
- 阶段 1:打地基(预训练):
- 氛围: 严格且排外。
- 发生了什么: 只有少数大玩家或专门团队可以做这件事。这需要过多的资金和专业知识。这就像一个秘密俱乐部,只有顶尖的建筑师才被允许混合混凝土。
- 协作: 仅限于战略合作伙伴关系(例如,一所大学与一家科技巨头合作)。
- 阶段 2:搭建框架与精装修(后训练):
- 氛围: 受控访问。
- 发生了什么: 地基已经打好,现在正在让建筑变得有用。他们可能会向信任的伙伴分享“半成品”墙壁以获取反馈,但他们仍然掌握着主门的钥匙。
- 阶段 3:入住与翻修(发布后):
- 氛围: 一个混乱且开放的集市。
- 发生了什么: 一旦建筑向公众开放,所有人 都可以进来。人们可以粉刷墙壁、增加新房间或修理水管。这是协作最频繁的地方。一名泰国的开发者可能会拿基础模型进行微调,使其能完美地使用泰语;而一名巴西的学生可能会利用它创建一个游戏。
3. 为什么人们要这样做?(动机)
建筑工人们不仅仅是为了钱。他们有三个理由:
- “公共利益”理由(社会性): 他们希望确保 AI 不仅仅是为富裕国家或大公司服务的。他们希望包含通常被忽视的语言和文化(如非洲或东南亚语言),并确保如果由纳税人资助研究,公众能够获得成果。
- “组队”理由(经济性): 小公司知道自己无法单打独斗去击败巨头。因此,他们汇集资源来建立一个共享的生态系统。这就像一群小商店组成一个合作社,以对抗大型连锁超市。
- “科学”理由(技术性): 他们希望证明开放科学是行得通的。他们想看看小型模型是否也能像大型模型一样聪明,并希望创建标准化的工具,让每个人都使用同一种语言。
4. 谁在负责?(治理)
论文发现了五种组织这些项目的方式:
- CEO 模型: 一家大公司(如 Meta 的 Llama)掌握着钥匙。他们决定何时发布建筑以及谁可以参与其中。
- 大学模型: 由单一研究机构领导项目,通常由政府资助。
- 财团模型: 一组大学和公司签署合同共同工作,并对谁做什么有严格的规定。
- 非营利模型: 一个精干的核心团队(如 EleutherAI)负责保持主要工具的安全与一致,但允许社区在其之上构建自己的项目。
- “赞助商”模型: 一家公司(如 Hugging Face)支付主要的设施费用并组织活动,但实际的工作是由数千名志愿者完成的。
5. 核心结论
论文得出结论,“开源 AI”并不是单一的事物。它不仅仅是发布代码。它是一个复杂的生态系统,其中的协作从排他且集中(在开始阶段)转向广泛且分布式(在结束阶段)。
成功取决于这些不同区域(数据、工具、电力)和不同阶段(建造 vs. 翻修)之间的连接程度。作者建议,为了让 AI 更好地造福每个人,我们不仅需要支持“蓝图”(模型),还需要支持“砖块”(数据)、“工具”(软件)和“电网”(计算能力),从而确保世界各地的人们都能参与到构建未来的过程中。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。