Pathways to AGI
本文通过剖析关于历史路径、决策节点和模型轨迹的五个关键问题，批判性地审视了当前人工智能发展背后的社会政治与经济偶然性，旨在为“通用人工智能”这一概念提出透明且可持续的替代方案。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
以下是 Fletcher 和 Vu Khan 所著论文《通往通用人工智能（AGI）的路径》的通俗解读，辅以日常类比。
宏观图景：这不仅仅是关于“聪明”的机器人
想象一下，你正在观看一场争夺“世界上最智能机器人”的竞赛。大多数人认为，获胜者将是拥有最大大脑或最快处理器的选手。
但这篇论文认为，这场竞赛实际上并非关乎谁的机器人最“聪明”。相反，关键在于谁铺设了赛道、谁拥有起跑线，以及谁制定了比赛规则。
作者指出，我们今天看到的所谓“通用人工智能”（AGI），并非自然发生的科学发现。它是受资金、商业交易、法律合同以及一小群人的个人经历所塑造的特定产物。他们将此称为“关键路径分析”——即通过审视我们如何走到今天的历史，来观察哪些门被打开，哪些门被强行关闭。
1. 什么是 AGI？（不断移动的球门）
论文开篇指出，AGI 并没有单一的定义。这就像试图定义“一辆好车”：一个人说意味着“快”，另一个人说意味着“安全”，第三个人则说意味着“便宜”。
- 供应商定义：大型科技公司（如 OpenAI、Google、Microsoft）根据什么能让他们赚钱来定义 AGI。例如，OpenAI 表示，当 AI 能比人类更好地完成“具有经济价值的工作”时，就是 AGI。这就像一家汽车公司说：“当我们的车能比人类送披萨更快时，我们就有了完美的汽车。”
- 金钱定义：有泄露的文件表明，对于微软和 OpenAI 而言，AGI 可能直到该技术产生1000 亿美元利润时才会被宣布。这将 AGI 变成了一个财务目标，而非科学里程碑。
- 人类定义：论文认为，人类的“聪明”并非只有一种方式。我们拥有不同类型的智能（例如擅长数学、擅长理解情感、擅长修理东西）。目前的 AI 非常擅长一件事（交谈和写作），但在其他方面却表现糟糕。作者建议，我们应该寻找**“人工多重智能”（AMI）**——一个能够处理多种不同类型问题（而不仅仅是聊天）的系统。
2. “可行系统”类比
作者使用了一种名为可行系统模型（Viable System Model，源自 Stafford Beer 的理论）的理论，来解释为何目前的 AI 尚未真正具备“通用性”。
- 类比：想象一个人的身体。
- 双手（系统 1）：这是当前的 AI 模型。它们在打字、编程和总结文本方面速度快得惊人。它们是负责干活的“双手”。
- 大脑与神经系统（系统 2-5）：这些部分负责协调、安全、长期规划和伦理。
- 问题：目前的 AI 拥有超级快速的双手，但缺乏一个发育完全的神经系统。它不知道何时该停止，无法为明年做计划，也无法理解社会或法律的复杂规则。这就像一具拥有巨大、快速的双手，却没有大脑告诉它该去哪里或什么是有危险的身体。
- 结论：真正的“通用智能”不仅仅是一个聪明的模型；它是一个系统之系统，包括模型、规则、安全检查以及管理它的人员。
3. 五条路径（竞赛的故事）
论文考察了五大主要参与者，以及他们的特定历史如何塑造了他们的 AI。
- OpenAI（企业化转型）：最初是一个非营利研究实验室。但由于需要资金，他们转变为“有限利润”公司，并与微软合作。
- 转折点：他们决定将最好的模型保密（通过 API 提供）以赚取利润，而不是向全世界共享。这使他们变得富有且受欢迎，但也意味着为了赶产品截止日期，他们停止了对深层安全研究的关注。
- Anthropic（安全反叛者）：一群顶尖科学家因担忧安全问题而离开 OpenAI。他们创立了 Anthropic，旨在构建“可引导”且安全的 AI。
- 挣扎：他们试图为 AI 建立一套“宪法”（AI 遵循的一套规则）。但他们仍需要来自亚马逊和谷歌的数十亿美元资金来竞争。论文问道：当你急需投资者资金时，你能保持安全吗？
- Google（大器晚成者）：Google 发明了核心技术（Transformer），但因担心安全和声誉而未将其作为产品发布。
- 失误：他们等待了太久。等到他们发布 AI（Gemini）时，OpenAI 已经占领了市场。Google 现在正试图追赶，但他们“研究优先”的文化与快速推进的需求相冲突。
- xAI / Grok（变数）：由埃隆·马斯克创立。他们的路径由特定的政治叙事（“反觉醒”）和渴望超越所有人的速度所驱动。
- 风险：他们拥有巨大的分发优势（Twitter/X），并在创纪录的时间内建造了超级计算机。但他们几乎没有安全研究或治理机制。他们是“没有刹车的快车”。
- Microsoft（企业之王）：Microsoft 并没有建造最聪明的 AI；他们建造了最好的交付系统。他们将 OpenAI 的技术植入全球每一台办公电脑（Copilot）。
- 策略：他们专注于使 AI 足够安全，以便银行和医院可以使用。即使他们不是核心大脑的发明者，他们也在构建“治理”层。
4. “人的因素”（小圈子）
论文指出，整个 AI 行业由一个非常小且彼此相识的群体运营。
- "Google Brain"联系：几乎所有顶尖 AI 研究人员都始于 Google 的研究实验室。
- "OpenAI"联系：许多人离开 Google 加入了 OpenAI。
- "Anthropic"联系：随后，其中一大群人又离开 OpenAI 创立了 Anthropic。
- 结果：这是一个“旋转门”。同一小群人不断在公司间流动，带着他们的想法一起移动。这意味着该行业非常“封闭”——他们想法一致，使用相同的工具，却错过了不同的思维方式（例如生物学家或心理学家可能如何处理这个问题）。
5. 我们应该怎么做？（建议）
论文结论认为，当前的路径过于狭窄。我们将一切赌注押在几家试图盈利的公司身上。
- 不要只盯着比赛：我们需要资助不同类型的研究，而不仅仅是“最大模型”竞赛。我们需要研究 AI 如何理解不确定性、如何处理长期规划，以及它如何融入社会。
- 将 AI 作为公共事业：就像我们有公共供水和电力一样，AI 应被视为公共资源。它不应仅仅是富人的订阅服务。
- 主权 AI：各国需要确保自己对 AI 基础设施（计算机、数据、规则）拥有控制权，以免依赖单一的国外公司。
- 检查工作：我们需要独立的审计员来检查 AI 是否真正安全和智能，而不能仅仅让公司说“相信我们，我们是安全的”。
总结
这篇论文认为，AGI 并非我们仅仅在“发现”的目的地。它是我们要建造的一条路径。目前，我们建造的路径铺满了金钱，由少数公司控制，并专注于制造聊天机器人。
为了获得真正智能、安全且有用的 AI，我们需要停止将其视为消费品，转而将其视为一个复杂的系统，需要对其进行治理、审计，并为了所有人的利益（而不仅仅是股东的利益）而建造。我们需要拓宽道路，让不同类型的智能得以成长，而不仅仅是那些最能赚钱的类型。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。