Position: AI Must Become Planet-Centered, Not Just Human-Centered
本立场文件主张实现从以人为中心向以行星为中心的人工智能（PCAI）的范式转变，这是一种基于系统思维的设计哲学，旨在将人工智能重新定向于行星社会-生态稳定性，以防止在当前深度不确定性的条件下加剧系统性风险。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
核心理念：我们需要更换 GPS
想象你正在开车。在过去的十年里，AI 社区一直在制造一个非常智能的 GPS。这个 GPS 的设计目标是确保汽车不会撞到行人、不会迷路，并让驾驶员尽可能快地到达目的地。这被称为以人为中心的 AI（Human-Centered AI）。这对驾驶员来说很棒，但本文认为，对于我们生活的世界来说，这还远远不够。
作者 María Pérez-Ortiz 说，我们的星球就像一个巨大的、复杂的生态系统，其中一切都是相互连接的——就像一张巨大的、活生生的网。如果你拉动其中一根线，整张网都会震动。现在，我们的“以人为中心的 GPS”只关注驾驶员。它没有看到，为了更快赶到工作岗位而加速可能会导致交通拥堵，从而阻碍消防车通行；或者汽车的尾气正在慢慢毒化驾驶员十年后呼吸的空气。
该论文提出了一种新的哲学，称为以地球为中心的 AI（Planet-Centered AI, PCAI）。我们不应只问：“这对人类用户有好处吗？”而必须问：“这对整个生命之网，无论是现在还是未来，都有好处吗？”
为什么旧的方法行不通：“棘手问题”陷阱
论文解释说，我们今天面临的许多重大挑战（如气候变化或生物多样性丧失）都是**“棘手问题”（Wicked Problems）**。
- 驯服问题（旧的方法）： 想想拼图或数学方程。你知道规则，知道目标，一旦解决，任务就完成了。目前的 AI 非常擅长处理这类问题。
- 棘手问题（新的现实）： 想象你在试图解开一个结，而另一个人正在另一端用力拉扯，且这个结的形状一直在变化。
- 没有明确的目标： 每个人对“解决”的标准都有分歧。
- 没有安全的实践空间： 你不能只是“尝试并失败”，因为错误可能是永久性的（比如冰盖融化）。
- 万物皆有关联： 修补一个东西往往会破坏其他地方的某些东西。
论文指出，目前的 AI 是为“驯服问题”而构建的。当我们强迫它去解决“棘手问题”时，它往往会在我们意识到之前，就在不知不觉中让情况变得更糟。
当前 AI 出错的三种方式
1. “效率陷阱”（反弹效应）
想象你买了一个超级高效的吸尘器，它的耗电量只有原来的一半。你会想：“太棒了，我在节省能源！”但因为使用起来既便宜又方便，你开始每天把整个房子吸尘三次，甚至还为车库买了一个第二台。最终，你使用的能源反而比以前更多了。
论文称之为**“反弹效应”（Rebound Effect）**。AI 通常会让事情变得更高效（比如驾驶汽车或耕作），但因为变得更便宜、更方便，我们做的这类事情就更多了，从而实际上对地球造成了更大的伤害。目前的 AI 看不到这一点，因为它只计算每英里的节能量，而不计算额外行驶的里程。
2. “盲点”
目前的 AI 就像一个镜头非常狭窄的相机。它只能看到正前方的东西。
- 例子： 一个旨在阻止偷猎行为的 AI 可能在识别动物方面表现出色。但论文指出，这个 AI 也可能被用来监视当地的原住民，使他们不敢参与保护工作。这个 AI 在“成功”识别偷猎者方面表现出色，但在“社区信任”这一大局面上却失败了。
- 论文提到，AI 伦理通常只关心人类用户，忽略了植物、动物和土壤。但如果土壤死亡，人类也会随之死亡。
3. “水晶球”问题
AI 擅长基于过去来预测未来（比如因为昨天下了雨，所以预测今天也会下）。但在一个不断变化的世界里，过去并不代表未来。
- 类比： 想象你试图用一百年前的海图来导航航船。洋流已经改变，出现了新的岛屿，风暴也变得不同了。
- 论文指出，AI 往往表现得像一个只展示“一种可能未来”的水晶球。但在一个复杂的世界里，存在着许多种可能的未来。我们需要能够帮助我们“探索”不同可能性的 AI，以便我们做出更好的选择，而不是仅仅预测一种结果。
解决方案：以地球为中心的 AI (PCAI)
论文建议我们需要从底层重新设计 AI 的构建方式。以下是其具体含义：
- 绘制完整的网络图： 在构建 AI 之前，我们必须绘制一张它如何与一切事物（人、自然、经济）相连的地图。我们需要问：“如果我们这样做，鱼会怎么样？农民会怎么样？50 年后会发生什么？”
- 不要试图“优化”一切： AI 不应仅仅寻找单一的“最佳”答案，而应该向我们展示权衡（trade-offs）。“如果我们做 X，会省钱但会伤害河流。如果我们做 Y，会保护河流但成本更高。”它应该帮助人类进行辩论和决策，而不是直接替我们做决定。
- 长期观察： 我们需要在开启 AI 后持续观察。如果 AI 开始引发问题（比如让人们开车次数变多），我们需要一种可以按下“撤销”键或改变航向的方法。
- 保持谦逊： 论文承认我们无法预测一切。因此，AI 应该是理解复杂系统的工具，而不是控制复杂系统的工具。
重大警告（可证伪的断言）
论文以一个大胆且可测试的断言结束：
“如果我们构建的 AI 系统只关心速度、成本或效率，而不考虑它们如何震动整个系统，那么它们很可能会让世界最大的问题变得更加严重，而不是更好。”
这就像是给一辆没有刹车也没有方向盘的汽车装上了强力引擎。它会跑得很快，但最终会撞车。论文希望我们在踩油门之前，先安装好刹车和方向盘（即系统思维）。
总结
这篇论文并不是在说 AI 很坏。它是在说我们目前看待 AI 的方式太狭隘了。我们把 AI 当作人类的工具，但我们生活在一个人类只是庞大且脆弱系统中的一部分的星球上。为了在未来生存下去，我们需要能够尊重整个系统的 AI，而不仅仅是尊重用户。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。