AI Narrative Breakdown. A Critical Assessment of Power and Promise

以下是莱纳·雷哈克（Rainer Rehak）论文《AI叙事崩溃》（AI Narrative Breakdown）的解析，通过简单的语言和日常类比进行了说明。

大局观： “时代精神 AI” 的迷雾

想象一下，你走进一个房间，每个人看到任何东西都在大喊“魔法！”。如果你看到一个烤面包机，有人说：“那是魔法！”如果你看到一个计算器，有人说：“那是魔法！”如果你看到一只机器狗，他们尖叫道：“那是魔法！”

作者称之为 “时代精神 AI”（Zeitgeist AI）。这是一个时髦且模糊的标签，我们把它贴在任何数字化事物上，只为了显得现代。论文指出，这种混乱是危险的。我们需要停止将“AI”视为一种神奇的自然力量，而要开始将其视为它真正的本质：一个由人类构建、具有特定用途和特定局限性的工具。

论文将真正的 AI 分为两个类别：

1. 弱人工智能（专家型）： 这是我们目前拥有的技术。它就像一位能做出完美舒芙蕾的大厨，但却不会修理漏水的水龙头或写诗。它擅长处理一项特定的工作（如识别面部或翻译文本），但在其他任何事情上都毫无用处。
2. 通用人工智能（科幻梦）： 这是电影中那种能够像人类一样思考、感受和学习一切的“超智能”机器人。论文指出，这目前并不存在，我们也无法证明它是否真的会出现。但因为我们不断谈论它，导致我们对目前的工具实际能做什么产生了混淆。

拆解神话（“叙事”）

作者逐一列举了人们讲述的最常见的关于 AI 的故事，并像戳破气球一样拆穿了它们。以下是详细拆解：

1. 主体性神话（“它决定了”的故事）

• 故事： 人们说，“AI 决定这样做。”
• 现实： AI 没有大脑，没有欲望，也没有意图。它就像一个随机鹦鹉（根据模式重复所听到的词汇的鸟）。如果一只鹦鹉说了“我爱你”，并不意味着它爱你；它只是知道“爱”通常跟在“我”后面。
• 启示： AI 不会“行动”。它进行的是计算。如果出了问题，责任在于构建或购买该工具的人类，而不是机器。

2. 自主性神话（“自我管理”的故事）

• 故事： 我们听到关于“自主”汽车或无人机的报道，称它们能做出自己的选择。
• 现实： 这些机器更像是带有极佳自动驾驶功能的遥控车。它们遵循人类设定的规则。如果一辆自动驾驶汽车撞到了行人，它并不是“选择”这么做的；它只是执行了一套在特定情况下失效的指令。目标是由人设定的；机器只是在执行。

3. 真实性神话（“骗子”的故事）

• 故事： 人们担心 AI 会“撒谎”或“欺骗”我们。
• 现实： 如果不知道真相，就无法撒谎。AI 不知道什么是真，什么是假；它只是根据它之前读过的内容来预测句子中的下一个词。如果它说了错误的话，它不是在“撒谎”；它只是在幻觉出一个模式。卖 AI 的公司才是拥有议程的人，而不是软件本身。

4. 知识神话（“聪明学生”的故事）

• 故事： AI “知道”事物并理解世界。
• 现实： AI 是一个统计学镜像。它观察数十亿本书籍和文章，学习哪些词通常会出现在一起。它并不理解“意义”。它就像一位音乐家，因为背下了音符而能完美演奏一首歌，但并不理解歌曲中的情感。它模仿诗歌或新闻报道的风格，但它根本不知道这些词到底意味着什么。

5. 预测神话（“水晶球”的故事）

• 故事： AI 可以预测未来，比如犯罪或天气。
• 现实： AI 擅长预测天气，因为天气遵循物理定律。但它在预测人类行为（如犯罪）方面表现糟糕，因为人类不像岩石那样可预测。如果你告诉 AI 根据过去的数据预测犯罪，它只会重演过去，包括过去所有的种族主义和偏见。它不是在预见未来，而是在回收历史。

6. 中立性神话（“客观机器人”的故事）

• 故事： 计算机是中立且公平的。
• 现实： AI 就像一个相机镜头。镜头本身不决定什么是“真实”，但拿着相机的人决定了镜头对着哪里以及裁剪掉什么。每一个 AI 系统都是由人类构建的，人类会对包含哪些数据、忽略哪些数据做出选择。这些选择是政治性的，也是带有偏见的。不存在没有任何人类干预的“原始数据”。

7. 非政治性优化神话（“神奇修复”的故事）

• 故事： AI 可以无需政治参与就解决饥饿或交通等大问题。
• 现实： 要“优化”某件事，你首先得决定什么是“好”。如果你要求 AI 解决交通问题，你是想帮助车主还是骑行者？你是想要速度还是安全？AI 无法回答这些问题。 这些是政治抉择。认为 AI 能在没有人类辩论的情况下解决这些问题，就像要求计算器来决定如何分披萨一样。

8. 可持续性神话（“绿色救星”的故事）

• 故事： AI 将通过让一切变得高效来拯救地球。
• 现实： 虽然 AI 可以提供一点帮助（例如更好地为数据中心降温），但它往往会导致反弹效应。如果你让运行数据中心的成本变得更低，公司就会建造更多的数据中心，从而消耗更多的总能量。此外，气候变化最大的问题不在于缺乏信息；我们已经知道问题所在。问题在于权力和政治。AI 无法解决权力斗争。

9. 民主化神话（“全民工具”的故事）

• 故事： AI 即将变得免费且由所有人拥有。
• 现实： 构建大型 AI 系统就像建造一座核电站。它需要大量的资金、能源和数据，而这些只有少数几家巨头公司（如 Google 或 OpenAI）才拥有。他们可能会让你“租用”这个工具，但他们永远不会让你拥有工厂。这不是一个社区花园；这是一个私人垄断。

10. 大规模失业神话（“职业杀手”的故事）

• 故事： AI 将夺走我们所有的工作，让我们无事可做。
• 现实： 工作并不会凭空消失，而是发生了变化。通常这意味着好的工作变少了，而差的、低薪的工作变得更普遍。但论文认为，把这归咎于“AI”是一种诡计。实际上是企业老板为了省钱而决定解雇员工。把责任推给机器掩盖了真正的决策者。

结论：我们应该怎么做？

作者总结道，我们目前正陷入一种科幻思维的循环中。我们要么恐惧 AI 会毁灭我们（反乌托邦），要么兴奋于 AI 会拯救我们（乌托邦）。两者皆错。

AI 仅仅是一个工具，就像锤子或水泥搅拌机一样。它没有灵魂，也没有天命。

• 真正的危险： 危险不在于机器人起义。危险在于我们任由强大的公司利用这些工具来赚取更多利润、忽视环境、虐待工人，同时还假装这项技术是“中立”或“神奇”的。
• 解决方案： 我们需要停止将 AI 视为一种神秘的力量，而要开始将其视为一个政治议题。我们需要进行诚实的对话，讨论谁在控制这些工具，谁从中受益，以及我们究竟想要建立一个什么样的社会。

简而言之： AI 不是神，也不是怪物。它是一个由人类构建、为人类目的服务的极其复杂的机器。如果我们想要一个美好的未来，我们需要从“魔法”叙事中夺回控制权，并要求人类承担责任。