Distinguishing Task-Specific and General-Purpose AI in Regulation

大局观： “瑞士军刀” vs. “专用工具”

想象一下，人工智能（AI）的世界就像一家五金店。

在过去的十年里，政策制定者一直在为任务特定型 AI（Task-Specific AI）编写规则。把它们想象成专用工具：比如锤子、螺丝刀或烤面包机。你知道锤子的用途（敲钉子），也知道烤面包机的用途（烤焦面包）。因为这些工具有明确的单一职责，所以制定规则很容易。例如，你可以说：“这把锤子必须足够坚固，以便在敲击时不会断裂，”或者“这个烤面包机不能把面包烤焦。”

现在，我们迎来了通用人工智能（General-Purpose AI, GPAI）。把它想象成一把神奇的瑞士军刀，它可以变成任何东西。根据你的要求，它可以是锤子、螺丝刀、锯子、牙签或开瓶器。它没有单一的工作，它具有做几乎任何事情的潜力。

问题在于： 作者认为，政策制定者正试图用编写给“锤子”的规则来监管这把“神奇的瑞士军刀”。他们试图根据手柄的重量来禁止“锤子”，却没意识到这把瑞士军刀可能会被用来开酒瓶、修汽车或割绳子。旧的规则并不适用于这种新工具。

---

旧规则失效的四个原因

论文指出了我们需要为这把“神奇的瑞士军刀”采取不同方法的四个主要原因。

1. 它过于灵活，难以捉摸

类比： 想象你要写一条法律，规定“禁止销售重量超过 5 磅的工具”。

• 对于锤子： 这行得通。你测量锤子，如果太重，就禁止销售。
• 对于瑞士军刀： 这行不通。这把刀可能很轻，但如果你用它来制造炸弹，它就是危险的；如果你用它来修表，它就是有益的。工具本身并不是问题所在；问题在于使用它的方式。

论文的观点： 由于 GPAI 可以被改编用于成千上万种不同的用途，因此监管“工具”（模型）本身是徒劳的。你无法仅仅通过观察它的尺寸或重量来预测它会造成什么危害。你必须监管它被要求执行的具体任务。

2. 你无法对其进行妥善测试

类比： 想象一场驾驶考试。

• 对于专用配送机器人： 你在特定路线上测试它。你知道它需要遵守红灯并避开坑洼。你可以轻松地给它打出合格或不合格的分数。
• 对于瑞士军刀： 你该如何测试它？是让它开车？做饭？写诗？还是解数学题？
  • 如果你在“烹饪”考试中测试它，它可能会通过。但这并不能告诉你它是否会在开车时发生事故。
  • 如果你在“驾驶”考试中测试它，它可能会失败，但这并不能告诉你它是否会写出一首烂诗。

论文的观点： 现有的规则要求 AI 在发布前必须通过“测试”。但由于 GPAI 没有特定的工作，这些测试具有误导性。一个模型可能通过了写故事的安全测试，但在被用于生成医疗建议时却表现得一塌糊涂。测试无法反映真实的危险，因为每当工具被使用时，“现实世界”都在发生变化。

3. 它引发了新的法律噩梦

类比： 想象一家以前只生产砖块的工厂。

• 旧规则： 我们有关于砖块安全、砖尘和砖块运输的法律。
• 新现实： 现在这家工厂既生产砖块，也生产假钻石、假声音和假病毒。

论文的观点： 任务特定型 AI 主要引发的是公平性问题（例如：“这个招聘机器人是否存在歧视？”）。而 GPAI 引发了完全不同的、旧法律未能预见的恐怖问题：

• 版权： 它可以完美地复制书籍和歌曲。
• 假新闻： 它可以编写听起来非常真实的假新闻故事。
• 深度伪造（Deepfakes）： 它可以制作视频，让人们说出从未说过的话。
• 生物安全： 它可能会协助不法分子设计危险的病毒。

这些是完全不同的法律问题，需要不同的专家（如版权律师或生物安全专家），而不仅仅是“AI 专家”。

4. 供应链极其混乱

类比： 想象一辆专用汽车。

• 旧方式： 一家公司制造汽车，测试汽车，然后出售汽车。如果刹车失灵，你知道该起诉谁：汽车公司。
• 新方式： 想象一个模块化机器人。
  • A 公司制造了“大脑”（GPAI 模型）。
  • B 公司拿到了这个大脑，并教它如何驾驶卡车。
  • C 公司拿到了这辆卡车，并将其变成了快递服务。
  • D 公司利用这项快递服务来运送非法物品。

论文的观点： 对于 GPAI，其“大脑”是由一家巨头公司构建的，但随后成千上万的人会对它进行微调并将其用于不同的用途。如果出了问题，很难判断谁该负责。是制造大脑的人？是进行微调的人？还是使用它的人？旧规则假设有一个明确的所有者，但新的现实是一个由许多所有者交织而成的复杂网络。

---

三项建议：如何修复问题

作者提出了三种修复这些破碎规则的方法：

1. 监管“任务”，而非“工具”

隐喻： 不要试图因为刀锋锐利就禁止“刀具”。相反，应该禁止“刺伤他人”。

• 当前方法： “禁止尺寸大于 X 的 AI 模型。”（这就像禁止所有刀刃长于 3 英寸的刀，即使它们是用于手术的）。
• 新方法： “禁止用于招聘且存在歧视行为的 AI。”或者“禁止用于生成假新闻的 AI。”
• 原因： 这关注的是伤害（刺伤），而不是工具（刀）。这允许技术用于好事（手术），同时阻止坏事（犯罪）。

2. 仅将“技术指标”作为最后手段

隐喻： 用尺子来衡量危险是一种捷径，但往往是错误的。

• 想法： 有时，我们可能需要规定：“如果一台计算机过于强大，我们需要对其进行监管。”但我们只有在以下情况才应该这样做：
  1. 我们无法监管工具的用途（因为危险太大或发生得太快）。
  2. 危险是真实且已证实的（而非仅仅是猜测）。
  3. 停止使用该工具带来的收益值得停止创新的代价。
• 原因： 如果我们仅仅根据工具的大小或速度来禁止工具，我们可能会在无意中禁止有益的事物（如气候建模），或者错过那些虽然体积小但威力巨大的危险事物。

3. 在系统中建立“减速带”

隐喻： 与其试图抓住每一个违章司机，不如建造一条让车辆难以高速行驶的道路。

• 想法： 论文建议审视整个“风险链”。过去，制造生物武器很难，因为你需要实验室、昂贵的化学品和博士学位。这些都是“天然减速带”。
• 威胁： AI 可能会移除这些减速带。它可能会让一个人仅凭一台笔记本电脑就能设计出病毒。
• 解决方法： 监管者需要寻找新的减速带。如果 AI 让获取“知识”变得容易，那么也许我们需要监管运行 AI 所需的“材料”或“计算机”。我们需要观察整个生态系统，看看障碍在哪里消失了，并建立新的障碍。

总结

论文认为，我们正在尝试用为简单的锤子设计的规则来监管一个神奇的、变形的瑞士军刀。因为这把刀可以做任何事，所以我们不能通过它的重量或大小来评判它。相反，我们需要：

1. 监管它正在执行的具体任务。
2. 仅在绝对必要时才查看工具的技术指标。
3. 在系统中建立障碍，以阻止坏事的发生，而不是仅仅在坏人作案后才去抓捕他们。