AI, Digital Platforms, and the New Systemic Risk
本文批判了欧盟现行立法（如《人工智能法案》和《数字服务法案》）中对系统性风险的狭隘定义，并提出一个借鉴金融学与复杂系统理论的综合多层级框架，以更好地应对人工智能与平台混合基础设施中涌现的多智能体失效、大规模歧视及系统性幻觉等威胁。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象你正在建造一座城市。过去，如果一栋房子着火，对那个家庭来说是悲剧，但城市的其余部分仍在运转。这就是我们曾经所说的“个体风险”。但今天，我们的城市建立在全新的基础之上：一个由数字平台和人工智能（AI）构成的庞大互联网络。
本文认为，我们正面临一种被称为系统性风险的新型危险。不要将其想象为一栋房子的火灾，而应视为这样一种情境：城市某一处的微小火花可能引发连锁反应，导致整个电网瘫痪、供水中断，乃至整座城市崩溃。
以下是用简单类比对本文主要观点的梳理：
1. 旧规则不适用于新城市
作者审视了我们过去如何处理重大灾难，特别是在金融领域（如 2008 年银行危机）。在金融领域，监管者认识到，如果一家大银行倒闭，可能拖垮整个经济。因此，他们制定了规则来阻止这种情况。
如今，欧盟试图将类似规则应用于人工智能和数字平台，推出了两项新法律：
- 《数字服务法》（DSA）： 这就像“城市广场”（社交媒体、搜索引擎）的规则手册。它规定：“如果你的广场巨大（覆盖 4500 万人），你就必须警惕重大问题，如非法内容、选举干预或对儿童的伤害。”
- 《人工智能法案》： 这是“引擎”（AI 模型本身）的规则手册。它规定：“如果你的引擎是迄今为止最强大的，你就具有危险性，必须受到监管。”
问题所在： 作者认为，《人工智能法案》关注错了对象。它假设只有“最先进”的引擎（最大、最昂贵的模型）才能引发全城范围的崩溃。这就像认为只有大型核电站才能导致停电，却忽视了这样一个事实：如果一百万台小型、维护不善的发电机同时故障，同样会导致电网瘫痪。
2. 危险的四个层级
本文绘制了一张新地图，用以理解这些数字故障如何蔓延。作者识别出四个可能出现问题的层级：
- 层级 1：单一引擎（单模型风险）。 想象几乎所有人都使用同一个特定的 AI 模型来进行招聘、放贷和撰写新闻。如果该模型存在漏洞或偏见，所有人就会在同一时间收到同样的错误建议。这是一场“单一文化”灾难。
- 层级 2：羊群效应（多模型风险）。 想象成千上家公司都使用基于完全相同数据训练的 AI 模型。如果该数据存在缺陷，所有这些不同的公司就会同时犯下完全相同的错误。这就像一群汽车因为看到同一个虚假路标而同时向左急转。
- 层级 3：广场中的引擎（模型与平台整合）。 这是指 AI 引擎直接接入社交媒体平台的情况。AI 生成帖子，平台的算法瞬间将其推送给数百万人。本文举例说明，AI 生成有害图片随后病毒式传播。AI 制造了毒药，而平台则是将其散布到各地的运输车。
- 层级 4：政府中的引擎（模型与机构整合）。 这是指 AI 被用于运行城市的关键系统，如警方预测或法院判决。如果 AI 存在偏见，它伤害的就不止是一个人；它会改变整个司法体系，系统性地将无辜者投入监狱，或系统性地向特定人群群体拒绝贷款。
3. 用真实案例检验规则
作者用三个具体问题来测试他们的新地图，以观察现行法律是否能捕捉到这些问题：
歧视（偏见）：
- 现行法律： 《人工智能法案》规定只有“最先进”的模型才具有风险。但作者指出，即使是较旧、较小的模型，如果被广泛使用，也可能歧视数百万人。
- 裁决： 现行法律可能会遗漏这一点，因为它们过于关注模型有多“聪明”，而非其使用范围有多广。
幻觉（撒谎）：
- 现行法律： 《人工智能法案》关注“高影响”风险。但作者指出，AI 撒谎（幻觉）实际上在最新、最先进的模型中较少见，但在稍旧的模型中仍然非常普遍。
- 裁决： 如果法律只监管“最聪明”的模型，可能会忽略那些实际上撒谎最多的模型。如果一个 AI 自信地向一百万人撒谎，这就是系统性风险，即使该 AI 并非“最聪明”的。
气候变化（环境）：
- 现行法律： 《人工智能法案》将风险定义为损害“联盟市场”（经济）的事物。
- 裁决： 作者认为这是一个错误。训练 AI 消耗大量能源会伤害地球，进而伤害所有人，而不仅仅是经济。你无法为宜居的星球贴上价格标签。现行法律过于关注金钱，而忽视了环境灾难。
4. 解决方案：一张更好的地图
本文结论认为，我们需要改变对风险的思维方式。
- 停止只关注“最聪明”的 AI： 风险不在于模型有多强大，而在于它有多互联。一个被银行、医院和学校使用的微小 AI，比一个仅用于写笑话的超级 AI 更危险。
- 关注“城市”，而不仅仅是“引擎”： 我们需要监管 AI 与平台如何协同工作。有偏见的 AI 输出是有害的，但有偏见的 AI 输出经社交媒体算法放大后触达数百万人，则是系统性灾难。
- 关心人，而不仅仅是市场： 法律需要保护基本权利（如公平和真相）以及环境，而不仅仅是股票市场的稳定性。
简而言之： 本文认为，我们现行的规则就像试图通过只检查最大的水坝来阻止洪水，却忽视了堤坝上成千上万个小裂缝，而这些裂缝实际上正导致水位上升。我们需要一个新的框架，审视整个互联系统，以防止数字城市的崩溃。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。