When Do Data-Driven Systems Exhibit the Capability to Infer?
受欧洲《人工智能法案》中关于信用评分系统监管模糊性的启发，本文提出了一个基于统计学习理论的框架，用于对整个数据处理工作流中的推断能力进行分级与分析，旨在证明监管分类取决于整体系统设计和人类参与，而非仅仅取决于单个模型。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下你是一名法庭上的法官。欧盟通过了一项名为 《人工智能法案》（AI Act） 的新法律，其中规定：“如果你是人工智能，你必须遵守严格的规则。”但该法律有一个棘手的漏洞：它并没有明确定义什么是“人工智能（AI）”究竟是什么。
该法律规定，人工智能是一个能够进行**“推断”（infer）**的系统。用通俗的话说，这意味着该系统可以观察数据并自行找出如何做出决策的方法，而不是仅仅遵循人类编写的一套僵化的指令。
问题在于，这里存在一个灰色地带。许多用于信用评分（决定是否发放贷款）的系统都使用统计数学。这些系统是“聪明”到足以被称为 AI，还是仅仅是“笨拙”的计算器？作者 Maximilian 和 Tabea 决定建造一把梯子，帮助我们爬出这个灰色地带。
“推断阶梯”（The Inference Ladder）
作者创建了一个分为 5 级的阶梯，用来衡量一个系统的“思考”程度。你爬得越高，该系统就越有可能根据新法被视为人工智能。
第 0 级：机器人管家（固定映射/Fixed Mapping）
- 隐喻： 想象一个只会完全听从你指令的机器人。“如果灯是红色的，就停止；如果灯是绿色的，就前进。”
- 现实： 规则是由人类以石刻般的方式写死的。数据不会改变规则，它只是触发了规则。
- AI 状态： 不是 AI。只是一个高级计算器。
第 1 级：调音旋钮（参数自适应/Parametric Adaptation）
- 隐喻： 想象一台收音机。电台（结构）是固定的，但你可以根据音乐的大小来调高或调低音量旋钮（参数）。
- 现实： 系统使用一个固定的公式（例如标准的数学方程）。它通过观察数据来调整公式内部的数字，但公式本身永远不会改变。
- AI 状态： 这是“灰色地带”。法律指南暗示这可能不属于 AI，因为它只是“基础数据处理”。
第 2 级：菜单选择器（结构选择/Structural Selection）
- 隐喻： 想象一位厨师面前有一份包含 10 道预设食谱的菜单。厨师观察你现有的食材（数据），然后从中挑选出其中之一来进行烹饪。厨师并不发明新食谱，他们只是从清单中选出最好的那一个。
- 现实： 系统拥有一组可能的结构列表。它利用数据来决定使用哪一个结构（例如，“使用特征 A 和 B，但忽略 C”）。
- AI 状态： 这是一个中间地带。它比调音旋钮更进了一步，但还没有达到发明新逻辑的程度。
第 3 级：建筑师（结构构建/Structural Construction）
- 隐喻： 想象一位建筑师被给予一堆砖块和一个目标（盖房子）。建筑师观察这些砖块，并当场发明了蓝图。他们根据手头的材料来决定墙壁的位置和屋顶的形状。
- 现实： 系统不仅仅是挑选食谱，它会利用数据从零开始构建逻辑。它创造了一个没有任何人类明确编写过的决策树或复杂的模式。
- AI 状态： 这绝对是 AI。系统正在“推导出”它自己的逻辑。
第 4 级：梦想家（表示构建/Representational Construction）
- 隐喻： 想象一位艺术家不仅在画画，还因为旧的颜色无法契合意境，从而发明了一种新的颜色来使用。
- 现实： 系统不仅构建逻辑，它还发明了一种看待数据的全新方式（新特征）来解决问题。这就是深度学习和现代 AI 所做的事情。
- AI 状态： 绝对是 AI。
信用评分测试
作者将这个阶梯应用于信用评分领域，这是《人工智能法案》中规定的高风险领域。他们观察了银行通常是如何构建这些评分的。
“传统”方式： 银行通常提取一系列变量（收入、债务等），将它们切分成不同的区间（分箱/binning），然后将其代入逻辑回归方程。
- 如果银行只是调整方程中的数字？那是第 1 级。
- 如果银行利用数据来决定保留哪些变量以及丢弃哪些变量？那是第 2 级。
- 结论： 作者认为，即使是这些“简单”的系统，在设置过程中也经常涉及人类专家的判断（例如，决定如何进行分箱）。因为人类在设计结构方面参与度很高，该系统可能没有足够的“自主性”被视为真正的 AI。
“智能”方式： 如果一个系统在没有人工干预的情况下，自动从数据中构建决策树或复杂的结构。
- 结论： 这显然是 AI，并且必须遵守严格的规则。
核心启示
论文的结论是，我们不能仅仅通过最终的数学方程来判断是否为 AI，我们必须观察整个过程：
- 是否由人类设计了规则？
- 是否由人类选择了变量？
- 还是数据本身构建了逻辑？
如果人类专家在设计系统结构方面承担了主要工作，那么该系统可能“足够笨”，从而规避《人工智能法案》的严格监管；但如果系统是从数据中构建出自己的逻辑，那么它就足够“聪明”，需要受到 AI 法案的监管。
简而言之： 法律担心的是那些会“学习”自身规则的系统。这篇论文为我们提供了一把尺子，用来精确测量正在发生的“学习”程度，从而帮助银行和监管机构了解谁需要遵守新的规则。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。