Defining AI Models and AI Systems: A Framework to Resolve the Boundary Problem

该论文通过系统梳理现有文献与法规，揭示了"AI 模型”与"AI 系统”定义模糊导致的监管义务分配难题，并提出了基于参数架构与组件集成的清晰概念及操作性定义，旨在解决 AI 价值链中责任界定的边界问题。

要点

这篇论文其实是在解决一个让法律制定者和科技公司都很头疼的“糊涂账”问题：到底什么是"AI 模型”，什么是"AI 系统”？这两者之间那条线到底画在哪里？

为了让你轻松理解，我们可以把 AI 想象成做菜的过程。

1. 问题的核心：大家把“菜谱”和“整道菜”搞混了

现在的法律（比如欧盟的《AI 法案》）规定，做菜的“厨师”（提供者）和端菜给客人吃的“餐厅”（部署者）要承担不同的责任。

但是，法律里对于什么是“菜谱”（AI 模型），什么是“整道菜”（AI 系统），定义得模模糊糊。

• 现状：就像有人说“菜谱”是那张纸，也有人说“菜谱”是包含纸、笔、甚至厨房灶台的一整套东西。
• 后果：因为定义不清，当一道菜吃坏肚子（AI 出事故）时，大家就互相推诿：是怪写菜谱的？还是怪开火做饭的？还是怪端盘子的？这就导致了责任划分不清，法律很难执行。

2. 作者做了什么：翻遍了“旧账本”

作者们像侦探一样，查阅了896 篇学术论文和80 多份法律、技术标准文件。
他们发现，现在的很多定义都是“传话筒”传出来的（大多源自经合组织 OECD 的旧框架），就像“传声筒”游戏，传到最后，意思已经变味了，反而让原本清晰的概念变得更加混乱。

3. 作者提出的新方案：把“大脑”和“身体”分开

作者提出了一个非常清晰的新定义，用做菜的比喻来说就是：

• AI 模型 = 核心“菜谱” + “厨师的大脑”

  • 它只包含训练好的参数（也就是厨师脑子里记住的烹饪技巧、火候掌握）和架构（菜谱的结构）。
  • 它自己不能直接端给客人吃，它只是一套“能力”或“知识”。
  • 比喻：就像你下载了一个“米其林三星菜谱”文件，这个文件本身就是模型。

• AI 系统 = 菜谱 + 厨房 + 服务员 + 盘子

  • 它包含了上面的“模型”，但加上了其他所有东西：比如把用户输入的文字变成机器能懂的语言的接口、把机器算好的结果展示给用户的界面、以及处理数据的流程。
  • 比喻：当你把那个“菜谱”放进厨房，配上灶台、食材，并且有服务员负责接单、上菜，这一整套运作起来的东西，才叫“系统”。

4. 为什么要这么分？（好处是什么）

这样分清“大脑”和“身体”后，好处就大了：

• 责任分明：
  • 如果是因为“菜谱”本身写错了（模型训练数据有问题），那写菜谱的人（模型提供者）负责。
  • 如果是因为“服务员”端错了菜，或者“厨房”没打扫干净导致菜变质（系统接口或部署环境的问题），那开餐厅的人（系统部署者）负责。
• 修改有数：
  • 如果你只是给“服务员”换了个新制服（修改了界面），这不算改菜谱，责任还是餐厅的。
  • 如果你重新写了“菜谱”的核心步骤（修改了模型参数），那这就涉及到了模型提供者。

总结

这篇论文就像是在给 AI 世界画一张清晰的地图。它告诉我们：不要把所有东西都混为一谈。

• 模型是那个“聪明的脑子”（核心算法和参数）。
• 系统是那个“干活的身体”（脑子 + 手脚 + 嘴巴，也就是整个应用）。

只有把这两者分清楚，法律才能知道该找谁“算账”，科技公司也能更明白自己该在哪个环节负责，从而让 AI 的发展更安全、更有序。

技术摘要

论文技术总结：定义 AI 模型与 AI 系统——解决边界问题的框架

1. 研究背景与核心问题 (Problem)

随着新兴人工智能（AI）法规（如《欧盟人工智能法案》）的出台，法律框架开始根据 AI 价值链中的不同角色（如“提供者”和“部署者”）分配不同的义务。然而，这些法规所依赖的基础术语——"AI 模型”（AI Model）与"AI 系统”（AI System）——缺乏清晰且一致的界定。

这种定义上的模糊性导致了严重的边界问题（Boundary Problem）：

• 责任归属困难：无法明确界定特定修改是针对“模型”本身还是针对“非模型系统组件”，从而导致不同 actor 之间的义务划分不清。
• 概念混淆：现有的定义在不同标准和法规中相互矛盾或重叠，使得合规实施面临实际挑战。
• 演化遗留问题：许多现行定义追溯至经合组织（OECD）的框架，但这些框架在演变过程中不仅未解决概念歧义，反而加剧了混淆。

2. 研究方法 (Methodology)

为了构建一个清晰的概念框架，作者采用了混合研究方法：

• 系统性文献综述：对 896 篇 学术论文进行了系统性审查，以梳理学术界对 AI 模型和系统的定义演变。
• 人工深度审查：手动审查了超过 80 份 监管文件、技术标准、政策文件及行业指南。
• 谱系分析：追踪了定义的历史沿革和范式转变，揭示了当前定义混乱的根源（主要源于 OECD 框架的演变路径）。
• 概念重构与案例验证：基于模型与系统的本质属性及其相互关系提出新概念定义，并通过理论场景和真实世界的安全事故案例进行验证。

3. 关键贡献与核心定义 (Key Contributions & Definitions)

本文的核心贡献在于提出了一套概念定义与操作定义相结合的框架，专门针对当代基于神经网络的机器学习 AI：

A. 概念基础

• 模型 (Model)：被定义为 AI 的核心计算单元，其本质由**训练后的参数（Trained Parameters）和架构（Architecture）**组成。它是从数据中学习到的知识表示。
• 系统 (System)：被定义为包含模型及其额外组件的完整实体。这些额外组件包括：
  • 输入/输出处理接口（Interface for processing inputs and outputs）。
  • 数据预处理与后处理模块。
  • 与物理世界或其他软件交互的机制。
  • 监控、日志记录及用户交互界面。

B. 操作定义 (Operational Definitions)

针对现代深度学习系统，论文明确了二者的操作边界：

• AI 模型 = 架构 + 权重参数（即“大脑”）。
• AI 系统 = AI 模型 + 工程化组件（即“大脑 + 感官 + 肢体 + 神经系统”）。

4. 主要结果 (Results)

• 揭示定义混乱根源：研究发现，大多数监管和标准定义并非独立创新，而是对 OECD 框架的继承与变体。这种继承过程未能厘清“模型”与“系统”的界限，反而在多次迭代中放大了概念模糊性。
• 解决边界模糊：提出的新框架成功区分了“模型修改”（如微调、重训练）与“系统修改”（如改变输入接口、部署环境变更）。这为判断谁（提供者还是部署者）应对特定风险或修改负责提供了明确依据。
• 责任分配优化：通过明确界定，该框架能够更精准地在 AI 价值链的不同参与者之间分配监管义务，避免了因定义不清导致的监管真空或重复监管。

5. 意义与影响 (Significance)

• 监管实施指导：为《欧盟人工智能法案》等法规的具体落地提供了可操作的技术解释，帮助监管机构和从业者准确识别合规义务的主体。
• 事故责任认定：在发生真实世界 AI 事故时，该框架有助于厘清事故原因是源于模型本身的缺陷（模型提供者责任），还是源于系统集成的不当（部署者责任）。
• 标准化基础：为未来制定统一的 AI 技术标准和行业规范奠定了坚实的概念基础，有助于减少全球范围内因术语不一致带来的贸易和技术壁垒。
• 理论价值：从认识论角度厘清了“模型”与“系统”的本体论差异，为 AI 治理研究提供了新的理论视角。

总结：该论文通过严谨的文献与政策分析，指出了当前 AI 监管中术语定义的致命缺陷，并提出了基于“参数/架构”与“组件集成”的清晰二分法。这一框架不仅解决了理论上的概念混淆，更为 AI 价值链上的责任划分和法规执行提供了切实可行的操作指南。