The Eticas AI Risk Taxonomy: Open Infrastructure for Operationalizing AI Audits
本文介绍了 Eticas AI Risk Taxonomy v2.0.0，这是一个开放式基础设施，通过提供一个标准化的、可操作的框架，来衡量和校准包括 PII 泄露在内的特定风险，并将其跨多个外部合规标准进行分级，从而弥合了抽象风险目录与实际 AI 审计之间的差距。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下你正试图建造一栋房子。你手里有一份由各种建筑师、工程师和政府机构提供的 74 份不同的“风险清单”。其中一份说：“检查是否存在泄漏。”另一份说：“检查是否存在结构性裂缝。”第三份说：“检查是否存在火灾隐患。”
根据这篇论文，问题在于：所有这些清单都止步于对问题的命名。 它们告诉你应该“看什么”，但没有告诉你“如何看”、该使用什么工具，或者如何决定这栋房子是否“足够安全”以供居住。它们就像是只定义单词含义却不教你如何说话的字典。
这篇论文介绍了一个名为 Eticas AI 风险分类法（Eticas AI Risk Taxonomy） 的新工具。请将其想象成不仅仅是一本字典，而是一本完整的施工手册，它弥合了“命名风险”与“实际测试风险”之间的鸿ดับ。
以下是论文通过简单的类比进行的拆解：
1. 核心问题：“词汇表”陷阱
大多数 AI 风险列表都像是一个词汇表。它们说：“隐私风险：个人数据泄露的危险。”这对于讨论问题很有用，但对于试图测试真实 AI 系统的审计师来说却毫无用处。
- 论文的主张： 审计的难点不在于命名风险，而在于将其操作化（operationalizing）。即将“隐私风险”这个词转化为具体的测试、一个数字和一个最终的等级（比如 A、B、C、D 或 F）。
2. 解决方案：从概念到等级的“桥梁”
作者们搭建了一座桥梁。他们展示了如何精确地将一个风险概念引导至最终的等级结果。
- 类比： 想象一位医生在诊断病人。
- 旧方式： 医生说：“患者有‘发烧风险'。”（报告结束）。
- Eticas 方式： 医生说：“患者有‘发烧风险’。我们使用特定的温度计（测试工具）测量其体温为 104°F。这属于‘严重’区间（量表）。因此，该患者的等级为‘E’（诊断结果）。”
- 示例： 他们针对一个特定的风险——PII 泄露（意外泄露电子邮件地址等个人身份信息）——对一个著名的 AI 模型（GPT-4）进行了测试。
- 他们没有仅仅说“它可能会泄露”。
- 他们运行了特定的测试（探针），尝试诱骗 AI。
- 结果： 当被诱骗一次时，AI 泄露信息的概率为 51%。当被诱骗三次时，泄露概率上升到 84%。
- 等级： 由于在压力下泄露程度如此之高，他们给出了 E（最差等级）的严重等级，并将其标记为“系统性”问题（意味着这是一个深层缺陷，而非一次性的小故障）。
3. 秘诀：将“是什么”与“如何做”分离
这是解释得最简单的技术核心部分：
- 风险（“是什么”）： 这是抽象的危险，例如“数据泄露”。
- 机制（“如何做”）： 这是危险发生的方式。对于数据泄露，它可能是因为 AI 泄露了你输入的数据，也可能是因为它记忆了训练数据并将其重新输出。
- 创新点： 论文将这两者分离开来。
- 类比： 想想一辆汽车。“风险”是“轮胎瘪了”。而“机制”可以是“被钉子扎破”或“胎面磨损”。
- 处理钉子和处理磨损胎面需要不同的工具。
- 通过分离这两者，Eticas 分类法允许不同的审计师对同一个风险使用不同的测试（工具），只要他们对“机制”达成共识。这使得系统具有灵活性和开放性。
4. “开放核心”模型
作者提供的是一种“开放核心（Open Core）”模型，就像一套 乐高积木。
- 开放部分（底座）： 分类、定义和“机制”标签是免费供所有人使用的（采用知识共享许可协议）。这是共享的语言。
- 专有部分（积木块）： 特定的测试、精确的数字和详细的评分规则由作者（Eticas）保留，作为他们的“从业者层”。
- 为什么这很重要： 任何人都可以基于这个开放的底座进行构建。监管机构、大学或公司可以采用“数据泄露”这一概念，并在其上构建自己的特定测试，同时确保他们使用的是同一种语言。
5. “智能体 AI（Agentic AI）”的惊喜
论文强调了一个新类别，称为 智能体 AI。
- 类比： 目前大多数 AI 就像是一个计算器：你按下一个按钮，它给出一个答案。
- 智能体 AI 则像是一个机器人管家：它可以进行规划、使用工具并自主行动。
- 差距： 论文指出，所有主要的法律和安全规则（如《欧盟 AI 法案》）都是为“计算器”时代编写的。它们并不真正了解如何处理“机器人管家”。
- 发现： 通过为智能体 AI 创建一个专门的类别，论文揭示了一个“治理鸿沟”。它表明当前的规则对于这种新型 AI 已经过时，我们需要新的工具来审计它们。
总结
论文认为，目前的 AI 审计领域正困于过多的字典，而缺乏足够的工具。Eticas AI 风险分类法是一种新的基础设施，它：
- 标准化了语言（让所有人对“风险”的定义达成一致）。
- 操作化了测试（展示如何精确测量）。
- 评定了结果（给出清晰的通过/失败分数）。
- 揭示了差距（展示了当前法律在覆盖新型 AI 技术如智能体 AI 方面的不足）。
它不仅仅是一份问题清单；它是一份解决问题的蓝图。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。