论文技术总结：官僚静默：加拿大 AI 注册表揭示、遗漏与遮蔽的内容

论文标题：Bureaucratic Silences: What the Canadian AI Register Reveals, Omits, and Obscures
作者：Dipto Das, Christelle Tessono, Syed Ishtiaque Ahmed, Shion Guha (多伦多大学)
发表会议：FAccT '26 (2026 年 6 月，蒙特利尔)

---

1. 研究问题 (Problem)

2025 年 11 月，加拿大政府发布了首个联邦级人工智能（AI）注册表（AI Register），披露了超过 400 个 AI 系统。尽管该举措旨在通过提高透明度来增强问责制，但本文提出了核心质疑：AI 注册表究竟是政府活动的中立镜像，还是主动配置问责边界的本体论设计工具？

现有研究多关注披露本身，但本文指出，注册表通过特定的分类和描述方式，可能将问责制“制度化”为一种表演性的合规行为，而非实质性的监督。具体而言，研究关注以下问题：

• 注册表如何界定责任（Responsibility）？
• 注册表如何表征不确定性（Uncertainty）？
• 注册表如何定位人类裁量权（Human Discretion）？
• 注册表在强调“主权 AI"修辞的同时，是否掩盖了官僚实践中的真实情况（如人类干预、培训需求等）？

2. 方法论 (Methodology)

本研究采用混合方法（Mixed-Methods），结合定量映射与基于理论的定性编码，对加拿大联邦 AI 注册表中的409 个系统进行了全面分析。

• 分析框架：采用ADMAPS 框架（Algorithmic Decision-Making Adapted for the Public Sector）。该框架将算法治理视为由人类裁量权（专业判断、启发式决策）、官僚流程（资源、培训、法律约束）和算法决策（数据类型、决策支持形式、不确定性程度）相互作用构成的社会技术安排。
• 数据收集与预处理：
  • 收集注册表中的所有条目（409 个系统，涉及 42 个联邦部门）。
  • 清洗数据，统一分类字段，将未指定字段标记为“未指定”。
  • 对能力描述进行轻量级文本分析（提取词云、N-gram），以识别反复出现的能力主题。
• 定性分析：
  • 基于 ADMAPS 维度进行演绎式定性编码。
  • 通过迭代编码过程，识别文本中的重复模式（如实体、任务、目标）以及系统性静默（即未提及的内容，如不确定性、培训细节）。
  • 将定量发现（如频率分布）与定性解释相结合，以理解联邦治理中 AI 系统的构建方式。

3. 主要贡献 (Key Contributions)

1. 实证分析：首次对加拿大联邦公共 AI 注册表中的 409 个系统进行了系统性的实证分析，揭示了其披露模式。
2. 概念创新：官僚静默（Bureaucratic Silences）：提出了“官僚静默”概念，用于描述 AI 注册表如何结构化披露内容（如工具级披露、技术能力、效率），同时使某些内容变得不可读或“非官方记录”（如人类因素、官僚背景、不确定性、基础设施依赖）。这一概念不仅适用于加拿大，也适用于全球类似的注册表制度。
3. 本体论设计视角：论证了 AI 注册表应被视为本体论设计（Ontological Design）的工具。它们不仅记录系统，还主动塑造了“什么是 AI"、“什么是问责”以及“谁负责”的定义，从而影响了问责制的实践方式。

4. 关键发现 (Key Results)

研究通过 ADMAPS 框架的三个维度揭示了注册表中的“静默”：

4.1 算法决策 (Algorithmic Decision-Making)

• 数据来源：数据源多样，但约 24.4% 未明确说明数据实践。许多系统依赖行政记录（如案例文件、日志），这些记录往往是“冻结的官僚解释”而非客观现实。
• 决策支持类型：
  • 信息支持（最常见）：如检索、总结、聊天机器人。
  • 规范性支持：推荐或指导行动（如筛选案件）。
  • 预测性支持：风险评估、预测未来结果。
  • 运营自动化：自动化重复任务（如 OCR、数据录入）。
  • 发现：注册表倾向于将 AI 描述为“可靠工具”，而非“可争议的决策过程”。
• 不确定性表征：
  • 部分系统明确承认不确定性（如标记为“试点”、“实验”）。
  • 许多成熟系统使用“准确性”、“可靠性”等词汇掩盖内在的不确定性。
  • 静默：大量系统完全未提及风险、限制或错误表面，将不确定性完全转移给人类操作员，而未在注册表中明确说明。

4.2 官僚流程 (Bureaucratic Processes)

• 资源与约束：86% 的系统部署于内部以提高效率。注册表强调“减少工作量”和“效率”，但掩盖了人员短缺和流程负担等根本原因。
• 开发与供应商：
  • 系统开发在内部开发（43.3%）和外部供应商（38.1%）之间大致平分。
  • 关键发现：高度依赖少数外国供应商（如 Microsoft 占 46 个系统），这与加拿大“主权 AI"的修辞形成鲜明对比，揭示了基础设施的依赖性。
• 管理与培训：
  • 静默：注册表极少提及培训要求。AI 系统通常被描述为独立工具，忽略了操作员如何被培训以解释输出、识别失败或整合专业判断。培训被视为隐含的，而非治理的核心部分。
• 法律与政策：
  • 大多数内部工具被描述为“管辖权无关”（jurisdiction-agnostic），掩盖了联邦与省/地区法律框架的复杂性。
  • 注册表未说明联邦 AI 系统如何与省级隐私制度或原住民治理结构互动。

4.3 人类裁量权 (Human Discretion)

• 专业知识的重构：
  • 系统被描述为增强专业知识，但实际上往往将隐性的专业判断编码为结构化规则（如风险评分、分类模型）。
  • 静默：注册表很少提及算法 Impact Assessment (AIA) 的完成情况，尽管这是加拿大《自动化决策指令》的要求。
• 价值判断：效率、速度、准确性被优先强调，而公平性、偏见风险等往往被边缘化或仅在特定合规工具中提及。
• 启发式决策：
  • AI 系统通过“注意力设置”（如标记高风险案例）重新分配了人类的启发式决策。
  • 静默：注册表未说明官员如何审查或解释这些信号（是建议性提示还是强制性触发？），导致裁量权的实际运作变得不透明。

5. 意义与启示 (Significance)

• 对加拿大 AI 治理的启示：
  • 注册表暴露了加拿大在“主权 AI"叙事与实际基础设施依赖（如依赖微软、NVIDIA 等外国技术）之间的巨大鸿沟。
  • 注册表作为“补偿性”治理工具，未能有效填补《自动化决策指令》与实际操作之间的差距，反而可能通过选择性披露掩盖了问责制的缺失。
• 对算法问责研究的启示：
  • 本体论设计：问责制倡议不应仅被视为披露机制，而应被视为塑造社会关系和知识形式的本体论设计工具。注册表通过定义“什么可见”，决定了“什么可被问责”。
  • 静默的政治性：未披露的内容（如培训、不确定性、供应商依赖）与披露的内容同样重要，它们共同构建了问责的边界。
• 对公共信任与民主治理的启示：
  • 可见性不等于可争辩性：注册表提供了可见性，但缺乏让公众理解、质疑或挑战算法决策的机制（如不确定性说明、裁量权配置）。
  • 风险：如果注册表仅作为合规的终点，而非监督的起点，它可能通过制造“问责的表象”来削弱公众信任，将责任转嫁给公众却无法提供行使问责所需的工具。

结论：未来的 AI 注册表设计必须超越单纯的技术描述，转向关注社会技术背景、不确定性管理和人类裁量权的配置，以支持真正的民主监督，而非仅仅制造透明的幻象。