Are Algorithm Registers Transparent? Perspectives from Germany

想象一下，政府正在使用特殊的计算机程序（算法）来做出影响你生活中的决策，比如批准贷款、筛选求职申请或管理交通。

算法注册表（Algorithm Registers） 就像是公开的“黄页”或一份“菜单”，政府应该在上面列出这些程序，解释它们的功能、开发者是谁，以及可能带来哪些风险。其核心理念是：如果你能看到这份菜单，你就能信任这家餐厅。

这篇由德国大学研究人员撰写的论文提出了一个简单的问题：“德国的菜单是真的透明，还是仅仅是一个空洞的精美封面？”

以下是他们研究结果的拆解，使用了简单的类比：

1. 问题所在：一个拥有五份不同菜单的破碎厨房

德国并没有一个统一的官方国家菜单。相反，它拥有一个碎片化的景观，至少有五个不同的“厨房”（平台）试图列出这些计算机程序。

• MaKI： 一个由联邦政府运营、供其内部使用的平台。
• Lernende Systeme： 一个专注于研究与创新的平台，由教育部资助。
• 其他： 更小的区域性或基于项目的列表。

研究人员决定根据一个“黄金标准”蓝图来测试这两个主要平台。这个蓝图是研究员 Lorenz 最近提出的，它详细描述了一个完美且值得信赖的德国人工智能注册表应该具备的样子。

2. 审计：对照蓝图检查菜单

研究人员将 Lorenz 的提案视为一份**“健康检查员的清单”**。他们并没有建立一个新的注册表，而只是走进现有的注册表（MaKI 和 Lernende Systeme），检查它们是否具备了所需的“食材”。

他们寻找了三个方面：

• 范围（Scope）： 是否涵盖了所有内容？（或者说，可怕的程序是否被藏在了角落里？）
• 信息（Information）： 描述是否足够详细？（是仅仅说“我们使用人工智能”，还是解释了如何使用以及使用了什么数据？）
• 有效性（Effectiveness）： 普通人是否真的能理解它，并利用它来追究政府的责任？

3. 研究结果：“伦理表演” vs. 真正的透明度

审计显示，虽然这些注册表确实存在，但它们大多只是空壳。以下是他们的发现：

• “缺失的食材”（风险与数据）：
  想象一下，你点了一块蛋糕，但菜单上只写着“蛋糕”，却没有列出成分。研究人员发现，德国的注册表很少列出训练数据（AI 学习的“食材”）或风险评估（如果蛋糕烤焦了会发生什么）。没有这些，你就无法知道这块蛋糕是否可以安全食用。

  • MaKI 列出了一些风险，但没有提供细节。
  • Lernende Systeme 则完全没有列出风险。

• “封闭的厨房”（缺乏反馈）：
  一家好的餐厅会有意见卡。但这些注册表却没有。目前没有任何途径让公民表达：“嘿，这个 AI 决策看起来不对劲，”或者提出疑问。研究人员发现没有任何公民论坛或反馈机制。这是一条单行道：政府在说话，但没人能回话。

• “内部备忘录”问题：
  研究人员意识到，MaKI 的设计初衷似乎是让政府雇员之间互相分享笔记，而不是给公众阅读。这就像是厨房员工的日志本恰好放在了公共货架上，但上面写的却是只有厨师才能看懂的语言。而 Lernende Systeme 则更多是在展示酷炫的技术创新，而非关于问责制。

• “失踪的厨师”（治理）：
  这里没有一个单一的、独立的“健康检查员”（专门的人工智能监管机构）来监督工作。这些平台依赖于政府进行自我监管，这就像是要求厨师为自己的烹饪水平打分一样。

4. 结论：我们有菜单，但没有饭菜

论文得出结论，德国目前拥有的碎片化举措看起来像是透明度注册表，但实际上更像是内部行政工具或宣传手册。

• 它们并非在真正重要的维度上实现“透明”： 你可以看到算法的名称，但你无法看到它如何运作或它带来了哪些风险。
• 它们缺乏“批判性受众”： 由于信息模糊且没有提问方式，普通民众无法利用这些注册表来追究政府的责任。

底线是：
研究人员认为，仅仅有一份名单是不够的。要使这些注册表真正发挥作用，德国需要：

1. 填补空白： 添加关于数据和风险的详细信息。
2. 敞开大门： 创造让公民提问和提供反馈的方式。
3. 选定领导者： 将这些零散的列表整合为一个清晰的、强制性的国家注册表，使其服务于公众，而非仅仅服务于政府。

在此之前，所谓的“透明度”大多只是一种表演——作者称之为**“伦理表演”（ethics theater）**——政府看起来表现得非常开放，但观众实际上根本看不见这场演出。