💻 computer science

The Creation and Analysis of Government AI Transparency Statements in Australia

本文介绍了首个澳大利亚政府人工智能透明度声明数据集（AITS-101），并开展了一项全面的多方法分析，以揭示披露实践中的显著差异以及政策意图与实施之间的差距。

原作者： Shidong Pan, Haochen Gong, Boming Xia, Xiaoyu Sun, Xiwei Xu, Liming Zhu

发布于 2026-04-30

📖 1 分钟阅读☕ 轻松阅读

原作者： Shidong Pan, Haochen Gong, Boming Xia, Xiaoyu Sun, Xiwei Xu, Liming Zhu

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是该论文的解读，已用通俗易懂的语言并借助类比进行翻译，以阐明相关概念。

宏观图景：政府人工智能的“菜单”

想象一下，澳大利亚政府是一家巨大的餐厅。最近，他们决定启用一台全新的、功能强大的厨房机器人（人工智能）来协助烹饪和招待顾客。由于这台机器人做出的决策会影响真实的人，政府向公众承诺：“我们将确切记录如何使用这台机器人。”

这一承诺体现为一份名为**人工智能透明度声明（AITS）**的文件。你可以将这些声明视为面向公众的餐厅“菜单”或“食谱卡”。

这篇论文是首次有人收集了所有这些“菜单”（共 101 份，作者称之为AITS-101），并坐下来仔细研读，以查看它们是否真正有用，还是仅仅充满了令人困惑的行话。

研究人员做了什么

作者们扮演了美食评论家和侦探的角色。他们不仅阅读了这些“菜单”，还通过三种具体方式进行了分析：

“风格检查”（文体分析）：他们审视了这些“菜单”的写作方式。它们是简短明了，还是冗长乏味？是用通俗易懂的英语写成，还是充斥着令人困惑的“官僚腔调”？
“配料计数”（定量分析）：他们检查了“菜单”是否列出了重要的配料。政府是否说明了机器人做什么？在哪里使用？如何监控以确保它不出错？
“故事模式”（定性分析）：他们寻找反复出现的主题。不同的政府部门如何处理相同的规则？

他们的发现

以下是主要发现，以简单的方式解释：

1. “菜单”很短，但仍难读懂

发现：人工智能透明度声明比隐私政策（通常是巨大、枯燥的法律文件）要短得多。然而，它们的阅读难度仍达到了大学水平。
类比：想象一份只有一页长的菜单，但它是用只有大学教授才能理解的密码写成的。走进餐厅的普通人实际上无法读懂它。
问题：政府承诺使用“通俗易懂的语言”，但研究人员发现，大多数“菜单”仍在使用华丽、抽象的词汇（例如用"utilize"代替"use"）以及公众无法理解的技术术语。

2. “我们做什么”与“我们不做什么”

发现：大多数“菜单”非常擅长说明“我们遵守规则”以及“我们有主管监督机器人”。但它们非常不擅长解释机器人实际上是什么。
类比：如果你问厨师：“这是什么类型的机器人？”而他们回答：“它不是烤面包机，也不是搅拌机，”却从未真正告诉你它究竟是披萨烤箱还是油炸锅，那么你实际上并不知道你得到的是什么。
现实：许多机构没有定义他们眼中的“人工智能”是什么。他们只是假设人人都懂。这造成了困惑。

3. “人类安全网”很模糊

发现：许多机构（特别是那些处理弱势群体事务的机构，如福利部门）表示：“我们不让人工智能做最终决定；人类总会进行检查。”
类比：这就像一家餐厅说：“我们的机器人厨师从不端菜；人类总会先尝一口。”但他们没有说明人类如何品尝。他们是品尝每一盘菜，还是仅仅在一百盘中尝一盘？声明说“有人在场”，但并未解释这个人是否真的在尽职工作。

4. “父子”传话游戏

发现：许多小型政府机构并不撰写自己独特的“菜单”。相反，他们只是直接复制上级“父”部门的“菜单”。
类比：想象一家由大型连锁餐厅拥有的小型食品卡车。这家食品卡车的“菜单”上只写着：“详情请见主餐厅菜单。”这使得你很难知道这家食品卡车是否为其特定地点使用了特定的机器人，或者他们是否只是沿用了大型连锁店的通用规则。

5. “副驾驶”标准

发现：机构承认使用最普遍的工具是Microsoft 365 Copilot（一款用于撰写邮件和文档的人工智能工具）。
类比：几乎每个政府办公室都有相同的“智能助手”来撰写信件。风险不在于工具本身（因为它是标准产品），而在于个别员工如何使用它。这就像给每个人一把强大的电钻；工具本身是安全的，但如果有人用它来盖房子而不是修理架子，这就是“菜单”未能完全捕捉到的风险。

底线

该论文得出结论：当前的人工智能透明度声明体系在政府问责方面运作良好（即通过打勾来展示他们遵守了规则），但在公众理解方面却失败了。

最终比喻：
政府建立了一个非常整洁、有序的档案柜（AITS），以证明他们是有责任感的。但如果你打开抽屉，里面的文件是用公众无法破译的语言写成的。政府正在告诉我们“我们是安全的”，但他们并没有真正告诉我们“我们具体是如何安全的”。

作者建议，为了让公众真正信任这些系统，这些“菜单”需要用简单、清晰的语言重写，真正解释技术原理，而不仅仅是罗列法律合规性。

以下是论文《澳大利亚政府人工智能透明度声明的创建与分析》的详细技术摘要。

1. 问题陈述

政府正日益在公共服务中部署人工智能（AI），这需要透明度以维持公众信任并确保问责制。澳大利亚引入了人工智能透明度声明标准（AITS），强制政府机构披露人工智能的使用情况。然而，目前缺乏关于以下方面的实证证据：

这些监管要求如何在公共文件中实际落实。
这些披露的一致性、覆盖范围和可读性。
政策意图（安全、合乎道德的人工智能使用）与实际实施之间的差距。

先前的研究主要集中在法律框架或隐私政策上，但尚无针对政府人工智能透明度声明的系统性研究。

2. 方法论

作者采用了一种混合方法文档分析，结合了文体学、定量和定性技术。

A. 数据集构建（AITS-101）

范围： 研究针对澳大利亚所有 174 个符合条件的非公司联邦实体（NCEs），排除了国防和情报机构。
收集： 研究人员系统地在政府官方网站上搜索标题为“人工智能透明度声明”或近似变体的文档。
筛选： 他们确定了101 份有效的 AITS（AITS-101 数据集），并确认有 72 个实体没有声明。
预处理： 将异构格式（HTML、PDF、DOCX）的文档转换为纯文本。使用基于规则的解析器和人工审查将文本分割为“部分”（标题 + 正文），并规范化列表项。
标注方案： 开发了一个包含10 种人工智能实践类别的分类法（例如：人工智能定义、人工智能意图、监控措施、符合法规）。共标注了 2,923 个句子。

B. 分析技术

文体学分析：
- 长度与结构： 将字数和部分数量与隐私政策（PP）的基准数据集进行比较。
- 可读性： 使用**弗莱士 - 金卡德年级水平（FKGL）**指标进行评估。
- 词汇特征： 评估对“通俗语言”指南在四个维度上的合规性：简单词汇、避免行话、人称代词、包容性语言。这利用了基于大语言模型（LLM）的标注（GPT-5），并由人类专家进行验证（Cohen's $\kappa$ = 0.70）。
定量构成分析：
- 计算 10 个标注类别中每个类别的频率、平均值、中位数和覆盖率（包含该类别的文档百分比）。
定性模式分析：
- 识别声明中反复出现的结构模式和治理模型，以解释数据的含义。

3. 主要贡献

AITS-101 数据集： 首个经过策划的、公开可用的 101 份政府人工智能透明度声明数据集，作为未来研究的基础资源。
首个系统性实证研究： 对政府 AITS 内容、结构和语言特征的首次分析。
方法论框架： 建立了一个混合标注流程（LLM + 人工验证），用于分析监管披露文档。
政策见解： 提供了基于证据的建议，以完善透明度标准，更好地弥合政策与实践之间的差距。

4. 主要结果与发现

A. 文体学与语言发现

简洁性： AITS 明显短于隐私政策（中位数：498 词，而隐私政策为 4,379 词），部分数量也更少（6.8 对 28.0）。
可读性障碍： 尽管篇幅较短，但 AITS并不更容易阅读。中位数 FKGL 得分为14.16（大学水平），与隐私政策几乎相同，表明它们对普通公众而言仍然难以理解。
通俗语言合规性： 对通俗语言指南的整体合规性较低（平均得分：1.55/4）。
- 弱点： “简单词汇”（0% 合规）和“避免行话”（5% 合规）存在严重问题。文档严重依赖官僚词汇（例如："utilise"、"engage"）和未解释的技术缩写（例如："ICT"）。
- 优势： 高度遵守“包容性语言”（100%），适度使用“人称代词”（52%）。

B. 内容构成发现

治理与技术细节： 披露严重偏向行政合规，而非技术解释。
- 高覆盖率： 符合法规（100%）、监控措施（92%）和更新信息（98%）。
- 低覆盖率： 人工智能定义（40.6%）、对公众的影响（74.3%）和人工智能意图（79.3%）。
模糊性： 许多机构未能定义什么是“人工智能”，假设存在共同的理解，这导致对范围的解释不一致。

C. 结构模式与含义

该研究确定了机构将透明度操作化的四种关键模式：

定义范围（语法与来源）： 机构严格将“基于规则”或确定性系统排除在人工智能定义之外（专注于概率推理）。这造成了一种漏洞：被固化为静态规则的数据驱动模型逃脱了透明度要求，尽管它们保留了固有的风险。
负面保证： 高风险机构（例如社会服务机构）通过定义他们不做什么来界定其人工智能立场（例如：“我们不使用人工智能进行最终决策”）。这主张了人类监督，但缺乏关于该监督如何运作的操作细节。
结构依赖： 较小的机构通常依赖较大“母”部门的信息技术基础设施。这导致透明度声明引用广泛的组合级政策，将特定机构的使用案例与治理它们的基础设施脱钩。
“副驾驶”标准化： 最常见的用例是“工作场所生产力”（例如：Microsoft 365 Copilot）。这将风险管理的重点从审查特定算法转移到管理员工使用这些工具时的分布式日常决策。

5. 意义

政策演变： 研究结果突显了“公众理解”的目标与“官僚合规”的现实之间的错位。当前的 AITS 框架有效地服务于组织问责，但未能提供用于公众审计的技术粒度。
风险管理： 研究揭示，当前的透明度机制可能会掩盖与确定性系统相关的风险，以及将任务下游委托给生成式人工智能工具的风险。
未来标准： 作者认为，未来的透明度标准必须超越高层治理声明，包括：
- 更清晰的人工智能范围定义（包括来源）。
- 关于人机回环机制的操作细节。
- 简化的语言以确保真正的公众可访问性。

局限性： 研究承认基于大语言模型的词汇分析中可能存在噪声（特别是关于法律缩写），以及句子级标注固有的主观性，尽管已采取了缓解策略。