Who gets to verify AI? Provenance, authority and accountability in digital government
本文认为，有效的人工智能内容治理需要超越孤立的标签或溯源工具，转而采用一种在整个内容生命周期内区分公共可读性、基础设施可验证性和机构问责制的整体框架，以确保实现真正的问责而非仅仅是象征性的合规。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在现代世界中，政府机构日益依赖人工智能来起草官方通知、翻译文件、生成图像，甚至驱动回答公民问题的聊天机器人。这项技术提供了速度和效率，但也带来了一种独特的危险：它使得创建极具说服力的官方信息伪造版本成为可能。一张公众官员的合成图像或一条捏造的紧急警报传播速度可能比真相还要快，使人们无法确定什么是真实的，什么是制造出来的。为了应对这一问题，监管机构和科技公司转向了一个简单的想法：标注。其逻辑是，如果我们能清晰地将内容标记为“由人工智能制作”，人们就会知道要保持警惕。然而，这种方法假设一个简单的警告标志就足以恢复信任，却忽略了要使这样一个系统真正运作起来，需要复杂的规则、软件和人类决策构成的复杂网络。
王帅及其同事的一项新研究调查了这些标注系统究竟是真的让政府和科技公司承担了责任，还是仅仅创造了一种安全的假象。研究人员审查了来自中国、欧盟和国际组织的十一份主要监管文件和技术标准。他们检查了从强制性标注法到用于追踪文件来源的数字“水印”技术规范等方方面面。他们的分析表明，透明度并不是一个可以随意开启的开关。相反，他们发现一个有效的系统需要三个必须协同运作的不同层面：使内容对公众而言是可理解的，使内容的来源对机器而言是可验证的，以及确保在出现问题时机构能够被追究责任。
研究人员发现，仅仅在一段内容上附加一个可见的标签，往往会将验证的负担转嫁给普通公民。如果用户看到一个关于图像由人工智能生成的警告，却无法核实来源或理解该警告的具体含义，那么这个标签就变成了组织的一种责任管理手段，而非公共安全工具。研究显示，没有验证方式的标签就像一张没有商店地址的收据；它告诉你发生了一笔交易，但无法提供交易来源的证明。此外，旨在追踪文件历史（即“溯源”）的技术系统往往将权力集中在少数大型科技公司和标准组织手中。这些系统可以验证一个文件是否来自特定的服务器，但它们无法验证文件内部的信息是否真实。一份文件可以在其从创建到发布的整个过程中被完美追踪，但其中仍可能包含虚假或误导性的信息。
或许最关键的发现是，即使所有的技术环节都到位了，由于系统的组织方式问题，问责制往往也会失效。研究人员识别出了这些系统失效的六种常见方式。一种主要的失败发生在针对不同类型内容的处理规则过于宽泛时，即将无害的创意图像与关键的紧急警报同等对待，这不仅浪费了资源，也导致危险信息未能得到充分保护。另一种失败发生在可见标签与隐藏的技术数据之间缺乏关联时，导致机构在展示警告的同时，底层的证据却丢失或无法获取。研究还强调，当文件被编辑或在不同平台间分享时，数字痕迹往往会中断，导致无法将内容追溯回其源头。在这些场景中，责任变得碎片化：软件供应商归咎于平台，平台归咎于用户，而监管机构则缺乏将故事拼凑完整的权力或技术能力。
作者认为，要使透明度具有意义，必须将其视为一项公共基础设施，而非一个简单的技术修复方案。这意味着标注规则必须与可获取的验证工具相连接，以便公民能够核查信息的来源。这也要求机构具备访问所需记录的权限和能力，以便在误导信息传播时进行追责并执行纠正措施。研究建议，一个成功的系统应当将“谁制作了这个？”与“这是真的吗？”这两个问题区分开来，确保一个经过验证的来源并不自动意味着内容是准确的。最终，研究结论指出，更多的披露并不自动带来更多的问责。如果不同时将可见的标签与可验证的证据相连，并确保机构能够基于这些证据采取行动，那么当前的 AI 标注浪潮就有可能变成一种“信任剧场”——在这里，安全的迹象清晰可见，但实际保护公众的能力却依然遥不可及。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。