Who gets to verify AI? Provenance, authority and accountability in digital government
本論文は、効果的なAIコンテンツ・ガバナンスを実現するためには、単なるラベル付けやプロベナンス（由来）ツールによる個別的な対応を超え、コンテンツのライフサイクル全体にわたって、実質的な説明責任を確保するために、公的な判読可能性、インフラストラクチャによる検証可能性、および制度的な応答性を区別する包括的な枠組みを採用する必要があると論じている。
原論文は CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
現代社会において、政府機関は公式通知の起草、文書の翻訳、画像の作成、さらには市民の質問に答えるチャットボットの運用に至るまで、人工知能への依存を強めています。この技術はスピードと効率性をもたらしますが、ある特有の危険を孕んでいます。それは、公式情報の極めて説得力のある偽造版を作成することを可能にしてしまう点です。公務員の合成画像や捏造された緊急警報は、真実よりも速く拡散し、人々が何が現実で何が製造されたものなのか確信を持てない状況を生み出します。これに対抗するため、規制当局やテクノロジー企業は、「ラベル付け」という単純なアイデアに目を向けました。その論理は、もしコンテンツに「AIによって作成された」と明確に表示することができれば、人々は注意深くなれるというものです。しかし、このアプローチは、単純な警告サインさえあれば信頼を回復できると仮定していますが、そのようなシステムを実際に機能させるために必要な、複雑なルール、ソフトウェア、そして人間の決定という網の目の存在を無視しています。
Shuai Wang氏とその同僚らによる新しい研究は、これらのラベル付けシステムが、本当に政府やテクノロジー企業に責任を負わせているのか、それとも単に安全であるという外見を作り出しているだけなのかを調査しています。研究者たちは、中国、欧州連合、および国際機関による11の主要な規制文書と技術標準を精査しました。彼らは、義務的なラベル付け法から、ファイルの出自を追跡するデジタル「ウォーターマーク（透かし）」の技術仕様に至るまで、あらゆる側面を調査しました。彼らの分析は、透明性はオン・オフができる単一のスイッチではないことを明らかにしています。その代わりに、機能するシステムには、コンテンツを公衆に理解可能にし、コンテンツの起源を機械によって検証可能にし、そして問題が発生した際に機関が責任を負えるようにするという、3つの異なる層が共に機能する必要があることを発見しました。
研究者たちは、コンテンツに目に見えるラベルを単に添付するだけでは、検証の負担を平均的な市民に押し付けることになりかねないことを発見しました。もしユーザーが、ある画像がAI生成であることを示す警告を目にしても、そのソースを確認する方法や、その警告が実際に何を意味するのかを理解する方法を持っていなければ、そのラベルは公衆の安全のためのツールではなく、組織による責任管理の手段となってしまいます。研究によれば、検証する方法のないラベルは、店舗の住所がないレシートのようなものです。それは取引が行われたことは教えてくれますが、それがどこから来たのかという証明は提供しません。さらに、ファイルの履歴を追跡するために設計された「プロベナンス（由来）」と呼ばれる技術システムは、しばしば少数の大手テクノロジー企業や標準化団体に権力を集中させます。これらのシステムは、ファイルが特定のサーバーから来たことは検証できますが、ファイル内の情報が真実であるかどうかを検証することはできません。文書は、その作成から公開に至るまで完璧に追跡可能であっても、依然として虚偽や誤解を招く内容を含んでいる可能性があるのです。
おそらく最も重要な発見は、たとえすべての技術的なピースが揃っていたとしても、システムの構成方法によって責任の所在が曖昧になることが多いということです。研究者たちは、これらのシステムが破綻する6つの一般的なケースを特定しました。一つの大きな失敗は、コンテンツの種類に応じたルールが広範すぎる場合であり、無害なクリエイティブ画像と重大な緊急警報を同一に扱うことで、リソースを浪費し、危険な情報が保護されないまま放置される事態を招きます。もう一つの失敗は、目に見えるラベルと隠れた技術的データが連結されていない場合であり、これにより、組織が警告を表示しながらも、基礎となる証拠が失われたりアクセス不能になったりすることを許してしまいます。また、本研究は、ファイルが編集されたり異なるプラットフォーム間で共有されたりすると、デジタル上の足跡が途切れ、コンテンツをソースまで遡る方法がなくなることも指摘しています。このようなシナリオでは、責任が断片化します。ソフトウェアプロバイダーはプラットフォームのせいにし、プラットフォームはユーザーのせいにし、規制当局は物語を繋ぎ合わせるための権限や技術的能力を欠いているのです。
著者らは、透明性を意味のあるものにするためには、それを単なる技術的な修正策としてではなく、公共のインフラとして扱う必要があると主張しています。これは、ラベル付けのルールが、市民が情報のソースを確認できるアクセシブルな検証ツールと結びつかなければならないことを意味します。また、機関が、誤情報が拡散した際に責任を割り当て、修正を強制するために必要な記録にアクセスできる権限と能力を持つことも必要です。研究は、成功するシステムとは、「これは誰が作ったのか？」という問いと「これは真実か？」という問いを分離し、検証されたソースであることが必ずしもコンテンツの正確性を保証しないようにすることであると示唆しています。最終的に、本研究は、より多くの開示が自動的により多くの説明責任につながるわけではないと結論付けています。目に見えるラベルを検証可能な証拠に結びつけ、機関がその証拠に基づいて行動できるようにしない限り、現在のAIラベル付けの波は、「信頼の劇場（トラスト・シアター）」、すなわち、安全の兆候は見えているものの、実際に公衆を保護する能力は手の届かない場所にある状態になるリスクがあるのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。