Position: AI Governance Needs ISO-like Interoperability Protocols, Not Just Laws
本ポジションペーパーは、効果的なグローバルAIガバナンスを実現するためには、断片的な管轄区域ごとの法律から、国境を越えたリスクコミュニケーションを可能にし、中小企業のコンプライアンス負担を軽減し、かつイノベーションを阻害することなく公衆の信頼を醸成する、ISOのような相互運用プロトコルおよび標準化された機械判読可能な「栄養成分表示」への転換が必要であると主張するものである。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
人工知能は、もはや単に写真を整理したり曲を推奨したりするための道具ではありません。それは、病院が患者を診断することから銀行がローンを承認することに至るまで、世界の最も重要なシステムを動かす目に見えないエンジンとなっています。これらのシステムがより強力で複雑になるにつれ、世界中の政府はそれらを安全かつ公正に保つためのルール作りを急いでいます。しかし、これらのルールは現在、異なる言語で書かれています。ある国は特定の種類の安全性チェックを要求し、その隣の国は全く異なる一連の書類を要求し、第三の国は企業が無視することを選択できる自発的なガイドラインに依存しているかもしれません。このような矛盾する規制のパッチワークは、開発者に混乱を招く迷路を作り出し、有益なテクノロジーを国境を越えて展開することを困難にし、人々が使用しているシステムが本当に安全であるのかどうか確信を持てない状況を生み出しています。
ある研究チームは、この世界的な混乱に対する解決策は、さらなる法律を制定することではなく、法律と並行して機能する普遍的な技術的言語を構築することであると主張しています。彼らの見解では、法律の条文だけに頼ることは、あらゆる港に対して新しい条約を書きながら世界の海運業を管理しようとするようなものであり、遅く、コストがかかり、エラーが起きやすいものです。代わりに彼らは、人工知能のための標準化された、機械読み取り可能な「栄養成分表示」を作成することを提案しています。食品ラベルが消費者にパッケージの中身（カロリー、原材料、アレルゲンなど）を正確に伝えるのと同様に、これらの新しいデジタルラベルは、規制当局やユーザーに対し、AIシステムの中に何が入っているのか（どれだけのエネルギーを消費するか、学習データがどこから来たのか、そして公平性のテストにおいてどのように機能するか）を正確に伝えます。
研究者たちは、世界がデータプライバシーをいかに成功裏に管理してきたかという歴史を引き合いに出し、法律は目標を設定すべきであるが、その目標が達成されたことを証明する重労働は技術的標準が担うべきであると示唆しています。彼らは、欧州連合（EU）の一般データ保護規則（GDPR）を例に挙げています。これは厳格なプライバシー法ですが、それが世界的に有効となったのは、法律そのものによるだけでなく、企業が実際に従うことができる実用的な標準セキュリティプロトコルによって支えられたためです。人工知能に対しても、彼らは同様の道を提案しています。つまり、AIシステムが国を移動する際、自らの安全性とコンプライアンスの証明を携えて移動できるような、共有された技術的フォーマットです。これにより、ソウルの企業は、コードを書き換えたりモデルを再学習させたりすることなく、自社のシステムが欧州連合、米国、中国の安全性要件を同時に満たしていることを証明する、単一の標準化された文書を作成できるようになります。
このアイデアを実現するために、チームはこれらのラベルの具体的な構造を設計し、それを「AIリスク・マニフェスト」と呼んでいます。これらは人間が読むための単純な要約ではなく、コンピュータが自動的にスキャンして検証できる構造化されたデータファイルです。研究者たちは、すべてのラベルが必ず含めるべき3つの重要な情報を特定しました。第一に、バイアスに関する報告であり、システムが異なるグループの人々をどのように扱うか、そして不公平な決定を下していないかを示します。第二に、エネルギー消費の追跡であり、モデルの訓練や実行に使用された電力を詳細に記録します。これは環境への懸実は高まっている問題です。第三に、システムを教えるために使用されたデータの明確な履歴を提供し、その起源を辿ることで、データが盗まれたり操作されたりしていないことを保証します。これらの情報の報告方法を標準化することで、規制当局は推測をやめてチェックを開始でき、システムが稼働を許可される前に、自動化されたツールを使用して安全性を検証できると研究者たちは主張しています。
また、論文は一般的な懸念にも言及しています。それは、このような厳格な標準を作成することがイノベーションを阻害したり、中小企業の競争を困難にしたりするという懸念です。著者らは、現在の断片化されたシステムこそが最大のイノベーションの障壁であると反論しています。なぜなら、中小企業は12もの互換性のないルールブックをナビゲートすることを強いられるからです。彼らの提案する解決策は、標準をモジュール化し柔軟にすることであり、ソフトウェアのアップデートのように、テクノロジーの変化に合わせて進化できるようにすることです。彼らは、コアとなるルールは安定したまま、新しいタイプのAIが登場するにつれて特定の詳細を調整できるシステムを構想しています。このアプローチは、コンプライアンスのコストを全員にとって下げ、より小さなプレイヤーが市場に参入することを可能にすると同時に、大企業にもグローバルに事業を展開するための明確な道を与えるものであると彼らは主張しています。
結局のところ、研究者たちは、テクノロジーを統治する方法についての世界の考え方の転換を求めています。彼らは、法律は正しいことと間違っていることを定義するために必要であるが、それだけでは複雑で動きの速いシステムが安全に動作することを保証するには不十分であると考えています。安全性の真の実務は、技術的な詳細、すなわち指標、データログ、および検証ステップにおいて行われるのだと彼らは示唆しています。これらの詳細に関する共有された機械読み取り可能な言語を構築することで、世界は規制の混乱状態から、約束ではなく、テクノロジー自体と共に移動する検証可能な事実に基づいたグローバルな協力体制へと移行できるのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。