Mapping General-Purpose AI Governance in Twenty AI Middle-Power Jurisdictions
本論文は、20の中堅国家による汎用人工知能（GPAI）ガバナンスの枠組みをマッピングしたものであり、それらは主要な責任領域における規制形態については概ね一致しているものの、執行力においては著しく乖離しており、その多くがモデル開発者に拘束力のある義務を課すのではなく、非拘束的な措置、既存のアプリケーション層の命令、および観察能力に依拠していることを明らかにしている。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
最も強力な人工知能システムがわずか2つの場所で構築されている一方で、その影響が地球上のあらゆる国々に波及している世界を想像してみてください。これらのシステムは「汎用AI」として知られ、郵便物の仕分けや顔認識のような単一のタスクのために設計された単純なツールではありません。むしろ、コードの記述から生物学的プロセスのシミュレーションに至るまで、ほぼあらゆることを学習できる、極めて広範で柔軟なエンジンなのです。その適応性の高さゆえに、これらは特有のリスクを孕んでいます。危険な兵器の製造やサイバー攻撃の実行、あるいは人間が制御できないような振る舞いへと利用される可能性があるのです。これらのシステムを構築している企業は数カ国に集中していますが、世界中の他の国々は、それらとどのように共生していくかを考え出さなければなりません。これが、研究者たちが「AIミドルパワー（中堅国家）」と呼ぶ国々が直面している課題です。これらの国々は、自国で最先端のモデルを構築しているわけではありませんが、自国内での使用、販売、および監視の方法をどのように規制すべきかに直面しています。
ある研究チームは、これら20カ国の国々がこの問題にどのように対処しているかをマッピングしようと試みました。彼らは、広範な政治的声明や漠然とした約束を見たのではありません。代わりに、実際にどのようなルールが書き込まれているのかを確認するために、実際の法律、規制、および公式のガイダンス文書を徹底的に調査しました。彼らは、安全性を確保するために不可欠な4つの特定の領域に焦向しました。それは、システムのリリース前に大局的なリスクをチェックすること、システムが実際に何ができるかをテストし検証すること、危険な用途や能力を禁止すること、そして重大な事故が発生した際に報告することです。数百もの文書の細部を読み解くことで、彼らはAIガバナンスのグローバルな景観の詳細な全体像を構築しました。
彼らが発見したのは、「形はあるが力がない」という物語でした。調査対象となった20カ国を通じて、ルールの「形」については明確な合意が見られました。ほぼすべての国が、同じ4つの安全領域に対処しようとしています。彼らは皆、リスク評価、テスト、禁止、そして報告について語っています。しかし、それらのルールを定着させることに失敗しています。研究者たちは、多くの国がこれらの要件を書き記してはいるものの、それらを実際に強制できる拘束力のある法律へと転換できている国は極めて少ないことを発見しました。実際、彼らが見つけたルールのうち、硬い法律（hard law）として書かれているものは、わずか約22パーセントに過ぎませんでした。残りは、企業が無視することを選択できるソフトなガイドライン、戦略、または自発的な規範です。さらに驚くべきことに、たとえ国が拘束力のある法律を可決したとしても、多くの場合、「汎用AI」が実際に何を指すのかを定義していません。彼らは技術のカテゴリーについてのルールを作成していますが、そのカテゴリーに何が含まれるのかを明確に述べていないのです。これにより、ある企業が「自社の強力な新しいモデルは定義に該当しないため、ルールに従う必要はない」と主張できる隙間が生じています。
これらの国々がどのようにルールを執行しているかを見ると、もう一つの層の複雑さが明らかになります。多くの場合、ルールはAIモデルを構築している企業を対象としたものではありません。むしろ、モデルを使用する人々、モデルをホストするプラットフォーム、あるいはそれらを購入する政府機関を対象としています。これは、調査対象となった国々が、最も高度なAIを構築している企業を国内に抱えていないために起こります。彼らは、それら外国の構築者にコードの変更を強制したり、検査を受けさせたりすることを容易にはできません。そのため、彼らは自国の市場におけるテクノロジーの展開方法を規制することで、テクノロジーをコントロールしようとします。例えば、ある国は、銀行に対してAIツールを使用する前にテストを行うよう求めたり、病院に対してAIがミスをした場合に報告するよう求めたりすることがあります。このアプローチは実用的ではありますが、安全網がテクノロジーそのものではなく、テクノロジーの「適用」の周囲に編み込まれていることを意味します。
研究者たちは、誰がチェックを行っているのかについても調査しました。多くの場合、AIのテストを担当する機関は、金融の規制やデータの保護といった他の目的のために設立された既存の機関です。これらの既存の機関は、必ずしも特定の技術的な権限を持たないまま、AIの監督という役割を担わされています。さらに、一部の国がAIを評価するために設立した新しい安全研究所は、危険なシステムを発見したとしても、それを停止させる権限を持たないことがよくあります。彼らはリスクを測定し、レポートを発行することはできますが、開発者に問題を修正するように強制することはできません。それはまるで、消防隊が建物の熱さを測定し、危険についてのレポートを書くことはできるものの、オーナーに対してスプリンクラーを設置したり建物を閉鎖したりするよう命じる権限を持っていないようなものです。
おそらく最も重要な発見は、事故の報告に関するものです。重大な被害が発生したとき、誰が当局に報告することになっているのでしょうか。調査によると、調査対象となった国の半分は、重大なAI事象の報告を誰にも義務付けるルールを全く持っていませんでした。そのようなルールを持つ国においても、指示はしばしば不完全です。ルールが「事故を報告せよ」と書いていても、「誰に報告すべきか」「どのくらいの速さで行うべきか」「報告しなかった場合に何が起きるのか」が書かれていないことがあります。これら4つの要素（受け手、トリガー、期限、および結果）がなければ、報告ルールは単なる「提案」に過ぎません。研究者たちは、これが盲点となっていると指摘しました。もしAIシステムが、即時のデータ漏洩や金銭的損失を引き起こさない形で失敗した場合、たとえ長期的なダメージが深刻であったとしても、報告されないまま終わる可能性があるからです。
この論文は、「より多くの法律を持つことが、より良い安全につながる」という考え方にも異議を唱えました。ある国々は、数十もの文書やガイドラインを作成し、厚い書類の層を作り上げています。しかし、研究者がそれらの文書の背後にある法的権限を調べたところ、その多くが非拘束的なものであることが分かりました。逆に、文書の数は少ないものの、厳格で執行可能な法律を可決している国もありました。この研究は、ある国が持つルールの数が、その国のAI環境がいかに安全であるかを示す指標としては不適切であることを示しました。重要なのは、ルールが執行可能な形で書かれているか、そしてそれが適切な人々に届いているかという点です。
結局のところ、この研究が描き出した地図は、法律よりも速いスピードで進むテクノロジーに追いつこうとしている世界を示しています。20の国々は、安全のための「語彙」には同意しています。彼らは皆、リスクを評価し、システムをテストし、悪い用途を禁止し、事故を報告する必要があることを理解しています。しかし、彼らはそれらの言葉に「力」を持たせることについては、まだ合意できていません。ルールはしばめており、定義は欠落しており、執行メカニズムは脆弱です。研究者たちは、世界が単一の国際的なルールに合意する前に、これらの個別の国々が自国のシステムにおける隙間を埋める必要があると示唆しています。彼らは、何を規制しているのかを正確に決定し、安全機関に動くための権限を与え、そして何かが起きたときに、誰かが実際に責任を負うようにしなければなりません。それまでは、人工知能のためのグローバルな安全網は、穴だらけであり、善意によって編み込まれてはいるものの、守るべきテクノロジーの重みに耐えうる強さを欠いたままなのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。