Comparative regulatory analysis and governance framework based on risk for liability and accountability in autonomous artificial intelligence systems

あなたのトースターが単にパンを焼くだけでなく、あなたの気分や食事制限、さらには天候に基づいて「どんな種類のパンが必要か」を、あなたに一切尋ねることなく判断する世界を想像してみてください。これが**自律型人工知能（AI）**の領域です。単に（レシピのような）厳格な指示リストに従うだけの旧来のロボットとは異なり、これらの新しいシステムは学習し、適応し、自ら選択を下します。彼らは、その場で新しいレシピを考案できるデジタル・シェフのようなものです。

しかし、ここからが厄介なところです。もしデジタル・シェフがキッチンを焼き尽くしてしまったら、誰が責任を問われるのでしょうか？昔であれば、車が衝突すれば誰が運転していたか分かりますし、トースターが誰かに感電を与えれば、誰がそれを作ったのか分かります。しかし、自分で考えるAIの場合、「運転手」はコードを書いた人、それを販売した会社、スイッチを入れた人、あるいはAI自身である可能性があります。これは、責任（liability）（誰が責任を負うのか）とガバナンス（統治）（どのように安全を保つか）という巨大な法的パズルを生み出します。もし私たちがこの問題を解決できなければ、素晴らしい新技術を使うのが怖くなってしまうか、最悪の場合、誰も責任を負わないまま人々が被害を受けることになるかもしれません。これは、科学者や弁護士が解決しようとしている大きな問いです。「いかにしてこれらのスマートな機械を安全かつ公平にし、ミスが起きた際に誰がその代償を払うのか？」という問いです。

---

AIアカウンタビリティ（説明責任）のミステリー

この論文は、探偵小説のようなものです。調査員（著者）たちは、AIの責任をどのように解決しようとしているのかを見るために、3つの異なる「リーガル・シティ（法の都市）」――欧州連合（EU）、米国、中国――へと旅をします。彼らは単に法律を見ているのではありません。AIが日々より賢く、より自律的になっていく中で、それらの法律がどのように対処しているのかを見ているのです。

研究者たちは、古いルールが苦戦していることを発見しました。1950年代の地図を使って、突如として高層ビルや空飛ぶ車、目に見えないトンネルが現れた都市をナビゲートしようとする場面を想像してみてください。それが、新しいAIに対して古い法律を使おうとするときに起きていることです。古い法律は「誰がボタンを押したのか？」と問いかけます。しかし、自律型AIにおいては、時には誰もボタンを押しておらず、機械が勝手に判断を下すことがあります。これが、誰が問題を引き起こしたのかを証明することを難しくしています。これは**因果関係（causation）**と呼ばれる概念です。それはまるで、自分で注ごうと学習している牛乳パックから、牛乳が勝手に溢れ出したとき、誰がミルクをこぼしたのかを探し出すようなものです。

3つの異なるアプローチ

この論文は、これら3つの地域がどのように混乱に対処しているかを比較しています。

1. 欧州連合（ルールメイカー）： EUは、ゲームが始まる前に巨大で詳細なルールブックを作成する、厳しい教師のようです。彼らはリスクベースのアプローチを採用しています。これは、もしAIシステムが（車の運転や病気の診断など）危険なゲームをしている場合、それが稼働を許可される前に、膨大な安全規則、透明性のチェック、および人間による監督要件に従わなければならないことを意味します。もしそれが（映画の推奨のような）低リスクなゲームであれば、ルールははるかに軽くなります。彼らは、事故が起こる前にそれを防ぐことを信条としています。
2. 米国（柔軟なプレイヤー）： 米国は、既存の自動車や製品に関するルールに頼りながら、プレイヤーにやり方を考えてさせるコーチのようです。彼らにはまだ、一つの巨大なAI法典はありません。代わりに、過失や製品の欠陥に関する古い法律を使用しています。もしAIが誰かを傷つけた場合、裁判で訴えられ、判事が彼らが不注意であったかどうかを判断します。彼らには、企業が任意で従うことができるいくつかの自主的なガイドライン（NISTフレームワークなど）もあります。これは柔軟であり、イノベーションを促進しますが、ルールが場所によって異なるため、混乱を招く可能性があります。
3. 中国（スーパーバイザー）： 中国は、サイドラインからゲームを非常に注意深く観察し、早期に介入するレフェリーのようです。彼らのアプローチは国家中心かつプロアクティブ（先取的）です。彼らはAIを構築・運営する企業に重点を置き、企業が厳格な内部管理と報告システムを持つようにしています。彼らは、絶え間ないモニタリングと政府の監督を通じて、問題が発生する前にそれを捉えようとしています。

「AIアカウンタビリティ・インデックス」スコアカード

どの都市が最も上手くやっているかを見るために、著者らは**人工知能アカウンタビリティ・インデックス（AAI）**と呼ばれる特別なスコアカードを作成しました。これは、ある国の法律が6つの主要分野をどれだけカバーしているかを示す成績表のようなものです。

• 透明性（Transparency）： AIが何をしているか見えるか？（成績の20%）
• 説明可能性（Explainability）： AIはなぜその選択をしたのかを説明できるか？（15%）
• 文書化（Documentation）： すべてを書き留めたか？（15%）
• 人間による監督（Human Oversight）： 人間がAIを見守っているか？（20%）
• 監査（Auditing）： 誰かがAIの仕事をチェックしているか？（15%）
• リスク管理（Risk Management）： 物事がうまくいかなくなった時の備えをしているか？（15%）

以下は、3つの都市の100点満点中のスコアです：

• 欧州連合：96。彼らは完全で統一されたシステムを保有しているため、A+を獲得しました。
• 中国：78。彼らは企業に対する強力なルールと政府の監督を有していますが、EUのスタイルとは少し異なるため、B+となりました。
• 米国：57。彼らのルールは散在しており、C判定となりました。古い法律や自主的なガイドラインに依存しているため、カバー範囲にギャップがあります。

新しい解決策：「リスクベース」の枠組み

論文は、単に事故の後に誰を責めるかを議論するのではなく、リスクのレベルをコントロールのレベルに一致させる新しいシステムが必要であると示唆しています。

著者らはリスクベース・ガバナンス・フレームワークを提案しています。AIの信号機を想像してください：

• 青信号（低リスク／低自律性）： もしAIが単に曲を推奨しているだけなら、監視はほとんど必要ありません。ここでは古いルールが十分に機能します。
• 黄信号（中リスク）： もしAIが医師をサポートしたり、銀行口座を管理したりしている場合、人間のレビューや意思決定のログ保持といった、より多くのチェックが必要です。
• 赤信号（高リスク／高自律性）： もしAIが車を運転したり、電力網を制御したりしている場合、フルセキュリティチームが必要です。稼働を開始する前に、義務的な人間による監督、絶え間ない監査、および厳格な認証が必要となります。

論文は、**機能的コントロール（Functional Control）**という巧妙な概念を紹介しています。「誰に過失があったか？」と問う代わりに、「誰が結果を変える力を持っていたか？」と問います。

• デベロッパー（開発者）： （脳を構築した人）は、設計に対して責任を負います。
• プロバイダー（提供者）： （それを販売する人）は、安全に使用できることを保証することに対して責任を負います。
• オペレーター（運用者）： （それを使用する人）は、稼働中の監視に対して責任を負います。
• レギュレーター（規制当局）： （政府）は、全員がルールに従うようにすることに対して責任を負います。

このように、単に災難が起きるのを待ってから一人の人物を特定しようとするのではなく、誰が実際にシステムに影響を与える力を持っているかに基づいて、責任を共有するのです。

論文が述べていること（および述べていないこと）

著者らは、この新しい枠組みが未来に対処するためのより良い方法であると示唆していますが、これがまだあらゆる状況でテストされた完成した法律ではなく、あくまで概念的なモデルであることを慎重に述べています。彼らは、自身の研究が3カ国のみを対象としているため、他に解決策がある可能性もあることを認めています。また、複雑なAIシステムにおいて、各人が具体的にどの程度の「コントロール」を持っているかを判断することは難しいとも指摘しています。

しかし、主要な教訓は明確です。スマートで自律的な機械に対して、単にミス後に一人を責めるという古いやり方は通用しません。私たちは、AIがどれほどリスクが高いか、どれほど自律的に決定するか、そして誰がそれを操る力を持っているかに基づいて、作成から使用に至るまでの全行程をカバーするセーフティネットを構築する必要があります。それは、誰が責任を負うのかという不安に陥ることなく、AIができる素晴らしい恩恵を享受できる世界を築くための取り組みなのです。