Final Authority in AI Governance: Frontier-Provider Sovereignty and Action-Centered Deployer Governance

AIによる偉大なる権力争い：リモコンを握るのは誰か？

想像してみてください。あなたは超スマートなロボット助手を作りました。それはコードを書き、航空券を予約し、銀行口座の管理さえできるほど賢いものです。しかし、ここで厄解な問題があります。もしこのロボットが何か奇妙な行動を始めたとき、誰が「停止」ボタンを押す権利を持つのでしょうか？この問いは、人工知能（AI）ガバナンスの世界における新たな論争の中核に位置しています。

この争いを理解するには、二人の主要な登場人物を知る必要があります。第一に、**AIプロバイダー（提供者）**です。これは、ロボットの脳を作り上げた優秀な研究所や企業のことです。彼らは脳がどのように機能し、何が可能で、どこで壊れる可能性があるのかを知っています。第二に、**デプロイヤー（展開者）**です。これは、病院の運営や銀行の経営など、実際にロボットを使って現実の業務を行う個人や企業のことです。デプロイヤーは、もしロボットがミスをした場合に、その混乱に対処しなければならない立場にあります。

しばらくの間、多くの人々はプロバイダーこそが究極のボスであるべきだと考えてきました。その論理はシンプルでした。「君が脳を作ったのだから、体もコントロールすべきだ」というものです。しかし、ロボットがより複雑なタスクを実行するようになるにつれ、新しい考え方が支持を集めています。それは、「リモコンを握っている人」、つまり、物事がうまくいかなかった時に結果を被る人が、ロボットが実際に「何をするか」に対して最終決定権を持つべきだという考え方です。これは、どちらがより賢いかという問題ではなく、どちらが責任を負うかという問題なのです。

---

この論文の大きな問い：真のボスは誰か？

ゼシュン・ワン（Zexun Wang）氏によって書かれたこの論文は、AIシステムが日常業務に深く組み込まれた後、どこに「最終的な権限」が置かれるべきかという非常に具体的な議論を掘り下げています。著者は、誰が主導権を握るべきかについての二つの異なる考え方を比較しています。

第一の考え方：「脳の設計者」ルール（フロンティア・プロバイダー主権）
レースカーのメーカーを想像してみてください。彼らはエンジンがどれほどの速さで走行できるか、どこでブレーキが故障する可能性があるかを正確に知っています。「プロバイダー主権」の考え方は、AI企業がAIの能力と危険性について最も詳しい以上、AIをいつ動かしてよいかを判断するのは彼らであるべきだと主張します。彼らは厳格な門番として機能し、「まだそれはできない」「よし、行ってよい」といった判断を下します。これは、最も強力なモデルのリリースを制御して災厄を防ぐ必要があると主張する、一部の大手AIラボが抱いている見解です。

第二の考え方：「運転席」ルール（アクション中心のデプロイヤー主権）
次に、あなたがそのレースカーのドライバーであると想像してください。たとえメーカーがエンジンを最もよく知っていたとしても、特定のコースを走り、特定の交通状況の中にいて、壁に衝突した時に被害を受けるのは「あなた」です。「デプロイヤー主権」の考え方は、AIのアクションを実行するかどうかの最終決定は、そのAIを使用している組織に属すべきであると主張します。もし銀行が融資の承認にAIを使用したり、病院が手術のスケジューリングにAIを使用したりする場合、法的・財務的な影響に対処しなければならないのはその銀行や病院です。したがって、彼らこそが最終的な「ゴー」または「ノーゴー」の合図を出すべきなのです。

論文の結論：「ドライバー」が最終決定権を持つべきである

著者は、欧州連合（EU）、米国（NIST）、シンガポール、日本、カナダなどの主要な機関の規則やガイドラインを調査しました。また、現在企業が実際にどのようにAIを使用しているかも調査しました。

論文は、AIの構築者（プロバイダー）が安全限界を設定し、AIが真に危険な行動をとらないようにすることは間違いなく必要であるが、実社会の企業においてAIが何を行うかについてのあらゆる決定を下すべきではない、と示唆しています。

論文が「ドライバーの席」ルールを支持する理由は以下の通りです。

1. 「誰が支払うのか？」という要因： もしAIがミスをして企業に数百万ドルの損失を与えたり、法律に抵触したりした場合、罰金や訴訟を受けるのはAIを作ったAI企業ではなく、その企業（デプロイヤー）です。論文は、代償を払う者こそが鍵を握るべきであると論じています。
2. 「ローカルな知識」の問題： カリフォルニアのAI企業は、自社のモデルがスマートであることを知っているかもしれませんが、トロントのある特定の銀行が「特定の国にデータを送信すること」を禁止していることや、特定の病院が「患者のプライバシー」に関する独自のポリシーを持っていることは知りません。プロバイダーはローカルなルールを見ることができません。コンテキスト（文脈）を知っているのはデプロイヤーだけです。
3. 「混合物」としての現実： 今日の企業は、多くの異なるソースからのAIを使用しています。メール作成にはあるAIを、データ分析には別のAIを、カスタマーサービスにはまた別のAIを使用しているかもしれません。もしAI企業がすべてをコントロールしようとすれば、企業が多様なツールを組み合わせて使っているため、状況は混乱します。論文は、どのAIツールが作業を行っているかにかかわらず、アクション自体（例えば「このメールを送信する」など）が独自の許可証を携えるべきであるというシステムを提案しています。

提案される解決策：「証明を伴う」アクション

これを解決するために、論文は**「証明を伴うエージェント・アクション（PCAA: Proof-Carrying Agent Actions）」**という概念を提示しています。これは、AIが行うあらゆるアクションに対する「デジタルパスポート」のようなものです。

単にAI企業が「安全です」と言うのを信じるのではなく、システムは個々のアクションに対して持ち運び可能な証明書を作成します。この証明書には以下のように記されます。

• 「このアクションはレビュー済みである」
• 「このアクションは、企業の適切な担当者によって承認された」
• 「これが、ルールに従ったものであるという証明である」

このようにすれば、たとえAI企業が変わったり技術がアップデートされたりしても、AIを使用している企業は、誰が何を承認したのかという明確な記録を保持し続けることができます。これにより、権限は本来あるべき場所、つまり実際に業務を行い、その結果に直面する人々の手に留まります。

論文が「否定」していること

論文は、自身が何を主張して「いない」のかについても慎重に述べています。

• AI企業を無視すべきだとは言っていません。彼らは、モデルが一般的な意味で危険であるかどうかを判断する専門家であり続けています。彼らは依然として、「このモデルはリリースするにはリスクが高すぎる」と言うべき立場にあります。
• 企業が「何でも好き勝手にできる」と言っているわけでもありません。AIの構築者は、依然として安全性の境界線（速度制限のようなもの）を設定します。
• これが解決済みの問題であり、完璧なシステムであると主張してもいません。論文は、AIの利用がこれほど複雑かつ混在した状況にある中で、これが現時点での「より良い」方法であると示唆しています。

まとめ

主な要点は「レイヤー化（階層化）」されたアプローチです。二層建てのビルを想像してください。

• 上の階（プロバイダー）： AIの構築者が住んでいます。彼らは建物に入ることが安全か、エレベーターが屋上まで上がれるかを決定します。彼らは大きく恐ろしいリスクを扱います。
• 一階（デプロイヤー）： AIを使用する企業が住んでいます。彼らはどの部屋に入るか、誰がドアを通れるか、そして誰かが躓いた時に何が起きるかを決定します。

論文は、長い間、人々は「上の階」が「一階」をコントロールすべきだと考えてきたと述べています。しかし、著者はそれは、自動車メーカーがタクシー運転者に対して、あらゆる交差点でどの方向に曲がるべきかを指示しようとするようなものだと指摘しています。メーカーは車については知っていますが、道路についてはドライバーが知っているのです。

結局のところ、論文が示唆する最も賢明な未来とは、AIの構築者が安全ルールを設定しつつ、実際にどのようなアクションが行われるかの最終的な権限は、行ったことが正当であることを示す明確で持ち運び可能な証明によって裏付けられた、AIを使用する企業が保持するという形です。