Mind The Gap: How The Technical Mechanism Of Agentic AI Outpace Global Legal Frameworks

論文サマリー：エージェント型 AI の技術的実態と法的定義の乖離

1. 問題提起 (Problem)

現在、自律的に多段階の行動（Web ブラウジング、コード実行、データベース照会、外部サービスとの相互作用など）を実行できる「エージェント型 AI（Agentic AI）」が商業的に展開されつつありますが、これを規制するための法的・政策的枠組みは技術の進化に追いついていません。

本研究が指摘する核心的な問題は、**「定義のギャップ（Definitional Gap）」**です。既存の規制当局や国際機関が用いる「エージェント型 AI」の定義は、技術的な不正確さとアーキテクチャ的な誤解に満ちています。

• 誤った前提: 法的定義は、AI の「モデル能力（モデルの性能）」と「エージェント的アーキテクチャ（自律的な実行ループ）」を混同しています。
• 誤った認知: 確率的なトークン予測を「認知的な推論（Reasoning）」や「意思決定」とみなし、自律性を「スカラー（連続的な度合い）」として扱っています。
• 結果: この定義の曖昧さにより、規制は実際のリスク源（システムプロンプト、API 権限、サンドボックス、オーケストレーションコード）を捉えられず、逆にリスクの低いシステムを過剰に規制したり、実際の危険なアーキテクチャを見逃したりする構造になっています。

2. 研究方法 (Methodology)

本研究は、以下の 2 つの主要なアプローチに基づいた体系的な比較調査を行っています。

1. 規制・政策文書の分析: 4 つの大陸にまたがる 11 の主要な規制文書・政策枠組みを調査しました。
   • 対象: EU AI 法、欧州データ保護監督機関（EDPS）の TechSonar、OECD/G7 の原則、NIST AI リスク管理フレームワーク、英国 ICO、シンガポール、ニュージーランド、NSW（オーストラリア）のガイドライン、および学術論文（Maas & Olasunkanmi）など。
2. 技術ドキュメントとの対比: 上記の法的定義の技術的妥当性を検証するため、6 つの主要な開発者（Anthropic, Google Cloud, OpenAI, Microsoft, C3.ai, Meta）のドキュメントを分析し、技術的な合意が最も明確な要素を抽出しました。

これらを比較することで、法的定義が技術的現実（実装されたシステム）とどこで乖離しているかを特定し、開発者ドキュメントに基づいた統合的な技術的定義を提案しました。

3. 主要な貢献 (Key Contributions)

本研究の主な貢献は以下の 3 点です。

1. 初の体系的比較調査: 多様な管轄区域と機関の文脈におけるエージェント型 AI の定義を初めて体系的に比較・分析しました。
2. 4 つの定義失敗カテゴリーの特定: 法域や機関の起源に関わらず、すべての文書に共通する 4 つの構造的な定義失敗を特定し、命名しました。
3. 規制の構造的欠陥の解明: 定義の失敗が、規制文書を実質的に機能不全に陥らせていることを実証しました。すなわち、特定のリスクを持たない AI システムには広範に適用されつつも、実際のリスクを決定するエンジニアリング決定（ツールアクセス権限など）には届かない「過剰かつ不十分（overbroad and underinclusive）」な規制を生み出している点です。

4. 結果と分析 (Results & Analysis)

A. 提案された技術的定義
開発者ドキュメントに基づき、以下の技術的に正確な定義を提案しています。

「エージェント型 AI システムとは、目標が設定された後、最小限の人間の介入で、ツール、外部システム、他のエージェントへのアクセスを通じて、文脈を自律的に知覚し、計画し、多段階の行動を実行する自律計算システムである。これは人間のフィードバックに基づいて行動を適応させつつ、指示とガードレール内で動作する。」

B. 4 つの定義失敗カテゴリー
調査対象のすべての規制文書に見られる 4 つの根本的な誤りです。

1. 人間中心主義（Anthropomorphism）:
   • 誤り: AI に「推論」「計画」「判断」「学習」「記憶」といった人間の認知的機能を付与する。
   • 実態: LLM は確率的なトークン予測を実行するだけであり、認知的な意思決定を行わない。リスクは AI の「判断」ではなく、開発者が設定したツール権限やサンドボックスの欠陥に起因する。
2. アーキテクチャの混同（Architectural Conflation）:
   • 誤り: エージェント型 AI を「複数のエージェントが協調するマルチエージェントシステム（MAS）」と定義する（例：EDPS、EU 委員会）。
   • 実態: 「エージェント的」であるかはエージェントの数ではなく、「反復実行ループ（ReAct ループ）」と「ツール呼び出し」の有無で決まる。単一のモデルでもツールを介して自律的に行動すれば、それはエージェント型 AI である。
3. 「自律性のレベル」の誤謬（The Levels-of-Autonomy Fallacy）:
   • 誤り: 自律性を「人間の介入の度合い」を表すスカラー（連続的なレベル）として扱う（例：EU AI 法、NIST）。
   • 実態: 自律性は「度合い」ではなく、「単一推論」から「反復実行ループ」への構造的な転換である。人間の介入を減らすことと、アーキテクチャが根本的に変わることは別問題である。
4. 「学習と記憶」の神話（The Learning-and-Memory Myth）:
   • 誤り: システムが「継続的に学習し」「記憶して適応する」とみなす（例：NSW 政府、シンガポール銀行）。
   • 実態: 展開された基盤モデルの重み（Weights）は固定されており、学習しない。「記憶」や「学習」とは、ベクトルデータベースからの検索（RAG）やコンテキストウィンドウへの過去のテキスト注入であり、モデル自体が更新されるわけではない。

C. 失敗の構造的な原因

• 学際的な著者の不在: 法律家や政策担当者が技術者なしで文書を作成している。
• 人間の認知語彙の誘惑: 技術的な正確さよりも、直感的な「推論」「意思決定」といった人間中心的な語彙が採用されやすい。
• 過去の規制概念の継承: 静的な予測モデル向けに作られた概念（意図された目的、提供者と展開者の明確な分離など）が、動的で非決定論的なエージェント型 AI に適用され、機能不全を起こしている。

5. 意義 (Significance)

この論文は、単なる技術的な議論を超え、AI 規制の**「認識論的失敗（Regulatory Epistemology Failure）」**を指摘しています。

• 規制の実効性: 現在の定義では、規制当局は AI の「見かけ上の推論」を規制しようとしており、実際のリスクを制御する「開発者のアーキテクチャ的決定（ツール権限、API 制限、サンドボックス）」を見逃しています。
• 責任の所在: 定義の誤りにより、リスクを管理できない「提供者」や「展開者」に責任が問われたり、逆に真のリスクを伴う複合アーキテクチャ（モデル＋オーケストレーション＋ツール権限）の責任所在が不明確になったりします。
• 今後の方向性: より効果的な規制のためには、既存の枠組みを廃棄するのではなく、エンジニアリングコミュニティと緊密に協力し、技術的実態（反復ループ、ツール権限、確率的メカニズム）に基づいた定義に修正する必要があります。

結論として、技術的メカニズムの進化が法的定義を凌駕している現状を是正し、**「AI の振る舞い（出力）」ではなく「AI を制御するエンジニアリング決定（入力と制約）」**に焦点を当てた規制へとパラダイムシフトすることが不可欠であると主張しています。