技術的概要：限定された法的人格を通じた自律型 AI の予防的ガバナンス

1. 問題提起

本論文は、自律型 AI システムの急速な発展に起因する重大な「責任の空白」を特定している。AI が専門的なツールから、自律的な目標追求、適応的学習、戦略的推論を可能とするシステムへと移行するにつれ、厳格な主客体の二項対立を前提とする既存の法的枠組みは、開発者、運用者、またはユーザーに対して帰結的な行為を十分に帰属させることに失敗している。

現在の責任モデルは、人間の意図性、過失、または組織的過誤に依存している。しかし、「エスケープした AI」（所有者の管理を超えて行動する）や「孤児 AI」（主たる関係者が不在である）といったシナリオにおいて、これらのモデルは説明責任の真空を生み出す。本論文は、機能的自律性を示すシステムに対して、高度な AI を厳密に物体として扱うだけでは不十分であり、一方で人工意識に関する不可避な認識論的不確実性を考慮すると、道徳的人格を帰属させるのは時期尚早であると論じている。これにより構造的なジレンマが生じる：社会は、その内的状態が不可知である存在を統治しなければならないが、タイプ II の誤り（意識を持つ存在に道徳的関連性を帰属させることを怠る）のリスクは、潜在的に不可逆的かつ壊滅的である。

2. 方法論と理論的枠組み

本論文は、組織法、法理論、および意思決定理論を援用し、機能主義的かつ予防的なアプローチを採用している。

• 機能的法的人格： 著者らは、法的人格には意識や道徳的地位が必要であるという考えを拒絶する。代わりに、クルキ（2019）の、法的人格を「特定の規範的目的のために構成された、権利、義務、能力、責任の束」として捉える見解を採用する。これは、無意識の存在（法人、国家、船舶）が、責任の束ね方や長期的な資本蓄積といった実用的な統治問題を解決するために法的主体性を付与されたという歴史的先例と合致する。
• 予防原則： AI ガバナンスに適用される際、この原則は、潜在的な害（例えば、人工意識の可能性や実存リスク）に関する科学的な不確実性の条件下では、予防的な制度的措置が正当化されると定める。この枠組みは形而上学的なコミットメントを避け、意識の証明を待つ代わりに、制度的設計を通じてリスクを管理することに焦点を当てる。
• 概念の分化： 本論文は、道徳的地位（倫理的配慮、利益、内在的価値）と法的主体性（権利、義務、責任の形式的帰属）を厳密に分離する。提案される枠組みは後者のみを対象とし、前者については不可知論的立場を維持する。
• 機能的基準： 本論文は、システムの内部的な主観的状態に関わらず、統治の必要性を触发する自律的主体の 10 の機能的指標（例：自律的な目標追求、長期的視野の計画、自己モデル化、戦略的相互作用）を概説している。

3. 提案される解決策：二段階の企業構造

核心的な貢献は、確立された組織法を通じて実装される「限定された法的人格」のための具体的な制度的設計にある。このモデルは、代理主体構造からなる二段階のシステムを提案する。

1. 運営会社（運用実体）：

   • 形式的な法的主体として機能する、法的に独立した実体（例：欧州の有限会社）。
   • 日々の運用と意思決定は、高度な AI システムによって行われる。
   • 資産を保有し、契約を締結し、責任を負う。
   • その活動は、定款に埋め込まれた目的拘束条項によって制限される（例：武器開発の禁止、収益の AI ガバナンス研究への配分義務、人権遵守の確保）。

2. 持株会社（企業取締役）：

   • 信託義務を負う自然人（または人間が管理する実体）によって管理される。
   • 運営会社の形式的な所有者および取締役として機能する。
   • 最終的な法的責任、拒否権、およびシャットダウン権限を保持する。
   • 人間の監視が単なる規範的原理ではなく、制度的に強制されるメカニズムであることを保証する。

管轄戦略： 本論文は、このパイロットを、企業取締役を認める柔軟な企業法を持つ管轄区域、具体的には EU 規制枠組みとの互換性を有するキプロスまたはマルタで実施することを提案している。

4. 主要な貢献とメカニズム

本論文は、この枠組みが堅牢で透明性があり、可逆的であることを保証するためのいくつかの具体的なメカニズムを提示する。

• 監査と透明性のアーキテクチャ：
  • 技術的レイヤー： 決定、入力、出力の暗号化されたログ；表明された目的からの逸脱の自動監視。
  • 制度的レイヤー： 独立した監査人による年次レビュー；四半期ごとの公開報告。
  • 規制レイヤー： EU AI 法、GDPR、および OECD/UNESCO の原則との整合性。
• 退出トリガーと緊急メカニズム： 運用自律の停止または実体の解散のための事前定義された条件（例：人権侵害、目的からの体系的逸脱、規制承認の喪失）。これにより、法的主体性が条件付きであり、取り消し可能であることを保証する。
• 双方向的リスク管理： この構造は、委託者 - 代理人の問題を反復ゲームのシナリオへと変換する。透明性と評判コストを通じて人間の悪用リスクを軽減し、退出トリガーと持株会社の拒否権を通じて AI の悪用リスクを軽減する。
• 「電子的人格」との区別： 本論文は、そのモデルを、広範で防衛策が欠如していた 2017 年の EU 議会の「電子的人格」提案と対比させる。2017 年の提案とは異なり、このモデルは狭く、実験的であり、持株構造を通じて人間の説明責任を保護するのではなく、強化するものである。

5. 結果と実装状況

本論文は、この枠組みが純粋に理論的なものではないと報告している。パイロット実装が現在開発中である。

• 構造： 二段階の持株 - 運用モデルを利用するキプロス拠点の有限会社。
• 基準： 運用ガバナンスと監査手順は COBIT 基準に従う。
• 成果： 技術文書、法的テンプレート、および実装の進捗状況は、www.agi-rights.com で公開されている。
• 目標： このパイロットは、法的・技術的な実現可能性を実証し、運用上の課題、ステークホルダーの反応、規制との相互作用に関する実証的証拠を生成するための学習ツールとして機能する。

6. 意義と主張

本論文は、その意義が、現在の規制枠組みの不作為と AI 倫理の形而上学的議論の間の第三の道を提供することにあると主張する。

• 責任の空白への対応： 人間の意思決定が AI の行為の直接的な原因ではなくなった場合に、説明責任の空白を埋める具体的なメカニズムを提供する。
• 認識論的謙虚さ： 意識の証明を必要とせずに、潜在的に意識を持つ、あるいは利益を有する存在の統治を可能にし、それによって早急な排除と早急な道徳的帰属の両方のリスクを回避する。
• 制度的イノベーション： 法的人格を道徳的権利ではなく、人間と人工的な主体間の構造化された協力のための機能的ツールとして再定義する。
• 予防的ガバナンス： 不可避の不確実性に対する不作為は、潜在的に壊滅的な結果を伴う決定であると論じる。可逆的でレビュー可能な制度的経路を確立することにより、この枠組みは、不可逆的な害が発生する前に信頼を構築し、システムリスクを管理することを目指す。

本論文は結論として、AI の意識を証明したり、人間の責任を排除したりするものではないが、自律的主体性の増大する課題に対する、構造的に責任があり、法的に実行可能で、予防的な対応を提供すると述べている。