Governance in an Institutional Environment Reconfigured by Artificial Intelligence. A Public Choice Institutionalism Perspective

人工知能の統治について考えるとき、私たちの会話はしばしば機械そのものに集中しがちです。私たちは、いかに安全に構築するか、いかにコードが誤作動しないようにするか、そしていかにその決定が人間の価値観と一致するようにするかを問い直します。これは、エンジンがスムーズに動くことを確認するために車のエンジンをチェックするようなものです。しかし、そこには見落とされがちな、より大きく、より深遠な問いが存在します。それは単に機械についての問題ではなく、その機械が変えつつある「世界」についての問題なのです。人工知能が広まるにつれ、それは既存の法律や組織の傍らにただ存在するのではなく、それらを積極的に再形成していきます。人工知能は、私たちがどのようにルールを作り、どのように責任を割り当て、どのように社会を組織するかという方法を再考することを強いるのです。課題はもはや、単なる道具の修理ではありません。それは、仕事、権威、そして意思決定の本質そのものがリアルタイムで書き換えられている、足元で変化し続ける風景をナビゲートすることなのです。

これは、ジョージ・メイソン大学の研究者であるポール・ドラゴス・アリギカが取り組んでいる中心的なパズルです。彼は、この新しい現実を理解するためには、人工知能を「単一の権力によって解決される単一の問題」として見るのをやめるべきだと主張しています。代わりに、彼は人工知能を、多くの異なるグループ、ルール、そして決定が相互に作用する複雑なエコシステムとして捉えることを提案しています。論文では、この変化する世界を管理する最善の方法として、「ポリセントリック（多中心的）」と呼ばれる概念を提示しています。平易に言えば、これは、一つの頂点からすべてをコントロールしようとする単一のボスや政府が存在するのではなく、多くの異なる決定の中心が並行して存在し、それぞれが独自のルールや決定を下すシステムを意味します。アリギカは、二つの強力な概念を組み合わせることで、この議論を構築しています。一つは、人々が異なる利害関係を持つ場合にどのように選択を行うかという研究であり、もう一つは、中央の指揮官なしに複雑なシステムがいかに自己組織化するかという研究です。

論文は、二つの異なる種類の問題を明確に区別することから始まります。第一のものは「狭義の」問題、すなわち、人工知能というアーティファクト（造形物）そのものをいかに統治するかという問題です。これには、プログラミング、モニタリング、そしてシステムが意図した通りに動作することを保証するという技術的な作業が含まれます。第二のものは「広義の」問題、すなわち、そのテクノロジーが変容させている制度環境全体をいかに統治するかという問題です。アリギカは、真に重要なのはこの広義の問題であると強調しています。人工知能が社会に導入されると、それは連鎖反応を引き起こします。それは分業のあり方を変えます。つまり、かつて人間が行っていたいくつかのタスクが機械によって行われるようになり、一方で人間は新しく異なる役割を担うようになるのです。この変化は単純な入れ替えではありません。それは、ルール体系全体を通じて上方へと波及していく、一連の連鎖効果を生み出します。

この波及効果がどのように機能するかを理解するために、論文は経済学者が分業を研究する方法と似た論理を用いています。ある工場に新しい機械が導入された場面を想像してみてください。最初は、その機械が反復的で大量のタスクを引き継ぎます。しかし、これにより人間の労働者は行動を変えざるを得なくなります。彼らは定型業務をやめ、例外的なケースや困難な事例、あるいは機械の監視に集中し始めるかもしれません。この人間による役割の変化は、新たなルール、新たな監督者、そして紛争を処理するための新たな手法へのニーズを生み出します。論文ではこれを「カスケード（連鎖）」と表現しています。特定のタスクに人工知能を使用するという一つの決定が、最終的には社会が意思決定を行う権利を誰が持つかを決める憲法レベルに至るまで、社会のルールを書き換えることを強いる可能性があるのです。それは、特定のタスクを遂行する権限を誰が持つかを決めるルールへと、そして最終的にはルール自体を変更する権利を誰が持つかを決める憲法レベルへと、段階的に上がっていきます。

このカスケードがシステム内を移動するにつれ、政治学者が数十年にわたって研究してきた馴染み深い人間の行動が活性化されます。新たな役割や権限が創出されるとき、人々や組織は自らの利益のためにそれらを奪い合おうとします。これは、価値を創造するよりも、新しいルールの恩恵を独占しようとエネルギーを費やす「レントシーキング（利権追求）」につながります。また、テクノロジーを管理すべき立場にある人々が、管理対象である企業が唯一の専門知識を保持しているがゆえに、その企業に依存してしまう「規制の虜（キャプチャー）」を招きます。さらに、機械や、それらを管理するために構築された新しい官僚機構が行う複雑で不透明な決定を、責任ある立場の人々が効果的に監視できなくなる「エージェンシー・ロス（代理人問題）」も引き起こします。論文は、これらは偶然の事故ではなく、社会構造が変化する際に人間のインセンティブがどのように機能するかという、避けられない帰結であると論じています。

この複雑さを踏まえ、論文は、この新しい世界をいかに統治すべきかについて、二つの主要なビジョンを評価しています。第一のビジョンは「モノセントリック（単中心的）」なビジョンです。これは、単一のグローバルな規制機関や統一された条約といった、単一の中央権力がすべての人に対して一つのルールを設定するという考え方です。これは、秩序と明確な責任の所在を約束するため、魅力的なアイデアに見えます。しかし、アリギカは、このアプローチは非現実的であり、かつ危険であると論じています。このアプローチは、単一のセンターが、単一の政府の対応速度を上回る速さで変化するテクノロジーを管理できるほどの知識を持ち得ると想定しています。また、権力を一点に集中させるため、最も強力な企業や国家が容易にシステム全体を乗っ取り、自らの利益のために利用できてしまいます。さらに、単一のルールセットでは、異なる文化や社会に根ざした深い価値観やニーズの違いに、到底対応することはできません。

代替案であり、論文が支持しているのは、「ポリセントリック（多中心的）」なビジョンです。これは混沌とした無法地帯ではなく、多くの異なる決定センターが同時に運営される構造化されたシステムです。このシステムでは、異なる都市、地域、企業、そして組織が、人工知能を統治するための異なるアプローチを試みることができます。ある者はスピードを優先し、ある者は安全性を、またある者はプライバシーを優先するかもしれません。これらの異なるセンターは互いに競い合い、学び合います。もし一つのアプローチが失敗しても、システム全体を崩壊させることなく、それを放棄することができます。もし一つのアプローチがうまく機能すれば、他のものがそれを採用することができます。決定的なのは、このシステムが「相互運用性（インターオペラビリティ）」に依存していることです。これは、たとえ異なるセンターが異なるルールを持っていたとしても、共有された標準や合意を通じて、互いにコミュニケーションを取り、協力し合えることを意味します。それは、すべての民を統治する一人の王を必要とせず、互いに貿易を行い、互いの法律を尊重し合う独立した町々のネットワークのようなものです。

論文は、このポリセントリックなアプローチが単なる理論的な理想ではなく、すでに現れつつある現実であるという強い論拠を示しています。世界は人工知能のための単一のグローバル政府に向かっているのではなく、すでに多様なルールと標準のパッチワークへと向かっています。この現実に、単一のトップダウンの解決策を強制しようとすることは間違いです。むしろ、目標は、この進化するプロセスを導くことであるべきです。論文は、完璧なシステムをゼロから設計し、それをインストールすることはできないと強調しています。システムはあまりにも複雑であり、変化はあまりにも速すぎます。代わりに、私たちは「庭師」や「航海士」として行動しなければなりません。私たちは、優れた解決策が成長し、悪い解決策が排除されるような条件を作り出すことができます。私たちは、異なるグループが協力するための架け橋を築き、新しいアイデアがテストされるためのスペースを守ることができるのです。

最終的に、論文は、人工知能を統治する最善の方法は、私たちが長く展開していくプロセスの中にいるという事実を受け入れることであると結論づけています。私たちは最終的な結果を予測することはできませんし、また、あらゆる細部をコントロールしようとすべきでもありません。代わりに、実験、学習、そして適応を可能にする柔軟な枠組みを構築することに注力すべきです。ポリセントリックなアプローチを採用することで、私たちは多様な人間の思考と、異なる管轄区域間の競争的な圧力を活用して、機能する解決策を見出すことができます。私たちは、単一のグループがすべての権力を握ることがないようにすることで、レントシーキングやキャプチャーのリスクを管理できます。そして、ルールが遠く離れた中心部から押し付けられるのではなく、影響を受ける人々によって形作られることを保証することで、ルールの正当性を維持することができます。前進するための道筋は、未来を制御するための完璧な機械を構築することではなく、未来が展開するにつれて学び、適応できる回復力のあるシステムを育むことなのです。