Agentic AI: User Empowerment or Foreclosure?
広告ブロッカーやスパムフィルターといった歴史的前例を分析することで、本論文は、エージェンティックAIがユーザーに力を与える可能性は、業界が制御する標準化を通じてガバナンスの「脱政治化」を防げるかどうかにかかっていると論じており、現在のプロプライエタリなプロトコルへの集約は、ユーザーに即した代替案が定着する前に、集団的な異議申し立て能力を解体してしまうリスクがあると指摘している。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
あなたのコンピュータやスマートフォン、あるいは専用のデバイスが、単に質問に答えるだけでなく、あなたの代わりに物事を行ってくれるパーソナルアシスタントとして機能する世界を想像してみてください。それは、あなたが目にするニュースをフィルタリングしたり、航空券のより良い価格を交渉したり、あなたが眠っている間に投資を管理したりすることさえできるかもしれません。この新興技術は「エージェンティックAI（自律型人工知能）」と呼ばれています。その約束は、これらのエージェントがあなたの最善の利益のために行動し、退屈な作業からあなたを解放することです。しかし、決定的な問いが残っています。果たして、これらのエージェントを実際にコントロールしているのは誰なのか？ もしこの技術が少数の巨大企業によって構築されているとしたら、エージェントは本当にあなたに仕えるのでしょうか、それともそれらを構築した企業の利益に仕えるのでしょうか？ この問いに答えるため、ミシガン大学の研究者たちは、過去20年間に同様の技術がどのように進化したかを振り返りました。彼らは、ソフトウェアがユーザーに代わって行動するように設計された4つの特定の領域を調査しました。それは、オンライン広告をブロックするツール、ソーシャルメディアで表示するコンテンツを決定するシステム、自動化された金融アドバイザー、そしてスパムメールを阻止するフィルターです。これらの異なる歴史を比較することで、チームはある厄介なパターンを発見しました。どのケースにおいても、技術はユーザーによるコントロールの幅広い可能性を伴って始まりましたが、時間の経過とともに、これらのツールの仕組みを規定するルールは、業界標準や技術的設計によって静かに固定されていきました。著者たちが「脱政治化（depoliticization）」と呼ぶこのプロセスは、「何をブロックするか、あるいは何を推奨するか」を誰が決めるかという政治的な選択を、誰も容易に異議を唱えることのできない、一見すると中立的な技術的事実へと変えてしまうのです。
研究者たちはまず、ウェブ閲覧中に広告を隠すことを可能にするツールである、ブラウザベースの広告ブロッカーの検証から始めました。初期の頃、これらのツールは柔軟でした。ユーザーは、作成・更新されるルールのリストに基づいて、自身が望むあらゆる広告を遮断する拡張機能をインストールすることができました。しかし、広告業界が収益の減少を懸念するにつれ、ルールは変化しました。ある主要なブラウザメーカーは、これらの拡張機能ができることを制限するために、基礎となるソフトウェアを再設計しました。拡張機能が任意の要求をインターセプトして停止することを許可する代わりに、新しいルールは、ブロック計画を事前に宣言することを強制し、使用できるルールの数を制限しました。この変更はセキュリティの向上として正当化されましたが、実質的な結果として、最も強力な広告ブロックツールは弱体化しました。何が「許容可能な広告」であるかの決定は、もはやユーザーやそのコミュニティに委ねられているのではなく、最大の広告販売者を含む業界グループによって決定され、ブラウザメーカーがこの決定をすべての人に対して自動的に強制するようになったのです。
同様の物語は、スパムフィルターでも展開されました。当初、望まないメールを阻止することは共同作業でした。小規模なネットワーク管理者のグループが既知の不正なメールアドレスのリストを共有しており、誰でもそのルールを見たり、それに対して議論したりすることができました。しかし、スパノが巨大な産業的オペレーションへと発展するにつれ、解決策は、巨大なメール企業のみが保有する膨大なデータを分析することでスパムを検知する、強力なコンピュータプログラムへとシフトしました。これらの新しいシステムは、個々の受信トレイを整理する上で非常に効果的であり、メールの使用感を大幅に向上させました。しかし、何がスパムであるかを決定する権限は、完全にこれらの大企業の手に移りました。かつてのオープンなリストは、プライベートなブラックボックス型のシステムに取って代わられました。その結果、パラドックスが生じました。平均的なユーザーはスパムメッセージをはるかに受け取らなくなった一方で、何がスパムであるかのルールに対して一般市民や小規模なグループが異議を唱えたり変更したりする能力は完全に消失したのです。
研究はまた、自動化された金融アドバイザーとソーシャルメディアのレコメンデーションシステムについても調査しました。両分野において、技術はユーザーのためのサービスをパーソナライズするという理念から始まりました。しかし、これらのシステムの仕組みに関するルールは、ユーザーの特定のニーズよりも自社の利益を優先することが多い、運営企業によって設定されました。金融アドバイザーの場合、アルゴリズムは標準的な投資理論に従うよう設計されていましたが、どのファンドを推奨するかという具体的な選択は、しばしば自社の製品を優遇するものでした。ソーシャルメディアの場合、システムはユーザーがより長く視聴し続けるようなコンテンツを表示することを学習しましたが、これは真に有用であったり多様であったりするコンテンツを表示するという目標としばしば対立しました。これらのケースにおいて、研究者たちは、ユーザーがエージェントの振る舞いに影響を与えるためのスペースは、最初から実質的に開かれていなかったことを発見しました。インフラ自体がプラットフォームによって構築されていたため、ユーザーが参加する機会ができる前にルールが設定されていたのです。
この論文の核心的な発見は、個人の体験の向上と、人々がシステムを組織し異議を唱える能力は、互いに逆方向に動く可能性があるということです。よりクリーンな受信トレイや、よりパーソナライズされたフィードを手に入れる一方で、それらのシステムがどのように機能するかを変更する力を同時に失うこともあり得るのです。研究者たちは、これはエージェントが何を行うかについての決定が、システムの技術的設計の中に組み込まれているために起こると主張しています。どのデータを使用するか、あるいはソフトウェアがどの目標を最適化すべきかという選択が行われ、その選択が複雑なコードや閉鎖的な業界標準の中に隠されているとき、それを疑問視することは非常に困難になります。著者たちは、これを「脱政治化」と呼んでいます。なぜなら、それは決定の政治的な性質を取り除き、それが誰の利益に奉仕するかという選択ではなく、単なるエンジニアリングの効率性の問題であるかのように見せかけるからです。
現在、研究者たちはこのレンズを、新しい波であるエージェンティックAIに適用しています。彼らは、AIエージェントが他のサービスとどのように通信するかを定義するために、「モデル・コンテキスト・プロトコル（Model Context Protocol）」として知られる新しいルールが確立されつつあると考えています。このプロトコルは、最大手のテクノロジー企業が支配する財団によって管理されています。プロセスは表面上は公開会議や文書を伴い、オープンに見えますが、最終決定を下す実質的な権限は、これら主要企業の理事会にあります。ユーザーグループや公共の利益を代表する組織が、これらの決定に異議を唱えるための正式な手段は存在しません。研究者たちは、もしこの軌道が続くならば、AIエージェントができることの境界線は、テクノロジーが一般の人々に十分に普及する前に、業界の内部関係者によって設定されてしまうだろうと警告しています。過去のケースではルールが硬直化するまでに長い年月を要しましたが、これらの決定は、テクノロジーのリリースからわずか数年のうちに、極めて迅速に行われています。
論文は、ユーザーが真に力を与えられるためには、単に「行儀の良い」AIエージェント以上のものが必要であると結論づけています。彼らには、システムがどのように機能しているかを見る能力、大手企業にコントロールされていない独立したテクノロジーへのアクセス、そしてユーザーが自分たちに不利益をもたらす決定に対して異議を申し立てることができる正式なプロセスが必要です。研究者たちは、私たちは今、決定的な瞬間にいると示唆しています。エージェンティックAIのルールは、まさに今書かれているのです。もしテクノロジーが完全に確立されるまで待ってしまうと、その根本的な構造を変えることはできなくなります。目標は、単により優れたエージェントを構築することではなく、エージェントが何をすべきかを決定する権限が常に異議申し立てに対して開かれた状態にあるエコシステムを構築することであり、それによって、テクノロジーが単にそれを構築した企業のためではなく、公衆のために機能することを保証することなのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。