私たちが互いに会話するための道具が、文章を書き、読み、整理することにおいて非常に優れたものとなり、私たちの日常生活の事務作業を肩代わりできるようになった世界を想像してみてください。これが、人工知能（AI）エージェントが約束する未来です。エージェントとは、人が複雑な規則を理解したり、フォームに記入したり、公的機関への手紙を書いたりするのを助けるソフトウェアのことです。何十年もの間、専門家たちは、何かを求めることが容易になれば、より多くの人がそれを求めるようになることを知ってきました。もし政府が、給付金の申請をより見つけやすく、記入しやすくすれば、資格のあるより多くの人が申請を行うようになります。これは、人々が公共サービスとどのように関わるかという基本的な原則です。しかし今、新たな問いが浮上しています。これらのやり取りを容易にする道具が、一日に数千件ものリクエストを生成できるほど強力になったら、一体何が起こるのでしょうか。懸念されているのは、単に申請者が増えることだけではありません。リクエストの量や複雑さが、それらを処理するために設計された政府機関を圧倒し、システムを破綻させたり、職員がプロセスをすべての人にとってより困難なものにせざざるを得なくなったりする可能性があることです。

ある研究チームが、このシナリオがすでに起きているのかどうかを調査するために立ち上がりました。彼らはこの現象に対して「エージェンティック・フラッディング（agentic flooding：エージェントによる氾濫）」という言葉を作りました。これは、AIエージェントによって引き起こされる、政府サービスへのリクエストの数や複雑さの急増を指し、それがサービスの容量を圧迫することを意味します。問題の範囲を把握するため、研究者たちは推測やコンピュータモデルに頼るのではなく、現実世界の証拠を探しに行きました。彼らはアメリカ、ドイツ、イギリス、オーストラリアを含む11カ国の政府サービスをスキャンしました。そして、当局や信頼できるニュースソースが、需要の急増を指摘し、それを人工知能の使用と明確に結びつけた事例を調査しました。

その結果、この関連性が示された84件の具体的な事例が集まりました。研究者たちは、この現象がすでに幅広い政府領域で発生していることを発見しました。彼らが観察した最も一般的なパターンは、驚くほど単純なものでした。大多数のケースにおいて、急増の原因は、ウェブサイトを自律的に操作する完全な自律型ロボットによるものではありませんでした。むしろ、高度な法的または行政的なテキストを作成する大規模言語モデル（高度なテキスト生成ツール）によって、人間が提出する書類が作成されていたのです。例えば、ドイツのあるケースでは、社会裁判所において、AIによって生成されたものの、人間によって提出された数千ページに及ぶ手紙を含む訴訟が激増しました。また、オーストラリアの事例では、当局が、機械によって書かれたと思われる情報公開請求の波に注目しました。データは、主要なメカニズムが、人間がより優れた、あるいはより長い、あるいはより頻繁な申請を書くためにAIを使用することであり、それがシステムに入り込み、人間の労働者の時間を奪っていることを示唆しています。

次に、研究者たちはどのサービスが最もリスクにさらされているかを問い直しました。データセットを分析することで、彼らは明確なパターンを特定しました。氾濫に対して最も脆弱なサービスは、「高い金銭的報酬が得られる一方で、プロセスが複雑または混乱しているために、歴史的にアクセスが困難であったもの」です。AIがその複雑さを乗り越えるためのコストを下げると、隠れた需要が解き放たれます。確定申告、裁判上の請求、障害給付の申請などは、まさにこれに該当します。これらは、申請が成功すれば多額の支払いにつながる一方で、書類手続きがあまりに困難であるため、多くの人が途中で諦めてしまうようなサービスです。研究は、AIによって事務作業が容易になるにつれ、これらの特定のサービスへの申請数が急増し、それらを処理するシステムに圧迫を与える可能性が高いことを示唆しています。

政府が準備を進めるのを助けるため、研究者たちは任意のサービスのリスクを評価する方法を開発しました。彼らは、AIがそのサービスと対話することがどれほど容易か、そして政府がその結果を処理することがどれほど困難かという、2つの主要な要素を見るフレームワークを作成しました。もしサービスが長く自由形式のテキストを受け付け、一人の人間が申請できる回数に制限が少ない場合、そのサービスは非常に影響を受けやすいといえます。また、リクエストを処理する政府機関が、硬直した予算、遅い手動プロセス、あるいはすべての申請書のすべての言葉を読まなければならないという法的義務を抱えている場合、急増による影響は深刻になります。研究によ図、現在の負担は管理可能な範囲内ですが、リスクはこれら「金銭的に魅力的で複雑なサービス」において最も高くなります。

また、本論文は、政府がこのような急増にどのように対応するかについても探っています。歴史的に、サービスの需要が急増した場合、当局は「摩擦（フリクション）」を加えることで、流れを遅らせようとすることがよくあります。これは、申請に手数料を課したり、対面での訪問を求めたり、あるいは一人の人間が送れるリクエストの数を制限したりすることを意味します。研究者たちは、これらの措置が急増を迅速に止めるのに効果的であることを発見しました。しかし、それらには重い代償が伴います。摩擦を加えることは、AIの利用者だけでなく、すべての人にとってサービスを使いにくくします。それは、貧困層やテクノロジーに不慣れな人々に対して不当な障壁となり、不可欠なサービスへのアクセスを阻害する可能性があります。場合によっては、司法へのアクセス権さえ損なうことさえあります。

著者たちは、これらの即効性のある解決策は機能するものの、最善の長期的解決策ではないと主張しています。より良いアプローチは、需要に対処するための政府側の能力を構築することです。これには、サービスをより効率的に再設計すること、申請者を検証するためのデジタルアイデンティティを使用すること、あるいは、定型的な業務の処理を助けるために政府側でもAIを使用することなどが含まれます。研究は、政府には選択肢があることを示唆しています。すなわち、市民にとって生活を困難にすることで急増に対応するのか、あるいは、新しい現実に合わせてシステムを積極的に再設計するのか、という選択です。研究者たちは3つの即時的なステップを推奨しています。第一に、政府は自らのサービスを監査し、どのサービスが最も脆弱であるかを確認すべきです。第二に、最も露出しているサービスにデジタルアイデンティティ・システムを統合し、申請者の検証を容易にし、悪用を制限すべきです。第三に、危機が訪れる前に、自分たちが何をすることができるのかを知っておくために、これらの措置に関する法律を明確にしておくべきです。

研究は、現在の状況はまだ政府サービスの完全な崩壊に至ってはいないものの、傾向は明らかであると結論付けています。AIエージェントが政府とのやり取りを容易にする時代は到来しており、それとともに、圧倒されるリスクも伴っています。この研究は、機械が政府を乗っ取る未来を予測しているのではなく、現在の多くのサービスのデザインが脆弱であることを警告しています。もし政府が、急増が制御不能になるまで待ってしまうと、システムを崩壊させるか、あるいは人々の助けを得るためのハードルを上げるかの選択を強いられることになるでしょう。本論文は、リスクを理解し、システムを再設計するために今行動することで、政府はこのような困難なトレードオフを回避し、人工知能の恩恵が最も脆弱な人々を排除する負担となるのではなく、すべての人によって共有されるようにできると示唆しています。