Characterizing Agentic Flooding of Government Services
本文识别并分析了“智能体泛滥”（agentic flooding）这一新兴现象，即人工智能智能体引发的政府服务需求激增，并提出了一个旨在优先保护脆弱服务的风险框架，同时建议采取公平的缓解策略，以平衡服务的可及性与系统的稳定性。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象这样一个世界：我们用来交流的工具变得如此擅长写作、阅读和组织，以至于它们可以为我们处理日常生活的文书工作。这就是人工智能代理（AI agents）所承诺的前景：能够帮助一个人理解复杂规则、填写表格或给官员写信的软件。几十年来，专家们一直知道，当请求某事变得更容易时，会有更多的人去请求。如果政府让一项福利申请更容易被找到和填写，更多符合条件的人就会提出申请。这是人们与公共服务互动的基本原则。但现在，一个新的问题出现了：当让这些互动变得更容易的工具变得如此强大，以至于它们可以在一天内生成数千份请求时，会发生什么？担忧不仅在于会有更多人申请，还在于这些请求的数量或复杂程度可能会使旨在处理它们的政府部门不堪重负，从而可能导致系统崩溃，或迫使官员使整个过程对所有人来说都变得更加困难。
一个研究小组致力于调查这种情况是否已经在发生。他们为这一现象创造了一个术语：“代理洪水”（agentic flooding）。这描述了由人工智能代理引起的政府服务请求数量或复杂度的突然激增，并造成了对这些服务的压力。为了了解问题的规模，研究人员并没有依赖推测或计算机模型。相反，他们去寻找现实世界的证据。他们扫描了包括美国、德国、英国和澳大利亚在内的 11 个不同国家的政府服务。他们寻找任何官员或可靠新闻来源指出需求激增并明确将其归因于使用人工智能的实例。
结果是一系列具体的案例，共有 84 处体现了这种联系。研究人员发现，这种现象已经发生在广泛的政府领域中。他们观察到的最常见的模式出人意料地简单。在绝大多数情况下，激增并不是由完全自主的机器人在网站上自行导航引起的。相反，它是由于大语言模型——先进的文本生成工具——创建了复杂的法律或行政文本，供人类提交。例如，在德国的一个案例中，社会法院看到诉讼案件大幅增加，其中提交的信件长达数千页，是由人工智能生成但由人提交的。在澳大利亚的另一个案例中，官员注意到一波看起来是由机器编写的信息请求。数据表明，主要的机制是人类利用 AI 来编写更好、更长或更频繁的申请，从而进入系统并占用人类工作人员的时间。
研究人员随后询问哪些服务面临的最大风险。通过分析其数据集，他们识别出了一个清晰的模式。最容易受到洪水冲击的服务，是那些提供高额经济回报、但在历史上因申请过程复杂或混乱而难以获取的服务。当 AI 降低了应对这种复杂性的成本时，隐藏的需求就被释放了出来。退税、法庭索赔和残障福利申请完全符合这一描述。在这些领域，成功的申请意味着可观的款项，但由于文书工作通常非常艰巨，许多人往往会选择放弃。研究表明，随着 AI 使文书工作变得更容易，这些特定服务的申请数量可能会激增，从而给处理这些系统的系统带来压力。
为了帮助政府做好准备，研究人员开发了一种评估任何给定服务风险的方法。他们创建了一个框架，主要关注两个方面：AI 与该服务交互的难易程度，以及政府处理其结果的难度。如果一项服务接受长篇、自由格式的文本，且对申请次数没有限制，那么它就极易受到冲击。如果处理请求的政府部门预算僵化、流程缓慢，或者有法律要求必须阅读每一份申请中的每一个字，那么需求激增带来的影响将会非常严重。研究指出，虽然目前的压力尚在可控范围内，但对于这些具有财务吸引力且复杂的服务，风险最高。
论文还探讨了政府如何应对此类激增。从历史上看，当某项服务的需求激增时，官员们通常会尝试通过增加“摩擦”来减缓速度。这可能意味着要求支付申请费、要求实地到访，或限制一个人可以发送的请求数量。研究人员发现，这些措施在快速阻止激增方面通常是有效的。然而，它们也带来了沉重的代价。增加摩擦会使服务对所有人来说都变得更难使用，而不仅仅是对 AI 用户。这可能会不成比例地伤害贫困人口或对技术不太熟悉的人，从而为获取基本服务制造不公平的障碍。在某些情况下，这甚至会损害获得司法公正的权利。
作者认为，虽然这些快速修复手段有效，但它们并不是最好的长期解决方案。更好的方法是提升政府处理需求的能力。这可能包括重新设计服务使其更高效、使用数字身份来验证申请者身份，甚至在政府端使用 AI 来协助处理常规性工作。研究表明，政府面临着一种选择：他们可以是通过增加阻碍来应对需求激增，还是通过主动重新设计系统来应对新的现实。研究人员建议采取三个立即行动步骤。首先，政府应该审计其服务，看看哪些服务最脆弱。其次，他们应该将数字身份系统整合到最暴露的服务中，以便更容易地验证申请者并限制滥用行为。第三，他们应该明确有关这些措施的法律，以便在危机发生前知道自己被允许做些什么。
研究结论认为，虽然目前的情况尚未导致政府服务的全面崩溃，但趋势是明确的。AI 代理让政府互动变得更容易的时代已经到来，随之而来的是被压垮的风险。研究并不预测一个机器接管政府的未来，但它确实警告说，目前许多服务的设计方式是脆弱的。如果政府等到激增变得无法管理时才采取行动，他们很可能会被迫在让系统崩溃或让民众获取帮助变得更加困难之间做出选择。论文建议，通过现在采取行动来了解风险并重新设计系统，政府可以避免这种两难境地，并确保人工智能带来的好处能由所有人共享，而不是成为排斥弱势群体的负担。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。