Imagine um mundo onde as ferramentas que usamos para conversar uns com os outros se tornem tão boas em escrever, ler e organizar que possam lidar com a papelada da vida cotidiana por nós. Esta é a promessa dos agentes de inteligência artificial: softwares que podem ajudar uma pessoa a compreender uma regra complexa, preencher um formulário ou escrever uma carta a um funcionário. Durante décadas, especialistas sabem que, quando é mais fácil pedir algo, mais pessoas pedirão. Se um governo torna a solicitação de um benefício mais fácil de encontrar e preencher, mais pessoas elegíveis se candidatarão. Este é um princípio básico de como as pessoas interagem com os serviços públicos. Mas agora, uma nova questão surgiu. O que acontece quando as ferramentas que tornam essas interações mais fáceis tornam-se tão poderosas que podem gerar milhares de solicitações em um único dia? A preocupação não é apenas que mais pessoas se candidatem, mas que o volume ou a complexidade dessas solicitações possa sobrecarregar os escritórios governamentais projetados para lidar com elas, potencialmente quebrando o sistema ou forçando os funcionários a tornar o processo mais difícil para todos.

Uma equipe de pesquisadores partiu para investigar se este cenário já está acontecendo. Eles cunharam um termo para o fenômeno: "inundação agêntica" (agentic flooding). Isso descreve um aumento súbito no número ou na complexidade das solicitações aos serviços governamentais causado por agentes de inteligência artificial e que sobrecarrega a capacidade desses serviços. Para entender o alcance do problema, os pesquisadores não confiaram em especulações ou modelos computacionais. Em vez disso, eles foram em busca de evidências do mundo real. Eles examinaram serviços governamentais em onze países diferentes, incluindo Estados Unidos, Alemanha, Reino Unido e Austrália. Procuraram por qualquer instância onde funcionários ou fontes de notícias credíveis tivessem apontado para um pico na demanda e explicitamente o relacionado ao uso de inteligência artificial.

O resultado foi uma coleção de oitenta e quatro casos específicos onde esse vínculo foi estabelecido. Os pesquisadores descobriram que este fenômeno já está ocorrendo em uma ampla gama de domínios governamentais. O padrão mais comum que observaram foi surpreendentemente simples. Na grande maioria dos casos, o surto não foi causado por robôs totalmente autônomos navegando em sites por conta própria. Em vez disso, foi impulsionado por modelos de linguagem de grande escala — ferramentas avançadas de geração de texto — criando textos jurídicos ou administrativos sofisticados para humanos submeterem. Por exemplo, em um caso na Alemanha, tribunais sociais viram um aumento massivo de processos onde as cartas enviadas tinham milhares de páginas, geradas por IA, mas protocoladas por pessoas. Em outro caso na Austrália, autoridades notaram uma onda de pedidos de informação que pareciam ter sido escritos por máquinas. Os dados sugerem que o mecanismo primário é o uso de IA por humanos para escrever melhor, mais extensamente ou com mais frequência as candidaturas, que então entram no sistema e consomem o tempo dos trabalhadores humanos.

Os pesquisadores perguntaram então quais serviços estão mais em risco. Ao analisar seu conjunto de dados, identificaram um padrão claro. Os serviços mais vulneráveis à inundação são aqueles que oferecem uma alta recompensa financeira, mas que historicamente foram difíceis de acessar porque o processo de candidatura é complexo ou confuso. Quando a IA reduz o custo de navegar por essa complexidade, a demanda oculta é desbloqueada. Declarações de imposto de renda, reivindicações judiciais e pedidos de benefícios por incapacidade se encaixam perfeitamente nessa descrição. Estes são serviços onde uma candidatura bem-sucedida pode significar um pagamento significativo, mas onde a papelada é frequentemente tão assustadora que muitas pessoas desistem. O estudo sugere que, à medida que a IA torna a papelada mais fácil, o número de candidaturas para esses serviços específicos provavelmente terá um pico, pressionando os sistemas que os processam.

Para ajudar os governos a se prepararem, os pesquisadores desenvolveram uma forma de avaliar o risco para qualquer serviço dado. Eles criaram uma estrutura que analisa duas coisas principais: o quão fácil é para uma IA interagir com o serviço e o quão difícil é para o governo lidar com o resultado. Se um serviço aceita textos longos e de formato livre e possui poucos limites sobre quantas vezes uma pessoa pode se candidatar, ele é altamente suscetível. Se o escritório governamental que processa a solicitação possui um orçamento rígido, um processo manual lento ou uma exigência legal de ler cada palavra de cada candidatura, o impacto de um surto será severo. O estudo indica que, embora a tensão atual seja gerenciável, o risco é maior para esses serviços financeiramente atraentes e complexos.

O artigo também explora como os governos podem responder a tais surtos. Historicamente, quando a demanda por um serviço aumenta, os funcionários frequentemente tentam desacelerá-la adicionando "fricção". Isso pode significar cobrar uma taxa para se candidatar, exigir uma visita presencial ou limitar quantas solicitações uma pessoa pode enviar. Os pesquisadores descobriram que essas medidas são frequentemente eficazes para interromper o surto rapidamente. No entanto, elas trazem um custo pesado. Adicionar fricção torna o serviço mais difícil de usar para todos, não apenas para os usuários de IA. Pode prejudicar desproporcionalmente as pessoas mais pobres ou aquelas que estão menos confortáveis com a tecnologia, criando uma barreira injusta ao acesso a serviços essenciais. Em alguns casos, pode até comprometer o direito de acesso à justiça.

Os autores argumentam que, embora essas correções rápidas funcionem, elas não são a melhor solução a longo prazo. Uma abordagem melhor é construir a capacidade do governo para lidar com a demanda. Isso pode envolver o redesenho do serviço para ser mais eficiente, o uso de identidade digital para verificar quem está se candidatando ou até mesmo o uso de IA do lado do governo para ajudar a processar as partes rotineiras do trabalho. O estudo sugere que os governos têm uma escolha: eles podem reagir a um surto tornando a vida mais difícil para seus cidadãos, ou podem redesenhar proativamente seus sistemas para lidar com a nova realidade. Os pesquisadores recomendam três passos imediatos. Primeiro, os governos devem auditar seus serviços para ver quais são mais vulneráveis. Segundo, devem integrar sistemas de identidade digital nos serviços mais expostos para facilitar a verificação dos candidatos e limitar abusos. Terceiro, devem esclarecer as leis em torno dessas medidas para que saibam o que podem fazer antes que uma crise ocorra.

O estudo conclui que, embora a situação atual ainda não seja um colapso total dos serviços governamentais, a tendência é clara. A era dos agentes de IA tornando a interação governamental mais fácil chegou e, com ela, vem o risco de ser sobrecarregada. A pesquisa não prevê um futuro onde as máquinas assumem o governo, mas alerta que a forma atual como muitos serviços são desenhados é frágil. Se os governos esperarem até que os surtos se tornem ingovernáveis, provavelmente serão forçados a escolher entre deixar o sistema quebrar ou tornar mais difícil para as pessoas obterem ajuda. O artigo sugere que, ao agir agora para compreender os riscos e redesenhar os sistemas, os governos podem evitar essa escolha difícil e garantir que os benefícios da inteligência artificial sejam compartilhados por todos, em vez de se tornarem um fardo que exclui os mais vulneráveis.