Immaginate un mondo in cui gli strumenti che usiamo per comunicare diventano così bravi a scrivere, leggere e organizzare da poter gestire la burocrazia della vita quotidiana per noi. Questa è la promessa degli agenti di intelligenza artificiale: software che possono aiutare una persona a comprendere una regola complessa, compilare un modulo o scrivere una lettera a un funzionario. Per decenni, gli esperti hanno saputo che quando è più facile chiedere qualcosa, più persone la chiederanno. Se un governo rende l'applicazione per un beneficio più semplice da trovare e da compilare, più persone aventi diritto si presenteranno. Questo è un principio fondamentale del modo in cui le persone interagiscono con i servizi pubblici. Ma ora, è emersa una nuova domanda. Cosa succede quando gli strumenti che rendono queste interazioni più facili diventano così potenti da poter generare migliaia di richieste in un singolo giorno? La preoccupazione non è solo che più persone faranno domanda, ma che il volume o la complessità di queste richieste possa travolgere gli uffici governativi progettati per gestirle, potenzialmente rompendo il sistema o costringendo i funzionari a rendere il processo più difficile per tutti.

Un team di ricercatori ha deciso di indagare se questo scenario stia già accadendo. Hanno coniato un termine per il fenomeno: "agentic flooding" (inondazione agentica). Questo descrive un improvviso aumento nel numero o nella complessità delle richieste ai servizi governativi causato da agenti di intelligenza artificiale e che mette sotto sforzo la capacità di tali servizi. Per comprendere l'entità del problema, i ricercatori non si sono affidati a speculazioni o modelli informatici. Inveve, sono andati alla ricerca di prove nel mondo reale. Hanno scansionato i servizi governativi in undici diversi paesi, tra cui Stati Uniti, Germania, Regno Unito e Australia. Hanno cercato qualsiasi caso in cui funzionari o fonti giornalistiche attendibili avessero indicato un picco nella domanda e lo avessero esplicitamente collegato all'uso dell'intelligenza artificiale.

Il risultato è stato una raccolta di ottantaquattro casi specifici in cui questo legame è stato stabilito. I ricercatori hanno scoperto che questo fenomeno sta già avvenendo in una vasta gamma di ambiti governativi. Il modello più comune osservato è stato sorprendentemente semplice. Nella stragrande maggioranza dei casi, l'ondata non era causata da robot completamente autonomi che navigavano nei siti web in autonomia. Invece, era guidata da modelli linguistici di grandi dimensioni (large language models) — strumenti avanzati di generazione di testo — che creavano testi legali o amministrativi sofisticati affinché gli esseri umani li presentassero. Ad esempio, in un caso in Germania, i tribunali sociali hanno visto un massiccio aumento di cause legali in cui le lettere presentate erano lunghe migliaia di pagine, generate dall'IA ma presentate da persone. In un altro caso in Australia, i funzionari hanno notato un'ondata di richieste di informazioni che sembravano scritte da macchine. I dati suggeriscono che il meccanismo principale è l'uso dell'IA da parte degli esseri umani per scrivere domande migliori, più lunghe o più frequenti, che poi entrano nel sistema e assorbono il tempo dei lavoratori umani.

I ricercatori hanno poi chiesto quali servizi siano più a rischio. Analizzando il loro dataset, hanno identificato un modello chiaro. I servizi più vulnerabili all'inondazione sono quelli che offrono un alto premio finanziario ma che storicamente sono stati difficili da accedere perché il processo di candidatura è complesso o confuso. Quando l'IA riduce il costo di navigazione di tale complessità, la domanda nascosta viene sbloccata. Le dichiarazioni dei redditi, i ricorsi giudiziari e le domande per l'indennità di invalidità rientrano perfettamente in questa descrizione. Questi sono servizi dove una richiesta riuscita può significare un pagamento significativo, ma dove la burocrazia è spesso così scoraggiante che molte persone rinunciano. Lo studio suggerisce che, man mano che l'IA rende la burocrazia più facile, il numero di domande per questi specifici servizi è probabile che aumenti, mettendo pressione sui sistemi che le elaborano.

Per aiutare i governi a prepararsi, i ricercatori hanno sviluppato un modo per valutare il rischio per un dato servizio. Hanno creato un quadro che analizza due elementi principali: quanto sia facile per un'IA interagire con il servizio e quanto sia difficile per il governo gestire il risultato. Se un servizio accetta testi lunghi e a contenuto libero e ha pochi limiti su quante volte una persona può presentare domanda, è altamente suscettibile. Se l'ufficio governativo che elabora la richiesta ha un budget rigido, un processo manuale lento o l'obbligo legale di leggere ogni singola parola di ogni domanda, l'impatto di un'ondata sarà grave. Lo studio indica che, sebbene l'attuale pressione sia gestibile, il rischio è massimo per questi servizi finanziariamente attraenti e complessi.

Il documento esplora anche come i governi possano rispondere a tali ondate. Storicamente, quando la domanda per un servizio aumenta, i funzionari spesso cercano di rallentarla aggiungendo "attrito". Questo potrebbe significare richiedere una tassa per fare domanda, richiedere una visita di persona o limitare quante richieste una persona può inviare. I ricercatori hanno scoperto che queste misure sono spesso efficaci nel fermare rapidamente l'ondata. Tuttavia, comportano un costo pesante. L'aggiunta di attrito rende il servizio più difficile da usare per tutti, non solo per gli utenti dell'IA. Può danneggiare in modo sproporzionato le persone più povere o coloro che sono meno a proprio agio con la tecnologia. In alcuni casi, può persino minare il diritto di accesso alla giustizia.

Gli autori sostengono che, sebbene queste soluzioni rapide funzionino, non sono la migliore soluzione a lungo termine. Un approccio migliore è costruire la capacità del governo di gestire la domanda. Ciò potrebbe comportare la riprogettazione del servizio per renderlo più efficiente, l'uso dell'identità digitale per verificare chi sta facendo domanda o anche l'uso dell'IA da parte del governo per aiutare a elaborare le parti di routine del lavoro. Lo studio suggerisce che i governi hanno una scelta: possono reagire a un'ondata rendendo la vita più difficile ai loro cittadini, oppure possono riprogettare proattivamente i loro sistemi per gestire la nuova realtà. I ricercatori raccomandano tre passi immediati. Primo, i governi dovrebbero sottoporre i loro servizi a un audit per vedere quali sono i più vulnerabili. Secondo, dovrebbero integrare sistemi di identità digitale nei servizi più esposti per rendere più facile verificare i richiedenti e limitare gli abusi. Terzo, dovrebbero chiarire le leggi intorno a queste misure in modo da sapere cosa sono autorizzati a fare prima che arrivi una crisi.

Lo studio conclude che, sebbene l'attuale situazione non sia ancora un collasso totale dei servizi governativi, la tendenza è chiara. L'era degli agenti di IA che rendono più facile l'interazione con il governo è qui, e con essa arriva il rischio di essere sopraffatti. La ricerca non prevede un futuro in cui le macchine prendono il controllo del governo, ma avverte che l'attuale modo in cui molti servizi sono progettati è fragile. Se i governi aspettano che le ondate diventino ingestibili, saranno probabilmente costretti a scegliere tra lasciare che il sistema si rompa o rendere più difficile per le persone ricevere aiuto. Il documento suggerisce che agendo ora per comprendere i rischi e riprogettare i sistemi, i governi possono evitare questo difficile compromesso e garantire che i benefici dell'intelligenza artificiale siano condivisi da tutti, piuttosto che diventare un peso che esclude i più vulnerabili.