Imaginez un monde où les outils que nous utilisons pour communiquer deviennent si performants pour écrire, lire et organiser qu'ils peuvent gérer la paperasse de la vie quotidienne à notre place. C'est la promesse des agents d'intelligence artificielle : des logiciels capables d'aider une personne à comprendre une règle complexe, à remplir un formulaire ou à rédiger une lettre à un responsable. Depuis des décennies, les experts savent que lorsqu'il est plus facile de demander quelque chose, davantage de personnes le demandent. Si un gouvernement simplifie la recherche et le remplissage d'une demande de prestation, davantage de personnes éligibles postuleront. C'est un principe fondamental de l'interaction des individus avec les services publics. Mais aujourd'hui, une nouvelle question a émergé. Que se passe-t-il lorsque les outils qui facilitent ces interactions deviennent si puissants qu'ils peuvent générer des milliers de requêtes en une seule journée ? L'inquiétude n'est pas seulement que plus de personnes postulent, mais que le volume ou la complexité de ces requêtes puisse submerger les bureaux gouvernementaux conçus pour les traiter, risquant ainsi de briser le système ou de forcer les fonctionnaires à rendre le processus plus difficile pour tout le monde.

Une équipe de chercheurs s'est lancée dans l'investigation pour déterminer si ce scénario est déjà en cours. Ils ont inventé un terme pour désigner ce phénomène : « l'inondation agentique » (agentic flooding). Cela décrit une augmentation soudaine du nombre ou de la complexité des requêtes adressées aux services gouvernementaux, causée par des agents d'intelligence artificielle et qui met à rude épreuve la capacité de ces services. Pour comprendre l'ampleur du problème, les chercheurs ne se sont pas appuyés sur des spéculations ou des modèles informatiques. Au lieu de cela, ils sont allés chercher des preuves concrètes dans le monde réel. Ils ont scanné les services gouvernementaux dans onze pays différents, dont les États-Unis, l'Allemagne, le Royaume-Uni et l'Australie. Ils ont recherché toute instance où des responsables ou des sources d'information crédibles avaient signalé une pointe de demande et l'avaient explicitement liée à l'utilisation de l'intelligence artificielle.

Le résultat est une collection de quatre-vingt-quatre cas spécifiques où ce lien a été établi. Les chercheurs ont constaté que ce phénomène se produit déjà dans un large éventail de domaines gouvernementaux. Le schéma le plus courant observé était étonnamment simple. Dans la grande majorité des cas, la poussée n'était pas causée par des robots entièrement autonomes naviguant seuls sur des sites web. Au lieu de cela, elle était pilotée par des modèles de langage étendus — des outils de génération de texte avancés — créant des textes juridiques ou administratifs sophistiqués pour que des humains les soumettent. Par exemple, dans un cas en Allemagne, les tribunaux sociaux ont constaté une hausse massive de recours où les lettres soumises faisaient des milliers de pages, générées par l'IA mais déposées par des personnes. Dans un autre cas en Australie, des responsables ont noté une vague de demandes d'informations qui semblaient avoir été écrites par des machines. Les données suggèrent que le mécanisme principal est l'utilisation par les humains de l'IA pour rédiger des demandes de meilleure qualité, plus longues ou plus fréquentes, qui entrent ensuite dans le système et occupent le temps des travailleurs humains.

Les chercheurs ont ensuite cherché à savoir quels services sont les plus menacés. En analysant leur ensemble de données, ils ont identifié un modèle clair. Les services les plus vulnérables à l'inondation sont ceux qui offrent une récompense financière élevée mais qui ont été historiquement difficiles d'accès parce que le processus de demande est complexe ou déroutant. Lorsque les agents d'IA réduisent le coût de navigation dans cette complexité, la demande cachée est libérée. Les déclarations de revenus, les réclamations judiciaires et les demandes de prestations d'invalidité correspondent parfaitement à cette description. Ce sont des services où une demande réussie peut signifier un versement important, mais où la paperasse est souvent si décourageante que beaucoup de gens abandonnent. L'étude suggère qu'à mesure que l'IA facilite la paperasse, le nombre de demandes pour ces services spécifiques est susceptible de grimper, mettant sous pression les systèmes qui les traitent.

Pour aider les gouvernements à se préparer, les chercheurs ont développé un moyen d'évaluer le risque pour un service donné. Ils ont créé un cadre qui examine deux éléments principaux : la facilité avec laquelle une IA peut interagir avec le service, et la difficulté pour le gouvernement de gérer le résultat. Si un service accepte des textes longs et libres, et possède peu de limites sur le nombre de fois qu'une personne peut postuler, il est hautement susceptible d'être inondé. Si le bureau gouvernemental traitant la requête dispose d'un budget rigide, d'un processus manuel lent ou d'une obligation légale de lire chaque mot de chaque demande, l'impact d'une poussée sera sévère. L'étude indique que si la tension actuelle est gérable, le risque est maximal pour ces services complexes et financièrement attractifs.

L'article explore également la manière dont les gouvernements pourraient répondre à de telles poussées. Historiquement, lorsque la demande pour un service augmente, les responsables tentent souvent de la ralentir en ajoutant de la « friction ». Cela peut signifier exiger des frais pour postuler, nécesser une visite en personne ou limiter le nombre de requêtes qu'une personne peut envoyer. Les chercheurs ont constaté que ces mesures sont souvent efficaces pour stopper rapidement la poussée. Cependant, elles ont un coût élevé. Ajouter de la friction rend le service plus difficile d'accès pour tout le monde, pas seulement pour les utilisateurs d'IA. Cela peut nuire de manière disproportionnée aux personnes les plus pauvres ou à celles qui sont moins à l'aise avec la technologie, créant une barrière injuste à l'accès aux services essentiels. Dans certains cas, cela peut même compromettre le droit d'accès à la justice.

Les auteurs soutiennent que bien que ces solutions rapides fonctionnent, elles ne sont pas les meilleures solutions à long terme. Une meilleure approche consiste à renforcer la capacité du gouvernement à répondre à la demande. Cela pourrait impliquer de repenser le service pour le rendre plus efficace, d'utiliser l'identité numérique pour vérifier qui postule, ou même d'utiliser l'IA du côté du gouvernement pour aider à traiter les parties routinières du travail. L'étude suggère que les gouvernements ont un choix : ils peuvent réagir à une poussée en rendant la vie plus difficile à leurs citoyens, ou ils peuvent repenser proactivement leurs systèmes pour faire face à la nouvelle réalité. Les chercheurs recommandent trois étapes immédiates. Premièrement, les gouvernements devraient auditer leurs services pour voir lesquels sont les plus vulnérables. Deuxièmement, ils devraient intégrer des systèmes d'identité numérique dans les services les plus exposés afin de faciliter la vérification des demandeurs et de limiter les abus. Troisièmement, ils devraient clarifier les lois entourant ces mesures afin de savoir ce qu'ils sont autorisés à faire avant qu'une crise ne survienne.

L'étude conclut que bien que la situation actuelle ne soit pas encore un effondrement total des services gouvernementaux, la tendance est claire. L'ère des agents d'IA rendant l'interaction avec le gouvernement plus facile est arrivée, et avec elle vient le risque d'être submergé. La recherche ne prédit pas un avenir où les machines prennent le contrôle du gouvernement, mais elle prévient que la conception actuelle de nombreux services est fragile. Si les gouvernements attendent que les poussées deviennent ingérables, ils seront probablement contraints de choisir entre laisser le système se briser ou rendre l'accès à l'aide plus difficile pour les gens. Le document suggère qu'en agissant dès maintenant pour comprendre les risques et repenser les systèmes, les gouvernements peuvent éviter ce dilemme difficile et garantir que les bénéfices de l'intelligence artificielle soient partagés par tous, plutôt que de devenir un fardeau qui exclut les plus vulnérables.