Agentic AI: User Empowerment or Foreclosure?
En analysant des précédents historiques tels que les bloqueurs de publicité et les filtres anti-spam, l'article soutient que le potentiel de l'IA agentique à autonomiser les utilisateurs dépend de la prévention de la « dépolitisation » de la gouvernance par des normes contrôlées par l'industrie, car la consolidation actuelle autour de protocoles propriétaires risque de démanteler la capacité de contestation collective avant que des alternatives alignées sur les utilisateurs ne puissent se consolider.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez un monde où votre ordinateur, votre téléphone ou un appareil dédié agirait comme votre assistant personnel, non pas seulement en répondant à des questions, mais en faisant des choses pour vous. Il pourrait filtrer les informations que vous voyez, négocier un meilleur prix pour un vol ou gérer vos investissements pendant que vous dormez. Cette technologie émergente est appelée l'intelligence artificielle agentique. La promesse est que ces agents agiront dans votre intérêt, vous libérant des tâches fastidieuses. Mais une question cruciale demeure : qui contrôle réellement ces agents ? Si la technologie est construite par quelques grandes entreprises, ces agents vous serviront-ils vraiment, ou serviront-ils les intérêts des entreprises qui les ont créés ? Pour répondre à cela, des chercheurs de l'Université du Michigan sont revenus sur l'évolution de technologies similaires au cours des deux dernières décennies. Ils ont étudié quatre domaines spécifiques où le logiciel a été conçu pour agir au nom des utilisateurs : les outils bloquant les publicités en ligne, les systèmes décidant du contenu que vous voyez sur les réseaux sociaux, les conseillers financiers automatisés et les filtres bloquant les courriers indésirables (spam). En comparant ces différentes histoires, l'équipe a découvert un schéma troublant. Dans chaque cas, la technologie a commencé avec une large gamme de possibilités de contrôle pour l'utilisateur, mais au fil du temps, les règles régissant le fonctionnement de ces outils ont été discrètement verrouillées par des normes industrielles et des conceptions techniques. Ce processus, que les auteurs appellent la dépolitisation, transforme des choix politiques — qui décide de ce qui est bloqué ou recommandé — en faits techniques apparemment neutres que personne ne peut facilement contester.
Les chercheurs ont commencé par examiner les bloqueurs de publicités basés sur les navigateurs, des outils qui permettent aux utilisateurs de masquer les publicités tout en naviguant sur le Web. Aux débuts, ces outils étaient flexibles. Les utilisateurs pouvaient installer des extensions qui interceptaient et arrêtaient n'importe quelle publicité qu'ils souhaitaient, sur la base de listes de règles créées et mises à jour par des communautés ouvertes. Cependant, à mesure que l'industrie publicitaire s'inquiétait de la perte de revenus, les règles ont changé. Un important fabricant de navigateurs a redessiné son logiciel sous-jacent pour limiter ce que ces extensions pouvaient faire. Au lieu de permettre aux extensions d'arrêter n'importe quelle requête, les nouvelles règles les obligeaient à déclarer leurs plans de blocage à l'avance et limitaient le nombre de règles qu'elles pouvaient utiliser. Ce changement a été justifié comme une amélioration de la sécurité, mais le résultat pratique fut que les outils de blocage de publicités les plus puissants ont été affaiblis. La décision de ce qui constitue une publicité acceptable n'était plus du ressort de l'utilisateur ou de sa communauté ; elle était tranchée par un groupe industriel comprenant les plus grands vendeurs de publicité, et le fabricant de navigateur appliquait cette décision automatiquement pour tout le monde.
Une histoire similaire s'est déroulée avec les filtres anti-spam. Au début, l'arrêt des courriers indésirables était un effort collaboratif. De petits groupes d'administrateurs de réseaux partageaient des listes d'adresses de courriels malveillants connus, et n'importe qui pouvait consulter les règles ou s'opposer à elles. À mesure que le spam est devenu une opération industrielle massive, la solution a glissé vers des programmes informatiques puissants qui apprenaient à repérer le spam en analysant de vastes quantités de données détenues uniquement par de géantes entreprises de messagerie. Ces nouveaux systèmes étaient incroyablement efficaces pour nettoyer les boîtes de réception individuelles, rendant l'utilisation de l'e-mail beaucoup plus agréable. Cependant, le pouvoir de décider ce qui est un spam est passé entièrement entre les mains de ces grandes entreprises. Les anciennes listes ouvertes ont été remplacées par des systèmes privés, des « boîtes noires ». Le résultat fut un paradoxe : l'utilisateur moyen recevait beaucoup moins de messages indésirables, mais la capacité du public ou de groupes plus restreints à contester ou à modifier les règles de ce qui constitue un spam avait totalement disparu.
L'étude a également examiné les conseillers financiers automatisés et les systèmes de recommandation des réseaux sociaux. Dans ces deux domaines, la technologie a commencé avec l'idée de personnaliser les services pour l'utilisateur. Pourtant, les règles de fonctionnement de ces systèmes ont été fixées par les entreprises qui les exploitent, privilégiant souvent leurs propres profits aux dépens des besoins spécifiques de l'utilisateur. Pour les conseillers financiers, les algorithmes ont été conçus pour suivre des théories d'investissement standards, mais les choix spécifiques concernant les fonds à recommander favorisaient souvent les produits de l'entreprise elle-même. Pour les réseaux sociaux, les systèmes ont appris à montrer aux utilisateurs du contenu qui les incitait à rester connectés plus longtemps, un objectif qui entrait souvent en conflit avec le fait de montrer un contenu véritablement utile ou diversifié. Dans ces cas, les chercheurs ont constaté que l'espace permettant aux utilisateurs d'influencer le comportement des agents n'a jamais été réellement ouvert. L'infrastructure a été construite par les plateformes elles-mêmes, ce qui signifie que les règles étaient fixées avant même que les utilisateurs n'aient la moindre chance de participer.
La conclusion centrale de l'article est que l'amélioration de l'expérience individuelle et la capacité des gens à s'organiser et à contester le système peuvent évoluer dans des directions opposées. Vous pouvez avoir une boîte de réception plus propre ou un flux plus personnalisé tout en perdant simultanément le pouvoir de changer la manière dont ces systèmes fonctionnent. Les chercheurs soutiennent que cela se produit parce que les décisions concernant ce que font les agents sont ancrées dans la conception technique des systèmes. Lorsqu'un choix est fait concernant les données à utiliser ou l'objectif que le logiciel doit optimiser, et que ce choix est dissimulé derrière un code complexe ou un standard industriel fermé, il devient très difficile de le remettre en question. Les auteurs appellent cela la « dépolitisation » car cela évacue la nature politique de la décision, la faisant passer pour une simple question d'efficacité technique plutôt que pour un choix sur les intérêts qui sont servis.
Désormais, les chercheurs appliquent ce prisme à la nouvelle vague de l'intelligence artificielle agentique. Ils voient les mêmes schémas se former. Un nouvel ensemble de règles, connu sous le nom de Model Context Protocol, est en train d'être établi pour définir comment ces agents d'IA communiquent avec d'autres services. Ce protocole est géré par une fondation dominée par les plus grandes entreprises technologiques. Bien que le processus paraisse ouvert en surface, avec des réunions publiques et des documents, le pouvoir réel de prendre les décisions finales repose sur un conseil d'administration composé de ces grandes entreprises. Il n'existe aucun moyen formel pour les groupes d'utilisateurs ou les organisations d'intérêt public de contester ces décisions. Les chercheurs préviennent que si cette trajectoire se poursuit, les limites de ce que ces agents d'IA peuvent faire seront fixées par des initiés de l'industrie avant même que la technologie ne soit pleinement utilisée par le public. Contrairement aux cas passés où les règles se sont durcies sur de nombreuses années, ces décisions sont prises très rapidement, en l'espace de seulement deux ans après la sortie de la technologie.
L'article conclut que pour que les utilisateurs soient véritablement autonomes, ils ont besoin de plus qu'un agent d'IA bien élevé. Ils ont besoin d'un système où les règles peuvent être contestées. Cela nécessite trois choses : la capacité de voir comment le système fonctionne, l'accès à une technologie indépendante qui n'est pas contrôlée par les grandes entreprises, et un processus formel où les utilisateurs peuvent argumenter contre des décisions qui leur portent préjudice. Les chercheurs suggèrent que nous sommes à un moment critique. Les règles de l'IA agentique sont en train d'être écrites dès maintenant. Si nous attendons que la technologie soit pleinement établie, il sera trop tard pour changer la structure sous-jacente. L'objectif n'est pas seulement de construire de meilleurs agents, mais de construire un écosystème où le pouvoir de décider de ce que font ces agents reste ouvert à la contestation, garantissant que la technologie serve le public plutôt que les seules entreprises qui l'ont construite.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.