The 2025 AI Agent Index: Documenting Technical and Safety Features of Deployed Agentic AI Systems
Ce document présente l'Indice des agents IA 2025, une ressource complète documentant les origines, les capacités et les caractéristiques de sécurité de 30 agents d'IA de pointe afin de répondre aux défis du suivi d'un écosystème en évolution rapide, tout en révélant des lacunes significatives dans la transparence des développeurs concernant la sécurité et les impacts sociétaux.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez le monde de l'intelligence artificielle comme un chantier de construction animé et chaotique. Pendant des années, nous avons regardé les ouvriers (les modèles d'IA) apprendre à lire les plans et à mélanger le ciment. Mais récemment, quelque chose de nouveau est arrivé : les Agents IA. Voyez-les non pas seulement comme des ouvriers, mais comme des chefs de chantier capables de prendre les outils, d'ouvrir les portes et de commencer à construire des choses par eux-mêmes, avec très peu d'aide humaine.
Le problème ? Le chantier grandit si vite, et les chefs de chantier sont si secrets, que personne ne sait vraiment qui construit quoi, s'ils sont sûrs ou s'ils respectent les règles.
Ce document, « L'Indice des Agents IA 2025 », est comme une équipe de chercheurs enfilant des casques de chantier pour faire un inventaire détaillé du site. Ils ne se sont pas contentés de compter les chefs de chantier ; ils ont essayé de jeter un coup d'œil dans leurs boîtes à outils et de lire leurs manuels de sécurité.
Voici ce qu'ils ont trouvé, expliqué simplement :
1. La liste du « Qui est qui »
Les chercheurs ont examiné 30 des agents IA les plus populaires et les plus puissants actuellement utilisés. Ils ne se sont pas contentés de regarder des chatbots qui répondent à des questions ; ils ont regardé des systèmes capables de faire des choses, comme réserver des vols, écrire du code, gérer des flux de travail commerciaux ou naviguer sur le web pour acheter des articles.
Ils ont classé ces 30 agents en trois « quartiers » principaux :
- Le Quartier du Chat (12 agents) : Ce sont comme des assistants utiles avec lesquels vous discutez dans une fenêtre de chat, mais ils possèdent des clés spéciales pour ouvrir d'autres applications et outils.
- Le Quartier du Navigateur (5 agents) : Ce sont comme des employés numériques qui vivent à l'intérieur de votre navigateur web. Ils peuvent cliquer sur des boutons, remplir des formulaires et naviguer sur des sites web exactement comme un humain le ferait, souvent sans que vous ne surveilliez chaque étape.
- Le Quartier de l'Entreprise (13 agents) : Ce sont les « chefs de chantier bâtisseurs » pour les grandes entreprises. Ce sont des plateformes où une entreprise peut mettre en place une équipe de travailleurs numériques pour gérer des tâches comme les RH, les ventes ou le support informatique de manière automatique.
2. Le problème de la « Boîte Noire » (Transparence)
La plus grande surprise de l'article est la quantité d'informations manquantes. Imaginez que vous achetiez une voiture, mais que le fabricant refuse de vous dire :
- Comment fonctionnent les freins.
- Si la voiture a passé des tests de collision.
- Ce qui se passe si le moteur surchauffe.
- Qui est responsable si la voiture a un accident.
C'est exactement ce que les chercheurs ont découvert avec ces agents d'IA.
- Secrets de sécurité : Pour environ 56 % des questions de sécurité posées (comme « Avez-vous testé cela contre le piratage ? »), la réponse était « Nous ne savons pas » ou « Nous n'avons trouvé aucune information publique ».
- L'effet de « l'Éco-blanchiment de la sécurité » (Safety-Washing) : Certaines entreprises parlent beaucoup de leur sécurité dans leur marketing, mais quand les chercheurs ont cherché les résultats de tests ou les rapports de sécurité réels, les étagères étaient vides. C'est comme un restaurant qui prétend être le « plus sain de la ville » mais qui refuse de montrer ses scores d'inspection d'hygiène.
- Crise d'identité : La plupart de ces agents ne disent pas aux gens qu'ils sont des robots. Si un agent de navigation parcourt un site web, le site pense souvent qu'il s'agit d'un utilisateur humain. Seule une infime minorité possède une « carte d'identité numérique » indiquant : « Bonjour, je suis une IA ».
3. Le « Monstre à trois têtes » (Qui contrôle quoi ?)
L'article explique que ces agents sont construits en couches, comme un sandwich, et que cela rend difficile de savoir qui est aux commandes.
- Le Pain (Le Modèle de Fondation) : C'est le cerveau (comme GPT, Claude ou Gemini). Seules quelques grandes entreprises fabriquent ces cerveaux.
- La Garniture (Le Constructeur d'Agent) : C'est la couche intermédiaire (comme Microsoft Copilot Studio ou Zapier) qui dit au cerveau quoi faire.
- Le Pain Supérieur (L'Utilisateur/L'Entreprise) : C'est la personne ou l'entreprise qui utilise réellement l'agent.
Les chercheurs ont constaté que, parce que ces couches sont fabriquées par des entreprises différentes, personne n'a une vue d'ensemble. Le fabricant du cerveau ne sait pas ce que fait le constructeur, et le constructeur ne sait pas exactement comment l'utilisateur déploie l'agent. Cela crée un « jeu de blâme » si quelque chose tourne mal.
4. Le « Far West » sur le Web
L'article met en lumière une tension majeure : les agents de navigation enfreignent les règles d'Internet.
Depuis des décennies, les sites web ont un panneau « Entrée Interdite » appelé robots.txt pour indiquer aux programmes informatiques (crawlers) où ils peuvent et ne peuvent pas aller.
- L'ancienne méthode : Un site dit « Ne pas crawler ici », et les robots polis s'arrêtent.
- La méthode des Agents : Beaucoup de ces nouveaux agents sont conçus pour agir comme des humains. Ils ignorent souvent les panneaux « Entvéner Interdit », contournent les contrôles de sécurité et se font passer pour des personnes pour accomplir des tâches.
- Le résultat : Cela provoque des batailles juridiques. Des entreprises comme Amazon et Perplexity se poursuivent en justice pour savoir si un agent d'IA a le droit de faire des courses ou de naviguer sur un site sans permission.
5. La dépendance aux « Trois Grands »
Presque tous ces 30 agents reposent sur seulement trois familles de cerveaux : GPT d'OpenAI, Claude d'Anthropic et Gemini de Google.
- L'analogie : Imaginez 30 marques de voitures différentes, mais elles utilisent toutes exactement le même moteur provenant de trois fabricants. Si l'un de ces fabricants de moteurs a un problème, arrête la production ou change ses prix, les 30 marques de voitures sont en difficulté. Cela crée un énorme risque de concentration.
L'essentiel
L'« Indice des Agents IA 2025 » est un instantané d'une technologie en pleine croissance qui opère actuellement dans l'obscurité.
Les chercheurs ne disent pas que ces agents sont « mauvais », mais ils disent que nous volons à l'aveugle. Nous avons des outils puissants capables d'agir en notre nom, mais nous n'avons ni règles claires, ni rapports de sécurité, ni vérifications d'identité pour eux. Le document suggère que si nous voulons que ces agents soient sûrs et dignes de confiance, les « chefs de chantier » doivent commencer à montrer leur travail, et le « chantier » a besoin d'une meilleure signalisation.
En bref : Nous avons construit une flotte de robots autonomes, mais la plupart d'entre eux roulent sans plaque d'immatriculation, sans inspection de sécurité et sans dire à personne qu'ils sont des robots.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.