Trustworthy Agentic AI: A Rapid, PRISMA-Informed Evidence Review of Safety, Explainability, Alignment, and Human Oversight in Autonomous AI Systems

Résumé Technique : IA Agentique de Confiance

Énoncé du Problème
L'intelligence artificielle agentique représente un changement de paradigme, passant de modèles prédictifs passifs à des systèmes autonomes capables d'interpréter des objectifs, de décomposer des tâches, de récupérer des preuves externes, d'invoquer des outils et d'exécuter des flux de travail multi-étapes. Contrairement à l'IA conventionnelle, où les défaillances sont généralement limitées à la sortie du modèle, les défaillances de l'IA agentique peuvent se propager à travers la planification, l'invocation d'outils et le support à la décision en conditions réelles, entraînant des actions irréversibles, des fuites de données ou une exécution malveillante. La littérature existante sur l'IA agentique de confiance est fragmentée entre divers domaines tels que les agents basés sur les grands modèles de langage (LLM), les systèmes multi-agents, l'IA explicable (XAI), l'alignement et la génération augmentée par récupération (RAG). Cette fragmentation crée un manque de directives consolidées pour intégrer la sécurité, l'explicabilité, l'alignement, l'équité et la supervision humaine dans les chaînes de décision-action autonomes. De plus, le domaine évolue rapidement, avec un volume important de revues systématiques connexes publiées en 2026, nécessissant une revue structurée et opportune pour clarifier l'état actuel de l'art et identifier des lacunes spécifiques.

Méthodologie
Cette étude emploie un protocole de revue de preuves rapide, informé par la méthode PRISMA. La méthodologie se distingue explicitement d'une revue systématique de la littérature exhaustive multi-bases de données ; elle utilise une stratégie de recherche assistée par IA avec un seul réviseur, complétée par un chaînage de citations.

• Corpus : La revue analyse un corpus primaire de 33 études uniques publiées entre 2022 et 2026. Ces études ont été sélectionnées selon la langue anglaise, la date de publication et la pertinence vis-à-vis des architectures d'IA agentique et des dimensions de confiance (sécurité, explicabilité, alignement, équité, confidentialité, sécurité, transparence, supervision, évaluation et gouvernance).
• Évaluation de la Qualité : Une grille d'évaluation de la qualité en sept points a été appliquée à chaque étude, notant la clarté objective, la pertinence agentique, l'accent sur la confiance, la contribution méthodologique, les limites, la crédibilité de la source et la pertinence directe sur une échelle de 0 à 2 par item (score maximum de 14).
• Synthèse : La revue combine une synthèse quantitative (tendances de publication, types de sources, scores de qualité et couverture des dimensions) avec une synthèse thématique qualitative des modèles architecturaux et des risques de confiance.
• Positionnement : La taxonomie proposée est explicitement comparée à quinze cadres académiques, industriels et réglementaires existants (2023–2026), incluant quatre enquêtes systématiques publiées en 2026, afin de délimiter les contributions spécifiques.

Contributions Clés

1. Taxonomie T-SAFE : L'article propose la taxonomie T-SAFE, organisant l'IA agentique de confiance autour de cinq dimensions : Transparence, Sécurité (Safety), Alignement, Équité (Fairness) et Explicabilité. Cette taxonomie est empiriquement motivée par le constat que l'« Équité » ne fait l'objet d'aucun traitement primaire dans le corpus examiné, tandis que la « Sécurité » domine (52 % des études).
2. Cadre par Couches : Un cadre d'IA agentique de confiance par couches est introduit, liant l'interaction avec l'environnement, la mémoire, la récupération, l'utilisation d'outils, le raisonnement, les contrôles de confiance, la gouvernance et la supervision humaine. Ce cadre cartographie les dimensions T-SAFE vers des composants architecturaux spécifiques.
3. Preuves Quantitatives : La revue fournit des données quantitatives sur l'état du domaine, révélant que 73 % du corpus primaire a été publié en 2025 ou 2026, et que les prépublications arXiv constituent la catégorie de source la plus importante (42 %).
4. Identification des Lacunes : L'étude identifie des lacunes critiques, notamment l'absence de benchmarks standardisés pour la sécurité des agents, une explicabilité insuffisante pour l'utilisation d'outils, les risques de sécurité dans les agents dotés de RAG, et l'absence de surveillance de l'alignement sur l'ensemble du cycle de vie.

Résultats et Synthèse Thématique

• Modèles Architecturaux : La revue identifie six modèles primaires : agents simples basés sur les LLM, agents augmentés par des outils, agents dotés de RAG, systèmes multi-agents, WebAgents et agents auto-évolutifs. Chaque modèle introduit des risques de confiance distincts, tels que la planification hallucinée, les appels d'outils non sécurisés, l'injection de prompts et les erreurs en cascade dans la coordination multi-agents.
• Risques de Confiance : Les risques clés identifiés incluent l'hallucination (un contenu incorrect devenant un plan), l'utilisation non sécurisée d'outils, l'injection de prompts, la faible explicabilité (manque de justification pour la sélection d'outils), le désalignement avec l'intention de l'utilisateur et la supervision humaine insuffisante.
• Couverture des Dimensions : L'analyse quantitative des 33 études montre un fort biais vers la Sécurité (52 %), suivie de l'Alignement et de l'Explicabilité (15 % chacune), et de la Transparence (12 %). Notamment, l'Équité n'a été l'objet principal d'aucune étude du corpus, soulignant une lacune de recherche significative.
• Fragmentation des Benchmarks : La revue note que les benchmarks de sécurité existants (ex. : Agent-SafetyBench, R-Judge, SafetyBench) évaluent des construits différents (sécurité au niveau de la tâche vs conscience des risques vs connaissances statiques) avec une faible concordance entre les benchmarks, menant à des conclusions de sécurité incohérentes.
• Positionnement Comparatif : Lorsqu'elle est positionnée face à 15 cadres existants, la taxonomie T-SAFE se distingue par sa combinaison d'une taxonomie évaluative à cinq dimensions, d'une cartographie explicite vers une architecture technique par couches, de son applicabilité à la recherche et aux politiques sans rétrécissement sectoriel, et de son ancrage dans des preuves de corpus quantitatives.

Signification et Revendications
L'article se positionne comme une revue de preuves rapide plutôt qu'une revue systématique exhaustive, reconnaissant des limites telles que le biais du réviseur unique et la nature évolutive de la terminologie de recherche. Sa principale importance réside dans :

• Motivation Empirique : Fournir des preuves fondées sur les données que la recherche actuelle met disproportionnellement l'accent sur la sécurité et la sûreté tout en négligeant l'équité, justifiant ainsi l'inclusion de l'Équité comme une dimension de premier rang dans la taxonomie T-SAFE.
• Clarté Structurelle : Offrir un cadre unifié qui connecte les couches architecturales techniques (ex. : récupération, utilisation d'outils) aux dimensions d'évaluation de la confiance, répondant ainsi à la fragmentation de la littérature actuelle.
• Agenda de Recherche : Recommander explicitement des directions futures, incluant le développement de benchmarks de sécurité d'agents standardisés, de mécanismes d'utilisation d'outils explicables, de flux de travail RAG sécurisés, de surveillance de l'alignement sur le cycle de vie et de structures de gouvernance de type « humain dans la boucle » (human-in-command).
• Appel à la Réplication : L'auteur recommande explicitement la réplication formelle de cette revue via plusieurs bases de données comme l'étape nécessaire pour passer d'une revue de preuves rapide à une revue systématique de la littérature complète et reproductible.

L'article conclut que transformer l'IA agentique des prototypes expérimentaux en systèmes fiables, explicables, équitables et responsables nécessite de combler les lacunes identifiées par une évaluation standardisée, une gouvernance robuste et un accent équilibré sur les cinq dimensions T-SAFE.