Résumé Technique : Compétences Déclaratives pour les Agents IA dans les Flux de Travail d'Utilisation d'Outils Fondés sur la Connaissance

Énoncé du Problème

Le document traite de l'orchestration des agents IA dans des flux de travail de service client réalistes et complexes qui reposent sur des bases de connaissances (KB) non structurées. Plus précisément, les auteurs se concentrent sur le benchmark $\tau$-Knowledge, un domaine impliquant le service client de la fintech où les agents doivent accomplir trois compétences distinctes : l'interaction conversationnelle, l'exécution de tâches procédurales (contraintes de commande, vérifications) et le raisonnement sur des documents récupérés.

Le défi central est que les agents doivent découvrir les capacités des outils et les règles procédurales au sein d'une vaste KB non structurée (par exemple, découvrir que « fermer un compte bancaire » nécessite un suffixe aléatoire spécifique et des préconditions) avant de les exécuter. L'environnement est modélisé comme un processus de décision markovien partiellement observable décentralisé (Dec-POMDP), où l'agent possède une vue incomplète de l'état de la base de données et doit s'appuyer sur les sorties des outils et les messages de l'utilisateur pour atteindre un état cible. Les auteurs identifient que les agents actuels peinent avec :

1. Des interdépendances complexes nécessitant un raisonnement multi-étapes.
2. Le non-respect de l'ordre implicite des sous-tâches (ex: vérifier l'identité avant de modifier des données).
3. Une confiance excessive envers les assertions de l'utilisateur sans vérification par l'outil.
4. L'inefficacité de la recherche et les suppositions injustifiées.

Méthodologie

L'étude compare trois classes de politiques distinctes (paradigmes d'orchestration) instanciées à travers cinq grands modèles de langage (LLM) sous deux régimes de récupération : la récupération "Golden" (optimale) et la récupération basée sur les plongements (embeddings).

1. Agent de Référence ($\pi_B$)

Un agent LLM standard non outillé, conditionné uniquement par un prompt système statique et l'historique de la conversation. Il n'a aucun flux de contrôle explicite ni de priors procéduraux.

2. Agent Déclaratif ($\pi_D$)

Cet agent étend la référence en ajoutant des fichiers de compétences en langage naturel au prompt système. Ces fichiers agissent comme un prior procédural, décrivant :

• Procédures Bancaires : Préconditions, exigences de découverte d'outils et contraintes d'ordonnancement (ex: « l'augmentation de la limite de crédit nécessite l'absence de litiges en cours »).
• Interaction Client : Une structure conversationnelle descriptive en quatre étapes (Salutation, Triage, Vérification, Action).
• Découverte de Connaissances : Stratégies de recherche dans la KB, soulignant que la découverte d'outils est une précondition stricte pour les outils modifiant l'état.
  Le LLM lit ces fichiers au moment de l'exécution et décide dynamiquement du flux de travail, des outils et de la stratégie de vérification sans machine à états explicite.

3. Agent Impératif ($\pi_I$)

Cet agent implémente une machine à états finis déterministe (Contrôle Extériorisé). Il impose un graphe de phases rigide : Salutation $\to$ Triage $\to$ Vérification $\to$ Planification $\to$ Exécution $\to$ Confirmation.

• Flux de Contrôle : Les transitions de phase sont calculées par le code, et non par le LLM.
• Contraintes : L'espace d'action est restreint à chaque tour ($A_{\phi_t} \subset A$). Par exemple, les outils modifiant l'état ne sont autorisés que dans la phase d'Exécution, laquelle est verrouillée par un flag de Vérification réussi.
• Mécanismes : Inclut des files d'attente de tâches explicites (algorithme de Kahn pour le tri topologique), des politiques de réessai par outil avec escalade déterministe vers une phase d'Escalade, et une application stricte du type de réponse.

Cadre Théorique

Les auteurs formalisent les agents dans le cadre Dec-POMDP et proposent quatre propositions théoriques :

• Prop 1 : Les fichiers de compétences fournissent un avantage informationnel (réduisant l'entropie conditionnelle des actions) pour les modèles présentant un écart de compétence procédurale.
• Prop 2 : La restriction impérative réduit la classe de politique ; le succès dépend de la capacité des gains de conformité à compenser la perte de capacité du modèle.
• Prop 3 : Les agents impératifs devraient réduire les coûts en limitant la longueur des trajectoires via des limites de réessai.
• Prop 4 : Le bruit de récupération dégrade le canal d'observation ; si le canal est trop bruité, l'avantage des fichiers de compétences s'effondre.

Résultats Clés

1. Impact de l'Orchestration sur la Performance

• Avantage Déclaratif : Sous Récupération Golden (évidence de haute qualité), l'Agent Déclaratif a systématiquement surpassé l'Agent de Référence sur quatre des cinq modèles, avec des gains proportionnels à l'écart de compétence procédurale du modèle. Il a amélioré le Pass1 (succès de la tâche) et la Précision de l'Argument Écrit.
• Sous-performance Impérative : L'Agent Impératif a été moins performant que l'Agent de Référence sur tous les modèles et réglages de récupération. La restriction de l'espace d'action a réduit la capacité du modèle à résoudre les tâches sans fournir de bénéfices de conformité suffisants pour compenser cette perte.
• La Récupération comme Goulot d'Étranglement : Sous Récupération par Plongement (bruyante), les performances ont chuté drastiquement pour tous les agents. L'avantage de l'Agent Déclaratif s'est effondré pour les modèles les plus faibles, confirmant que les fichiers de compétences ne peuvent compenser des preuves fondamentalement incorrectes ou manquantes.

2. Conformité et Efficacité

Contrairement à l'hypothèse selon laquelle les portes déterministes améliorent la sécurité :

• Écritures Non Autorisées : L'Agent Impératif n'a pas réduit le taux d'écritures non autorisées (écritures avant vérification) par rapport à l'Agent de Référence. Dans certains cas (récupération par plongement), il présentait un taux d'écritures pré-vérification plus élevé.
• Fragilité : L'Agent Impératif a présenté un taux de réessai excessif nettement plus élevé (4 à 7 fois supérieur à l'Agent de Référence/Déclaratif) et des longueurs de trajectoire plus importantes. Cela suggère que les transitions de phase rigides basées sur le code sont fragiles ; si le LLM classifie mal une phase, il peut contourner les verrous ou boucler indéfiniment, tandis que les agents adaptatifs basés sur le LLM gèrent mieux les erreurs.
• Coût : L'Agent Impératif n'a pas réalisé les économies de coût prédites en raison de l'augmentation de la longueur des trajectoires et des boucles de réessai.

Signification et Revendications

Le papier revendique les contributions et intuitions suivantes :

1. Les Compétences Déclaratives comme Priors Efficaces : Les fichiers de compétences en langage naturel constituent un paradigme d'orchestration efficace pour les agents utilisant des outils, particulièrement lorsque le modèle sous-jacent présente un écart de compétence procédurale. Ils améliorent la précision et réduisent les erreurs d'orchestration sans la fragilité des machines à états.
2. Limites de l'Orchestration Impérative : L'étude réfute empiriquement l'hypothion selon laquelle les machines à états déterministes garantissent la conformité dans des environnements complexes et non structurés. La rigidité du contrôle par code peut mener à un mauvais classement des phases et à une incapacité à se rétablir des erreurs, n'offrant aucun avantage de sécurité par rapport aux agents adaptatifs dans ce contexte.
3. Dominance de la Récupération : La qualité de la récupération est le goulot d'étranglement dominant pour les agents IA. Aucun paradigme d'orchestration (déclaratif ou impératif) ne peut restaurer la performance lorsque le canal d'observation (l'évidence récupérée) est bruité ou incomplet.
4. Implications pour l'Ingénierie : Pour les domaines réglementés, compter sur des portes déterministes pour garantir la conformité peut être trompeur. Les prompts augmentés par des compétences offrent une méthode de maintenance à faible coût pour améliorer le comportement de l'agent, à condition que la qualité de la récupération soit élevée.

Les auteurs concluent que, bien que l'orchestration déclarative offre des améliorations mesurables de la précision, le domaine doit prioriser les avancées de la récupération parallèlement à celle de l'orchestration pour libérer le potentiel commercial des systèmes agentiques.