AI Planning Framework for LLM-Based Web Agents

Ce papier propose un cadre d'IA formalisant les tâches web comme des processus de décision séquentielle, introduisant une taxonomie reliant les architectures d'agents aux paradigmes de planification classiques et de nouvelles métriques d'évaluation, validés par une analyse comparative sur un jeu de données de 794 trajectoires humaines.

L'essentiel

🌐 Le Problème : Des Robots qui "Rêvent" sans Plan

Imaginez que vous voulez envoyer un robot faire des courses dans un supermarché géant et changeant (c'est le Web).
Avant, les robots étaient comme des robots de cuisine programmés : ils suivaient une recette stricte. Si le rayon "pâtes" changeait de place, le robot tombait en panne.

Aujourd'hui, grâce à l'Intelligence Artificielle (les LLM), nous avons des robots très intelligents qui comprennent le langage humain. Mais il y a un problème : ils agissent souvent comme des boîtes noires. On leur dit "Achète des pâtes", et ils y vont. Mais si ça rate, on ne sait pas pourquoi. Est-ce qu'ils ont oublié le but ? Est-ce qu'ils ont mal lu l'étiquette ? Est-ce qu'ils ont tourné en rond ?

Les chercheurs de l'Université de Haïfa (Israël) disent : "Il faut arrêter de les traiter comme des magiciens et commencer à comprendre comment ils pensent."

🗺️ La Solution : Une Carte pour les Robots

Les auteurs proposent un nouveau système pour classer ces robots en trois catégories, en les comparant à des façons classiques de chercher un chemin dans une forêt :

1. Le Robot "Pas à Pas" (BFS - Recherche en largeur) :

   • L'analogie : C'est comme quelqu'un qui avance dans le brouillard. Il regarde juste devant lui : "Je vois une porte, je l'ouvre. Je vois un couloir, je le prends." Il ne pense pas au futur, il réagit à l'instant présent.
   • Le résultat : Il est très flexible et s'adapte bien aux imprévus, mais il peut oublier son objectif initial après 10 minutes de marche.

2. Le Robot "Explorateur d'Arbres" (Recherche Best-First) :

   • L'analogie : C'est comme un grimpeur qui regarde plusieurs branches d'arbre avant de choisir celle qui semble monter le plus haut. Il explore plusieurs chemins possibles avant de se lancer.
   • Le résultat : Il est intelligent, mais cela demande beaucoup de calculs.

3. Le Robot "Planificateur Total" (DFS - Recherche en profondeur) :

   • L'analogie : C'est comme un chef d'orchestre qui écrit toute la partition de musique avant que le premier instrument ne joue. Il imagine tout le trajet de A à Z, étape par étape, avant de bouger le petit doigt.
   • Le résultat : C'est très précis, mais si un imprévu survient (un obstacle sur la route), il peut paniquer car son plan est trop rigide.

📏 Le Nouveau Mètre-Ruban : Plus que "Gagné ou Perdu"

Jusqu'à présent, on jugeait ces robots avec un seul critère binaire : A-t-il réussi sa mission ? (Oui/Non).
C'est comme juger un cuisinier uniquement sur le fait que le plat est mangé, sans se soucier s'il a brûlé la sauce ou utilisé 10 fois la même cuillère.

Les chercheurs ont créé 5 nouveaux critères pour juger la qualité du voyage du robot :

1. Le Taux de Récupération : Si le robot se trompe de chemin, arrive-t-il à se rattraper et revenir sur la bonne voie ? (Comme un randonneur qui tombe dans un ravin mais trouve un sentier pour remonter).
2. Le Taux de Répétition : Est-ce que le robot tourne en rond ? (Exemple : cliquer 5 fois sur le même bouton parce qu'il est bloqué).
3. Le Taux de Succès Étape par Étape : A-t-il fait les bons mouvements, même s'il n'a pas fini la tâche ?
4. La Précision des Éléments : A-t-il bien cliqué sur le bon bouton (celui avec le bon nom) ?
5. Le Succès Partiel : S'il devait trouver 3 articles et qu'il en a trouvé 2, c'est un échec total ou un demi-succès ?

🧪 L'Expérience : Qui gagne ?

Pour tester tout ça, les chercheurs ont :

• Créé une base de données de 794 trajets réalisés par de vrais humains (la "référence parfaite").
• Mis en compétition un robot "Pas à Pas" (déjà existant) contre un nouveau robot "Planificateur Total" (qu'ils ont construit eux-mêmes).

Les résultats sont fascinants :

• Le Robot "Pas à Pas" (WebArena) : Il ressemble plus aux humains. Il fait moins d'erreurs de logique, il se rattrape mieux quand il se trompe, et il suit le chemin humain plus fidèlement. Il gagne sur la flexibilité.
• Le Robot "Planificateur Total" : Il est plus précis techniquement. Quand il dit "Je vais cliquer ici", il le fait exactement comme prévu (moins d'erreurs d'exécution). Mais il est plus rigide : s'il se trompe dans son plan initial, il a du mal à se corriger et il finit souvent par échouer complètement.

💡 La Leçon à retenir

Il n'y a pas de "meilleur robot" universel. Tout dépend de la tâche :

• Si vous voulez naviguer sur un site imprévisible (comme un forum social où les posts changent tout le temps), le robot "Pas à Pas" est meilleur. Il s'adapte comme un humain.
• Si vous voulez faire une tâche très structurée et répétitive (comme remplir un formulaire bancaire ou commander sur un site e-commerce standard), le robot "Planificateur Total" est excellent. Il suit la recette à la lettre.

En résumé : Ce papier nous apprend qu'il ne faut pas juste regarder si un robot a fini sa tâche, mais comment il l'a faite. En comprenant s'il est un "improvisateur" ou un "stratège", nous pouvons choisir le bon outil pour le bon travail, et éviter que nos robots ne tournent en rond dans le brouillard du web !

Résumé technique

1. Problématique

La création d'agents autonomes capables d'effectuer des tâches complexes sur le web est un défi majeur en intelligence artificielle. Bien que les modèles de langage (LLM) puissent interpréter des requêtes utilisateurs, ils fonctionnent souvent comme des "boîtes noires", rendant difficile le diagnostic de leurs échecs ou la compréhension de leur processus de planification.
Les problèmes principaux identifiés sont :

• Manque de transparence : Absence de cadre unifié pour analyser comment les agents planifient et pourquoi ils échouent.
• Évaluation insuffisante : Les benchmarks actuels (comme WebArena) se basent presque exclusivement sur un taux de réussite binaire (succès/échec), ignorant la qualité du processus, la cohérence de la trajectoire ou la capacité de récupération après une erreur.
• Défauts de planification : Phénomènes tels que la "dérive de contexte" (l'agent oublie son objectif initial) ou la décomposition incohérente des tâches.

2. Méthodologie

Les auteurs proposent un cadre formel traitant les tâches web comme des processus de prise de décision séquentielle. Leur approche repose sur trois piliers :

A. Taxonomie des Agents Web

L'article établit une correspondance entre les architectures d'agents modernes et les paradigmes de planification classiques :

1. Agents "Step-by-Step" (Pas à pas) : Correspondent à une Recherche en Largeur (BFS). L'agent génère une action immédiate, observe l'état suivant, et répète le processus. C'est l'approche dominante (ex: WebArena, ReAct).
2. Agents "Tree Search" (Recherche arborescente) : Correspondent à une Recherche Best-First. Ils maintiennent un arbre d'états explorés et utilisent une fonction de valeur pour prioriser les branches les plus prometteuses.
3. Agents "Full-Plan-in-Advance" (Planification complète à l'avance) : Correspondent à une Recherche en Profondeur (DFS). L'agent génère une trajectoire complète (séquence d'actions) avant toute exécution. Les auteurs ont implémenté un tel agent pour combler un manque dans la littérature.

B. Nouvelles Métriques d'Évaluation

Pour dépasser le simple taux de réussite, cinq métriques ont été développées pour évaluer la qualité de la trajectoire :

1. Taux de Récupération (Recovery Rate) : Capacité de l'agent à revenir à la trajectoire humaine après une déviation.
2. Taux de Répétition (Repetitiveness Rate) : Proportion d'actions redondantes (boucles inutiles).
3. Taux de Succès par Étape (Step Success Rate) : Proportion des étapes de référence humaine correctement exécutées par l'agent.
4. Taux de Succès Partiel (Partial Success Rate) : Évaluation de la complétude de la réponse finale pour les tâches à multiples exigences.
5. Précision des Éléments (Element Accuracy Rate) : Mesure l'écart entre l'action planifiée par l'agent et l'action réellement exécutée.

C. Jeu de Données

Les auteurs ont créé un nouveau jeu de données de référence contenant 794 trajectoires étiquetées par des humains sur le benchmark WebArena. Ces "trajectoires en or" (gold-standard) servent de base de comparaison pour calculer les métriques ci-dessus.

D. Utilisation des LLM comme Juges

L'évaluation repose sur l'utilisation de LLMs pour comparer sémantiquement les actions de l'agent avec les actions humaines, permettant une analyse nuancée au-delà de la correspondance exacte de texte.

3. Résultats Expérimentaux

Les auteurs ont comparé l'agent Step-by-Step (WebArena) contre leur nouvel agent Full-Plan-in-Advance sur 812 tâches WebArena.

• Taux de réussite global : L'agent Step-by-Step a légèrement surperformé l'agent Full-Plan-in-Advance (38,41 % contre 36,29 %). L'agent planificateur a mieux performé sur des domaines structurés (e-commerce, Reddit) mais moins bien sur des environnements dynamiques (CMS, GitLab).
• Alignement humain (Step Success Rate) : L'agent Step-by-Step suit beaucoup mieux la trajectoire humaine (82 %) que l'agent Full-Plan-in-Advance (58 %). Ce dernier a tendance à omettre des étapes essentielles ou à en ajouter d'inutiles dans son plan initial.
• Précision technique (Element Accuracy) : L'agent Full-Plan-in-Advance excelle ici (89 % contre 82 %), indiquant que lorsqu'il planifie une action, il a plus de chances de l'exécuter correctement sur le bon élément.
• Efficacité et Récupération : L'agent Step-by-Step est plus efficace (moins d'étapes inutiles) et récupère mieux des erreurs (36 % de récupération vs 31 %). L'agent Full-Plan-in-Advance échoue souvent parce qu'il s'engage dans une trajectoire rigide qui ne peut pas s'adapter aux imprévus, menant à des arrêts prématurés.

4. Contributions Clés

1. Cadre de nomenclature : Une classification formelle reliant les agents web LLM aux paradigmes de recherche classiques (BFS, Best-First, DFS).
2. Implémentation d'un agent : Développement d'un agent "Full-Plan-in-Advance" fonctionnel pour servir de preuve de concept.
3. Jeu de données annoté : Création d'un ensemble de 794 trajectoires humaines de haute qualité pour le benchmark WebArena.
4. Métriques d'évaluation avancées : Introduction de cinq métriques quantifiant la cohérence, l'efficacité et la stabilité de la planification, au-delà du binaire succès/échec.
5. Analyse comparative : Démonstration empirique que le choix de l'architecture de planification doit dépendre des contraintes de l'application (dynamique vs structuré).

5. Signification et Conclusion

Ce travail démontre qu'il n'existe pas de "meilleur" agent universel.

• Step-by-Step est supérieur pour les environnements dynamiques, partiellement observables et imprévisibles (ex: tableaux de bord DevOps, forums sociaux), où la capacité à réagir et à récupérer est cruciale.
• Full-Plan-in-Advance est plus adapté aux environnements structurés, prévisibles et rigides (ex: e-commerce, systèmes ERP), où une feuille de route globale permet d'éviter les distractions et d'assurer une exécution précise.

L'article conclut que pour développer des agents web robustes, il est essentiel de diagnostiquer les échecs non seulement par le résultat final, mais par la qualité du processus de planification. Le cadre proposé offre les outils nécessaires pour sélectionner l'architecture appropriée selon le contexte d'application.