🤖 AI

FALAT: Tracing Failures in LLM Agent Trajectories via Dependency-Guided Search

Le document propose FALAT, un cadre de diagnostic qui améliore l'attribution des défaillances dans les trajectoires d'agents LLM en formulant le problème comme une recherche guidée par les dépendances afin de distinguer les étapes introduisant l'erreur de celles qui ne font que propager des erreurs antérieures, surpassant ainsi les bases de référence existantes pour identifier les agents responsables et les étapes de défaillance décisives.

Auteurs originaux : Md Nakhla Rafi, Md Ahasanuzzaman, Dong Jae Kim, Zhijie Wang, Tse-Hsun Chen

Publié 2026-06-02

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Md Nakhla Rafi, Md Ahasanuzzaman, Dong Jae Kim, Zhijie Wang, Tse-Hsun Chen

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous avez une équipe de robots hautement intelligents travaillant ensemble pour résoudre un casse-tête complexe, comme écrire un logiciel ou planifier un voyage. Ils se parlent, utilisent des outils et prennent des décisions au cours d'une longue chaîne d'événements. Nous appelons cette chaîne une « trajectoire ».

Parfois, l'équipe échoue. Le résultat final est erroné. Mais parce que la chaîne est si longue et que les robots sont si bavards, il est incroyablement difficile de comprendre qui a commis l'erreur et quand elle s'est produite.

Voici le problème : si le Robot A commet une petite erreur au début, le Robot B peut faire quelque chose qui semble parfaitement logique basé sur cette erreur. Puis le Robot C peut faire autre chose qui semble également logique, mais qui est en fait erroné car construit sur l'erreur du Robot B. Au bout du compte, tout est cassé, même si chaque étape semblait raisonnable sur le moment. C'est comme un jeu du « téléphone arabe » où le message est déformé, mais où tout le monde est convaincu de l'avoir entendu correctement.

La Solution : FALAT (Le cadre de détective)

Les auteurs ont créé un outil appelé FALAT pour agir comme un détective pour ces équipes de robots. Au lieu de simplement regarder le désastre final et de deviner, FALAT utilise un processus astucieux en quatre étapes pour trouver la cause profonde.

Voici comment fonctionne FALAT, en utilisant des analogies simples :

1. Le « Script Idéal » (Construction de l'espace de recherche)

Avant de regarder la réalité désordonnée, FALAT écrit un « Script Idéal » de la façon dont la tâche aurait dû se dérouler. Il connaît l'objectif, les règles et ce qu'un bon robot devrait faire.

Analogie : Imaginez un réalisateur de cinéma qui sait exactement comment la scène du film devrait se jouer. Quand les acteurs ratent leur coup, le réalisateur ne se contente pas de regarder le chaos ; il compare le tournage réel au script pour repérer où les acteurs ont dévié de la trajectoire.
Pourquoi c'est important : Si vous ne regardez que le propre raisonnement des robots, vous pourriez être trompé car ils rationalisent tous la même erreur. FALAT utilise une perspective extérieure (le script) pour rester objectif.

2. L'« Objectif Zoom » (Représentation hiérarchique)

L'historique du robot peut comporter des centaines d'étapes. Lire chaque mot est lent et déroutant. FALAT dézoome d'abord, puis zoome ensuite.

Analogie : Pensez à l'observation d'une forêt. D'abord, vous regardez toute la forêt depuis un hélicoptère pour voir quelle zone semble malade (Niveau Haut). Ensuite, vous zoomez pour voir quel groupe d'arbres est affecté (Niveau Moyen). Enfin, vous marchez vers le sol pour inspecter les feuilles spécifiques (Niveau Bas).
Pourquoi c'est important : Cela empêche FALAT de se perdre dans les détails. Il réduit la recherche aux « quartiers » suspects en premier.

3. La « Chaîne de Responsabilité » (Dépendances typées)

C'est la partie la plus importante. FALAT ne se contente pas de blâmer la dernière personne qui a parlé. Il trace les dépendances (qui dépend de qui).

Analogie : Imaginez une course de relais où quelqu'un fait tomber le témoin.
- La Source : Le coureur qui l'a fait tomber.
- Le Propagateur : Le coureur suivant qui a ramassé le témoin et a continué à courir, même s'il était cassé.
- Le Symptôme : Le coureur à la ligne d'arrivée qui franchit la ligne en retard.
- FALAT utilise des étiquettes spéciales (comme « suivi », « correction » ou « impasse ») pour distinguer la personne qui a fait tomber le témoin de celles qui ont simplement porté le témoin cassé. Il ignore les personnes qui se contentaient de répéter ce qui avait déjà été dit ou qui n'ont pas réellement affecté le résultat final.

4. Le Test du « Et si ? » (Vérification)

Une fois qu'il a un suspect, le détective ne se contente pas de l'arrêter. Il lance une simulation.

Analogie : Le détective demande : « Si nous retournions dans le passé et corrigions seulement cette étape, est-ce que tout le film se terminerait bien ? »
- Si corriger l'étape 3 rend le résultat final parfait, alors l'étape 3 est l'Étape Décisive.
- Si corriger l'étape 3 laisse toujours le film raté, alors l'étape 3 n'était pas le vrai coupable ; l'erreur s'est produite plus tôt.

Est-ce que cela fonctionne ?

Les auteurs ont testé FALAT sur un benchmark appelé « Who & When », qui contient de nombreux exemples d'échecs d'équipes de robots.

Le Résultat : FALAT était bien meilleur pour trouver l'étape exacte où l'erreur a commencé par rapport aux autres méthodes.
Les Chiffres : Sur des histoires d'échecs complexes, créées à la main, FALAT a trouvé la bonne étape environ 29 % du temps, tandis que la deuxième meilleure méthode n'a réussi que 17 % du temps. Sur des histoires plus simples, générées par ordinateur, il a réussi 46 % du temps.
La Conclusion : Même si 29 % semble bas, dans ce domaine de « chercher une aiguille dans une botte de foin », c'est une amélioration majeure. Cela prouve que vous ne pouvez pas simplement demander à une IA intelligente de « deviner » qui a fait une erreur ; vous avez besoin d'une manière structurée de tracer les dépendances et de tester des scénarios de type « et si ? ».

Résumé

FALAT est un outil de diagnostic qui évite de blâmer la dernière personne de la chaîne. Au lieu de cela, il :

Sait comment les choses devraient fonctionner.
Zoome sur les zones suspectes.
Trace le flux d'information pour séparer l'erreur originale de ses conséquences.
Teste si corriger cette étape unique permettrait de sauver la mise.

Il transforme un échec désordonné et confus en une enquête logique.

Résumé Technique : FALAT – Tracer les défaillances dans les trajectoires d'agents LLM via une recherche guidée par les dépendances

Définition du Problème

Les agents basés sur les grands modèles de langage (LLM) résolvent des tâches complexes à travers de longues trajectoires composées d'étapes de raisonnement, d'appels d'outils et de communication entre agents. Lorsque ces trajectoires échouent, identifier la cause profonde est difficile en raison du « problème d'attribution ». Les erreurs se propagent souvent : une erreur précoce corrompt l'état d'exécution, faisant en sorte que les étapes suivantes paraissent localement raisonnables alors qu'elles héritent en réalité du défaut. Par conséquent, des étapes ultérieures peuvent être signalées à tort comme la source de l'échec.

Le papier définit l'attribution de défaillance comme la tâche d'identifier l'agent spécifique (« qui ») et l'étape décisive (« quand ») dont la correction permettrait de récupérer la sortie finale attendue ( $o^*$ ) à partir de la sortie incorrecte observée ( $\hat{o}$ ). Une étape décisive est définie comme une étape où, si elle était corrigée (tout en permettant aux étapes en aval de s'adapter), le système produirait le résultat correct. Les méthodes existantes, telles que les juges LLM à passage unique ou les traceurs basés sur l'apprentissage qui évaluent les étapes indépendamment, souffrent de biais de position, de sensibilité à l'ordre et de l'incapacité à distinguer l'origine de l'erreur de sa propagation.

Méthodologie : Le cadre FALAT

Les auteurs proposent FALAT, un cadre de diagnostic qui reformule l'attribution de défaillance comme une recherche hiérarchique guidée par les dépendances plutôt que comme une classification de étapes indépendantes. Le cadre opère en quatre étapes :

1. Construction de l'espace de recherche

FALAT évite de s'appuyer uniquement sur le raisonnement interne défaillant de la trajectoire échouée. Au lieu de cela, il construit :

Un Prior Conditionné par la Tâche ( $\pi$ ) : Une attente externe sur la manière dont la tâche devrait être résolue, dérivée de la spécification de la tâche, des rôles des agents, des prompts système et des outils disponibles. Ce prior est indépendant des étapes intermédiaires de la trajectoire pour éviter que les évaluateurs ne soient induits en erreur par la propre logique défaillante de l'agent.
Une Représentation de Trajectoire Hiérarchique ( $M$ ) : La trajectoire est abstraite en trois niveaux pour permettre une recherche du grossier au fin :
- Niveau Haut ( $M_{hi}$ ) : Résumés d'exécution globaux identifiant les phases suspectes.
- Niveau Moyen ( $M_{mid}$ ) : Résumés d'étapes locales détaillant les agents, les actions et les décisions.
- Niveau Bas ( $M_{lo}$ ) : Preuves d'exécution brutes (sorties d'outils, valeurs concrètes).
  Cette structure permet au système d'identifier d'abord les régions suspectes, puis de se concentrer sur des étapes spécifiques.

2. Construction de Dépendances Typées pour l'Élagage des Candidats

Pour distinguer les étapes qui originent une erreur de celles qui la propagent simplement, FALAT construit une structure de dépendance dirigée sur les étapes candidates en utilisant un vocabulaire de transition typé. Les étiquettes incluent :

follow_up (suite) : Progression normale ou transport en aval d'une erreur.
redundancy (redondance) : Répétition sans nouvelles preuves.
no_influence (pas d'influence) : Étapes indépendantes de la sortie du candidat.
error_shift (décalage d'erreur) : Étapes introduisant de nouveaux écarts ou transformant les erreurs en amont.
correction (correction) : Étapes qui corrigent les écarts en amont.
dead_end (impasse) : Étapes menant à des sorties non utilisées.

Ces étiquettes permettent au système d'élaguer les candidats dont les effets ne peuvent atteindre la sortie finale ou qui ne sont que des symptômes d'erreurs antérieures, ne conservant que ceux qui pourraient plausiblement être la source.

3. Recherche Guidée par la Dépendance et Vérification

Les candidats restants sont classés et vérifiés par rapport à l'objectif de suffisance contrefactuelle. Un candidat est considéré comme décisif uniquement si sa correction permet de récupérer $o^*$ . Le processus de vérification vérifie trois critères :

Indépendance de l'erreur : L'étape introduit-elle l'erreur, ou l'hérite-t-elle ? (Tracé via une dépendance ascendante).
Suffisance Contrefactuelle : La correction de cette étape permettrait-elle de récupérer le résultat attendu ?
Précédence Temporelle : Parmi les candidats valides, la première étape est sélectionnée.

4. Recherche Locale de Ré-évaluation : Vérification Adversaire

Pour atténuer l'« ancrage » (où un juge LLM rationalise un candidat plausible mais incorrect), FALAT effectue une ré-évaluation locale. Il extrait un voisinage borné autour de l'étape décisive prédite et compare le candidat à ses voisins immédiats. Le LLM assigne des rôles (ROOT_CAUSE [cause racine], PROPAGATION, SYMPTOM [symptôme], CONTRIBUTING [contributeur]) et re-classe les étapes sur la base d'arguments comparatifs et de vérifications contrefactuelles pour s'assurer que l'étape sélectionnée est réellement décisive.

Contributions Clés

Reformulation de l'Attribution : Le papier déplace le paradigme de la classification plate par étape vers une recherche hiérarchique guidée par les dépendances, modélisant explicitement la distinction entre l'origine et la propagation de l'erreur.
Cadre FALAT : Un système de diagnostic en quatre étapes qui intègre un prior externe conditionné par la tâche, une abstraction hiérarchique, un élagage par dépendances typées et une vérification contrefactuelle.
Validation Empirique : Évaluation complète sur le benchmark Who&When (184 exécutions échouées provenant de systèmes multi-agents générés par algorithme ou conçus à la main) à travers trois backbones de LLM différents.

Résultats

FALAT a été évalué par rapport à des bases de référence spécialisées (CHIEF, AgentTracer) et au prompting direct avec des LLM autonomes.

Trajectoires Générées par Algorithme : FALAT a atteint une précision au niveau de l'étape de 46,0 % (contre 37,3 % pour CHIEF avec le même backbone) et une précision au niveau de l'agent de 68,0 %.
Trajectoires Conçues à la Main : FALAT a atteint une précision au niveau de l'étape de 29,1 % (contre 17,0 % pour CHIEF) et une précision au niveau de l'agent de 73,0 %.
Comparaison avec les LLM Autonomes : Le prompting direct, même avec de grands modèles (ex: Claude-Sonnet-4), a produit une précision au niveau de l'étape nettement inférieure (18,9 % sur les tâches conçues à la main), démontant que le simple passage à l'échelle des modèles est insuffisant pour une attribution fiable.
Études d'Ablation : La suppression de la représentation hiérarchique a causé la plus forte baisse de performance (jusqu'à -10,3 % de précision au niveau de l'étape), suivie par la suppression du prior externe et du typage des transitions.

Signification et Revendications

Le papier affirme que le raisonnement conscient des dépendances est essentiel pour un diagnostic de défaillance fiable dans les systèmes d'agents LLM. Les auteurs soutiennent que traiter l'attribution de défaillance comme une classification de étapes indépendantes échoue car cela ignore la structure causale des trajectoires. En formulant le problème comme une recherche guidée par des dépendances typées et une suffisance contrefactuelle, FALAT sépare efficacement la « cause racine » des « symptômes ».

Les conclusions suggèrent que les procédures de recherche structurées apportent des bénéfices significatifs au-delà de la simple augmentation de l'échelle des modèles. Le cadre est particulièrement efficace pour identifier l'étape décisive plutôt que n'importe quelle étape où une erreur est visible, comblant ainsi une lacune critique pour rendre les systèmes agents autonomes fiables et débogables. Les auteurs notent des limites, notamment la dépendance à la fiabilité du jugement du LLM et les difficultés potentielles à capturer des dépendances de très longue portée à travers les limites de fenêtres, mais maintiennent que l'approche proposée offre une base robuste pour l'attribution de défaillance.