💬 NLP

More Is Not Always Better: Cross-Component Interference in LLM Agent Scaffolding

Cet article démontre que l'ajout de davantage de composants d'étayage aux agents LLM entraîne souvent une interférence destructrice entre les composants, prouvant que la sélection de sous-ensembles spécifiques à la tâche surpasse l'approche conventionnelle « tout inclus » et que les méthodes de sélection gloutonne sont peu fiables en raison de violations fréquentes de la sous-modularité.

Auteurs originaux : Ming Liu

Publié 2026-05-08

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Ming Liu

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayez de construire le « super-cerveau » ultime pour un programme informatique (un agent IA) afin de résoudre des énigmes difficiles. Le conseil standard des experts a toujours été : « Plus, c'est mieux. » L'idée est que si vous donnez à l'IA un planificateur, une banque de mémoire, un ensemble d'outils, une méthode pour raisonner étape par étape et une façon de vérifier son propre travail, elle fonctionnera parfaitement.

Ce papier soutient que ce conseil est souvent erroné. En fait, empiler trop de fonctionnalités peut rendre l'IA plus bête.

Voici le détail de ce que les chercheurs ont découvert, en utilisant des analogies simples.

1. Le problème des « Trop de Cuisiniers »

Les chercheurs ont testé toutes les combinaisons possibles de cinq fonctionnalités IA courantes (Planification, Outils, Mémoire, Raisonnement et Auto-réflexion) sur deux types d'énigmes différents :

HotpotQA : Comme un jeu de questions-réponses où vous devez parcourir de nombreux documents pour trouver une réponse.
GSM8K : Comme un devoir de mathématiques.

Ils ont constaté que pour les modèles IA plus petits (la version « 8B »), l'ajout de fonctionnalités supplémentaires à la configuration de base la plus efficace nuisait en réalité aux performances.

L'Analogie : Imaginez que vous essayez de trouver une aiguille spécifique dans une botte de foin.
- La Meilleure Configuration : Vous utilisez simplement un aimant (l'« Outil »). Cela fonctionne très bien.
- La Configuration « Tout-en-un » : Vous donnez à la personne tenant l'aimant une carte (Planification), un carnet de notes (Mémoire), une lampe de poche (Raisonnement) et un entraîneur qui crie des instructions (Réflexion).
- Le Résultat : La personne se perd. La carte la distrait de l'aimant ; la voix de l'entraîneur couvre ses propres pensées. Elle laisse tomber l'aiguille. L'aimant simple seul était 32 % meilleur que tout l'équipage sophistiqué.

2. Cela dépend de la tâche et de la « Taille du Cerveau »

Le papier montre que le « meilleur » nombre de fonctionnalités change selon ce que fait l'IA et à quel point l'IA est intelligente.

Dépendance à la Tâche :
- Pour le Jeu de Questions-Réponses, la meilleure configuration était une seule fonctionnalité : l'Outil. Ajouter quoi que ce soit d'autre empirait les choses.
- Pour le Jeu de Mathématiques, la meilleure configuration était trois fonctionnalités : Outil + Raisonnement + Réflexion. Ici, l'« entraîneur » et la « pensée étape par étape » aidaient réellement. Mais ajouter un « Planificateur » ou une « Mémoire » rendait toujours les choses pires.
Taille du Cerveau (Échelle du Modèle) :
- Petite IA (8B) : Très sensible. L'ajout de fonctionnalités supplémentaires provoque beaucoup d'interférences. L'écart entre la configuration simple et la configuration « Tout-en-un » était énorme (32 %).
- IA Moyenne (70B) : Plus forte. Elle peut gérer plus de fonctionnalités, mais la configuration « Tout-en-un » n'est toujours pas la meilleure. L'écart s'est réduit à 19 %.
- IA Très Intelligente (Claude Haiku) : Si capable que l'ajout de fonctionnalités supplémentaires n'aide ni ne nuit beaucoup. C'est comme un génie qui peut ignorer les distractions. L'écart a disparu, mais la configuration simple restait tout aussi bonne que la configuration complexe.

3. Pourquoi cela arrive-t-il ? (L'Effet de la « Salle Bondée »)

Les chercheurs appellent cela l'Interférence Inter-Composante (IIC).

L'Analogie : Imaginez une petite salle bondée où une équipe tente de résoudre un problème.
- Si vous ajoutez un « Planificateur » qui ne cesse de crier des horaires, l'« Utilisateur d'Outils » ne peut pas entendre les instructions.
- Si vous ajoutez une personne « Mémoire » qui ne cesse de rappeler à tout le monde d'anciennes vérités, le « Raisonneur » reste coincé dans le passé.
- Les composants se battent pour l'attention de l'IA (sa « fenêtre de contexte »). Au lieu de travailler ensemble, ils se trébuchent les uns sur les autres.

4. Vous ne pouvez pas simplement « Ajouter et Vérifier »

Une méthode courante pour construire ces systèmes est la « sélection gourmande » : Commencez par rien, ajoutez une fonctionnalité, voyez si cela aide. Si oui, gardez-la. Ajoutez-en une autre. Si cela aide, gardez-la. Arrêtez-vous quand cela ne aide plus.

Le papier dit que cette méthode est peu fiable.

L'Analogie : Imaginez que vous construisez un sandwich.
- Pain + Jambon = Bon.
- Pain + Jambon + Fromage = Meilleur.
- Pain + Jambon + Fromage + Cornichons = Pire (car le cornichon rend le jambon détrempé).
- Mais, Pain + Jambon + Fromage + Cornichons + Moutarde = Incroyable à nouveau !
- Si vous vous étiez arrêté à l'étape « Pire » parce que le cornichon avait nui, vous n'auriez jamais trouvé le sandwich incroyable. Le papier a constaté qu'une fonctionnalité est parfois mauvaise seule mais excellente lorsqu'elle est combinée avec d'autres spécifiques. Vous devez tester le groupe entier, pas seulement ajouter un par un.

5. La Conclusion Principale

Les chercheurs ont effectué plus de 32 000 tests pour prouver cela. Leur conclusion est simple :

Ne supposez pas qu'un agent IA « entièrement chargé » est le meilleur.

Pour de nombreuses tâches, un agent simple avec juste le bon outil est meilleur qu'un agent complexe avec un planificateur, une mémoire et une réflexion.
La configuration « meilleure » dépend entièrement du travail spécifique et du modèle IA spécifique que vous utilisez.
Si vous lancez simplement tout contre le mur, vous créez probablement du bruit qui confond l'IA, plutôt que de l'aider.

En bref : Parfois, l'outil le plus simple est le plus puissant. Ajouter plus de pièces ne fait pas toujours fonctionner la machine plus vite ; parfois, cela la fait juste trébucher.

Résumé technique : Plus n'est pas toujours mieux : Interférence entre composants dans l'architecture d'agents LLM

Énoncé du problème

Le paradigme standard pour la construction d'agents basés sur les grands modèles de langage (LLM) repose sur l'« architecture » (scaffolding) : l'enrichissement d'un modèle de base par une pile de composants fonctionnels tels que des modules de planification, des interfaces d'outils, une mémoire, une auto-réflexion et une récupération d'informations. L'hypothèse prédominante dans le domaine est que l'ajout de plus de composants améliore les performances (« plus vaut mieux »). Cet article remet en cause cette hypothèse en investiguant l'Interférence entre Composants (CCI) : le phénomène où la combinaison de composants d'architecture entraîne des rendements marginaux négatifs, provoquant la sous-performance du système complet « Tout-en-un » par rapport à des sous-ensembles spécifiques de ces composants.

Méthodologie

Les auteurs ont mené une étude empirique systématique à plan factoriel complet pour cartographier le paysage des interactions entre les composants d'agent.

Conception expérimentale : Un plan factoriel complet sur l'ensemble des $2^5 = 32$ $2^{5} = 32$ sous-ensembles de cinq composants d'architecture canoniques :
1. Planification (P) : Décomposition des tâches en sous-objectifs.
2. Utilisation d'outils (T) : Interfaces d'appel de fonctions.
3. Mémoire (M) : Mémoire de travail structurée.
4. Raisonnement structuré (SR) : Formatage de la chaîne de pensée.
5. Réflexion (R) : Prompts d'auto-évaluation.
Références et modèles : Les expériences ont été menées sur deux références : HotpotQA (raisonnement multi-sauts, axé sur la récupération) et GSM8K (raisonnement mathématique). L'étude a couvert trois familles de modèles et cinq échelles :
- Llama-3.1 (8B, 70B)
- Qwen2.5 (3B, 7B)
- Claude Haiku 4.5 (via AWS Bedrock)
Échelle : L'étude a impliqué 118 configurations contrôlées et plus de 32 000 évaluations. Les configurations clés ont été validées sur 10 graines aléatoires (16 000 évaluations sur HotpotQA/8B).
Analyse statistique : Les auteurs ont employé des tests t appariés, des tests de rangs signés de Wilcoxon, une analyse bayésienne (priors JZS) et des mesures de taille d'effet ( $d_z$ de Cohen). Ils ont utilisé une décomposition exacte des valeurs de Shapley pour attribuer de la valeur aux composants et testé les violations de la sous-modularité. Des modèles de régression (effets principaux vs interactions binaires) ont été ajustés pour caractériser la structure des interactions.

Résultats clés

1. Prévalence de l'interférence entre composants (CCI)

Dans chaque configuration testée, le meilleur sous-ensemble propre de composants égalait ou dépassait les performances du système complet « Tout-en-un ».

HotpotQA (Llama-3.1-8B) : L'agent à outil unique (Utilisation d'outils uniquement) surpassait significativement le système Tout-en-un à 5 composants de 32 % (F1 0,233 contre 0,177 ; $p=0,023$ ). L'ajout de n'importe quel composant à la référence Utilisation d'outils dégradait les performances dans 5 expansions sur 6.
GSM8K (Llama-3.1-8B) : La configuration optimale nécessitait trois composants (Utilisation d'outils + Raisonnement structuré + Réflexion), atteignant une précision supérieure de 79 % par rapport au système Tout-en-un (0,43 contre 0,24).
Nombre optimal ( $k^*$ ) : Le nombre optimal de composants dépend de la tâche ( $k^*=1$ pour HotpotQA, $k^*=3$ pour GSM8K) et est sensible à l'échelle.

2. Dépendance à l'échelle et au modèle

La sévérité de la CCI suit un gradient de capacité :

Modèles 8B : La CCI est forte et omniprésente.
Modèles 70B : La CCI est atténuée mais persiste. Sur HotpotQA, l'écart entre le meilleur sous-ensemble et le Tout-en-un s'est réduit de 32 % (8B) à 19 % (70B). Fait notable, la direction de l'interférence s'est inversée pour certains composants (par exemple, l'ajout de Réflexion a aidé à 70B mais nui à 8B), pourtant le système Tout-en-un n'a toujours pas surpassé le meilleur sous-ensemble.
Claude Haiku 4.5 : La CCI a saturé à des niveaux inférieurs au bruit. Bien que le système Tout-en-un ne fût pas pire que des sous-ensembles plus simples, les composants supplémentaires au-delà de l'Utilisation d'outils n'ont contribué à presque rien (gain de 0,2 %), indiquant un « plateau » où la complexité ne génère aucun rendement marginal.

3. Analyse structurelle et modèles d'interaction

Dominance des effets principaux : Un modèle de régression à 6 paramètres d'effets principaux expliquait 91,6 % de la variance ( $R^2=0,916$ ), surpassant nettement un modèle d'interactions binaires à 16 paramètres ( $\Delta BIC = 25,3$ ). Cela suggère que la CCI est largement additive ; les composants imposent un coût ou un bénéfice marginal relativement constant, indépendamment du contexte.
Valeurs de Shapley : L'Utilisation d'outils a capturé 70 % de la valeur totale de l'architecture. À l'inverse, la Planification avait une valeur de Shapley significativement négative ( $\phi = -0,029$ ), et la Mémoire était directionnellement négative sur HotpotQA.
Non-sous-modularité : L'étude a trouvé 183 violations de la sous-modularité sur 325 triplets testables (56,3 %). Le ratio médian de sous-modularité était $\gamma_{med} = 0,52$ . Crucialement, 90 % des principales violations présentaient un changement de signe : des composants nuisibles isolément devenaient bénéfiques dans des combinaisons spécifiques (par exemple, le Raisonnement structuré nuisait à l'Utilisation d'outils seule mais aidait lorsqu'il était combiné avec la Planification et la Réflexion). Cela rend les stratégies de sélection gloutonne empiriquement peu fiables.

4. Robustesse

Réplication inter-familles : Le schéma qualitatif (l'Utilisation d'outils domine, le Tout-en-un est sous-optimal) s'est répliqué au sein des familles Qwen2.5 et Llama.
Robustesse des modèles : Le résultat central a été maintenu sur trois variantes de modèles d'invite sémantiquement équivalentes, bien que les classements de configuration fins aient été sensibles à la formulation.
Contrôle de la longueur : Les composants réels surpassaient le remplissage sans signification apparié en longueur de 6 à 9 fois, confirmant que la CCI est pilotée par le contenu sémantique et non par le nombre de tokens.

Signification et affirmations

L'article affirme que l'hypothèse « plus vaut mieux » est systématiquement erronée pour l'architecture basée sur des invites. Les auteurs soutiennent que :

Les défauts par défaut des praticiens sont erronés : Le défaut de déployer des agents maximiquement équipés conduit à une dégradation des performances due à l'interférence.
Une sélection spécifique à la tâche est requise : La conception optimale d'un agent nécessite de sélectionner des sous-ensembles spécifiques à la tâche, informés par une analyse consciente des interactions plutôt que d'empiler tous les modules disponibles.
La sélection gloutonne échoue : En raison du changement de signe et de la non-sous-modularité, ajouter des composants un par un jusqu'à ce que les rendements marginaux deviennent négatifs est une stratégie peu fiable pour trouver la configuration optimale d'un agent.
Mécanisme : L'article identifie la CCI comme une forme de « saturation de la fenêtre de contexte » (un analogue au temps d'inférence du conflit de gradient dans l'apprentissage multi-tâches), où les composants se concurrencent pour l'attention ou diluent les signaux, bien que le mécanisme causal exact reste une question ouverte.

L'étude conclut que si les modèles plus grands (70B+) et les modèles propriétaires hautement performants (Claude Haiku) peuvent tolérer des combinaisons de composants plus larges, l'architecture la plus simple et adéquate correspond ou bat systématiquement l'agent complet sur toutes les échelles testées.