🤖 AI

Efficient LLM Collaboration via Planning

Le papier propose COPE, un cadre de collaboration à l'exécution où les modèles de langage petits et grands agissent alternativement en tant que planificateurs et exécutants dans une cascade multi-étapes, atteignant des performances comparables à celles des modèles propriétaires de grande taille tout en réduisant drastiquement les coûts d'inférence.

Auteurs originaux : Byeongchan Lee, Jonghoon Lee, Dongyoung Kim, Jaehyung Kim, Kyungjoon Park, Dongjun Lee, Jinwoo Shin

Publié 2026-05-12

📖 4 min de lecture☕ Lecture pause café

CC BY 4.0

Auteurs originaux : Byeongchan Lee, Jonghoon Lee, Dongyoung Kim, Jaehyung Kim, Kyungjoon Park, Dongjun Lee, Jinwoo Shin

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous ayez une tâche complexe à résoudre, comme réparer un moteur cassé ou résoudre une énigme mathématique difficile. Vous avez deux aides disponibles :

Le Dépanneur Local : Un petit travailleur gratuit et rapide qui vit directement dans votre garage. Il est excellent pour les tâches simples, mais il reste parfois bloqué sur des problèmes compliqués.
L'Architecte Maître : Un expert immense et coûteux qui réside dans une tour high-tech lointaine. Il peut résoudre presque n'importe quoi, mais le fait de l'engager coûte une fortune à chaque fois que vous demandez de l'aide.

Le problème est le suivant : si vous engagez l'Architecte Maître pour chaque tâche, vous ferez faillite. Si vous n'utilisez que le Dépanneur Local, il risque d'échouer sur les éléments difficiles.

Ce papier introduit une nouvelle façon de travailler appelée COPE (Planification et Exécution Collaboratives). C'est comme un système d'association intelligent qui permet à ces deux travailleurs de collaborer efficacement sans gaspiller d'argent.

Comment COPE Fonctionne : La Stratégie « Planifier d'Abord »

Au lieu de simplement demander au Dépanneur de « réparer le moteur » et d'espérer le meilleur, COPE utilise une étape de Planification. Pensez à un « Plan » comme à une carte rapide de haut niveau ou à un ensemble d'instructions rédigé avant que le travail réel ne commence.

Voici le processus étape par étape de leur collaboration :

Étape 1 : Le Dépanneur Tente de Diriger
Le Dépanneur Local tente de faire tout le travail seul. D'abord, il rédige un « Plan » rapide (un objectif ou une directive simple) pour lui-même, puis il tente de résoudre le problème sur la base de ce plan.

La Vérification : Si le Dépanneur est très confiant d'avoir raison (comme s'il avait essayé trois fois et obtenu la même réponse), il termine le travail. C'est gratuit et rapide !
L'Échec : S'il est incertain ou si la réponse semble fragile, il ne renonce pas. Il passe à l'Étape 2.

Étape 2 : L'Architecte Dessine une Carte, le Dépanneur Construit
Maintenant, l'Architecte Maître coûteux intervient, mais seulement pour un instant. L'Architecte ne fait pas encore le gros du travail. Au lieu de cela, il rédige un nouveau, meilleur Plan (une carte plus claire) basé sur le problème.
Il remet ce nouveau Plan au Dépanneur Local. Le Dépanneur tente alors de résoudre le problème à nouveau, mais cette fois, il suit la carte experte de l'Architecte.

La Vérification : Si le Dépanneur, guidé par la carte de l'Architecte, se sent confiant, il termine le travail. Vous n'avez payé qu'une infime partie du temps de l'Architecte pour dessiner la carte, économisant ainsi beaucoup d'argent.
L'Échec : Si le Dépanneur est toujours bloqué même avec la carte, il passe à l'Étape 3.

Étape 3 : L'Architecte Prend le Relais
Si les deux premières étapes n'ont pas fonctionné, l'Architecte Maître fait enfin tout le travail lui-même — à la fois la planification et l'exécution. C'est l'étape la plus coûteuse, mais elle ne se produit que lorsque c'est absolument nécessaire.

Pourquoi C'est une Grande Nouvelle

Le papier a découvert des choses surprenantes sur la façon dont ce travail d'équipe fonctionne :

Les grands cerveaux aident les petits cerveaux : Lorsque l'Architecte Maître rédige le plan pour le Dépanneur, ce dernier devient beaucoup plus intelligent. C'est comme un étudiant qui comprend soudainement un problème mathématique après qu'un professeur a expliqué la stratégie (le plan), même si l'étudiant effectue les calculs réels.
Les petits cerveaux peuvent confondre les grands cerveaux : De manière intéressante, si le Dépanneur tente de rédiger le plan pour l'Architecte Maître, cela fait en réalité que l'Architecte performe moins bien. L'Architecte est si intelligent qu'un plan simple et de mauvaise qualité de la part du Dépanneur peut en fait le distraire. C'est pourquoi le système est conçu pour que l'Architecte ne planifie que pour le Dépanneur, et non l'inverse.
Cela économise de l'argent sans perdre en qualité : Dans des tests impliquant des mathématiques, de la programmation et même des tâches d'agents complexes (comme un robot naviguant dans une maison), COPE a obtenu des résultats tout aussi bons, voire meilleurs, que l'utilisation de l'Architecte Maître seul. Cependant, cela a coûté 45 % à 75 % de moins car l'Architecte coûteux n'était appelé que pour les parties les plus difficiles ou simplement pour dessiner la carte.

La Conclusion

COPE est comme un manager intelligent qui sait quand laisser le travailleur local faire le travail, quand demander à l'expert un conseil rapide (le plan), et quand appeler l'expert pour faire tout le travail. En utilisant la « Planification » comme un pont léger entre un petit modèle et un grand modèle, cela leur permet de travailler ensemble efficacement, en résolvant des problèmes difficiles sans ruiner la banque.

Résumé technique : Collaboration efficace des LLM via la planification (COPE)

Énoncé du problème

Les grands modèles de langage (LLM) font face à un compromis critique entre capacités et coût computationnel. Bien que les grands modèles propriétaires atteignent des performances de pointe sur des tâches complexes, leurs coûts d'inférence sont substantiels, rendant leur utilisation fréquente peu pratique pour de nombreuses applications. À l'inverse, les petits modèles open source sont rentables et facilement déployables sur des appareils périphériques, mais manquent souvent de la capacité nécessaire pour résoudre des problèmes complexes de manière autonome. Les méthodes d'inférence existantes conscientes des coûts, telles que les cascades multi-étapes (par exemple, LLM Cascade, ABC), fonctionnent généralement par délégation indépendante : un petit modèle tente une tâche, et s'il échoue à un test de confiance, l'ensemble de la tâche est transféré à un modèle plus grand. Ces approches manquent d'une collaboration interactive structurée au sein d'une étape, limitant ainsi leur capacité à résoudre conjointement des tâches complexes.

Méthodologie : Cadre COPE

Les auteurs proposent COPE (Collaborative Planning and Execution), un cadre de collaboration au moment du test qui structure l'interaction entre petits et grands modèles par le biais de la planification. Au lieu d'exécuter directement une tâche, un modèle génère d'abord une abstraction de haut niveau (un « plan »), telle qu'un objectif ou une directive, qui sert d'intermédiaire léger pour guider un exécutant en aval.

COPE fonctionne selon une cascade adaptative en trois étapes :

Étape 1 (Planification et exécution par le petit modèle) : Un petit modèle agit à la fois comme planificateur et exécutant. Il échantillonne $n$ plans de type objectif et génère les solutions correspondantes. Le système agrège les réponses par vote majoritaire. Si le taux de consensus (la fraction d'échantillons s'accordant sur la réponse la plus fréquente) dépasse un seuil $\tau_1$ , la réponse est acceptée. Sinon, le problème est escaladé.
Étape 2 (Planification par le grand modèle, exécution par le petit modèle) : Si l'étape 1 échoue, un grand modèle génère un nouveau plan de type directive. Le petit modèle tente ensuite à nouveau l'exécution, en s'appuyant à la fois sur le plan original de l'étape 1 et sur le nouveau plan du grand modèle. Il génère de nouvelles solutions, et le vote majoritaire est à nouveau appliqué. Si le taux de consensus dépasse un deuxième seuil $\tau_2$ , la réponse est acceptée ; sinon, elle est escaladée.
Étape 3 (Planification et exécution par le grand modèle) : Si l'étape 2 échoue, le grand modèle prend le contrôle total, réutilisant le plan généré à l'étape 2 pour exécuter directement la tâche.

Caractéristiques techniques clés :

Sans entraînement : COPE ne nécessite aucun ajustement fin ; il repose uniquement sur l'ingénierie des invites (prompt engineering) au moment de l'inférence.
Calcul adaptatif : Le cadre alloue dynamiquement les ressources, traitant les tâches faciles avec des petits modèles et n'escaladant les tâches difficiles que vers des modèles plus grands.
Confiance spécifique à la tâche : La métrique de confiance est adaptée au type de tâche :
- Raisonnement mathématique : Vote majoritaire sur les réponses extraites.
- Génération de code : Taux de réussite sur les cas de test cachés (si une sortie passe, elle est sélectionnée).
- Tâches ouvertes : Minimisation de la perplexité (la sortie avec la perplexité la plus faible est sélectionnée ; escalade si la perplexité est trop élevée).
- Tâches d'agent : Vote majoritaire sur les étapes d'action.

Contributions clés

Proposition de cadre : Introduction de COPE, un cadre au moment du test qui utilise la planification comme médiateur pour la collaboration inter-modèles, permettant aux petits et aux grands modèles de structurer mutuellement leur raisonnement.
Efficacité sans entraînement : La méthode est sans entraînement et sans exemples (few-shot-free), ne nécessitant que des invites, ce qui facilite un déploiement facile sur des tâches diverses.
Compromis performance-coût : Capacité démontrée à égaler ou surpasser les performances des grands modèles propriétaires tout en réduisant drastiquement les coûts monétaires d'inférence.
Large applicabilité : Validé sur le raisonnement mathématique, la génération de code, la génération ouverte et les tâches d'agent, montrant que la planification sert d'a priori efficace pour une inférence rentable.

Résultats expérimentaux

Les auteurs ont évalué COPE sur plusieurs benchmarks, en le comparant à des références incluant l'inférence par un seul modèle, des cascades standards (Vote/Verify), ABC et FrugalGPT.

Raisonnement mathématique (MATH-500) : COPE a atteint une précision de 75,8 %, surpassant GPT-4o (75,2 %) tout en réduisant le coût d'inférence de près de 45 % (de 5025 à 2766 USD par million de problèmes). Lors de l'utilisation de GPT-4o-mini comme grand modèle, COPE a atteint une précision de 74,4 % (contre 73,8 % pour le grand modèle seul) avec une réduction de coût de 40 %.
Raisonnement mathématique (AIME-2024) : Sur ce jeu de données plus difficile, COPE a atteint une précision de 40,0 %, la plus élevée parmi toutes les références, avec le coût le plus bas (478 contre 502 pour le grand modèle seul).
Génération de code (MBPP) : COPE a amélioré la précision à 66,4 % par rapport aux 64,0 % de GPT-4o, tout en réduisant les coûts d'inférence de près de 75 %.
Tâches ouvertes (MT-Bench) : COPE a atteint un taux de victoire de 44,8 % contre la référence du grand modèle (contre 42,5 % pour le grand modèle seul) avec un coût significativement inférieur.
Tâches d'agent (ALFWorld) : COPE a amélioré le taux de réussite à 36,9 % (contre 35,0 % pour le grand modèle) tout en réduisant les coûts d'environ 29 %.

Les auteurs notent que les gains de performance de COPE par rapport aux références de petits modèles sont plus marqués sur les problèmes difficiles (Niveau 5 dans MATH-500), où la précision a progressé de 15,0 points de pourcentage.

Importance et affirmations

L'article affirme que la planification fonctionne comme un a priori efficace pour une inférence rentable. En structurant la collaboration par le biais de la planification, COPE permet aux modèles d'échanger une prévision de haut niveau sans la surcharge d'une délégation complète de la tâche. Les auteurs soulignent que cette approche s'aligne naturellement sur les configurations périphérique-cloud et agentiques, où la plupart des étapes peuvent être traitées à moindre coût par des petits modèles, les modèles plus grands intervenant de manière sélective pour des décisions plus difficiles.

Ce travail suggère que le passage à l'échelle inter-modèles via la planification est une alternative viable à la simple poussée d'un modèle unique plus loin ou à la dépendance à des cascades indépendantes. Les résultats indiquent que COPE est un cadre largement efficace et évolutif capable de réduire le calcul inutile, contribuant à une utilisation plus durable de l'IA sans sacrifier les performances.