💬 NLP

ReaComp: Compiling LLM Reasoning into Symbolic Solvers for Efficient Program Synthesis

L'article présente ReaComp, un cadre qui compile les traces de raisonnement des LLM en solveurs symboliques réutilisables à coût nul, lesquels atteignent une précision de pointe sur les benchmarks de synthèse de programmes, réduisent considérablement la consommation de tokens lorsqu'ils sont combinés avec des LLM et se transfèrent avec succès à des tâches linguistiques réelles.

Auteurs originaux : Atharva Naik, Yash Mathur, Prakam, Carolyn Rose, David Mortensen

Publié 2026-05-08

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Atharva Naik, Yash Mathur, Prakam, Carolyn Rose, David Mortensen

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le Grand Problème : Le « Sur-Réfléchisseur »

Imaginez que vous avez un assistant très intelligent et créatif (une IA) qui excelle dans la résolution d'énigmes. Cependant, lorsque l'énigme devient vraiment difficile ou longue, cet assistant commence à paniquer. Il tente de la résoudre en devinant, en vérifiant, en devinant à nouveau, et en écrivant d'énormes notes désordonnées. Il finit par trouver la bonne réponse, mais il consomme une quantité massive de papier (puissance de calcul) et de temps pour y parvenir. Parfois, il reste coincé dans une boucle, répétant les mêmes erreurs encore et encore.

Les chercheurs ont découvert que, bien que ces assistants IA soient puissants, ils sont inefficaces et coûteux lorsqu'ils sont confrontés à des problèmes de logique complexes et multi-étapes (comme la réécriture de chaînes de texte ou la découverte de règles dans des données).

La Solution : Le « Livre de Recettes » (REACOMP)

Au lieu de demander à l'assistant intelligent de résoudre chaque nouvelle énigme à partir de zéro, les chercheurs ont mis au point une nouvelle méthode appelée REACOMP.

Pensez-y ainsi :

La Phase d'Observation : D'abord, ils observent l'assistant intelligent résoudre un petit ensemble d'énigmes d'entraînement. Ils observent comment l'assistant réfléchit, où il se bloque et quelles stratégies il utilise pour réussir.
La Phase de Compilation : Ils engagent un « agent de codage » (un programmeur IA spécialisé) pour observer ces séances d'entraînement. Ce programmeur ne se contente pas de copier les réponses ; il rédige un livre de règles permanent (un solveur symbolique) basé sur les motifs qu'il a observés. Ce livre de règles est un ensemble d'instructions logiques strictes capable de résoudre ce type d'énigme instantanément.
La Phase d'Exécution : Désormais, lorsqu'une nouvelle énigme arrive, ils ne demandent pas à l'assistant intelligent de réfléchir. Ils remettent simplement l'énigme au Livre de Règles. Le Livre de Règles la résout instantanément, en utilisant zéro puissance de « réflexion » de la part de l'assistant intelligent.

Si le Livre de Règles reste bloqué sur une énigme vraiment étrange, alors (et uniquement alors) font-ils appel à l'assistant intelligent pour obtenir de l'aide.

Les Résultats : Vitesse, Économies et Intelligence

Le papier a testé cette approche sur deux types d'énigmes logiques difficiles (appelés PBEBench et SLR-Bench). Voici ce qui s'est produit :

La Victoire « Zéro Coût » : Les Livres de Règles (solveurs symboliques) étaient si performants qu'ils ont résolu les énigmes les plus difficiles 84,7 % à 91,3 % du temps sans demander la moindre aide à l'assistant intelligent. Cela signifie que le coût pour résoudre ces problèmes est tombé à zéro en termes d'utilisation du « cerveau » de l'IA.
Battre les Géants : Sur les énigmes les plus difficiles, les Livres de Règles ont en réalité mieux performé que l'assistant intelligent essayant de son mieux (même lorsque l'assistant avait le droit de tenter plusieurs fois). Les Livres de Règles étaient 16 % plus précis que les meilleures méthodes de « devinette et vérification » utilisées par l'IA seule.
La Superpuissance Hybride : Lorsqu'ils ont combiné le Livre de Règles avec l'assistant intelligent (en utilisant d'abord le Livre de Règles, et l'assistant uniquement comme secours), ils ont obtenu le meilleur des deux mondes. Ils ont atteint la précision la plus élevée jamais enregistrée sur ces tests tout en utilisant 78 % moins de puissance de calcul (tokens) que l'IA seule.
Test Réel : Ils ont même essayé cela sur une énigme linguistique réelle concernant l'évolution des sons dans les langues anciennes. Les Livres de Règles, qui n'avaient jamais été enseignés sur ce sujet spécifique, l'ont résolue avec 80 % de précision en utilisant simplement la logique apprise à partir des énigmes d'entraînement.

L'Idée Principale

Le papier soutient que nous ne devrions pas continuer à demander à l'IA de « réfléchir plus fort » sur chaque nouveau problème. Au lieu de cela, nous devrions permettre à l'IA d'apprendre à apprendre une fois, transformer cet apprentissage en un outil permanent et réutilisable (un solveur), puis utiliser cet outil pour tout.

C'est la différence entre engager un génie pour résoudre un problème de mathématiques à partir de zéro à chaque fois (coûteux et lent) et engager un génie une seule fois pour écrire une application de calculatrice, puis utiliser cette application pour toujours (bon marché, rapide et fiable).

Résumé des Affirmations

Efficacité : Vous pouvez transformer les traces de raisonnement de l'IA en outils réutilisables qui résolvent des problèmes sans avoir besoin de l'IA à nouveau.
Performance : Ces outils sont souvent meilleurs que l'IA elle-même sur des tâches difficiles et longues.
Coût : Cette méthode réduit considérablement l'argent et l'énergie nécessaires pour exécuter des systèmes d'IA.
Généralisation : Ces outils peuvent être appliqués à de nouvelles tâches réelles (comme la linguistique) sans avoir besoin d'être réentraînés.

Résumé Technique : REACOMP

Énoncé du Problème

Les modèles de langage de grande taille (LLM) ont démontré des capacités dans les tâches de synthèse de programmes, en particulier au sein du paradigme de la Programmation par l'Exemple (PBE). Cependant, ils souffrent d'inefficacités et d'une fiabilité réduite sur des instances difficiles nécessitant de vastes recherches combinatoires. L'analyse révèle que les instances plus complexes déclenchent une utilisation de tokens disproportionnée et de multiples tentatives en raison d'échecs dans la généralisation compositionnelle et de stratégies de recherche inefficaces (par exemple, bouclage, exploration redondante). Bien que les approches existantes tentent d'enrichir les LLM avec des bibliothèques ou des outils appris, ces méthodes reposent souvent sur un raisonnement itératif et l'appel d'outils au moment de l'inférence, restant sensibles aux budgets de calcul et échouant à réutiliser de manière cohérente les structures apprises d'une instance à l'autre. Par conséquent, les LLM continuent d'effectuer des recherches largement non structurées sur l'espace des solutions, entraînant un gaspillage de calcul à mesure que la longueur de la solution augmente.

Méthodologie : REACOMP

Les auteurs proposent REACOMP, un cadre qui compile les traces de raisonnement des LLM en solveurs symboliques réutilisables, plutôt que d'améliorer directement le raisonnement au moment de l'inférence. L'approche se compose de deux étapes distinctes :

1. Induction de Solveur Hors Ligne

Il s'agit d'une procédure ponctuelle où un agent de codage distille des stratégies récurrentes et des modes d'échec à partir de traces de raisonnement de LLM pour créer un synthétiseur de programmes symbolique autonome opérant sur un Langage Spécifique à un Domaine (DSL) contraint.

Jeu de données de traces : Un ensemble de traces de raisonnement est construit à partir d'un LLM (par exemple, gpt-oss-120b) résolvant un petit sous-ensemble de tâches de référence. Ces traces incluent les étapes intermédiaires, les programmes candidats et les résultats, équilibrés selon la difficulté et le succès/échec.
Induction d'agent de codage : Un agent de codage (par exemple, Claude Code ou Qwen + OpenHands) opère dans un environnement isolé contenant le jeu de données de traces et un vérificateur en lecture seule. L'agent modifie itérativement un espace de travail pour construire une implémentation de solveur (par exemple, SOLVER.py).
Processus : L'agent propose des modifications de code, les exécute et affine le solveur en fonction des performances sur le jeu de données de traces. L'agent n'observe que les exemples d'entrée-sortie disponibles au moment du test, garantissant que le solveur induit est un système autonome ne nécessitant aucun appel LLM durant l'inférence.
Sortie : Un solveur Python autonome et un fichier de description d'algorithme.

2. Inférence Hybride Efficace

Au moment du test, le système emploie une stratégie en deux passes pour équilibrer efficacité et précision :

Première passe symbolique : Le solveur symbolique induit ( $S_\phi$ ) propose un ensemble de candidats pour une tâche donnée $D$ . Si un candidat atteint une récompense parfaite ( $R=1$ ), il est renvoyé immédiatement à un coût d'inférence LLM nul.
Recul vers le LLM : Si le solveur symbolique échoue à trouver une solution parfaite, le système recourt aux procédures de recherche standard des LLM (échantillonnage Best-of-K ou raffinement itératif par feedback direct) pour résoudre les cas restants « difficiles ».

Cette structure amortit le faible coût de construction ponctuelle du solveur sur de nombreuses exécutions sans tokens, réservant l'inférence LLM coûteuse uniquement aux cas résiduels.

Contributions Clés

Méthode d'Induction : Une méthode novatrice pour induire des solveurs symboliques réutilisables à partir de traces de raisonnement de LLM en utilisant des agents de codage, transformant des traces de recherche non structurées en synthétiseurs structurés et autonomes.
Performance Autonome Robuste : Des preuves que les solveurs induits fonctionnent comme des systèmes autonomes puissants, surpassant l'extension au moment du test des LLM sur des instances difficiles (par exemple, PBEBench-Hard) avec un coût d'inférence LLM nul par tâche.
Pipeline Hybride Dominant au Sens de Pareto : Un pipeline hybride neuro-symbolique qui réduit considérablement l'utilisation de tokens (jusqu'à 78 %) tout en obtenant des résultats de pointe, dominant efficacement les approches appliquant des agents de codage directement à chaque tâche.
Généralisation Zero-Shot : La démonstration que la plupart des solveurs induits se généralisent en zero-shot à des distributions réelles, spécifiquement dans une étude de cas de linguistique historique impliquant la reconstruction ascendante des changements phonétiques.

Résultats Expérimentaux

Les auteurs ont évalué REACOMP sur PBEBench (transformation de chaînes) et SLR-Bench (programmation logique inductive).

PBEBench-Lite : Les ensembles de solveurs symboliques ont atteint une précision de 91,3 %, égalant ou dépassant les bases de référence LLM. L'inférence hybride (Symbolique + Recul vers le LLM) a réduit l'utilisation de tokens de 36 % tout en maintenant une précision maximale (93,9 %).
PBEBench-Hard : Sur la synthèse en cascade à long horizon, l'extension au moment du test des LLM (Best-of-K) a atteint 68,4 % de précision. Les solveurs symboliques induits ont nettement surpassé ce résultat, l'ensemble « Tout Symbolique » atteignant 84,7 % de précision (un gain de 16,3 points de pourcentage) à un coût d'inférence LLM nul. L'inférence hybride a amélioré ce résultat à 85,8 % tout en réduisant l'utilisation de tokens de 78 % par rapport aux bases de référence uniquement LLM.
SLR-Bench : Sur le niveau le plus difficile, le solveur symbolique CC a atteint 46,8 % de précision, égalant les modèles de pointe (o3, GPT-5) à un coût d'inférence nul. L'approche hybride (DF + CC) a porté la précision du niveau difficile à 58,0 %, surpassant toutes les bases de référence antérieures rapportées. La meilleure combinaison hybride (DF + CC + QO) a atteint 86,7 % de précision globale à une fraction du coût des modèles de pointe.
Efficacité : Les solveurs symboliques sont hautement efficaces, complétant l'inférence pour plus de 1 000 tâches en moins de 5 minutes (Python pur), contre environ 2 jours pour les méthodes basées sur les LLM.
Transfert vers le Réel : Dans une tâche de reconstruction ascendante pour la linguistique historique (prédiction des changements phonétiques), les solveurs induits ont atteint 80,1 % de précision sous ensembling, récupérant des règles linguistiques plausibles sans réentraînement.

Importance et Revendications

L'article revendique que REACOMP démontre une voie évolutive vers l'induction de solveurs généraux au niveau du domaine. En compilant les traces de raisonnement en structures symboliques réutilisables, l'approche adresse le décalage fondamental entre l'échantillonnage indépendant des LLM et les tâches compositionnelles à long horizon. Les auteurs soutiennent que :

Efficacité sous Saturation : Dans les régimes où la précision des LLM est proche de la saturation, l'induction de solveur apporte des bénéfices principaux en termes d'efficacité plutôt que de précision.
Complémentarité sur les Tâches Difficiles : Sur des tâches difficiles et à long horizon, les solveurs symboliques excellent là où les LLM échouent (en raison d'une recherche structurée), tandis que les LLM couvrent les tâches restantes, créant un système hybride complémentaire.
Amortissement : L'approche amortit un faible coût de construction ponctuelle sur de nombreuses exécutions sans tokens, la rendant substantiellement plus efficace au sens de Pareto que l'application d'agents de codage par instance.
Généralisation : La capacité des solveurs à se transférer en zero-shot vers des distributions non vues (par exemple, des données linguistiques réelles) suggère que les algorithmes induits capturent des insights structurels généralisables plutôt qu'une simple mémorisation.

Les auteurs notent des limitations, notamment la sensibilité de la qualité du solveur aux capacités de l'agent de codage et la nature spécifique des DSL utilisés. Ils observent également que, bien que les solveurs récupèrent des règles plausibles, ils favorisent parfois des solutions satisfaisant le vérificateur par rapport à des structures compactes et généralisables, indiquant un besoin de travaux futurs sur l'alignement des fonctions de récompense et les stratégies de recherche pour l'induction de solveurs.