💻 computer science

Thinking with Reasoning Skills: Fewer Tokens, More Accuracy

Cette étude propose une approche qui améliore la précision et réduit le nombre de jetons utilisés par les modèles de langage en raisonnement en remplaçant la génération de traces de pensée à partir de zéro par la récupération de compétences de raisonnement pré-déduites et réutilisables.

Auteurs originaux : Guangxiang Zhao, Qilong Shi, Xusen Xiao, Xiangzheng Zhang, Tong Yang, Lin Sun

Publié 2026-04-24

📖 4 min de lecture☕ Lecture pause café

CC BY 4.0

Auteurs originaux : Guangxiang Zhao, Qilong Shi, Xusen Xiao, Xiangzheng Zhang, Tong Yang, Lin Sun

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

🧠 Le Problème : Le "Savant" qui perd du temps

Imaginez un génie des mathématiques ou un expert en code (un modèle d'IA) qui doit résoudre un problème complexe.
Actuellement, pour trouver la solution, ce génie a tendance à tout réinventer à chaque fois.

L'analogie du "Réinventer la roue" : C'est comme si vous deviez cuisiner un gâteau. Au lieu de suivre une recette éprouvée, vous commencez par tester 50 types de farine, 20 types de sucre, et vous brûlez trois fours avant de trouver la bonne combinaison.
Le coût : Cette méthode fonctionne souvent, mais elle est lente et coûteuse. Pour les entreprises, chaque mot généré par l'IA (chaque étape de réflexion) coûte de l'argent et prend du temps. L'IA passe trop de temps à faire des détours inutiles.

💡 La Solution : La "Boîte à Outils" (TRS)

Les auteurs de cet article proposent une idée simple mais révolutionnaire : au lieu de réfléchir à partir de zéro, l'IA devrait consulter sa "mémoire" d'expériences passées.

Ils appellent cette méthode TRS (Thinking with Reasoning Skills).

Voici comment cela fonctionne, étape par étape, avec une analogie :

1. L'Entraînement (La Bibliothèque de Recettes)

Imaginez que vous avez un chef cuisinier très expérimenté.

Avant : Il cuisinait chaque plat en essayant des centaines de combinaisons.
Maintenant (Phase 1) : On lui demande de cuisiner des milliers de plats. À chaque fois qu'il réussit (ou échoue), on écrit une fiche technique ultra-courte.
- Exemple de fiche : "Si le gâteau colle, ajoutez du citron. Si la sauce tourne, ne remuez pas trop."
- Ces fiches sont stockées dans une bibliothèque (une base de données). Ce ne sont pas de longs textes, mais des astuces clés (des "compétences").

2. La Recherche (Trouver la bonne astuce)

Quand un nouveau client commande un gâteau (une nouvelle question), le chef ne commence pas à tester au hasard.

Il regarde la commande.
Il va chercher dans sa bibliothèque la fiche la plus pertinente.
Exemple : "Ah, c'est un gâteau au chocolat sans œufs ? Regardez la fiche n°42 : 'Utilisez du vinaigre et du bicarbonate'."

3. L'Action (Cuisiner vite et bien)

Le chef reçoit la fiche d'astuce avant de commencer à cuisiner.

Il sait exactement quoi faire.
Il évite les erreurs qu'il a déjà commises.
Il finit le plat plus vite et avec moins d'ingrédients (moins de mots générés), tout en obtenant un résultat plus délicieux (plus précis).

🚀 Pourquoi c'est génial ? (Les Résultats)

L'article montre que cette méthode casse une règle habituelle en intelligence artificielle : "On ne peut pas être à la fois rapide et précis."

Les anciennes méthodes : Pour aller plus vite, on forçait l'IA à être brève. Résultat : elle sautait des étapes importantes et se trompait souvent (comme un chef qui coupe les étapes et gâche le gâteau).
La méthode TRS : L'IA va plus vite parce qu'elle a une carte routière. Elle ne perd pas de temps à chercher son chemin.

Les chiffres clés :

Moins de mots : L'IA génère beaucoup moins de texte de réflexion (jusqu'à 50% de moins sur certains modèles).
Moins cher : Puisqu'elle génère moins de mots, la facture de l'entreprise baisse drastiquement.
Plus précis : Sur les problèmes difficiles (maths complexes, code), l'IA fait moins d'erreurs car elle évite les pièges connus.

🌍 En résumé

Imaginez que vous apprenez à conduire.

Sans TRS : À chaque fois que vous prenez la route, vous devez réapprendre à freiner, à tourner, et à éviter les nids-de-poule en vous trompant à chaque fois. C'est lent et dangereux.
Avec TRS : Vous avez un GPS qui vous dit : "Attention, à cet endroit, il y a un nid-de-poule connu, freinez maintenant". Vous conduisez plus vite, plus sûrement, et vous arrivez à destination sans accident.

Le message final de l'article : L'intelligence ne consiste pas à réfléchir plus fort, mais à réutiliser intelligemment ce qu'on a déjà appris. C'est une façon de rendre l'IA plus intelligente, moins chère et plus utile pour tout le monde.

1. Le Problème : Le coût du raisonnement "de zéro"

Les modèles de langage à fort raisonnement (LRM), tels que OpenAI o1 ou DeepSeek-R1, ont démontré une capacité remarquable à résoudre des problèmes complexes en générant de longues traces de réflexion intermédiaires (Chain-of-Thought ou CoT). Cependant, cette approche présente deux limitations majeures :

Coût et Latence : La génération de milliers de tokens de "pensée" (souvent redondants, incluant des boucles d'essais-erreurs et des vérifications inutiles) entraîne des coûts d'inférence élevés et une latence importante, car les API commerciales facturent au token.
Le compromis Efficacité-Précision : Les méthodes existantes pour réduire ces coûts (comme Chain-of-Draft ou les budgets de tokens stricts) forcent le modèle à être plus concis. Cela conduit souvent à un compromis négatif : en compressant trop le raisonnement, le modèle saute des étapes cruciales, ce qui dégrade sa précision, en particulier sur les problèmes difficiles.

L'article postule que les humains experts ne réinventent pas la roue à chaque fois ; ils se souviennent de compétences réutilisables (patterns, invariants, algorithmes) acquises par l'expérience. Les LRM actuels, en revanche, raisonnent presque toujours "de zéro" (from scratch).

2. Méthodologie : Thinking with Reasoning Skills (TRS)

Les auteurs proposent TRS, un cadre d'inférence sans entraînement (training-free) et compatible avec les modèles "boîte noire". L'idée centrale est de découpler l'acquisition de la logique de raisonnement de son exécution, en remplaçant la redécouverte interne par une mémoire procédurale externe.

Le processus se déroule en deux phases :

A. Construction de la Bibliothèque de Compétences (Hors ligne)

Génération de trajectoires : Pour un ensemble de problèmes sources (mathématiques ou code), un modèle de raisonnement génère des traces de résolution complètes (incluant les échecs et les corrections).
Distillation : Un modèle résumé plus puissant (ex: Gemini 3) analyse ces trajectoires pour extraire des "cartes de compétences" (Skill Cards) compactes et réutilisables.
- Si la réponse est correcte : La carte capture le pattern essentiel (ex: "Utiliser la substitution u pour les intégrales de la forme...").
- Si la réponse est incorrecte : La carte capture un "anti-pattern" et sa correction (ex: "Éviter l'intégration par parties ici car cela complexifie...").
Structure de la carte : Chaque carte est structurée avec des champs clairs : Déclencheur (Trigger), Action (Do), À éviter (Avoid), Vérification (Check), et Risque.
Stockage : Ces cartes sont stockées dans une base de connaissances (Key-Value store) avec des mots-clés de récupération.

B. Inférence avec Récupération (En ligne)

Récupération : Pour une nouvelle requête, le système récupère les $k$ cartes de compétences les plus pertinentes (via BM25 pour les maths, ou une approche hybride pour le code).
Injection dans le Prompt : Les cartes récupérées sont préfixées à la requête de l'utilisateur.
Guidage : Le modèle de raisonnement reçoit ces compétences comme un "plan de navigation". Il est invité à les utiliser si elles sont pertinentes, ce qui lui permet d'éviter les détours et de suivre un chemin de solution direct.

3. Contributions Clés

Cadre d'inférence efficace : TRS permet de réduire drastiquement le nombre de tokens générés sans nécessiter de réentraînement du modèle, restant compatible avec les API commerciales.
Rupture du compromis Efficacité-Précision : Contrairement aux méthodes de compression forcée, TRS maintient ou améliore la précision tout en réduisant les coûts, en particulier sur les problèmes difficiles.
Transférabilité inter-modèles : Les compétences extraites d'un modèle (source) peuvent être transférées efficacement pour améliorer les performances d'un autre modèle (cible), même de différentes architectures.
Analyse de déploiement : L'étude examine la sensibilité à la longueur des prompts, la force de filtrage (gating) et la taille de la bibliothèque, montrant que les bénéfices augmentent avec la difficulté du problème.

4. Résultats Expérimentaux

Les évaluations ont été menées sur deux benchmarks majeurs : DEEPMATH-103K (mathématiques) et NEMOTRON-COMPETITIVE-PROGRAMMING-V1 (programmation compétitive), testés sur plusieurs modèles (GPT-OSS-120B, Gemini-3, Doubao Seed, GPT-4o-mini).

Réduction des tokens et des coûts :
- Sur les tâches mathématiques, TRS réduit le nombre de tokens de complétion de 18,5 % à 59,1 % selon le modèle, avec une réduction de coût allant jusqu'à 53,8 % (Doubao Seed).
- Sur le code, la réduction de tokens atteint 33,9 % pour GPT-4o-mini.
Amélioration de la précision :
- Contrairement aux baselines comme Chain-of-Draft (CoD) qui chutent en précision sur les problèmes difficiles, TRS maintient ou améliore la précision.
- Exemple : Sur GPT-4o-mini en mathématiques, la précision passe de 59,6 % à 61,4 % tout en réduisant les coûts.
- Sur les problèmes les plus difficiles (seuil de tokens de base > 12k), TRS évite l'effondrement de précision observé avec les méthodes de budget strict.
Transfert externe :
- L'utilisation d'une bibliothèque de compétences dérivée d'un corpus externe (AOPS, problèmes de concours) sur des benchmarks non vus (AIME, HMMT) montre des gains de précision et de réduction de coûts pour la majorité des paires modèle-benchmark, prouvant la généralisation des patterns de raisonnement.

5. Signification et Impact

Ce travail propose un changement de paradigme fondamental pour l'inférence des LLM : passer d'une répétition coûteuse de l'exploration à une réutilisation efficace de l'expérience.

Économique : La réduction significative des tokens de sortie (qui sont souvent plus chers que les tokens d'entrée) rend le déploiement de modèles de raisonnement avancés économiquement viable pour des applications réelles.
Technique : TRS démontre que l'efficacité ne doit pas se faire au détriment de la justesse. En externalisant la "mémoire procédurale", on permet aux modèles de se concentrer sur l'application de la logique plutôt que sur la découverte de la logique elle-même.
Pratique : En tant que méthode sans entraînement, elle peut être appliquée immédiatement à n'importe quel modèle de boîte noire existant, offrant une voie rapide pour optimiser les coûts d'inférence dans l'industrie.

En conclusion, Thinking with Reasoning Skills offre une solution pragmatique pour débloquer le potentiel des modèles de raisonnement complexes tout en maîtrisant leurs coûts opérationnels, en s'inspirant de la manière dont les experts humains utilisent leur expérience accumulée.