💬 NLP

MathFimer: Enhancing Mathematical Reasoning by Expanding Reasoning Steps through Fill-in-the-Middle Task

Le papier présente MathFimer, un cadre novateur qui améliore le raisonnement mathématique des grands modèles de langage en générant automatiquement des étapes intermédiaires détaillées via une tâche de type « remplissage du milieu », permettant ainsi d'entraîner des modèles plus performants sans recourir à des modèles externes puissants ni à des coûts computationnels élevés.

Auteurs originaux : Yuchen Yan, Yongliang Shen, Yang Liu, Jin Jiang, Xin Xu, Mengdi Zhang, Jian Shao, Yueting Zhuang

Publié 2026-02-26

📖 4 min de lecture☕ Lecture pause café

CC BY 4.0

Auteurs originaux : Yuchen Yan, Yongliang Shen, Yang Liu, Jin Jiang, Xin Xu, Mengdi Zhang, Jian Shao, Yueting Zhuang

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

🧠 Le Problème : L'IA qui saute des étapes

Imaginez que vous apprenez à cuisiner un gâteau complexe. Si le livre de recettes vous dit simplement : « Mélangez les ingrédients, puis mettez au four », vous risquez de rater le gâteau. Vous avez besoin de détails : « Tamisez la farine », « Battez les œufs jusqu'à ce qu'ils soient mousseux », etc.

C'est exactement le problème avec les Intelligences Artificielles (IA) actuelles lorsqu'elles résolvent des problèmes de mathématiques. Elles sont souvent très douées pour trouver la réponse finale, mais elles ont tendance à sauter des étapes dans leur raisonnement. Elles vont de l'idée A à l'idée C, en oubliant l'étape B. Or, pour apprendre à bien raisonner, l'IA a besoin de voir chaque petit pas, comme un élève qui a besoin de voir chaque calcul intermédiaire pour comprendre la logique.

🛠️ La Solution : MathFimer, le « Remplisseur de Trou »

Les chercheurs ont créé un outil appelé MathFimer. Pour comprendre comment il fonctionne, faisons une analogie avec un jeu de Motus (ou un jeu de mots croisés) ou un livre dont on a arraché des pages.

1. L'inspiration : Le code informatique

Dans le monde de la programmation, il existe un jeu appelé « Remplir le milieu » (Fill-in-the-Middle). On donne à un programmeur (ou une IA) le début d'un code et la fin, et il doit deviner ce qu'il y a au milieu pour que le tout fonctionne.
Exemple :

Début : Si la pluie tombe, alors...
Fin : ...je prends mon parapluie.
Tâche de l'IA : Deviner le milieu (...je sors de la maison...).

2. L'application aux maths

Les chercheurs ont appliqué cette idée aux mathématiques. Ils ont pris des milliers de problèmes déjà résolus par des humains (des solutions parfaites) et ils ont effacé des étapes intermédiaires.

Avant (Solution originale) : Étape 1 → Étape 2 → Étape 3 → Réponse.
Le jeu : Ils cachent l'Étape 2.
La mission de MathFimer : L'IA doit lire l'Étape 1 et l'Étape 3, puis inventer l'Étape 2 manquante de manière logique.

🎓 L'Entraînement : Devenir un Maître du Détail

En faisant ce jeu des milliers de fois sur une immense base de données (appelée NuminaMath-FIM), l'IA a appris une chose cruciale : la beauté réside dans les détails.

Elle a appris à ne pas seulement sauter à la conclusion, mais à construire un pont solide entre chaque idée. C'est comme si on entraînait un élève non pas à donner la bonne réponse, mais à expliquer son travail de manière si détaillée que n'importe qui pourrait le suivre.

🚀 Le Résultat : Une IA qui « pense » mieux

Une fois entraînée, cette IA (nommée MathFimer-7B) a été utilisée pour améliorer d'autres bases de données de maths. Elle a pris des solutions existantes et y a inséré des étapes supplémentaires pour les rendre plus claires et plus complètes.

Les résultats sont impressionnants :

Les modèles d'IA entraînés sur ces nouvelles données « enrichies » sont devenus bien meilleurs pour résoudre des problèmes complexes (comme ceux des Olympiades de mathématiques).
Ils font moins d'erreurs.
Ils sont plus fiables.

💡 Pourquoi c'est génial ? (Les avantages)

Pas besoin de super-ordinateurs : Avant, pour améliorer les maths d'une IA, il fallait utiliser une IA encore plus puissante (et très coûteuse) pour générer de nouvelles solutions. Ici, on utilise une petite IA entraînée spécifiquement pour « remplir les trous ». C'est comme utiliser un bon éditeur de texte plutôt qu'un nouveau romancier pour améliorer un brouillon.
Fiabilité : Comme on part de solutions humaines déjà correctes et qu'on ajoute juste des détails, on ne risque pas d'introduire d'erreurs folles. C'est comme ajouter des virgules et des explications à une phrase correcte, plutôt que d'écrire une nouvelle phrase qui pourrait être fausse.
Polyvalence : Bien que testé sur les maths, cette méthode pourrait aider l'IA à mieux raisonner dans d'autres domaines (comme la logique ou la science), car le principe est le même : plus on détaille le chemin, plus on arrive à destination sans se perdre.

En résumé

MathFimer, c'est comme un professeur très attentif qui prend un élève brillant mais un peu pressé, et qui lui dit : « Attends, ne saute pas l'étape 2 ! Explique-moi exactement comment tu es passé de A à B. »

En apprenant à l'IA à faire cela, les chercheurs ont réussi à créer des modèles plus intelligents, plus précis et capables de résoudre des problèmes bien plus difficiles, le tout sans avoir besoin de dépenser des fortunes en énergie informatique. C'est une victoire de la qualité du raisonnement sur la simple puissance brute.

1. Problématique

Le raisonnement mathématique constitue une frontière critique pour l'avancement des grands modèles de langage (LLM). Bien que l'approche par "chaîne de pensée" (Chain-of-Thought, CoT) soit devenue le paradigme dominant, la qualité des étapes de raisonnement dans les données d'entraînement limite fondamentalement les performances des modèles.

Les méthodes existantes pour enrichir ces étapes de raisonnement (expansion des étapes) souffrent de trois limitations majeures :

Dépendance aux modèles externes : Elles nécessitent souvent l'utilisation de modèles plus puissants pour générer de meilleures étapes, créant un cycle coûteux.
Coût computationnel : Des techniques avancées comme la recherche par arbre Monte Carlo (MCTS) demandent des ressources de calcul substantielles.
Fiabilité : Ces méthodes génèrent souvent de nouvelles chaînes de raisonnement à partir de zéro, ce qui peut introduire des erreurs imprévues et réduire la fiabilité par rapport aux solutions humaines vérifiées.

L'objectif est donc de développer une méthode efficace et fiable pour étendre les étapes de raisonnement tout en préservant la validité des solutions existantes, sans dépendre de modèles externes coûteux.

2. Méthodologie : MathFimer

Les auteurs proposent MathFimer, un cadre novateur inspiré de la tâche "Fill-in-the-Middle" (FIM) utilisée dans le raisonnement sur le code. Au lieu de générer de nouvelles chaînes de raisonnement, MathFimer vise à insérer des étapes intermédiaires manquantes ou à détailler des étapes existantes au sein de solutions déjà validées.

Le processus se déroule en trois étapes principales :

A. Construction du Dataset NuminaMath-FIM

Source de données : Utilisation du dataset de haute qualité NuminaMath-CoT (853k paires question-réponse).
Décomposition : Chaque solution est décomposée en une séquence d'étapes. Pour chaque problème, une étape intermédiaire est sélectionnée aléatoirement et masquée.
Format FIM : Les données sont structurées sous forme de triplets (Préfixe, Suffixe, Milieu) :
- Préfixe ( $P$ ) : Les étapes précédant l'étape masquée.
- Suffixe ( $S$ ) : Les étapes suivant l'étape masquée.
- Milieu ( $M$ ) : L'étape manquante à reconstruire.
Formatage : Utilisation de tokens spéciaux (<|fim_prefix|>, <|fim_suffix|>, <|fim_middle|>) pour entraîner le modèle à prédire le milieu étant donné le contexte.

B. Entraînement du Modèle MathFimer-7B

Modèle de base : Qwen2.5-Math-7B.
Tâche : Entraînement par ajustement fin supervisé (SFT) sur le dataset NuminaMath-FIM (2,5 millions d'échantillons).
Objectif : Le modèle apprend à générer des étapes de raisonnement intermédiaires cohérentes qui relient logiquement le préfixe au suffixe, tout en conservant la structure de la solution originale.

C. Expansion des Étapes de Raisonnement

Une fois entraîné, le modèle MathFimer-7B est appliqué pour enrichir les datasets existants :

Inférence : Pour chaque paire d'étapes consécutives dans une solution originale, le modèle tente de générer une étape intermédiaire manquante.
Filtrage de similarité : Pour éviter la redondance (le modèle générant parfois une copie de l'étape suivante), une mesure de similarité de séquence est calculée entre l'étape générée et l'étape originale suivante. Si la similarité dépasse un seuil ( $\eta = 0,8$ ), l'étape générée est rejetée.
Insertion : Les étapes validées sont insérées dans la chaîne de raisonnement, créant des versions "expansées" et plus détaillées des données d'entraînement.

3. Contributions Clés

Nouveau cadre d'expansion : Introduction de la tâche "Fill-in-the-Middle" (FIM) dans le domaine du raisonnement mathématique pour enrichir les chaînes de pensée existantes plutôt que d'en générer de nouvelles.
Ressources open-source : Publication du dataset NuminaMath-FIM et du modèle spécialisé MathFimer-7B, offrant une solution scalable et pratique.
Validation empirique : Démonstration que l'entraînement sur des données expansées par MathFimer améliore systématiquement les performances sur divers benchmarks, sans nécessiter de modèles externes puissants.

4. Résultats Expérimentaux

Les expériences ont été menées sur plusieurs modèles de base (Llama-3.1-8B/70B, Qwen2.5-Math-7B/72B) et plusieurs datasets (MathInstruct, MetaMathQA, etc.), évalués sur des benchmarks standards (GSM8K, MATH, Math Odyssey, OlympiadBench).

Améliorations de performance : L'entraînement sur des données expansées par MathFimer entraîne des gains constants.
- Sur GSM8K avec Meta-Llama-3.1-8B et MathInstruct-CoT, la précision moyenne passe de 67,78 % à 75,21 % (+7,43 points).
- Sur MATH avec Qwen2.5-Math-72B et MetaMathQA, la précision passe de 57,68 % à 63,40 % (+5,72 points).
Généralisation : Les gains sont observés à la fois sur des modèles généralistes et des modèles spécialisés en mathématiques.
Étude d'ablation :
- Itération : L'application itérative de l'expansion (plusieurs tours) améliore encore les performances, prouvant la scalabilité de la méthode.
- Taille du modèle : Un modèle FIM de 1,5B paramètres performe presque aussi bien que le modèle 7B pour la tâche d'expansion, suggérant que la tâche n'est pas fortement limitée par la capacité du modèle.
- Comparaison avec le Prompting : La méthode entraînée (MathFimer) surpasse nettement l'approche par "prompting" (zero-shot) utilisant des modèles généralistes pour l'expansion, tout en étant plus efficace en termes de coût computationnel.
Qualité des étapes : L'évaluation via un modèle de récompense de processus (PRM) montre que la majorité des étapes générées conservent une haute qualité et une cohérence logique.

5. Signification et Impact

MathFimer propose une solution pratique et évolutive pour améliorer les capacités de raisonnement des LLMs.

Efficacité : Contrairement aux méthodes basées sur la recherche (MCTS) ou l'utilisation de modèles plus grands, MathFimer permet d'améliorer les données d'entraînement en utilisant un modèle de taille modeste (7B) et des ressources de calcul standard.
Fiabilité : En s'appuyant sur des solutions humaines existantes et en ne faisant que les détailler, la méthode minimise le risque d'introduction d'erreurs factuelles ou logiques majeures.
Généralité : Bien que testé principalement en mathématiques, les auteurs montrent que l'approche peut s'étendre à d'autres domaines de raisonnement (logique, scientifique), bien que le raisonnement en code soit moins adapté en raison de la nécessité de maintenir l'exécutabilité du code.

En conclusion, MathFimer démontre que l'augmentation de la granularité et de la complétude des étapes de raisonnement dans les données d'entraînement est un levier puissant pour améliorer les performances des LLMs, offrant une voie alternative aux approches coûteuses de distillation ou de reinforcement learning complexe.