mAceReason-Math: A Dataset of High-Quality Multilingual Math Problems Ready For RLVR

Ce papier présente mAceReason-Math, un jeu de données multilingue de haute qualité comprenant plus de 10 000 problèmes mathématiques complexes traduits dans 14 langues, spécifiquement conçu pour faciliter la recherche et l'évaluation du Reinforcement Learning with Verifiable Rewards (RLVR) au-delà du domaine anglophone.

L'essentiel

Voici une explication simple et imagée de ce papier de recherche, conçue pour être comprise par tout le monde, même sans être expert en intelligence artificielle.

Imaginez que les grands modèles d'intelligence artificielle (les "cerveaux" numériques) sont comme des athlètes de haut niveau qui s'entraînent pour devenir des champions de résolution de problèmes mathématiques.

1. Le Problème : Un entraînement en "Langue Unique"

Jusqu'à présent, ces athlètes ne s'entraînaient qu'en anglais. C'est comme si un footballeur mondial ne jouait jamais que sur des terrains anglais, avec des règles expliquées uniquement en anglais.

• La méthode d'entraînement : Les chercheurs utilisent une technique appelée "Renforcement par Récompense Vérifiable" (RLVR). C'est un peu comme un coach qui donne un point de bonus à l'athlète chaque fois qu'il trouve la bonne réponse à un problème difficile.
• Le manque : Il existe des milliers de problèmes mathématiques très difficiles en anglais pour cet entraînement, mais presque rien dans les autres langues (français, allemand, japonais, etc.). De plus, les problèmes existants dans d'autres langues sont souvent trop faciles, comme des exercices de maternelle pour des champions olympiques.

2. La Solution : mAceReason-Math, le "Super-Kit Multilingue"

L'équipe de chercheurs (d'Apple et de l'Institut Hasso Plattner) a créé un nouveau trésor appelé mAceReason-Math.

• Ce que c'est : C'est une immense bibliothèque de 140 000 problèmes mathématiques difficiles, traduits dans 14 langues différentes.
• L'objectif : Permettre aux modèles d'IA de s'entraîner et de devenir des génies des maths, peu importe la langue dans laquelle on leur pose la question.

3. Comment ont-ils fait ? (Le processus de "Nettoyage et Traduction")

Traduire 140 000 problèmes complexes à la main coûterait une fortune et prendrait des années. Ils ont donc utilisé une méthode hybride, comme une chaîne de montage intelligente :

• Étape 1 : Le Tri (Le Dépoussiérage)
  Imaginez que vous recevez une boîte de jouets, mais certains sont cassés, d'autres ont des étiquettes de magasin collées dessus, et certains sont en fait des instructions pour un autre jeu.
  Les chercheurs ont d'abord utilisé des robots (des algorithmes) et des IA pour nettoyer les problèmes originaux anglais. Ils ont jeté ceux qui étaient incomplets, ceux qui avaient la réponse écrite dans la question, ou ceux qui dépendaient d'images manquantes.

• Étape 2 : La Traduction (Les Traducteurs Robots)
  Ensuite, ils ont demandé à une IA très avancée (Claude Sonnet 4) de traduire les problèmes restants. Mais attention, traduire des maths, ce n'est pas juste changer les mots !

  • Analogie : Si on traduit "12,345.67" (format américain) en allemand, il faut écrire "12.345,67". Si on ne le fait pas, le modèle d'IA sera perdu. L'IA a été programmée pour respecter ces règles culturelles et mathématiques précises.

• Étape 3 : La Validation Humaine (Les Experts Natifs)
  C'est ici que la magie opère. Pour s'assurer que la traduction est parfaite, ils ont fait appel à des locuteurs natifs (des Français, des Japonais, des Russes, etc.).

  • Ils ont vérifié que le problème ne sonnait pas comme une traduction robotique ("traducto-lingue").
  • Ils ont corrigé les termes mathématiques : par exemple, en allemand, on ne dit pas "Séquence" pour une suite de nombres, mais "Folge". Les locuteurs natifs ont fait ces ajustements fins.

4. Le Résultat : Un Terrain de Jeu Équitable

Grâce à ce travail, ils ont créé deux types de jeux :

1. Le jeu "Parallèle" : Les mêmes 7 620 problèmes, exactement les mêmes, dans les 14 langues. C'est parfait pour comparer les performances : "Est-ce que l'IA est aussi forte en japonais qu'en anglais ?"
2. Le jeu "Complet" : Plus de 10 000 problèmes par langue, pour donner un entraînement massif.

Ils ont aussi créé un examen final (un test de 190 questions) vérifié par des humains, pour voir si les modèles apprennent vraiment.

5. Pourquoi est-ce important ?

Avant ce papier, si vous vouliez entraîner une IA à résoudre des maths en espagnol ou en swahili, vous n'aviez pas de matériel de qualité.

• Avant : C'était comme essayer d'apprendre à nager avec des livres en chinois alors que vous ne parlez que chinois, mais les exercices sont écrits en anglais.
• Maintenant : Grâce à mAceReason-Math, chaque langue a son propre "coach" et ses propres "exercices de haut niveau". Cela permet de créer des IA plus intelligentes, plus équitables et capables de comprendre le monde entier, pas seulement la partie anglophone.

En résumé : Les chercheurs ont construit un immense gymnase multilingue, rempli d'exercices de maths difficiles et parfaitement nettoyés, pour que les intelligences artificielles puissent devenir des champions mondiaux, quelle que soit la langue qu'elles parlent.

Résumé technique

Voici un résumé technique détaillé du papier mAceReason-Math: A Dataset of High-quality Multilingual Math Problems, rédigé en français.

1. Problématique et Contexte

L'apprentissage par renforcement avec récompenses vérifiables (RLVR), et plus particulièrement l'optimisation de stratégie relative de groupe (GRPO), a considérablement amélioré les capacités des grands modèles de langage (LLM) en raisonnement mathématique. Cependant, la recherche actuelle et les jeux de données d'entraînement (comme AceReason-Math, DAPO-Math, POLARIS) sont presque exclusivement centrés sur l'anglais.

Les défis principaux identifiés sont :

• Le manque de données multilingues de haute difficulté : Les jeux de données multilingues existants (niveau GSM8K) sont souvent trop faciles pour les modèles actuels d'État de l'Art (SOTA), ne fournissant pas de signaux d'apprentissage suffisants.
• L'absence de corpus parallèles : Il n'existe pas de grands ensembles de données permettant un entraînement RLVR multilingue avec des problèmes complexes, ce qui limite la recherche sur le transfert interlangues et l'équité des modèles.
• Le coût de la traduction humaine : Traduire manuellement des dizaines de milliers de problèmes mathématiques complexes est prohibitif.

2. Méthodologie

Les auteurs proposent une pipeline hybride combinant traduction par LLM et vérification par des locuteurs natifs pour créer mAceReason-Math, une extension multilingue du corpus AceReason-Math.

A. Nettoyage et Filtrage des Données Sources

Avant la traduction, les données anglaises brutes subissent un nettoyage rigoureux pour éliminer les problèmes non solvables ou corrompus :

• Filtrage critique (~4% des données) : Élimination des problèmes contenant des liens vers des images manquantes, des réponses révélées dans l'énoncé, des références à du matériel externe absent, ou des problèmes dans une langue autre que l'anglais.
• Correction des problèmes récupérables (~11% des données) : Suppression des annotations de tâches (ex: "Task 5.4"), correction des erreurs de formatage LaTeX, et élimination des instructions de génération de données résiduelles.
• Outils : Utilisation de expressions régulières (regex) et d'un LLM (Claude Sonnet 4) pour le nettoyage contextuel.

B. Pipeline de Traduction Hybride

Pour atteindre l'échelle nécessaire (>10 000 échantillons par langue), les auteurs utilisent une approche itérative :

1. Traduction initiale par LLM : Utilisation de Claude Sonnet 4 pour traduire les problèmes nettoyés vers 14 langues cibles. Des prompts stricts sont utilisés pour préserver la structure mathématique (LaTeX, variables, nombres) tout en adaptant le langage naturel et les conventions de formatage des nombres (ex: virgule vs point décimal).
2. Évaluation et Raffinement : Les traductions sont évaluées par un LLM selon des critères stricts (exactitude mathématique, cohérence logique, terminologie). Les traductions jugées problématiques subissent jusqu'à 5 cycles de raffinement itératif.
3. Validation Humaine : Des locuteurs natifs (pour 11 des 14 langues) valident un échantillon aléatoire et le jeu de test final. Les suggestions humaines sont filtrées par LLM pour éviter les erreurs de terminologie mathématique (ex: confusion entre "séquence" et "suite" en français).

C. Structure du Jeu de Données Final

Le dataset comprend :

• 14 langues : Anglais, Chinois, Allemand, Espagnol, Français, Italien, Portugais brésilien, Russe, Japonais, Coréen, Thaï, Bengali, Télougou et Swahili.
• Volume : Plus de 140 000 échantillons au total.
• Splits :
  • Train Parallèle : 7 620 échantillons strictement parallèles pour toutes les langues (pour l'entraînement comparatif).
  • Train Complet : 10 000 à 12 000 échantillons par langue (incluant des traductions non parallèles).
  • Test Validé par l'Homme : 190 échantillons rigoureusement vérifiés par des locuteurs natifs.

3. Résultats et Évaluation

Les auteurs ont évalué plusieurs modèles (Open-weight et Closed) sur le jeu de test parallèle de 190 échantillons.

• Performance des Modèles Fermés (Closed Models) :
  • Les modèles de pointe comme Gemini 2.5 Flash et Claude Sonnet 4.5 obtiennent les meilleurs résultats, avec des précisions moyennes autour de 75-81%.
  • Gemini 2.5 Flash se distingue particulièrement en chinois (85,8%) et en coréen (84,2%).
• Performance des Modèles Ouverts (Open-weight Models) :
  • Les modèles de la famille DeepSeek-R1-Distill et gpt-oss montrent des performances solides, bien que variables selon la langue.
  • DeepSeek-R1-Distill-7B atteint une moyenne de 64,3%, surpassant certains modèles plus petits mais plus grands que les versions "Base".
  • Une baisse de performance notable est observée pour les modèles plus petits (ex: gemma-3-1b-it à 9,1% en moyenne) et dans les langues à faible ressources (Swahili, Telugu, Bengali), où les scores chutent drastiquement.
• Analyse des Résultats :
  • Les modèles plus grands affichent systématiquement de meilleures performances.
  • Il existe des écarts significatifs de performance entre les langues, soulignant que la capacité de raisonnement mathématique n'est pas encore parfaitement transférable d'une langue à l'autre pour tous les modèles, en particulier pour les modèles plus petits.

4. Contributions Clés

1. mAceReason-Math : Le premier jeu de données multilingue de grande échelle (>140k échantillons) contenant des problèmes mathématiques de haute difficulté, spécifiquement conçu pour l'entraînement RLVR/GRPO.
2. Pipeline de Création de Données : Une méthodologie reproductible combinant nettoyage automatisé, traduction par LLM itérative et validation humaine ciblée, permettant de surmonter le coût de la traduction manuelle massive.
3. Splits Parallèles : La fourniture d'un split d'entraînement strictement parallèle (7 620 échantillons/langue) permet des expériences d'entraînement multilingue comparables et rigoureuses.
4. Benchmark Multilingue : Un jeu de test validé par l'homme servant de référence pour évaluer les capacités de raisonnement mathématique des LLM dans 14 langues.

5. Signification et Impact

Ce travail comble un vide critique dans la recherche sur le RLVR en mathématiques. En passant d'un paradigme anglo-centrique à un cadre multilingue, il permet :

• L'entraînement de modèles plus équitables : Réduire le biais linguistique des LLM en mathématiques.
• L'étude du transfert interlangues : Comprendre comment les capacités de raisonnement se transfèrent entre les langues lors de l'entraînement RLVR.
• L'accélération de la recherche : Fournir une ressource standardisée pour que la communauté puisse benchmark et améliorer les modèles dans des contextes linguistiques diversifiés, au-delà de l'anglais.

Limitations notées : La qualité de traduction pour le Swahili, le Telugu et le Bengali est potentiellement plus variable en raison du manque de validateurs natifs. De plus, la vérification des réponses repose sur des outils automatisés qui peuvent parfois mal interpréter des formats numériques complexes non-US.

En conclusion, mAceReason-Math est une ressource fondamentale pour l'avancement des modèles de raisonnement mathématique multilingue, offrant à la fois des données d'entraînement de haute qualité et un benchmark rigoureux pour la communauté scientifique.