🤖 AI

Pythagoras-Prover: Advancing Efficient Formal Proving via Augmented Lean Formalisation

Pythagoras-Prover est une famille de prouveurs de théorèmes Lean open-source et économes en calcul qui exploite l'apprentissage supervisé par affinement basé sur un curriculum et la formalisation augmentée de Lean pour atteindre des performances de pointe sur les bancs d'essai de preuve formelle avec nettement moins de paramètres que les modèles existants.

Auteurs originaux : Joshua Ong Jun Leang, Zheng Zhao, Mihaela Cătălina Stoian, Qiyuan Xu, Haonan Li, Wenda Li, Shay B. Cohen, Eleonora Giunchiglia

Publié 2026-06-12

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Joshua Ong Jun Leang, Zheng Zhao, Mihaela Cătălina Stoian, Qiyuan Xu, Haonan Li, Wenda Li, Shay B. Cohen, Eleonora Giunchiglia

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayez d'apprendre à un robot à résoudre des énigmes mathématiques extrêmement difficiles, mais avec une contrainte : le robot doit écrire sa solution dans un langage informatique strict appelé Lean. Si le robot commet ne serait-ce qu'une minuscule erreur de logique, l'ordinateur rejette la réponse. C'est le monde de la Preuve Automatique de Théorèmes.

Pendant longtemps, la seule façon de rendre un robot performant était de le nourrir avec des quantités massives de données et d'utiliser un « cerveau » (un modèle informatique) si gigantesque qu'il coûtait des millions de dollars à faire fonctionner. C'était comme essayer de gagner un tournoi d'échecs en engageant une équipe de 1 000 grands maîtres pour réfléchir à votre place.

Le document présente Pythagoras-Prover, une nouvelle famille de robots mathématiciens qui prouve que vous n'avez pas besoin d'un cerveau géant ou d'un budget d'un million de dollars pour gagner. Ils y sont parvenus grâce à trois astuces ingénieuses :

1. Le « Camp d'entraînement » (Apprentissage par curriculum)

Au lieu de jeter le robot dans le grand bain avec les problèmes les plus difficiles immédiatement, les chercheurs ont construit un camp d'entraînement avec trois niveaux : Facile, Moyen et Difficile.

L'analogie : Imaginez que vous apprenez à un enfant à faire du vélo. Vous ne commencez pas sur un sentier de montagne. Vous commencez sur un trottoir plat (Facile), puis une pente douce (Moyen), et enfin le sentier de montagne (Difficile).
Comment ils ont fait : Ils ont créé une immense bibliothèque de problèmes mathématiques. Si un problème était trop difficile pour le robot, ils ne le jetaient pas simplement. Ils utilisaient une « rubrique » (une liste de contrôle des erreurs courantes) pour décomposer le problème en une version plus simple que le robot pouvait résoudre. Cela a permis au robot d'apprendre étape par étape, en développant sa confiance et ses compétences avant de s'attaquer aux géants.

2. La machine à « Mad Libs » (Formalisation augmentée par ALF)

Le plus gros problème dans ce domaine est le manque de bons problèmes d'entraînement. Les chercheurs ont réalisé qu'ils pouvaient créer plus de problèmes d'entraînement sans avoir besoin qu'un humain les écrive ou qu'un supercalculateur les vérifie.

L'analogie : Imaginez que vous avez une histoire mathématique parfaite. Au lieu d'écrire une toute nouvelle histoire de zéro, vous jouez à un jeu de « Mad Libs ». Vous remplacez les nombres, changez les noms des personnages ou réorganisez l'ordre des étapes, mais la logique de l'histoire reste la même.
Comment ils ont fait : Ils ont pris leurs problèmes vérifiés et ont utilisé un outil appelé ALF pour les faire muter. Ils ont créé des variations (versions plus simples, versions plus difficiles, ou simplement des formulations différentes). Ils n'ont pas vérifié chaque nouvelle variation avec l'ordinateur strict (ce qui est lent et coûteux) ; ils ont simplement vérifié que la nouvelle version ressemblait à un problème mathématique valide. Cela a fait exploser leur bibliothèque de problèmes d'entraînement par 2,5, offrant au robot beaucoup plus de matériel pour apprendre.

3. La boucle d'« Auto-réflexion » (Auto-distillation)

Une fois que le robot a appris les bases, ils l'ont laissé s'enseigner à lui-même.

L'analogie : Imaginez un étudiant qui a beaucoup étudié. Au lieu de simplement passer un examen, il essaie de résoudre de nouvelles variations des problèmes qu'il vient d'apprendre. S'il réussit, il les note comme un nouvel exemple à étudier plus tard.
Comment ils ont fait : Le robot a généré des preuves pour ces variations de type « Mad Libs ». Même s'ils n'ont pas tout double-vérifié avec l'ordinateur, le fait que le robot puisse générer une preuve pour une version mutée signifiait qu'il comprenait réellement la logique, et qu'il ne faisait pas que mémoriser la réponse. Ces données d'auto-apprentissage ont rendu le robot encore plus intelligent.

Les Résultats : Petit Cerveau, Grandes Victoires

Le document compare leurs nouveaux robots aux « géants » actuels du domaine :

Le Robot 4B : Ce robot possède 4 milliards de « neurones » (paramètres). Il est environ 167 fois plus petit que le précédent champion (DeepSeek-Prover-V2, qui possède 671 milliards de neurones).
- Le Résultat : Malgré sa petite taille, le robot 4B a résolu plus de problèmes correctement que le robot géant. C'est comme si un génie des mathématiques au lycée battait une équipe de doctorants parce qu'il a été mieux entraîné.
Le Robot 32B : Ce robot légèrement plus grand est devenu le meilleur robot open-source jamais testé sur ces benchmarks, résolvant 93 % des problèmes.

L'expérience de « Diffusion »

Les chercheurs ont également testé une autre façon de réfléchir appelée Diffusion.

L'analogie :
- Standard (Autorégressif) : Écrire une phrase mot après mot, de gauche à droite. Si vous faites une erreur au début, vous devez tout réécrire.
- Diffusion : Imaginez l'esquisse floue d'une phrase. Le robot regarde l'esquisse entière et remplit les mots manquants d'un seul coup, en affinant l'image jusqu'à ce qu'elle soit claire. Il peut corriger une erreur au milieu sans réécrire le début.
Le Résultat : Ce robot de type « Diffusion » était 2,5 fois plus rapide pour générer des réponses que le robot standard, bien qu'il soit légèrement moins précis. Cela montre une nouvelle façon de troquer la précision contre la vitesse.

Le « Test de Stress » (MiniF2F-ALF)

Pour voir si les robots ne faisaient que mémoriser des réponses ou s'ils apprenaient réellement, les chercheurs ont créé un « test de stress ». Ils ont pris les questions du test et les ont légèrement mutées (en changeant les nombres, en échangeant les variables) en utilisant la même technique de « Mad Libs ».

Le Résultat : La plupart des robots ont échoué à ce test car ils avaient mémorisé les questions originales. Cependant, Pythagoras-Prover a beaucoup mieux géré ces mutations. Cela prouve qu'ils ont appris la logique des mathématiques, et non seulement les réponses spécifiques.

Résumé

Pythagoras-Prover démontre que vous n'avez pas besoin d'un supercalculateur pour résoudre des preuves mathématiques complexes. En utilisant un programme d'entraînement intelligent, en créant des variations infinies de problèmes d'entraînement et en laissant le robot s'enseigner à lui-même, vous pouvez construire un petit robot efficace qui surpasse les géants massifs et coûteux du passé.

Résumé Technique : Pythagoras-Prover

Énoncé du Problème

Les prouveurs de théorèmes Lean modernes ont atteint des performances solides mais dépendent fortement d'un calcul d'entraînement et d'inférence substantiel, nécessitant souvent des modèles de pointe (des centaines de milliards de paramètres) ou des procédures d'inférence intensives comme une recherche étendue, de l'auto-correction et de larges budgets d'échantillonnage. Cette dépendance est dictée par la rareté des données de preuve vérifiées et les longs tracés de raisonnement requis pour la recherche de preuves formelles, ce qui rend le réglage fin supervisé (SFT) et l'échantillonnage coûteux. Par conséquent, un écart significatif existe entre les petits prouveurs open-source et leurs homologues les plus volumineux, limitant l'accessibilité pour les chercheurs et les praticiens ne disposant pas de ressources de calcul massives.

Méthodologie

Les auteurs introduisent Pythagoras-Prover, une famille de prouveurs Lean 4 open-source économes en calcul. L'approche repose sur un pipeline de données par étapes et une stratégie d'entraînement frugale en calcul plutôt que sur la taille brute du modèle.

1. Construction de Données et Apprentissage par Curriculum

Le corpus d'entraînement est construit en trois niveaux de difficulté (Facile, Moyen, Difficile), tous filtrés par le vérificateur de types de Lean pour garantir la correction :

Niveaux Facile et Moyen : Générés via un pipeline à trois étapes inspiré du concept « Le prouveur de théorèmes comme juge ». Des problèmes en langage naturel provenant de jeux de données tels que DART-Math-Hard, DeepScaleR et OpenR1-Math sont auto-formalisés en énoncés Lean. Les preuves échouées sont analysées, et un processus de distillation guidée par rubriques génère des variantes synthétiques simplifiées ciblant des catégories d'erreurs spécifiques (ex: échecs de tactiques, incompatibilités de types). Ce processus produit une amélioration relative de 30 % des taux de succès de l'auto-formalisation.
Niveau Difficile : Tiré de problèmes de niveau compétition (Olympiades, AIME, AMC) issus de Big-Math-RL-Verified. Contrairement aux niveaux plus faciles, ceux-ci ne sont pas simplifiés afin de préserver leur difficulté pour l'apprentissage par renforcement (RL).
SFT par Curriculum : Les modèles sont entraînés à l'aide d'un curriculum ordonné par difficulté (Facile $\to$ Moyen $\to$ Difficile) avec LoRA (Low-Rank Adaptation) pour maintenir l'efficacité des paramètres. Un schéma de filtrage dynamique du raisonnement de preuve est appliqué lors du SFT pour gérer la limite de contexte de 8k tokens : si la chaîne de raisonnement plus la preuve dépasse la limite, le raisonnement est supprimé tout en conservant la preuve ; si la preuve seule dépasse la limite, l'instance est rejetée.

2. Formalisation Lean Augmentée (ALF) et Auto-distillation

Pour surmonter le goulot d'étranglement du débit de vérification de Lean, les auteurs introduisent l'Augmented Lean Formalisation (ALF).

Mécanisme : ALF applique cinq opérateurs de mutation structurés (simplification, généralisation, proposition de lemme, décomposition d'étape de preuve, reformulation) à des instances de graines vérifiées.
Efficacité : Au lieu de vérifier chaque instance mutée avec Lean (ce qui est trop coûteux en calcul), ALF utilise un contrôle d'alignement d'énoncé léger. Il vérifie que la preuve générée fait référence à l'énoncé muté, assurant la validité structurelle sans compilation complète.
Auto-distillation : Le modèle post-RL génère des preuves pour ces énoncés mutés. Cela étend le corpus d'environ 2,5 $\times$ (jusqu'à ~2M d'instances) sans nécessiter de vérification par instance. Ce corpus étendu est utilisé pour le SFT continu et pour entraîner un prouveur basé sur la diffusion.

3. Architectures de Modèles

La famille couvre deux paradigmes de génération :

Prouveurs Autoregressifs : Modèles de 4B et 32B paramètres entraînés avec le pipeline ci-dessus.
Prouveur basé sur la Diffusion : Pythagoras-Prover-Diffusion-4B, le premier prototype de prouveur basé sur la diffusion pour Lean. Il utilise un masquage par tactique, où des tactiques Lean entières sont masquées et débruitées en tant qu'unités plutôt qu'en tokens individuels, alignant l'objectif de débruitage avec les étapes de raisonnement discrètes.

4. Apprentissage par Renforcement (RL)

Le RL est effectué sur des problèmes difficiles réservés en utilisant GRPO (Group Relative Policy Optimization) avec un réglage fin à paramètres complets. La récompense est binaire (la preuve compile et s'aligne avec l'énoncé). Les auteurs notent que le RL n'apporte que des gains modestes par rapport au modèle curriculum-SFT, suggérant que la haute qualité du corpus supervisé intègre déjà un comportement de recherche de preuve robuste.

Principales Contributions

Prouveurs économes en calcul : Une famille de prouveurs Lean open-source (4B, 32B, et un modèle de diffusion 4B) qui défie l'hypothèse selon laquelle un raisonnement formel fort nécessite des modèles de taille frontalière.
Pipeline de données ALF : Un schéma de mutation structuré qui étend les corpus vérifiés d'environ 2,5 $\times$ en utilisant des contrôles de cohérence légers au lieu de la vérification Lean par instance, découplant ainsi l'expansion du corpus du débit du vérificateur.
Benchmark MiniF2F-ALF : Un benchmark de perturbation sensible à la contamination créé en appliquant des mutations ALF au ensemble de test MiniF2F. Il sert de test de résistance pour évaluer si les modèles reposent sur le rappel exact du benchmark ou s'ils possèdent des comportements de preuve transférables.
Premier Prouveur de Théorèmes par Diffusion : Un prouveur basé sur la diffusion viable pour Lean, démontrant que l'affinement itératif est une stratégie de décodage faisable pour les preuves formelles, malgré les limitations actuelles de longueur de contexte.

Résultats Expérimentaux

Évalués sur MiniF2F-Test, PutnamBench et MiniF2F-ALF :

MiniF2F-Test (Pass@32) :
- Pythagoras-Prover-4B atteint 86,1 %, surpassant DeepSeek-Prover-V2-671B (82,4 %) malgré une taille environ 167 $\times$ plus petite. Il surpasse également Goedel-Prover-V2-8B (84,6 %) et Kimina-Prover-70B (84,0 %).
- Pythagoras-Prover-32B atteint 89,8 %, menant tous les prouveurs open-source évalués sans auto-correction.
MiniF2F-Test (Pass@2048) :
- Pythagoras-Prover-32B atteint 93,03 %, établissant un nouveau record pour les prouveurs neuraux Lean open-weights sans auto-correction, surpassant Goedel-Prover-V2-32B (92,2 % à Pass@8192) avec un quart du budget d'échantillonnage.
PutnamBench :
- Pythagoras-Prover-32B résout 93 problèmes sur 672 à Pass@2048, le meilleur résultat open-source, surpassant Goedel-Prover-V2 (86 à Pass@184 avec auto-correction).
MiniF2F-ALF (Robustesse) :
- Tous les modèles évalués se dégradent sur ce benchmark perturbé, confirmant qu'une haute précision sur le split original ne garantit pas la robustesse aux variantes structurelles.
- Pythagoras-Prover-32B reste le plus fort (85,0 %), et Pythagoras-Prover-4B (83,2 %) atteint la parité avec le Goedel-Prover-V2-32B 8 $\times$ plus grand (83,6 %), se dégradant moins sous la perturbation.
Efficacité de la Diffusion :
- Pythagoras-Prover-Diffusion-4B atteint 63,25 % de Pass@32 sur MiniF2F-Test. Bien que moins précis que son homologue autorégressif, il génère des preuves 2,58 $\times$ plus vite (10,56 vs 4,10 tokens/sec), offrant un meilleur débit par seconde de GPU.

Signification et Revendications

L'article affirme que le prouveur de théorèmes Lean fort ne doit pas reposer exclusivement sur des modèles de taille frontalière. Les résultats démontent que la construction de données soignée (apprentissage par curriculum, augmentation ALF, auto-distillation) et des recettes d'entraînement efficaces (LoRA, filtrage dynamique) peuvent substituer, en partie, la taille brute du modèle.

Plus précisément, les auteurs soulignent :

Efficacité : Pythagoras-Prover-4B surpasse un modèle de 671 milliards de paramètres, suggérant que la recette d'entraînement proposée se transfère proprement aux régimes de petits modèles où les bases de comparaison de l'ordre du milliard sont peu pratiques.
Robustesse : L'utilisation des mutations ALF pendant l'entraînement améliore la robustesse aux perturbations de niveau énoncé, comme en témoigne la plus faible chute de performance sur MiniF2F-ALF par rapport aux autres modèles.
Nouveaux Paradigmes : L'introduction d'un prouveur basé sur la diffusion établit une première base pour l'affinement itératif dans la preuve formelle, ouvrant une direction complémentaire où les prouveurs peuvent être comparés par débit et par preuves par seconde de GPU, et non plus seulement par précision.

Les auteurs concluent que le pipeline de données « frugal en calcul » est le principal moteur de ces résultats, permettant des performances de pointe sous des budgets de calcul pratiques.