💬 NLP

MathFimer: Enhancing Mathematical Reasoning by Expanding Reasoning Steps through Fill-in-the-Middle Task

Das Paper stellt MathFimer vor, ein Framework, das durch die Nutzung einer „Fill-in-the-middle"-Aufgabe fehlende Zwischenschritte in mathematischen Lösungsketten rekonstruiert und so die mathematischen Fähigkeiten von Sprachmodellen ohne den Einsatz leistungsstarker externer Modelle oder hoher Kosten verbessert.

Ursprüngliche Autoren: Yuchen Yan, Yongliang Shen, Yang Liu, Jin Jiang, Xin Xu, Mengdi Zhang, Jian Shao, Yueting Zhuang

Veröffentlicht 2026-02-26

📖 3 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Yuchen Yan, Yongliang Shen, Yang Liu, Jin Jiang, Xin Xu, Mengdi Zhang, Jian Shao, Yueting Zhuang

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stell dir vor, du möchtest jemandem beibringen, wie man ein komplexes mathematisches Rätsel löst. Du schreibst eine Anleitung auf ein Blatt Papier. Aber die Anleitung ist etwas zu knapp: Sie springt von "Schritt 1" direkt zu "Schritt 3", ohne zu erklären, was genau in "Schritt 2" passiert.

Ein Computermodell (ein KI-Modell), das diese Anleitung liest, wird verwirrt sein. Es weiß nicht, wie es von A nach B kommt, und macht Fehler.

Das ist genau das Problem, das die Forscher in diesem Papier mit MathFimer lösen wollen. Hier ist die Erklärung in einfachen Worten, mit ein paar bildhaften Vergleichen:

1. Das Problem: Die "Lücken" im Denken

Bisher haben KIs beim Lösen von Matheaufgaben oft nur die groben Endergebnisse gelernt. Es ist, als würdest du einem Schüler nur die Endergebnisse einer langen Rechnung zeigen, ohne die Zwischenschritte zu erklären. Der Schüler (die KI) kann die Aufgabe dann oft nicht selbstständig lösen, weil ihm die "Logik der Brücke" fehlt.

Frühere Methoden, um diese Lücken zu füllen, waren wie der Versuch, einen besseren Lehrer zu finden, der die Lücken ausfüllt. Das ist aber teuer und langsam, weil man immer noch "stärkere" KIs braucht, um den schwächeren zu helfen.

2. Die Lösung: Der "Lückenfüller" (Fill-in-the-Middle)

Die Forscher haben eine clevere Idee aus der Programmierung entliehen. Stell dir vor, du hast einen Text, bei dem ein ganzer Absatz fehlt, aber der Anfang und das Ende stehen noch da. Ein sehr guter Texter kann den fehlenden Teil erraten und einfügen.

Das nennen sie FIM (Fill-in-the-Middle).

MathFimer ist wie ein spezialisiertes Werkzeug, das genau das für Matheaufgaben macht:

Es nimmt eine bestehende Matheaufgabe mit einer Lösung.
Es schneidet einen Schritt aus der Mitte heraus (wie ein Puzzle-Teil).
Es trainiert eine KI, diesen fehlenden Schritt basierend auf dem, was davor und danach steht, wiederherzustellen.

3. Der Bau des Werkzeugs (Das Training)

Die Forscher haben eine riesige Bibliothek mit Matheaufgaben (NuminaMath) genommen. Sie haben diese Aufgaben in viele kleine Schritte zerlegt und dann absichtlich Schritte entfernt.

Die Übung: "Hier ist der Anfang der Rechnung, hier ist das Ende. Was fehlt in der Mitte?"
Das Ergebnis: Sie haben eine neue KI namens MathFimer gebaut, die darin geübt ist, logische Lücken in mathematischen Gedankengängen zu füllen.

4. Die Anwendung: Den "Dünnschicht-Käse" aufdicken

Sobald MathFimer trainiert ist, nutzen sie es wie einen Verstärker:

Sie nehmen alte, etwas dünnere Matheaufgaben.
MathFimer schaut sich die Schritte an und fügt dazwischen detaillierte Erklärungen ein.
Aus "Schritt 1 -> Schritt 2" wird "Schritt 1 -> detaillierte Erklärung, warum wir hier so rechnen -> Schritt 2".

Das ist wie beim Backen: Wenn dein Kuchen etwas trocken ist, gibst du nicht einfach mehr Mehl hinzu. Du fügst eine extra Schicht Sahne oder einen neuen Geschmack hinzu, um ihn saftiger und reicher zu machen. MathFimer macht die "Logik-Schichten" der KI dicker und reicher.

5. Das Ergebnis: Besser ohne teure Helfer

Das Tolle an dieser Methode ist:

Keine teuren Supercomputer nötig: Man braucht keine riesigen, extrem teuren KIs, um die Lücken zu füllen. MathFimer ist klein und effizient.
Bessere Ergebnisse: KIs, die mit diesen "angereicherten" Aufgaben trainiert wurden, sind deutlich besser in Mathe. Sie verstehen nicht nur das Ergebnis, sondern den Weg dorthin.
Vielseitig: Es funktioniert nicht nur für Mathe, sondern hilft auch beim logischen Denken in anderen Bereichen.

Zusammenfassung in einem Satz

MathFimer ist wie ein geduldiger Nachhilfelehrer, der alte, knappe Matheaufgaben nimmt und sie mit zusätzlichen, klaren Erklärungen anreichert, damit die KI den Denkprozess wirklich versteht und dadurch viel besser wird – und das alles ohne teure neue Supercomputer.

1. Problemstellung

Mathematisches Schlussfolgern (Mathematical Reasoning) ist eine kritische Herausforderung für Large Language Models (LLMs). Obwohl Ansätze wie Chain-of-Thought (CoT) die Leistung verbessert haben, hängt die Qualität der Modelle stark von der Granularität und Vollständigkeit der Zwischenschritte in den Trainingsdaten ab.
Bestehende Methoden zur Erweiterung dieser Denkketten (Step Expansion) weisen jedoch erhebliche Nachteile auf:

Abhängigkeit von stärkeren Modellen: Oft werden noch leistungsfähigere externe Modelle benötigt, um bessere Schritte zu generieren, was einen kostspieligen Kreislauf erzeugt.
Hohe Rechenkosten: Techniken wie Monte-Carlo-Baum-Suche (MCTS) sind extrem rechenintensiv.
Zuverlässigkeitsprobleme: Die Generierung völlig neuer Denkketten kann zu Fehlern führen und die Validität menschlich verifizierter Lösungen untergraben.

Das Ziel ist es, eine effiziente und zuverlässige Methode zu finden, um bestehende, korrekte Lösungen durch Hinzufügen detaillierter Zwischenschritte zu verbessern, ohne dabei neue Fehler einzuführen oder massive Ressourcen zu verbrauchen.

2. Methodik: MathFimer

Die Autoren stellen MathFimer vor, ein Framework, das vom „Fill-in-the-Middle" (FIM)-Task aus dem Bereich des Code-Reasonings inspiriert ist. Statt ganze neue Lösungen zu generieren, füllt das Modell Lücken in existierenden Lösungspfaden.

Der Prozess gliedert sich in zwei Hauptphasen:

A. Datensatzkonstruktion (NuminaMath-FIM)

Quelldaten: Ausgehend von dem hochwertigen Datensatz NuminaMath-CoT werden die Lösungen schrittweise zerlegt.
FIM-Formatierung: Für jede Aufgabe wird ein zufälliger Schritt ausgewählt. Die vorherigen Schritte bilden das Prefix (P), die nachfolgenden Schritte das Suffix (S), und der ausgewählte Schritt wird als Middle (M) maskiert.
Training: Das Modell lernt, basierend auf dem Kontext (P und S), den fehlenden mittleren Schritt (M) wiederherzustellen. Dies wird durch spezielle Tokens (<|fim_prefix|>, <|fim_middle|>, <|fim_suffix|>) strukturiert.
Datengröße: Es wurden 2,5 Millionen Trainingsbeispiele für die FIM-Aufgabe erstellt.

B. Training des FIM-Modells

Basis-Modell: Ein auf Mathematik spezialisiertes Modell, Qwen2.5-Math-7B, wurde mittels Supervised Fine-Tuning (SFT) auf dem NuminaMath-FIM-Datensatz trainiert.
Ergebnis: Das resultierende Modell heißt MathFimer-7B. Es ist darauf spezialisiert, fehlende oder zu knappe Zwischenschritte in mathematischen Lösungen zu rekonstruieren.

C. Erweiterung bestehender Datensätze

Das trainierte MathFimer-7B wird angewendet, um existierende mathematische Datensätze (z. B. MathInstruct, MetaMathQA) zu erweitern:

Zwischen jedem Paar aufeinanderfolgender Schritte in einer Originallösung wird eine Inferenz durchgeführt, um potenzielle fehlende Schritte zu generieren.
Ähnlichkeitsfilter: Um zu verhindern, dass das Modell redundante Inhalte generiert (wenn die Originalschritte bereits detailliert genug sind), wird eine Ähnlichkeitsprüfung zwischen dem generierten Schritt und dem folgenden Originalschritt durchgeführt. Schritte mit einer Ähnlichkeit über einem Schwellenwert (hier $\eta = 0.8$ ) werden verworfen.
Die validierten neuen Schritte werden in die ursprüngliche Lösung eingefügt, um eine detailliertere Denkkette zu erzeugen.

3. Wichtige Beiträge

Neues Framework: Einführung von MathFimer, das den FIM-Paradigmen aus dem Code-Bereich erfolgreich auf mathematisches Reasoning überträgt, um Schritt-für-Schritt-Erweiterungen durchzuführen.
Ressourcen und Datensatz: Veröffentlichung des spezialisierten Datensatzes NuminaMath-FIM und des Modells MathFimer-7B. Dies bietet eine skalierbare Lösung, die keine extrem großen externen Modelle benötigt.
Empirische Validierung: Umfassende Experimente zeigen, dass die Erweiterung der Schritte die Leistung konsistent verbessert, unabhängig von der Basis-Architektur (allgemeine vs. mathematisch spezialisierte Modelle).

4. Ergebnisse

Die Evaluierung erfolgte auf mehreren Benchmarks (GSM8K, MATH, Math Odyssey, OlympiadBench-EN) mit verschiedenen Basis-Modellen (Llama-3.1, Qwen2.5-Math).

Leistungssteigerung: Modelle, die auf den durch MathFimer erweiterten Daten trainiert wurden, erzielten konsistent bessere Ergebnisse als solche, die auf den Originaldaten trainiert wurden.
- Beispiel: Auf Meta-Llama3.1-8B mit dem MathInstruct-CoT-Datensatz stieg die durchschnittliche Genauigkeit von 27,75 % auf 31,52 % (+3,77 Prozentpunkte).
- Auf Qwen2.5-Math-72B mit MetaMathQA wurde eine Steigerung von 52,71 % auf 57,14 % (+4,43 Prozentpunkte) erreicht.
Iterative Skalierbarkeit: Mehrfache Iterationen der Schritterweiterung führen zu weiteren Verbesserungen, was zeigt, dass das Modell komplexe Denkketten schrittweise verfeinern kann.
Qualitätssicherung: Die generierten Schritte behielten eine hohe Korrektheit bei (gemessen durch Process Reward Models, PRM), wobei die PRM-Scores der erweiterten Schritte oft denen der Originalschritte entsprachen oder diese sogar übertrafen.
Vergleich mit anderen Methoden: MathFimer übertraf Prompt-basierte Füllmethoden (Zero-Shot mit allgemeinen Modellen) deutlich und war rechnerisch effizienter als Reinforcement-Learning-Ansätze (wie PPO) oder DPO, da es keine teure Belohnungsmodellierung erfordert.
Generalisierung: Die Methode zeigte positive Effekte auch auf Out-of-Distribution-Aufgaben (z. B. logisches oder wissenschaftliches Reasoning), was auf eine allgemeine Verbesserung der Schlussfolgerungsfähigkeit hindeutet.

5. Bedeutung und Fazit

MathFimer adressiert das fundamentale Problem der Qualität von Trainingsdaten für mathematisches Reasoning, ohne auf kostspielige externe Ressourcen angewiesen zu sein.

Effizienz: Es ermöglicht die Verbesserung von LLMs durch das „Verfeinern" bestehender, korrekter Daten statt der Generierung neuer, potenziell fehlerhafter Daten.
Skalierbarkeit: Der Ansatz funktioniert effektiv mit kleineren Modellen (z. B. 7B Parameter) und ist leicht auf verschiedene Domänen übertragbar.
Synergie: Die Methode ist orthogonal zu anderen Optimierungstechniken wie RL (Reinforcement Learning) und kann als hochwertigerer Startpunkt für solche Verfahren dienen.

Zusammenfassend demonstriert das Paper, dass die gezielte Vergrößerung der Granularität von Denkketten durch FIM-Training ein leistungsfähiger Hebel ist, um die mathematischen Fähigkeiten von LLMs signifikant zu steigern.