💬 NLP

GeometryZero: Advancing Geometry Solving via Group Contrastive Policy Optimization

Das Paper stellt GeometryZero vor, ein kosteneffizientes Modell, das durch den neu entwickelten Group Contrastive Policy Optimization (GCPO)-Algorithmus, welcher kontextsensitive Hilfskonstruktionen und längere Denkketten belohnt, die Geometrie-Lösungsfähigkeit kleinerer Modelle signifikant verbessert.

Ursprüngliche Autoren: Yikun Wang, Yibin Wang, Dianyi Wang, Zimian Peng, Qipeng Guo, Dacheng Tao, Jiaqi Wang

Veröffentlicht 2026-04-21

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Yikun Wang, Yibin Wang, Dianyi Wang, Zimian Peng, Qipeng Guo, Dacheng Tao, Jiaqi Wang

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das Problem: Der verirrte Baumeister

Stell dir vor, du hast einen sehr klugen, aber noch jungen Architekten (das ist das KI-Modell). Wenn du ihm eine geometrische Aufgabe stellst – zum Beispiel: „Berechne den Winkel hier" –, kann er das oft gut lösen.

Aber manchmal ist die Aufgabe tricky. Es fehlt ein entscheidender Baustein. In der Geometrie nennt man das eine Hilfslinie. Das ist wie eine unsichtbare Linie, die du auf das Papier zeichnest, um die Form zu zerlegen oder neue Zusammenhänge zu sehen. Ohne diese Linie ist die Lösung fast unmöglich.

Das Problem bisher war:

Die Großen: Die allerbesten Architekten (wie GPT-4o) können das, kosten aber ein Vermögen und brauchen riesige Rechenzentren.
Die Kleinen: Die kleineren, günstigeren Architekten versuchen zwar, Hilfslinien zu ziehen, aber sie tun es blind. Sie zeichnen Linien, wo gar keine nötig sind, oder sie vergessen wichtige. Es ist, als würde ein Koch bei jedem Gericht Salz hinzufügen, auch wenn es ein Dessert ist. Das macht die Lösung oft schlechter statt besser.

Die Lösung: GeometryZero – Der lernende Architekt

Die Forscher haben eine neue Methode entwickelt, die GeometryZero heißt. Sie haben dem kleinen Architekten beigebracht, nicht nur wie man eine Hilfslinie zieht, sondern vor allem wann man es tun soll.

Stell dir das Training wie ein Videospiel vor:

1. Der alte Weg (GRPO): „Mach immer!"

Früher haben Forscher dem KI-Modell gesagt: „Wenn du eine Hilfslinie zeichnest, bekommst du einen Bonuspunkt!"
Das Problem: Der KI-Modell dachte sich: „Super! Ich zeichne bei jeder Aufgabe eine Linie, auch wenn ich sie gar nicht brauche!" Das führte zu Chaos und falschen Antworten. Es war wie ein Schüler, der bei jedem Matheproblem versucht, eine komplizierte Formel aufzuschreiben, obwohl eine einfache Subtraktion gereicht hätte.

2. Der neue Weg (GCPO): „Denke nach, bevor du handelst!"

Die Forscher haben eine neue Regel erfunden, die sie Gruppen-Kontrastives Lernen nennen. Das klingt kompliziert, ist aber eigentlich wie ein Wettrennen zwischen zwei Teams:

Team A (Der Kreative): Versucht, die Aufgabe mit einer Hilfslinie zu lösen.
Team B (Der Sparsame): Versucht, die Aufgabe ohne Hilfslinie zu lösen.

Das System vergleicht dann beide Teams:

Wenn Team A (mit Linie) die Aufgabe besser löst als Team B, bekommt Team A einen positiven Bonus.
Wenn Team A die Aufgabe schlechter löst (weil die Linie verwirrend war), bekommt es eine Strafe.
Wenn beide gleich gut sind, passiert nichts.

Die Metapher:
Stell dir vor, du bist ein Coach. Du lässt zwei Spieler das gleiche Problem lösen.

Spieler 1 nutzt einen neuen Trick (Hilfslinie).
Spieler 2 nutzt den normalen Weg.
Wenn der Trick hilft, lobst du Spieler 1. Wenn der Trick den Spieler nur ablenkt, sagst du: „Hey, das war unnötig, lass es beim nächsten Mal!"

So lernt das Modell: „Aha! Bei diesem Typ von Aufgabe brauche ich den Trick. Bei jenem Typ nicht." Es entwickelt ein Gefühl dafür, wann es kreativ sein muss und wann es einfach bleiben soll.

3. Der Belohnung für Geduld (Längen-Belohnung)

Außerdem haben die Forscher eine kleine Regel hinzugefügt: „Je länger und genauer du über die Lösung nachdenkst, desto besser." Das verhindert, dass das Modell zu schnell und oberflächlich antwortet. Es zwingt es, tief in die Materie einzutauchen, wie ein Detektiv, der alle Spuren genau prüft, bevor er den Täter nennt.

Das Ergebnis: Ein günstiger Super-Genie

Am Ende haben sie eine Familie von Modellen namens GeometryZero geschaffen (von klein bis mittelgroß).

Sie sind viel günstiger als die riesigen Modelle.
Sie sind schlauer als ihre Vorgänger, weil sie wissen, wann sie eine Hilfslinie brauchen und wann nicht.
In Tests haben sie gezeigt, dass sie komplexe Geometrieaufgaben lösen können, bei denen andere Modelle scheitern oder falsche Linien zeichnen.

Zusammengefasst:
GeometryZero ist wie ein junger Architekt, der nicht mehr blind rumprobiert, sondern gelernt hat, strategisch zu denken. Er weiß genau, wann er eine neue Linie auf das Blatt ziehen muss, um das Rätsel zu lösen, und wann er einfach nur die vorhandenen Linien betrachten soll. Das macht ihn zum perfekten, kostengünstigen Geometrie-Experten.

1. Problemstellung

Das Lösen geometrischer Probleme stellt eine besondere Herausforderung für Large Language Models (LLMs) dar, da es oft nicht nur das Verständnis visueller Kontexte (Diagramme), sondern auch komplexes logisches Schließen erfordert. Ein entscheidender Aspekt beim Lösen solcher Aufgaben ist die konstruktive Hilfslinie (auxiliary construction). Diese Linien können die Problemlösung erheblich vereinfachen, indem sie neue geometrische Beziehungen offenlegen.

Bisherige Ansätze leiden jedoch unter zwei Hauptproblemen:

Abhängigkeit von riesigen Modellen: State-of-the-Art-Lösungen (wie AlphaGeometry2) verlassen sich oft auf extrem große Modelle (z. B. GPT-4o, Gemini), was hohe Rechenkosten und geringe Effizienz bedeutet.
Unkontrollierter Einsatz von Werkzeugen: Bestehende Reinforcement-Learning-Ansätze (wie GRPO oder ToRL) nutzen oft unbedingte Belohnungen (unconditional rewards). Das bedeutet, das Modell wird einfach dafür belohnt, Hilfskonstruktionen vorzunehmen, unabhängig davon, ob diese in einem spezifischen Fall tatsächlich hilfreich sind oder sogar schaden. Dies führt zu einer „indiskriminierenden" Nutzung von Werkzeugen, die in manchen Fällen zu falschen Lösungen führt, da das Modell nicht lernt, wann es eine Hilfskonstruktion verwenden soll und wann es besser ist, direkt zu reasoning.

2. Methodik: Group Contrastive Policy Optimization (GCPO)

Die Autoren schlagen GeometryZero vor, eine Familie von erschwinglichen, spezialisierten Geometrie-Modellen (1,5B bis 7B Parameter), die auf einem neuen RL-Framework namens Group Contrastive Policy Optimization (GCPO) basieren.

GCPO baut auf dem GRPO-Algorithmus (Group Relative Policy Optimization) auf, führt jedoch zwei entscheidende Neuerungen ein, um das Problem der unkontrollierten Werkzeugnutzung zu lösen:

A. Group Contrastive Masking (Gruppen-Kontrastives Maskieren)

Dies ist der Kern der Methode. Anstatt das Modell pauschal für das Erstellen von Hilfslinien zu belohnen, bewertet GCPO den kontextuellen Nutzen dieser Konstruktionen:

Während des Trainings werden für eine gegebene Frage drei Gruppen von Rollouts (Antworten) generiert:
1. Normale Antworten ( $O$ ).
2. Antworten, die zwingend eine Hilfskonstruktion beinhalten ( $O_w$ ).
3. Antworten, bei denen Hilfskonstruktionen verboten sind ( $O_{wo}$ ).
Die Genauigkeit (Accuracy Reward) dieser Gruppen wird verglichen.
Maskierungslogik:
- Wenn die Gruppe mit Hilfskonstruktionen ( $O_w$ ) signifikant bessere Ergebnisse liefert als die Gruppe ohne ( $O_{wo}$ ), wird die Hilfskonstruktion positiv belohnt (Maskierung auf +1).
- Wenn die Gruppe ohne Hilfskonstruktionen besser abschneidet, wird die Hilfskonstruktion bestraft (Maskierung auf -1).
- Bei unklarem Vorteil wird die Belohnung auf 0 gesetzt.
Dies ermöglicht es dem Modell zu lernen, strategisch zu entscheiden, ob eine Hilfskonstruktion in einer spezifischen Situation vorteilhaft oder nachteilig ist.

B. Length Reward (Längen-Belohnung)

Da geometrisches Schließen mit Hilfskonstruktionen oft tiefgründigere und mehrdimensionale Analysen erfordert, führt das Paper eine Längen-Belohnung ein. Diese ermutigt das Modell, längere und detailliertere Denkketten (Reasoning Chains) zu generieren, ohne dabei die Qualität zu opfern. Dies inspiriert sich von LCPO (Length Controlled Policy Optimization).

Die finale Belohnungsfunktion kombiniert die Standard-Genauigkeitsbelohnung, die maskierte Hilfskonstruktions-Belohnung und die Längen-Belohnung.

3. Wichtige Beiträge

Validierung des selektiven Einsatzes: Die Studie zeigt, dass LLMs komplexe geometrische Aufgaben besser lösen, wenn sie lernen, Hilfskonstruktionen selektiv und kontextabhängig einzusetzen, anstatt sie immer anzuwenden.
GCPO-Algorithmus: Einführung einer neuen RL-Methode, die durch kontrastive Gruppenvergleiche bedingte Belohnungssignale (positiv, negativ oder null) für Werkzeugnutzung bereitstellt. Dies verhindert die „Blindheit" gegenüber unnötigen Werkzeugen.
GeometryZero-Familie: Entwicklung einer Reihe von leichten Modellen (1,5B – 7B), die in der Lage sind, autonom zu entscheiden, wann sie Hilfslinien konstruieren (z. B. via TikZ-Code oder logischen Formeln). Diese Modelle übertreffen deutlich größere Baselines in Bezug auf Effizienz und Leistung.

4. Ergebnisse

Die Experimente wurden auf mehreren Benchmarks durchgeführt, darunter Geometry3K, Geomverse, MathVista und OlympiadBench.

Überlegenheit gegenüber Baselines: GeometryZero-Modelle (z. B. die 7B-Variante) übertreffen konsistent RL-Baselines wie GRPO und ToRL (Tool-Integrated RL) sowie SFT-Modelle (Supervised Fine-Tuning).
- Auf dem 7B-Modell erreicht GeometryZero eine durchschnittliche Genauigkeit von 57,47 % über alle Benchmarks, verglichen mit 55,63 % für GRPO und 54,72 % für ToRL.
Generalisierung: Die Modelle zeigen eine starke Leistung sowohl auf In-Domain-Daten (Geometry3K) als auch auf Out-of-Distribution-Daten (MathVista, OlympiadBench), was auf eine echte Fähigkeit zum logischen Schlussfolgern und nicht nur auf Auswendiglernen hindeutet.
Visuelle vs. Textuelle Modelle: Auch auf Vision-Language-Modellen (Qwen2.5-VL-7B) angewendet, zeigt GCPO Verbesserungen. Interessanterweise performten die rein textbasierten Modelle (mit formalisierten Diagrammen) sogar besser als die visuellen Modelle, was darauf hindeutet, dass formale Sprache für das Chain-of-Thought-Reasoning präziser ist.
Ablationsstudien: Die Studie bestätigt, dass sowohl das Group Contrastive Masking als auch der Length Reward essenziell für die Leistung sind. Das Entfernen dieser Komponenten führt zu einem signifikanten Leistungsabfall.

5. Bedeutung und Fazit

Das Paper „GeometryZero" adressiert eine kritische Lücke in der KI-Forschung für mathematisches Reasoning: Die Fähigkeit, Werkzeuge (hier: Hilfskonstruktionen) nicht nur zu beherrschen, sondern auch deren Einsatzzeitpunkt intelligent zu steuern.

Effizienz: Es demonstriert, dass kleinere Modelle (unter 7B Parametern) durch fortschrittliche RL-Methoden (GCPO) die Leistung von riesigen Modellen (wie GPT-4o) in spezifischen Domänen erreichen oder übertreffen können.
Robustheit: Durch das Lernen, wann nicht zu handeln ist (keine Hilfslinie zu zeichnen), werden Modelle robuster gegen Fehler, die durch übermäßige Komplexität entstehen.
Zukunftsperspektive: Der Ansatz bietet einen neuen Rahmen für das Training von Agenten, die Werkzeuge in komplexen Umgebungen situativ und effizient nutzen müssen, und geht über die reine Mathematik hinaus, indem er Prinzipien für das „intelligente Tool-Use" in LLMs etabliert.

Zusammenfassend zeigt GeometryZero, dass durch gezieltes Reinforcement Learning mit bedingten Belohnungen (Conditional Rewards) kleine, kosteneffiziente Modelle in der Lage sind, menschenähnliche Strategien im geometrischen Problemlösen zu entwickeln.