💬 NLP

GeometryZero: Advancing Geometry Solving via Group Contrastive Policy Optimization

O artigo apresenta o GeometryZero, um modelo de raciocínio geométrico treinado com a nova técnica de Otimização de Política de Contraste em Grupo (GCPO), que supera métodos anteriores ao ensinar modelos menores a realizar construções auxiliares contextualmente úteis e cadeias de raciocínio mais longas, alcançando desempenho superior em benchmarks como Geometry3K e MathVista.

Autores originais: Yikun Wang, Yibin Wang, Dianyi Wang, Zimian Peng, Qipeng Guo, Dacheng Tao, Jiaqi Wang

Publicado 2026-04-21

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Yikun Wang, Yibin Wang, Dianyi Wang, Zimian Peng, Qipeng Guo, Dacheng Tao, Jiaqi Wang

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está tentando resolver um quebra-cabeça de matemática complexo, como um problema de geometria. Às vezes, a resposta está escondida, e você precisa "desenhar uma linha extra" no papel para ver o caminho claro. Em inglês, chamamos isso de auxiliary construction (construção auxiliar).

O problema é que os modelos de inteligência artificial (IA) atuais têm um dilema:

Não desenham nada: Eles tentam adivinhar a resposta sem ajuda e falham.
Desenham demais: Eles desenham linhas extras em toda questão, mesmo quando não é necessário. Isso é como tentar usar um martelo para abrir uma porta; às vezes funciona, mas na maioria das vezes só atrapalha e gasta energia.

O artigo GeometryZero apresenta uma nova solução para ensinar as IAs a serem mais espertas sobre quando e como usar essas "linhas extras".

Aqui está a explicação simplificada, usando analogias do dia a dia:

1. O Problema: O Aluno que Desenha Tudo

Antes, os pesquisadores tentavam treinar IAs usando uma técnica chamada GRPO. Pense no GRPO como um professor que diz: "Sempre que você desenhar uma linha extra, você ganha um ponto!".

O resultado: A IA aprende a desenhar linhas em tudo. Ela fica obcecada em usar a ferramenta, mesmo quando o problema é simples e não precisa disso. Isso gera confusão e erros.

2. A Solução: O Treinador "Contrastivo" (GCPO)

Os autores criaram um novo método chamado GCPO (Otimização de Política de Contraste em Grupo). Imagine que, em vez de um professor que só dá pontos, temos um treinador de futebol muito esperto.

Esse treinador não diz "faça sempre". Ele faz o seguinte:

Ele pega um grupo de jogadores e pede para eles tentarem resolver o jogo com uma tática especial (desenhar a linha).
Ele pega outro grupo e pede para resolver sem a tática.
A Mágica (Máscara de Contraste):
- Se o time que usou a tática ganhou, o treinador diz: "Ótimo! Usem essa tática na próxima!" (Recompensa positiva).
- Se o time que usou a tática perdeu ou fez confusão, o treinador diz: "Pare! Essa tática atrapalhou vocês. Não usem!" (Punição).
- Se a tática não fez diferença, ele ignora.

Isso ensina a IA a ser seletiva. Ela aprende a pensar: "Neste problema, uma linha extra vai me ajudar. Neste outro, vou resolver direto."

3. O "Pensamento Longo" (Recompensa de Comprimento)

Além de ensinar quando desenhar, o sistema também incentiva a IA a pensar mais a fundo.

Imagine que resolver um problema de geometria é como escrever uma história. Se você for muito rápido, a história fica curta e sem sentido.
O GeometryZero dá um "ponto bônus" para respostas mais longas e detalhadas. Isso força a IA a não pular etapas, a refletir sobre seus erros e a construir um raciocínio sólido antes de dar a resposta final. É como incentivar o aluno a mostrar todo o cálculo, não apenas o resultado.

4. O Resultado: GeometryZero

Com esse novo método, eles criaram uma família de modelos chamados GeometryZero.

Eles são "leves" (não precisam de supercomputadores gigantes como o GPT-4).
Eles são "espertos": conseguem decidir sozinhos se precisam ou não de ajuda.
O Teste: Em provas reais de matemática (como o MathVista e Geometry3K), o GeometryZero bateu os modelos anteriores. Ele não só acertou mais, mas também mostrou que consegue "refletir" sobre o problema, corrigindo seus próprios erros no meio do caminho.

Resumo em uma frase

O GeometryZero é como um aluno que parou de desenhar linhas aleatórias em todo o caderno e aprendeu a usar o lápis apenas nos momentos certos, pensando profundamente antes de agir, tudo isso graças a um novo tipo de "treinador" (o GCPO) que recompensa a inteligência, não apenas a ação.

Por que isso importa?
Porque torna a resolução de problemas complexos mais barata e acessível. Não precisamos mais de IAs gigantescas e caras para resolver geometria; modelos menores e mais eficientes podem fazer o trabalho com mais precisão.

1. O Problema

A resolução de problemas de geometria é uma tarefa desafiadora para os Modelos de Linguagem de Grande Escala (LLMs), pois frequentemente exige não apenas raciocínio lógico, mas também a construção de linhas auxiliares (como traçar linhas pontilhadas ou adicionar pontos) para revelar propriedades geométricas ocultas.

As abordagens existentes apresentam duas limitações principais:

Desempenho Insuficiente ou Custo Elevado: Métodos anteriores ou falham em problemas complexos ou dependem de modelos massivos (como GPT-4o ou Gemini), o que torna a solução cara e difícil de implantar.
Uso Indiscriminado de Ferramentas: Técnicas de Aprendizado por Reforço (RL) recentes, como o GRPO (Group Relative Policy Optimization), tendem a recompensar o uso de ferramentas (como a construção de linhas auxiliares) de forma incondicional. Isso leva os modelos a construírem linhas auxiliares desnecessárias ou até prejudiciais em problemas que poderiam ser resolvidos por raciocínio direto, resultando em erros e ineficiência.

2. Metodologia: GCPO e GeometryZero

Os autores propõem o GeometryZero, uma família de modelos de raciocínio geométrico leves (de 1.5B a 7B parâmetros), treinados com uma nova arquitetura de RL chamada Group Contrastive Policy Optimization (GCPO).

A GCPO introduz duas inovações principais para superar as limitações do GRPO padrão:

A. Máscara de Contraste de Grupo (Group Contrastive Masking)

Diferente do GRPO, que aplica recompensas incondicionais, a GCPO avalia dinamicamente se a construção de linhas auxiliares é benéfica para um problema específico.

Mecanismo: Durante o treinamento, o modelo gera três grupos de respostas (rollouts):
1. Respostas padrão.
2. Respostas forçadas a incluir construção auxiliar ( $O_w$ ).
3. Respostas proibidas de usar construção auxiliar ( $O_{wo}$ ).
Lógica de Recompensa: O sistema compara a precisão média entre os grupos com e sem construção auxiliar.
- Se o grupo com construção auxiliar tiver desempenho significativamente melhor, a recompensa pela construção é positiva (incentivada).
- Se o grupo sem construção auxiliar for melhor (indicando que a construção foi desnecessária ou prejudicial), a recompensa é negativa (penalizada).
- Se a diferença for insignificante, a recompensa é zero.
Objetivo: Ensinar o modelo a decidir quando e quando não usar ferramentas de construção, evitando o uso cego.

B. Recompensa de Comprimento (Length Reward)

Inspirado no LCPO, o método introduz uma recompensa que incentiva cadeias de raciocínio mais longas e profundas.

Como a construção de linhas auxiliares e o raciocínio geométrico complexo exigem mais passos de pensamento, essa recompensa penaliza respostas muito curtas e incentiva a exploração de múltiplas dimensões analíticas antes de chegar à conclusão.

C. Representação Formal

Os modelos convertem contextos visuais (diagramas geométricos) em linguagens formais (código Python/TikZ ou lógica formal) para realizar o raciocínio, permitindo que o modelo "desenhe" mentalmente as linhas auxiliares através de código executável.

3. Principais Contribuições

Validação da Construção Auxiliar Condicional: Demonstram que LLMs podem resolver tarefas geométricas complexas de forma superior quando aprendem a utilizar construções auxiliares seletivamente, em vez de aplicá-las indiscriminadamente.
Novo Algoritmo de RL (GCPO): Propõem um framework que fornece sinais de recompensa condicionais (encorajamento ou punição) baseados no benefício quantitativo da ferramenta, superando as limitações de recompensas incondicionais.
Família GeometryZero: Desenvolvem e avaliam uma série de modelos leves (1.5B, 3B, 7B) especializados em geometria, que superam modelos muito maiores e métodos de RL anteriores (como ToRL e GRPO puro) em eficiência e precisão.

4. Resultados Experimentais

Os experimentos foram conduzidos em benchmarks de geometria in-domain (Geometry3K, Geomverse) e out-of-domain (MathVista, OlympiadBench).

Desempenho Superior: O GeometryZero (com GCPO) superou consistentemente as linhas de base (SFT, GRPO e ToRL) em todos os tamanhos de modelo e benchmarks.
- Exemplo: No modelo de 7B, o GeometryZero alcançou uma média de 57.47%, superando o GRPO (55.63%) e o ToRL (54.72%).
Generalização: O modelo demonstrou forte capacidade de generalização em problemas fora da distribuição de treinamento (OOD), como no MathVista e OlympiadBench.
Comparação com Visão Computacional: Mesmo em modelos Visão-Linguagem (VL), o GeometryZero-VL superou as linhas de base, embora modelos puramente textuais com descrições formais tenham mostrado ligeira vantagem, sugerindo que a representação formal é crucial para o raciocínio.
Análise de Ablação: A remoção de qualquer componente (Recompensa Auxiliar, Máscara de Contraste ou Recompensa de Comprimento) resultou em queda de desempenho, validando a necessidade de todos os três elementos.
Dinâmica de Treinamento: Observou-se que o GCPO incentiva cadeias de raciocínio mais longas e complexas, com um padrão de "crescimento-decrescimento-crescimento" no comprimento da resposta, indicando que o modelo aprende a refinar seu raciocínio ao longo do tempo.

5. Significado e Impacto

O trabalho GeometryZero é significativo por várias razões:

Eficiência de Custo: Demonstra que modelos de tamanho moderado (7B) podem atingir desempenho de ponta em geometria complexa, eliminando a dependência de modelos gigantes e caros.
Raciocínio Adaptativo: Resolve o problema fundamental de "quando usar ferramentas" em RL, um passo importante para agentes de IA que precisam decidir autonomamente entre raciocínio direto e uso de ferramentas externas.
Acessibilidade: Ao fornecer modelos leves e código aberto, torna o raciocínio geométrico avançado mais acessível para aplicações práticas e pesquisas futuras.
Inovação em RLVR: Avança o estado da arte em Aprendizado por Reforço com Recompensas Verificáveis (RLVR), mostrando como recompensas condicionais e contrastivas podem moldar comportamentos complexos de raciocínio.

Em resumo, o GeometryZero estabelece um novo paradigma para a resolução de problemas geométricos, onde a inteligência não reside apenas em "fazer mais cálculos", mas em saber estrategicamente "quando e como" alterar a representação do problema para encontrar a solução.