Achieving Olympia-Level Geometry Large Language Model Agent via Complexity Boosting Reinforcement Learning

Each language version is independently generated for its own context, not a direct translation.

Imagine que você está tentando resolver um quebra-cabeça matemático extremamente difícil, como os que aparecem nas Olimpíadas Internacionais de Matemática (IMO). Para a maioria das pessoas (e até para muitos computadores), esses problemas de geometria são como labirintos sem saída. Você precisa desenhar linhas e pontos extras (chamados de "construções auxiliares") que não estão no desenho original, apenas para conseguir ver o caminho para a solução. O problema é que não existe uma "receita de bolo" para saber onde desenhar essas linhas; é mais uma questão de intuição e tentativa e erro.

Até agora, os melhores computadores para isso eram como "super-robôs" treinados com milhões de exemplos, mas que precisavam de uma quantidade gigantesca de dados e força bruta para funcionar.

Agora, apresentamos o InternGeometry, um novo "agente" (um tipo de inteligência artificial) que mudou as regras do jogo. Aqui está como ele funciona, explicado de forma simples:

1. O Agente é como um Arquiteto que Pensa e Testa

Diferente dos robôs antigos que apenas tentavam adivinhar, o InternGeometry age como um arquiteto humano muito persistente:

Pensa: Ele olha para o problema e diz: "E se eu desenhar uma linha aqui?"
Testa: Ele pede para um "engenheiro de verificação" (um motor simbólico) desenhar essa linha e ver se ela faz sentido matematicamente.
Reflete: Se o engenheiro disser "Isso não funciona", o agente não desiste. Ele diz: "Ok, essa ideia foi ruim. Vamos tentar outra."
Lembra: Ele tem uma "memória dinâmica". Em vez de esquecer o que tentou há 50 passos atrás, ele resume o que aprendeu, mantendo o foco no que já funcionou e no que falhou. Isso permite que ele faça mais de 200 tentativas por problema, algo que outros modelos não conseguiam fazer sem se perder.

2. O Treinamento: A Escada de Dificuldade (CBRL)

Aqui está a parte mais brilhante do treinamento deles. Imagine que você quer ensinar alguém a nadar.

O jeito antigo: Jogar a pessoa direto no mar com ondas gigantes (problemas difíceis) e esperar que ela aprenda. Ou, dar apenas exercícios de piscina rasa (problemas fáceis) e nunca deixá-la sair da margem.
O jeito do InternGeometry (CBRL): Eles criaram um sistema de "aprendizado por complexidade crescente".
1. Começam com problemas fáceis.
2. Quando o agente acerta, eles aumentam um pouco a dificuldade.
3. Se ele erra muito, eles diminuem um pouco.
4. O sistema ajusta automaticamente o nível do "mar" para que o agente esteja sempre no ponto ideal: nem tão fácil que seja chato, nem tão difícil que ele desista. Isso faz o agente aprender muito mais rápido e com menos dados.

3. O Resultado: Um Medalhista com Poucos Recursos

O resultado é impressionante:

O InternGeometry resolveu 44 dos 50 problemas mais difíceis das Olimpíadas de 2000 a 2024.
Ele superou a média de medalhistas de ouro reais (que resolveriam cerca de 40,9 problemas).
O grande truque: Enquanto o modelo anterior mais famoso (AlphaGeometry 2) precisou de 300 milhões de exemplos de treinamento, o InternGeometry aprendeu tudo com apenas 13.000 exemplos. É como se ele tivesse aprendido a tocar piano com apenas 0,004% das horas de prática que o outro precisou.

4. Criatividade Real

O mais legal é que, às vezes, o InternGeometry encontra soluções que nem os humanos encontraram. Em um problema famoso de 2018, enquanto os humanos usavam métodos complexos de trigonometria, o agente inventou uma construção geométrica elegante e nova, mostrando que ele não apenas "decorou" respostas, mas realmente aprendeu a pensar geometricamente.

Resumo em uma Analogia

Se a resolução de problemas de geometria fosse uma corrida de obstáculos:

Os modelos antigos eram como caminhões de bombeiros: enormes, potentes, mas que precisavam de estradas gigantes (muitos dados) e muita água para apagar qualquer incêndio.
O InternGeometry é como um maratonista de elite: ele é ágil, usa uma estratégia inteligente de ritmo (a escada de dificuldade), tem uma memória de corrida incrível e consegue correr a mesma distância com uma fração da energia (dados) que os caminhões gastam.

Essa pesquisa mostra que, com a estratégia certa, a inteligência artificial não precisa apenas de "mais dados", mas de "melhor aprendizado", podendo atingir níveis de genialidade humana com muito mais eficiência.

Each language version is independently generated for its own context, not a direct translation.

Título: Alcançando o Nível Olímpico em Geometria com Agentes de LLM via Aprendizado por Reforço de Aumento de Complexidade

1. O Problema

Os Grandes Modelos de Linguagem (LLMs) demonstraram habilidades notáveis na resolução de problemas matemáticos gerais e até mesmo de nível da Olimpíada Internacional de Matemática (IMO), especialmente quando auxiliados por sistemas de prova formal. No entanto, a geometria permanece um domínio desafiador onde os agentes LLM ainda são inferiores aos modelos especialistas dedicados (como o AlphaGeometry 2).

As principais dificuldades na geometria de nível olímpico incluem:

Construções Auxiliares Criativas: A solução frequentemente exige a adição de pontos, linhas ou círculos não óbvios, que possuem heurísticas fracas e exigem múltiplas tentativas.
Dependência de Dados Sintéticos Massivos: Os métodos atuais de ponta (SOTA) dependem pesadamente de síntese de dados em larga escala e busca exaustiva para treinar modelos especialistas.
Limitações de Generalização: Os modelos existentes muitas vezes falham em generalizar para problemas novos sem dados de treinamento específicos, devido à falta de raciocínio heurístico profundo.

O objetivo deste trabalho é investigar se um agente baseado em LLM pode superar essas limitações, alcançando desempenho de nível de medalhista em geometria com eficiência de dados e generalização superiores.

2. Metodologia

Os autores propõem o InternGeometry, um agente LLM projetado para resolver problemas de geometria através de interações de longo prazo com um motor de prova simbólica. A abordagem combina três pilares principais:

A. O Agente e o Motor de Prova (InternGeometry-DDAR)

Motor Simbólico: O sistema utiliza uma versão aprimorada do Newclid (um motor de dedução de banco de dados), chamado InternGeometry-DDAR. Este motor suporta estruturas geométricas complexas, ajuste dinâmico de diagramas e tratamento de "pontos duplos" (pontos distintos com coordenadas idênticas).
Interação LLM-Tool: O agente opera em um ciclo iterativo:
1. Pensamento (Think): O LLM raciocina em linguagem natural sobre o estado atual e planeja a próxima ação.
2. Ação (Action): O agente emite comandos estruturados em uma Linguagem Específica de Domínio (DSL) para:
  - Adicionar construções auxiliares (ex: traçar uma linha, definir um ponto).
  - Propor proposições (sub-objetivos de prova) para verificação.
3. Feedback: O motor executa a ação e retorna o resultado (sucesso, falha ou novas propriedades geométricas descobertas).
Memória Dinâmica: Para lidar com trajetórias de raciocínio que podem exceder 200 interações, o agente emprega um gerenciador de memória que comprime o histórico de interações, mantendo apenas as ações essenciais e feedbacks críticos, evitando o "colapso de ação" (repetição de padrões) e preservando o contexto de longo prazo.

B. Aprendizado por Reforço de Aumento de Complexidade (CBRL)

Para treinar o agente de forma eficiente, os autores introduzem o CBRL (Complexity-Boosting Reinforcement Learning), um pipeline de aprendizado curricular automatizado:

Fase de Cold Start: O modelo é ajustado (fine-tuned) com 7.000 exemplos sintéticos de problemas de geometria formalizados.
Sintese de Dados Dinâmica: Um pipeline gera problemas sintéticos com níveis de dificuldade controlados, definidos pelo número de passos de prova necessários no motor DDAR.
Mecanismo de Ajuste de Complexidade: O algoritmo ajusta iterativamente a dificuldade ( $\kappa$ ) dos problemas gerados para o próximo ciclo de treinamento. O objetivo é manter a taxa de recompensa média próxima de 0,5 (nem muito fácil, nem muito difícil), maximizando o "vantagem absoluta esperada" e acelerando a convergência do aprendizado.
Recompensas: O sistema utiliza recompensas binárias baseadas no sucesso da prova final e na eficácia de cada passo (se a construção ou proposição ajudou na prova).

3. Contribuições Chave

Primeiro Agente LLM de Nível Medalhista em Geometria: O InternGeometry é a primeira tentativa bem-sucedida de usar um agente LLM geral para superar modelos especialistas em problemas de geometria da IMO.
Superação de Heurísticas Fracas: Através de interações de longo horizonte (long-horizon) e memória dinâmica, o agente consegue explorar construções auxiliares criativas que modelos estáticos não conseguem inferir.
Eficiência de Dados Extrema: O modelo foi treinado com apenas 13.000 exemplos, o que representa 0,004% dos dados utilizados pelo AlphaGeometry 2 (300 milhões de exemplos) e 0,006% do SeedGeometry.
Descoberta de Novas Soluções: O agente demonstrou capacidade de propor construções auxiliares originais e elegantes que não aparecem nas soluções humanas tradicionais, indicando criatividade no raciocínio geométrico.

4. Resultados

Os experimentos foram conduzidos no conjunto de dados IMO 50 (problemas de geometria da IMO de 2000 a 2024) e no problema da IMO 2025.

Desempenho Geral: O InternGeometry resolveu 44 de 50 problemas da IMO 2000-2024.
- Isso supera a pontuação média de um medalhista de ouro da IMO (40,9 pontos).
- Supera o AlphaGeometry 2 (42/50) e o SeedGeometry (43/50).
- Também resolveu o problema de geometria da IMO 2025.
Eficiência de Inferência: Embora o modelo use um orçamento de inferência de Pass@256, ele é significativamente mais eficiente em termos de passos de busca e execução de ambiente em comparação com as ensembles de árvores de busca do AlphaGeometry 2.
Estudos de Ablação:
- A remoção da capacidade de "pensamento lento" (slow thinking) ou da compressão de contexto reduziu drasticamente o desempenho (de 44 para 20-23 problemas resolvidos).
- O uso exclusivo de dados fáceis ou difíceis no RL resultou em desempenho inferior, validando a eficácia do currículo dinâmico do CBRL.
- A remoção das etapas de proposição de prova (deixando apenas construções) degradou o desempenho, confirmando que a interação de longo prazo é crucial.

5. Significado e Impacto

Este trabalho representa um marco na interseção entre IA Generativa e Prova Formal de Teoremas.

Mudança de Paradigma: Demonstra que agentes LLM, quando equipados com ferramentas simbólicas e treinados com currículos adaptativos, podem superar modelos especialistas tradicionais que dependem de dados massivos e busca cega.
Generalização: A capacidade de resolver problemas nunca vistos com poucos dados de treinamento sugere que os LLMs estão aprendendo heurísticas geométricas profundas e não apenas memorizando padrões.
Criatividade Computacional: A descoberta de novas construções auxiliares sugere que a IA pode atuar como um parceiro criativo na matemática, propondo caminhos de prova que humanos não consideraram.
Escalabilidade: O método propõe uma nova dimensão de escalabilidade para agentes de IA: o aumento da complexidade do currículo de treinamento e a profundidade da interação com ferramentas, em vez de apenas aumentar o tamanho do modelo ou a quantidade de dados brutos.

Em resumo, o InternGeometry estabelece um novo estado da arte na resolução automática de problemas de geometria, provando que agentes de linguagem podem atingir e superar o nível de medalhistas olímpicos com uma fração mínima dos recursos computacionais e de dados anteriormente considerados necessários.