SemRep: Generative Code Representation Learning with Code Transformations

Resumo Técnico: SEMREP

1. O Problema

A transformação de código é uma etapa fundamental no desenvolvimento de software, abrangendo desde otimização de desempenho e correção de bugs até refatoração e migração. Embora os Modelos de Linguagem Grandes (LLMs) tenham sido adotados para automatizar essas tarefas, as abordagens existentes enfrentam limitações críticas:

• Aprendizado Implícito: A maioria dos métodos trata a transformação como uma tarefa de aprendizado "end-to-end", onde a representação semântica do código é aprendida implicitamente nos pesos do modelo. Isso torna o raciocínio sobre o comportamento do código difícil de controlar e verificar.
• Abstrações Rígidas: Alternativas que utilizam representações intermediárias rígidas (como árvores de sintaxe abstrata ou gráficos de fluxo de dados) são frequentemente caras de construir e podem não ser informativas para LLMs treinados em código fonte bruto.
• Falha em Preservação Semântica: Modelos atuais frequentemente falham em distinguir entre o que deve ser preservado (a lógica original) e o que pode ser alterado (a nova instrução), levando a edições incorretas ou perda de funcionalidade ao tentar otimizações complexas (ex: kernels CUDA).

2. Metodologia: O Framework SEMREP

O SEMREP propõe uma nova abordagem que desacopla a compreensão semântica da edição de código, utilizando Aprendizado de Representação de Código Generativa. A ideia central é tratar as transformações que preservam a semântica como uma representação intermediária explícita, em vez de um subproduto latente.

O framework opera em duas fases principais de treinamento e uma fase de inferência iterativa:

A. Fase 1: Aprendizado de Representação de Código Generativa (Mid-Training)

• Objetivo: Treinar o modelo para gerar variantes de programas que sejam semanticamente equivalentes ao código original (mesma entrada, mesma saída), mas com estruturas, sintaxe ou abstrações diferentes.
• Mecanismo: Utiliza Aprendizado por Reforço (RL) com o algoritmo GRPO (Group Relative Policy Optimization).
• Função de Recompensa ($R_{sem}$): Penaliza falhas de compilação e recompensa a equivalência semântica baseada em testes de execução ($U_{sem}$), incentivando a exploração de diversas estruturas sintáticas (ex: loops diferentes, chamadas de API distintas) que mantêm o comportamento funcional.

B. Fase 2: Aprendizado de Transformação Específica por Instrução (Fine-tuning)

• Objetivo: Ensinar o modelo a aplicar instruções de edição específicas (ex: "otimize para GPU", "corrija este bug") sobre o código, garantindo que a lógica original seja preservada.
• Mecanismo: Também utiliza GRPO.
• Função de Recompensa ($R_{inst}$): Combina recompensas por compilação, preservação semântica (equivalência com o código original) e aderência à instrução do usuário ($U_{edit}$).

C. Inferência Iterativa e Escala em Tempo de Teste (Test-Time Scaling)

• O SEMREP não gera a resposta final em um único passo. Ele utiliza uma busca evolutiva iterativa:
  1. Exploração Semântica: Gera múltiplas variantes semanticamente equivalentes do código de entrada.
  2. Transformação Específica: Aplica a instrução do usuário sobre essas variantes.
  3. Seleção: Mantém um "beam" (conjunto) dos melhores candidatos baseados em testes de execução e aderência à instrução.
• Isso permite que o modelo explore caminhos não ótimos inicialmente (mas semanticamente corretos) que podem levar a soluções finais superiores, algo difícil para abordagens diretas.

3. Contribuições Principais

1. Representação Explícita: Introduz a geração de código semanticamente equivalente como uma representação intermediária explícita e verificável, facilitando o raciocínio e a correção de erros.
2. Desacoplamento de Tarefas: Separa a compreensão da semântica (Fase 1) da aplicação de instruções (Fase 2), permitindo que o modelo aprenda a "entender" o código antes de tentar modificá-lo.
3. Eficiência Computacional: Demonstra que modelos menores (ex: QwQ-32B) podem superar modelos comerciais massivos (ex: Claude Sonnet 4, GPT-o4-mini) e modelos com 12x mais parâmetros, mantendo o mesmo orçamento de treinamento.
4. Integração com Agentes Evolutivos: O framework é altamente compatível com agentes de codificação evolutiva (como OpenEvolve), permitindo a descoberta de otimizações que modelos estáticos não encontram.

4. Resultados Experimentais

Os autores avaliaram o SEMREP em benchmarks de edição de código geral (EditBench) e otimização de kernels CUDA (KernelBench):

• Desempenho Geral:
  • No EditBench, o SEMREP (baseado em QwQ-32B) alcançou 57.41% de Pass@1, superando modelos de 72B e igualando o desempenho de modelos fechados como o GPT-o4-mini.
  • No KernelBench, superou o estado da arte (Kevin-32B) em 43.1% em correção (Correctness) e alcançou 1.1x de melhoria em desempenho (Speedup).
• Comparação com Baselines:
  • Com o mesmo orçamento de treinamento, o SEMREP superou as baselines de fine-tuning direto em 6.9% de correção, 1.1x em desempenho, 13.9% em generalização e 6.7% em robustez.
• Generalização e Robustez:
  • O modelo demonstrou alta robustez contra perturbações sintáticas (preservando a semântica mesmo com mudanças na estrutura do código).
  • Mostrou forte generalização para hardware não visto durante o treinamento (ex: otimizações para H200 treinadas em L40S), superando baselines em 10.6% de Speedup.
• Caso de Uso Avançado (MST e Circle Packing):
  • Integrado ao agente evolutivo OpenEvolve, o SEMREP descobriu otimizações para o problema da Árvore Geradora Mínima (MST) que superaram modelos de 685B parâmetros (DeepSeek-V3), alcançando um speedup de 7.28x.
  • No problema de Circle Packing, alcançou resultados competitivos com o AlphaEvolve (que usa Gemini), mas com recursos computacionais muito menores.

5. Significado e Impacto

O trabalho do SEMREP representa um avanço significativo na interseção entre aprendizado de máquina e engenharia de software:

• Mudança de Paradigma: Move o foco de "aprender a editar" para "aprender a representar e raciocinar sobre a semântica" antes de editar. Isso mitiga o problema de alucinações funcionais comuns em LLMs.
• Eficiência de Recursos: Prova que a qualidade da representação e a estratégia de treinamento (mid-training com RL) são mais importantes do que apenas aumentar o tamanho do modelo.
• Viabilidade para Otimização de Baixo Nível: Oferece uma solução viável para tarefas complexas de otimização de hardware (como kernels CUDA), onde a precisão semântica é crítica e erros são custosos.
• Escalabilidade: A abordagem de "escala em tempo de teste" (usando mais computação na inferência para explorar variantes) é particularmente eficaz para tarefas de descoberta algorítmica e otimização, abrindo caminho para agentes de IA mais autônomos e confiáveis.

Em suma, o SEMREP estabelece que a geração explícita de representações semânticas intermediárias é um mecanismo poderoso para melhorar a precisão, a generalização e a eficiência de modelos de IA em tarefas de transformação de código.