IQuest-Coder-V1 Technical Report

O relatório técnico apresenta a série IQuest-Coder-V1, uma nova família de modelos de linguagem para código que utiliza um paradigma de treinamento multiestágio baseado em fluxo de código e raciocínio evolutivo para alcançar desempenho de ponta em engenharia de software autônoma e programação competitiva, incluindo uma variante otimizada para eficiência de implantação.

O essencial

O IQuest-Coder-V1: O "Estagiário de Programação" que Aprendeu a Pensar

Imagine que você quer ensinar um robô a ser um programador de elite. A maioria dos robôs de hoje é como um estudante que decorou todos os livros de programação, mas nunca viu um projeto real sendo construído. Eles sabem a teoria, mas travam quando precisam consertar um erro complexo ou planejar uma mudança em um sistema gigante.

O IQuest-Coder-V1 é diferente. A equipe do IQuest criou uma nova família de "cérebros" de IA (com tamanhos de 7B a 40B bilhões de parâmetros) que não apenas memoriza código, mas aprende a evoluir com ele.

Aqui está como eles fizeram isso, usando analogias do dia a dia:

1. A Metodologia: O "Fluxo de Código" (Code-Flow)

Em vez de apenas ler um livro de receitas (código estático), o IQuest-Coder foi treinado assistindo a um filme de como a receita foi criada.

• O Treinamento Clássico: É como dar ao aluno apenas a versão final de um livro de receitas. Ele sabe o que está escrito, mas não sabe por que o chef trocou o sal por açúcar no meio do processo.
• O Método IQuest (Code-Flow): Eles treinaram a IA observando o histórico de mudanças de projetos reais. Eles viram o código "antes", a "correção" (o patch) e o "depois".
  • Analogia: É como se você ensinasse um detetive não apenas a olhar a cena do crime, mas a assistir a todo o vídeo de como o crime aconteceu, passo a passo. Isso ensina a IA a planejar e a entender a lógica por trás das mudanças, não apenas a copiar o resultado.

2. A Jornada de Aprendizado (O Pipeline Evolutivo)

A IA passou por três fases de "escola", cada uma mais difícil que a anterior:

• Fase 1: A Base (Pré-treinamento): A IA leu milhões de linhas de código, documentação e fatos técnicos. Foi como a alfabetização e o ensino fundamental.
• Fase 2: O "Meio-Treinamento" (Mid-Training): Aqui é onde a mágica acontece. A IA foi colocada em cenários complexos:
  • Raciocínio: Resolver problemas de lógica e matemática.
  • Agente: Aprender a usar ferramentas (como um terminal de computador), cometer erros, ver o erro, e tentar de novo.
  • Contexto Gigante: Ela aprendeu a ler e entender projetos inteiros (até 128 mil linhas de uma vez), como um arquiteto que consegue visualizar um prédio inteiro em sua mente, e não apenas um tijolo.
• Fase 3: A Especialização (Pós-treinamento): A IA foi dividida em dois tipos de "profissionais":
  • O "Pensador" (Thinking Path): Este modelo é treinado para pensar antes de agir. Ele usa um processo de "tentativa e erro" interno (Reforço por Aprendizado) para se corrigir. É como um programador sênior que faz um rascunho mental, verifica se está certo, e só então escreve o código final. Ele é ótimo em tarefas difíceis e longas.
  • O "Instrutor" (Instruct Path): Este modelo é treinado para ser um assistente rápido e prestativo. Ele responde a comandos diretos, gera código rápido e ajuda no dia a dia. É como um estagiário ágil que faz o que você pede imediatamente.

3. A Inovação: O Modelo "Loop" (O Ciclo)

Um dos maiores desafios é que modelos muito inteligentes são pesados e lentos. O IQuest criou uma versão chamada "Loop".

• Analogia: Imagine que você tem um funcionário muito inteligente, mas ele é caro e lento. O modelo "Loop" é como dar a esse funcionário um relógio de bolso. Ele pode olhar para o mesmo problema duas vezes, refinando sua resposta na segunda passada, sem precisar de um computador gigante extra. Isso permite que ele seja tão inteligente quanto os modelos gigantes, mas mais leve e eficiente para rodar em computadores comuns.

4. Os Resultados: O Que Eles Conseguem Fazer?

O papel mostra que o IQuest-Coder-V1 está competindo de igual para igual (e às vezes superando) os maiores modelos fechados do mundo (como o GPT-5.1 e o Claude Sonnet 4.5) em testes reais:

• Engenharia de Software Autônoma: Eles conseguem pegar um projeto com erros, entender o problema, criar um "remendo" (patch) e fazer o projeto funcionar de novo, quase como um humano faria.
• Programação Competitiva: Resolvem problemas de lógica complexa em concursos de programação.
• Uso de Ferramentas: Conseguem navegar em terminais de computador, usar bancos de dados e interagir com a web para completar tarefas.

Resumo Final

O IQuest-Coder-V1 é como ter um estagiário de programação que cresceu assistindo a engenheiros experientes resolverem problemas reais ao longo do tempo, em vez de apenas ler manuais.

Ele tem duas personalidades:

1. O Estrategista: Que pensa profundamente, erra, corrige e resolve problemas impossíveis.
2. O Executor: Que é rápido, útil e faz o trabalho braçal do dia a dia.

E o melhor de tudo? Eles liberaram todo o "manual de instruções" e os modelos para que qualquer pessoa possa estudar como essa inteligência foi construída, acelerando o futuro da programação feita por máquinas.

Resumo técnico

Resumo Técnico: IQuest-Coder-V1

1. O Problema

A geração atual de Modelos de Linguagem (LLMs) de código apresenta uma lacuna significativa entre os modelos de pesos abertos (open-weights) e os líderes proprietários (como o Claude 4.5 Sonnet e o GPT-5.1). Essa disparidade é mais evidente em tarefas que exigem raciocínio de longo horizonte e a capacidade de navegar por bases de código complexas e multi-arquivos. Os modelos existentes muitas vezes falham em capturar a evolução dinâmica da lógica de software, tratando o código como representações estáticas em vez de fluxos de desenvolvimento contínuos.

2. Metodologia: O Paradigma "Code-Flow"

A equipe do IQuest propõe uma nova família de modelos (7B, 14B, 40B e 40B-Loop) baseada em um paradigma de treinamento multi-estágio chamado Code-Flow, que simula a evolução dinâmica da lógica de software. O pipeline é dividido em quatro pilares principais:

A. Pré-treinamento e Recozimento (Annealing) de Alta Qualidade

• Fase 1: Treinamento inicial com uma mistura de dados gerais e dados de código.
• Fase 2 (Recozimento): Foco em corpora de código de alta qualidade curada para preparar as representações básicas do modelo para tarefas lógicas complexas.
• Inovação de Dados: Utilização de dados de "transição de repositório" (triplets de commit: estado antigo, patch, estado novo) em vez de apenas snapshots estáticos. Isso ensina ao modelo o fluxo de desenvolvimento e a evolução do projeto.
• FIM (Fill-In-the-Middle): Uso extensivo de dados de preenchimento no meio do código, tanto em nível de arquivo quanto de repositório, para melhorar a completude contextual.

B. Mid-Training (Treinamento Intermediário)

Esta fase é crucial para construir a base lógica e de agentes:

• Fase 1 (32k Contexto): Integração de dados de raciocínio, trajetórias de agentes e tarefas de código.
• Fase 2 (128k Contexto): Expansão para contextos de longo alcance, permitindo raciocínio em nível de repositório completo.
• Objetivo: Criar um "scaffolding" lógico que estabilize o desempenho do modelo sob mudanças de distribuição, ensinando ciclos de ação-observação-revisão.

C. Pós-treinamento Bifurcado

O modelo final é dividido em dois caminhos especializados:

1. Caminho "Thinking" (Pensamento): Utiliza Supervised Fine-Tuning (SFT) em dados com traços de raciocínio explícitos, seguido de Reinforcement Learning (RL) focado em raciocínio. Isso desencadeia capacidades emergentes de recuperação autônoma de erros em tarefas de longo prazo.
2. Caminho "Instruct" (Instrução): Otimizado para assistência geral, seguindo instruções e gerando código robusto, também utilizando SFT e RL.

D. Arquitetura LoopCoder (IQuest-Coder-V1-Loop)

Para lidar com restrições de implantação, a variante Loop incorpora uma estrutura recorrente:

• Blocos de transformadores com parâmetros compartilhados são executados em duas iterações fixas.
• Utiliza mecanismos de atenção global (iteração 2 atendendo à iteração 1) e local, combinados por um mecanismo de "gate" aprendido.
• Isso permite computação iterativa sobre segmentos complexos de código, otimizando o trade-off entre capacidade do modelo e pegada de implantação.

3. Contribuições Chave

1. Paradigma Code-Flow: A demonstração de que dados de transição de repositório (fluxo de commits) fornecem um sinal superior para planejamento de tarefas em comparação com arquivos estáticos.
2. Scaffolding Lógico Intermediário: A descoberta de que injetar trajetórias de raciocínio e agentes (32k/128k) antes do pós-treinamento é crítico para a estabilidade e capacidade de raciocínio.
3. Capacidade Emergente de Recuperação de Erros: O caminho "Thinking" (via RL) revela uma habilidade emergente de autodepurar e recuperar-se em tarefas complexas (como SWE-bench e competições de código), ausente em modelos padrão de instrução.
4. Cadeia de Checkpoints "White-Box": A liberação completa da cadeia evolutiva, desde a base pré-treinada até os modelos finais de pensamento e instrução, permitindo que a comunidade estude a formação da inteligência de código autônoma.
5. Arquitetura Eficiente: A introdução do LoopCoder para equilibrar desempenho e eficiência computacional em ambientes de produção.

4. Resultados e Desempenho

O IQuest-Coder-V1 alcançou desempenho State-of-the-Art (SOTA) em diversas dimensões críticas, superando ou competindo de perto com modelos proprietários como GPT-5.1, Claude 4.5 Sonnet e Gemini 3 Pro.

• Engenharia de Software Autônoma (Agentic):
  • SWE-Bench Verified: 77.2% (Top 1), superando GPT-5.1 (76.3%) e Claude Sonnet 4.5 (76.2%).
  • Terminal-Bench: 62.5% (Top 1), superando concorrentes diretos.
• Programação Competitiva e Lógica:
  • LiveCodeBench v6: 87.0% (Top 1), liderando significativamente sobre Qwen3-Coder e Kimi-K2.
  • BigCodeBench: 49.9% (Top 1).
• Uso de Ferramentas e Agentes:
  • BFCL (Tool Use): 73.8% (Top 1).
  • Mind2Web (Agentes Web): 51.3% (Top 1).
• Eficiência e Segurança:
  • O modelo mantém alta eficiência de execução (Mercury Benchmark) e demonstra robustez em avaliações de segurança (XSTest, WildGuardTest), com taxas de recusa adequadas a prompts maliciosos sem excesso de recusa em entradas benignas.

5. Significado e Impacto

O IQuest-Coder-V1 representa um avanço fundamental na inteligência de código, provando que a evolução estruturada do treinamento (do estático para o dinâmico/agentico) é mais eficaz do que apenas aumentar o tamanho do modelo ou a quantidade de dados brutos.

• Para a Pesquisa: A liberação da cadeia completa de checkpoints oferece um recurso único para estudar como a inteligência de agentes e o raciocínio lógico emergem em LLMs.
• Para a Indústria: A disponibilidade de modelos de diferentes tamanhos (7B a 40B) e a variante "Loop" eficiente permite a implantação de agentes de código autônomos em cenários do mundo real, desde ambientes de borda (edge) até nuvem, reduzindo a dependência de APIs proprietárias caras para tarefas complexas de engenharia de software.

Em suma, o trabalho estabelece um novo marco para modelos de código abertos, demonstrando que é possível alcançar e superar o estado da arte em tarefas de engenharia de software autônoma através de metodologias de treinamento inovadoras e focadas na dinâmica do desenvolvimento de software.