KAT-Coder-V2 Technical Report

Resumo Técnico: KAT-Coder-V2

1. O Problema
O campo da Codificação Agente (Agentic Coding) evoluiu da geração de código de turno único para a capacidade de planejar, executar e verificar tarefas de engenharia de software multi-etapa em ambientes reais. No entanto, treinar modelos para essa tarefa enfrenta três desafios fundamentais:

• Fragmentação de Capacidades: Tarefas de Engenharia de Software (SWE), geração de interfaces web (WebCoding), raciocínio em terminal e busca na web exigem sinais de treinamento distintos e, frequentemente, conflitantes. Um pipeline de treinamento monolítico falha em otimizar simultaneamente todos esses domínios.
• Acoplamento de Infraestrutura: O treinamento por Reforço (RL) para agentes exige orquestração de sandboxes de alto rendimento e compatibilidade com diversos "scaffolds" (estruturas de agentes como Claude Code, OpenClaw, etc.). Sistemas existentes acoplam rigidamente esses componentes, tornando a integração de novos conjuntos de dados ou scaffolds custosa.
• Escalabilidade do RL Agente: Treinar agentes de codificação requer escalar em complexidade de tarefa, diversidade de prompts e generalização de scaffolds, enquanto lida com a instabilidade de modelos Mixture-of-Experts (MoE) e redundância computacional em trajetórias estruturadas em árvore.

2. Metodologia
A equipe KwaiKAT (Kuaishou) propôs o KAT-Coder-V2, seguindo um paradigma "Especializar e Unificar" (Specialize-then-Unify):

• Especialização (SFT e RL Domínio-Específico):
  O modelo é decomposto em cinco domínios de especialistas ortogonais, cada um passando por Supervised Fine-Tuning (SFT) e Reinforcement Learning (RL) independentes:

  1. SWE: Resolução autônoma de problemas (Issue-PR pairing, AutoBuilder para síntese de tarefas verificáveis).
  2. WebCoding: Geração de UI com qualidade estética (sistema de rótulos de três perspectivas: usuário, designer, implementação).
  3. Terminal: Raciocínio em linha de comando (conversão de tarefas SWE para Terminal, dados sintéticos multi-agente).
  4. WebSearch: Busca agênica e inferência multi-hop (construção de grafos de conhecimento a partir de trajetórias de busca).
  5. General: Seguimento de instruções e raciocínio código-matemática.

• Infraestrutura KwaiEnv:
  Foi desenvolvida uma infraestrutura modular que desacopla conjuntos de dados, sandboxes, scaffolds e verificadores.

  • Suporta dezenas de milhares de instâncias de sandbox concorrentes.
  • Permite a integração "caixa-preta" de scaffolds de agentes existentes sem modificação de código.
  • Facilita a síntese de dados e avaliação em ciclo fechado.

• Algoritmos de RL Avançados:

  • Escalonamento Agente (Agentic Scaling): Escala o RL em complexidade de tarefa, alinhamento de intenção (rewriting de prompts de especialistas para usuários comuns) e generalização de scaffolds.
  • MCLA (Monte-Carlo Log-probability Averaging): Técnica para estabilizar o treinamento RL de modelos MoE, reduzindo a variância nas estimativas de log-probabilidade através de pré-busca e média de múltiplas passagens.
  • Tree Training: Elimina a redundância computacional em trajetórias estruturadas em árvore (comuns em agentes com sub-agentes concorrentes), serializando a árvore em uma sequência DFS e aplicando pesos de perda por token. Isso resulta em um speedup de até 6,2x.
  • Distilação On-Policy (OPD): Fusão dos especialistas em um único modelo. O modelo estudante gera trajetórias on-policy e é supervisionado densamente pelos especialistas (professores) em cada passo, combinando a exploração ativa do RL com a supervisão densa, evitando o viés de exposição do SFT off-policy.

3. Principais Contribuições

• Paradigma Especializar-Unificar: Uma abordagem sistemática para lidar com a fragmentação de capacidades em agentes de codificação, superando as limitações de modelos monolíticos.
• KwaiEnv: Uma infraestrutura de código aberto modular que desacopla componentes críticos, permitindo escalabilidade e flexibilidade sem precedentes no treinamento de agentes.
• Inovações Algorítmicas:
  • MCLA: Estabilização crítica para RL em modelos MoE.
  • Tree Training: Otimização de eficiência computacional para trajetórias de agentes complexas.
  • Sistema de Avaliação Estética: Um benchmark de referência livre para avaliar a qualidade visual de geração de UI, superando métricas baseadas apenas em fidelidade de código.
• Escala de Dados: Geração de mais de 100.000 amostras de RL de alta dificuldade e 2 milhões de amostras de SFT de alta qualidade através de pipelines automatizados (AutoBuilder, Issue-PR).

4. Resultados
O KAT-Coder-V2 demonstra desempenho de ponta, rivalizando com o modelo proprietário Claude Opus 4.6:

• SWE-bench Verified: 79,6% (vs. 80,8% do Claude Opus 4.6).
• PinchBench: 88,7 (superando GLM-5 e MiniMax M2.7).
• Geração Frontend (Estética): Líder em todos os três cenários (Landing Page: 59,8, Slides: 57,6, Data Visualization: 67,6).
• Desempenho Geral: Terminal-Bench Hard (46,8) e 𝜏2-Bench (93,9).
• Generalização: Mantém desempenho estável em múltiplos scaffolds (Claude Code, OpenCode, OpenClaw), demonstrando forte capacidade de adaptação a diferentes estruturas de agente.

5. Significado
O KAT-Coder-V2 representa um avanço significativo na direção de agentes de codificação verdadeiramente autônomos e robustos. Ao demonstrar que a especialização de domínio seguida de fusão unificada via distilação on-policy é uma via eficaz, o trabalho oferece um novo roteiro para o desenvolvimento de modelos de IA complexos. A infraestrutura KwaiEnv e as otimizações de treinamento (Tree Training, MCLA) fornecem ferramentas essenciais para a comunidade, permitindo o treinamento estável e eficiente de agentes em escala massiva. O modelo não apenas iguala, mas em alguns aspectos (como estética de frontend e generalização de scaffolds) supera os modelos líderes atuais, provando a viabilidade de agentes de codificação de nível industrial de código aberto.