Resumo Técnico: CRANE – Injeção de Raciocínio Constrained para Agentes de Código via Edição do Espaço Nulo

1. Declaração do Problema

Agentes de código modernos devem navegar em uma exigência dupla: precisam de capacidades de raciocínio sofisticadas (planejamento, integração de contexto e recuperação de erros) para resolver tarefas complexas de software, mas devem aderir estritamente a protocolos de uso de ferramentas (saídas concisas, formatação correta de esquemas e timing disciplinado de ferramentas) para interagir efetivamente com ambientes de execução.

Observações recentes indicam um desalinhamento entre checkpoints de modelos emparelhados:

• Modelos Instruct: São concisos e disciplinados quanto ao uso de ferramentas, mas frequentemente carecem de comportamentos profundos de planejamento ou recuperação, levando a edições prematuras ou loops.
• Modelos Thinking: Apresentam raciocínio e recuperação mais fortes, mas frequentemente "super-deliberam", consumindo tokens excessivos e degradando o desempenho ao violar protocolos de ferramentas ou falhar em agir.

Técnicas existentes de fusão de modelos (por exemplo, Task Arithmetic, TIES, SLERP) geralmente tratam a fusão como uma fusão simétrica de pontos finais. Elas não são projetadas para o cenário assimétrico de agente de código, onde o objetivo é injetar comportamentos de raciocínio específicos de um modelo "Thinking" em uma base "Instruct", preservando rigorosamente a interface de ferramentas implantada do modelo Instruct. Fusões ingênuas frequentemente danificam a fidelidade do protocolo necessária para a execução bem-sucedida do agente.

2. Metodologia: CRANE

CRANE (Injeção de Raciocínio Constrained para Agentes de Código via Edição do Espaço Nulo) é um método de edição de parâmetros sem treinamento que trata o vetor de diferença entre checkpoints Thinking e Instruct ($\delta = \theta_{\text{think}} - \theta_{\text{inst}}$) como um pool direcional de edições candidatas de raciocínio. Emprega um pipeline de três estágios para injetar seletivamente essas edições enquanto preserva o comportamento do agente:

Estágio 1: Limiar de Magnitude (Denoising)

O delta bruto $\delta$ contém tanto sinais de raciocínio úteis quanto ruído. O CRANE aplica uma regra conservadora de esparsificação para remover coordenadas de baixa confiança.

• Mecanismo: Um limiar determinístico de magnitude mediana é aplicado. Coordenadas com magnitudes abaixo da mediana de $|\delta|$ são zeradas.
• Redimensionamento: As entradas não nulas restantes são escaladas por um fator de 2 para preservar aproximadamente a escala geral da atualização.
• Objetivo: Descartar ruído de baixa magnitude que possa perturbar a interface do agente sem contribuir com raciocínio significativo.

Estágio 2: Porta Taylor Conservadora (CTG)

Este estágio determina a força de injeção para cada bloco de parâmetros (camada e componente) avaliando se uma direção de edição específica é benéfica tanto para a transferência de raciocínio quanto para a preservação do uso de ferramentas.

• Calibração: Duas funções de perda mascaradas são definidas usando pequenos conjuntos de calibração:
  • $L_R$ (Raciocínio): Mede o desempenho em prompts de raciocínio de código gerados pelo modelo Thinking.
  • $L_A$ (Comportamento do Agente): Mede o desempenho em prompts de uso de ferramentas gerados pelo modelo Instruct.
• Pontuação: Para cada coordenada $j$, a pontuação de melhoria de primeira ordem é calculada como $s_K(j) = -g_{K,j}\delta_j$, onde $g_K$ é o gradiente da perda.
• Lógica da Porta: Uma coordenada recebe um peso positivo apenas se a edição for uma direção de descida para ambas as perdas simultaneamente:
  $$p_j = [\min\{s_R(j), s_A(j)\}]_+$$
• Agregação: Pesos são agregados por bloco e normalizados em relação a um bloco de referência FFN/experto para determinar o coeficiente de escala final $S_{\text{CTG}}(c, l)$.

Estágio 3: Projeção Sigmoidal Graduada (GSP)

Mesmo edições benéficas podem interromper tokens críticos de formato (por exemplo, delimitadores de ferramentas, esquemas JSON, modelos de chat). Este estágio suprime atualizações no subespaço "crítico de formato".

• Coleta de Ativação: Estados ocultos são coletados do modelo Instruct em traços críticos de formato (tokens que controlam chamadas de ferramentas e esquemas).
• Projeção SVD: Uma Decomposição em Valores Singulares (SVD) é realizada na matriz de ativação. Direções com altos valores singulares correspondem a direções de entrada que influenciam fortemente saídas críticas de formato.
• Mascaramento Suave: Em vez de uma projeção de espaço nulo rígida, uma máscara sigmoidal é aplicada no espaço de valores singulares. Direções com alta amplitude (críticas de formato) são atenuadas significativamente, enquanto direções de baixa amplitude são preservadas. Isso garante uma transição suave em vez de um corte descontínuo.

O modelo final fundido é calculado como:
$$\theta_{\text{merged}} = \theta_{\text{inst}} + \Pi_{\text{GSP}} \left( \alpha \cdot S_{\text{CTG}} \cdot T(\delta) \right)$$

3. Contribuições Principais

1. Formulação de Fusão Direcional: Uma abordagem novel para fusão de modelos para modelos Instruct/Thinking emparelhados, tratando o delta como um pool de edições candidatas em vez de um alvo simétrico, condicionado a comportamentos específicos de agente.
2. Receita CRANE: Um pipeline de três estágios, sem treinamento, combinando extração de delta esparsa, Porta Taylor Conservadora consciente de uso de ferramentas e Projeção Sigmoidal Graduada preservadora de formato.
3. Avaliação Empírica: Uma avaliação abrangente em três benchmarks (Roo-Eval, SWE-bench-Verified, Terminal-Bench v2) e duas escalas de modelo (Qwen3-30B-A3B e Qwen3-Next-80B-A3B).
4. Estudos de Ablação: Análise confirmando que cada componente (esparsificador, porta Taylor, projeção) é necessário para o trade-off desempenho-custo observado.

4. Resultados Experimentais

O CRANE supera consistentemente tanto os pontos finais individuais quanto as linhas de base de fusão padrão (Task Arithmetic, TIES, SLERP, AIM, LEWIS, RAIN) em todos os benchmarks, mantendo a eficiência.

• Roo-Eval (Codificação baseada em IDE):

  • Escala 30B: Alcançou 66,2% de pass@1, um ganho de +19,5% sobre a linha de base Instruct (46,7%) e +19,0% sobre a melhor fusão alternativa.
  • Escala 80B: Alcançou 81,5% de pass@1, um ganho de +8,7% sobre Instruct.
  • Eficiência: O CRANE alcançou esses ganhos com uma Contagem Total de Tokens (TTC) menor que a linha de base Instruct, reduzindo o uso de tokens em ~60M tokens na escala 30B.

• SWE-bench-Verified (Problemas em nível de repositório):

  • Escala 30B: Resolveu 122/500 instâncias, superando a linha de base Instruct (108) e a melhor linha de base de fusão (113).
  • Escala 80B: Resolveu 180/500 instâncias, superando Instruct (168) e todas as outras linhas de base.
  • Eficiência: O CRANE resolveu mais instâncias com custos agregados de tokens menores que as linhas de base.

• Terminal-Bench v2 (Fluxos de trabalho de Shell/Linha de comando):

  • Escala 30B: Melhorou o pass@1 para 7,6% (vs. 4,8% Instruct) e o pass@5 para 17,9%.
  • Escala 80B: Melhorou o pass@1 para 14,8% e o pass@5 para 30,3%.
  • Eficiência: O CRANE reduziu significativamente o tempo de parede (por exemplo, 1h 58m vs. 2h 28m para Instruct na escala 80B) mantendo altas taxas de sucesso.

Descobertas de Ablação: Remover qualquer componente único (Limiar de Magnitude, Porta Taylor ou GSP) resultou em quedas significativas de desempenho. Notavelmente, remover o GSP causou o maior declínio nas taxas de sucesso, destacando a importância crítica de preservar direções críticas de formato.

5. Significado e Alegações

O artigo afirma que o CRANE aborda com sucesso a natureza "complementar mas desalinhada" dos checkpoints Instruct e Thinking em agentes de código. Ao tratar a fusão como um problema de edição direcional condicionada ao comportamento em vez de uma fusão genérica, o CRANE injeta as capacidades de planejamento e recuperação dos modelos Thinking sem sacrificar a disciplina de ferramentas e a eficiência dos modelos Instruct.

Os autores enfatizam que esses ganhos não são comprados com orçamentos de tokens aumentados ou execuções mais longas; na verdade, o CRANE frequentemente alcança resultados superiores com menos tokens e tempos de parede mais curtos. O método fornece um caminho prático e sem treinamento para aprimorar o desempenho do agente, aproveitando as forças dos modelos de raciocínio enquanto adere estritamente às restrições dos protocolos de agentes implantados.

Limitações Reconhecidas:

• O método assume que o checkpoint Thinking fornece raciocínio útil e o checkpoint Instruct fornece uma interface útil; se modelos futuros já se destacarem em ambos, fusões mais simples podem ser suficientes.
• Conjuntos de calibração devem cobrir a superfície de ferramentas implantada; um desvio significativo em ferramentas ou formatação exigiria recalibração.
• A construção do projetor GSP requer passagens forward em traços de formato, o que pode ser computacionalmente custoso para modelos muito grandes.
• O desempenho em certas linguagens (Java, Rust) permanece menor que em Python/JS/Go, sugerindo assimetrias de treinamento subjacentes nos modelos base em vez de uma falha do próprio método de fusão.