Resumo Técnico: Enxerto de Cache Funcional (FCGRAFT)

Declaração do Problema

Agentes incorporados operando em ambientes de domínio aberto enfrentam desafios significativos ao utilizar Modelos de Linguagem de Código (CodeLLMs) para síntese de políticas. O paradigma prevalente "Code-as-Policies" (CaP), que traduz instruções de linguagem natural em código de controle executável, sofre de duas limitações fundamentais em cenários dinâmicos:

1. Latência: A decodificação totalmente generativa exige computação de prefill repetitiva sobre prompts longos para cada nova instrução, causando respostas atrasadas que prejudicam a responsividade em cenários de tempo crítico.
2. Robustez: Gerar código completo do zero frequentemente leva a incompatibilidades de API, ausência de salvaguardas de segurança e lógica de controle instável, resultando em falhas na tarefa.

Abordagens existentes baseadas em memória operam primariamente no nível de texto, oferecendo ganhos de eficiência computacional limitados. Da mesma forma, métodos anteriores de cache de Chave-Valor (KV) geralmente suportam apenas a reutilização baseada em prefixo ou cache de nível de documento, falhando em acomodar a adaptação ao nível de função necessária para a natureza dinâmica e evolutiva de tarefas incorporadas de domínio aberto.

Metodologia

O artigo propõe o FCGRAFT (Functional Cache Grafting), um framework projetado para aprimorar a programação robótica baseada em CodeLLM através de cache de KV ao nível de função e um pipeline unificado de síntese de enxerto de cache.

1. Cache de KV de Dois Níveis ao Nível de Função

O FCGRAFT reestrutura o mecanismo nativo de cache KV em um cache de código hierárquico de dois níveis ($H$), indexado por identificadores de função ($f_k$):

• Nível de Interface de Função ($I$): Armazena assinaturas de funções chamáveis (texto) e seus estados KV associados ($i^{KV}_k$). Essas entradas leves permitem que o modelo reutilize interfaces de função sem recomputar a atenção cruzada, servindo como base para o cache-stitching (enxerto de cache).
• Nível de Código de Função ($C$): Armazena implementações completas validadas ($c^{text}_k$) e seus respectivos estados KV ($c^{KV}_k$). Estes são usados durante a execução e para o cache-patching (correção de cache), fornecendo o contexto necessário para reparar spans específicos de código sem regenerar toda a política.

Gerenciamento de Cache: Para gerenciar as restrições de memória da GPU, o framework atribui uma pontuação de localidade ($\ell(f_k)$) a cada função baseada em:

• Recência ($\ell_{curr}$): Retenção imediata de funções usadas recentemente.
• Frequência ($\ell_{freq}$): Frequência de uso ao longo de tarefas recentes.
• Associação ($\ell_{asso}$): Coocorrência condicional com outras funções em rastros de execução.
• Diversidade Semântica ($\ell_{sema}$): Distintividade baseada em perplexidade para reter funções raras, mas úteis.
  Entradas com pontuação baixa são transferidas para a DRAM, enquanto as de pontuação alta permanecem na GPU.

2. Pipeline de Síntese de Enxerto de Cache

Novas políticas são sintetizadas através de dois estágios interdependentes:

• Cache-Stitching: Quando uma nova tarefa chega, o sistema recupera interfaces de função relevantes do nível $I$. O CodeLLM compõe uma nova política injetando os estados KV cacheados dessas interfaces. Isso elimina a computação de prefill redundante para estruturas de função validadas, garantindo que a lógica de controle interna e as sequências de API sejam robustas e pré-verificadas.
• Cache-Patching: Se ocorrerem erros de execução (ex: incompatibilidades de API, exceções de tempo de execução), o sistema aciona o cache-patching. A política é dividida em um prefixo, um span de erro e um sufixo. O sistema reutiliza os estados KV do prefixo e gera apenas o span central corrigido, guiado por um rastro de Cadeia de Pensamento (CoT) que identifica a causa raiz. Isso evita a regeneração total, reduzindo drasticamente o tempo de decodificação.

Principais Contribuições

1. Framework FCGRAFT: Uma abordagem inovadora que melhora a programação robótica baseada em CodeLLM ao implementar cache de KV ao nível de função, reduzindo o prefill redundante enquanto garante consistência comportamental em ambientes de domínio aberto.
2. Mecanismos Interdependentes: A introdução do cache-stitching (para eliminar erros estruturais e reduzir o prefill) e do cache-patching (para corrigir erros localizados com decodificação mínima) como um pipeline unificado.
3. Validação Empírica: Demonstração de que o FCGRAFT alcança um equilíbrio superior entre robustez e latência em diversos benchmarks (ALFRED, TEACh, RLBench) e tarefas de manipulação robótica no mundo real.

Resultados Experimentais

Os autores avaliaram o FCGRAFT contra nove baselines competitivos, incluindo métodos gerais de CodeLLM (CaP, SCoT), abordagens baseadas em memória (HELPER, LRLL, PromptBook) e métodos de cache de KV (CAG, RAGCache, PromptCache, EPIC).

• Ganhos de Desempenho: Em benchmarks de simulação, o FCGRAFT alcançou uma média de 18,31% maior taxa de sucesso da tarefa (SR) e uma latência de síntese de política 2,3× mais rápida em comparação com o forte baseline RAGCache.
• Benchmarks Específicos:
  • ALFRED: Superou o segundo melhor baseline (LRLL) em 4,04% em SR e reduziu a latência em 2,67×.
  • RLBench: Alcançou 16,21% de SR superior e redução de latência de 2,25× em relação ao CAG, destacando-se particularmente em tarefas que exigem controle fino e estruturas de loop.
  • Robótica no Mundo Real: Em experimentos robóticos físicos (Rearranjo de Mesa de Escritório e Preparação de Estação de Trabalho de Culinária), o FCGRAFT obteve um SR 37,04% maior que o CaP e reduziu a latência em 2,88× em comparação ao RAGCache.
• Consistência: O framework manteve alta similaridade de código (CSIM) e transferência direta positiva (FWT) sem esquecimento catastrófico (transferência reversa não negativa), indicando acumulação estável de habilidades reutilizáveis.

Significância e Alegações

O artigo afirma que o FCGRAFT representa um passo significativo em direção à inteligência incorporada escalável e de propósito geral, permitindo que agentes gerem e adaptem políticas de código de forma rápida e confiável.

• Robustez via Reuso: Ao reutilizar estruturas de controle validadas e padrões de chamada de API do cache, o framework direciona a síntese de política para estruturas de programas comprovadas, evitando modos comuns de falha, como composições de primitivas incompatíveis.
• Eficiência via Enxerto: A separação de regiões invariantes (tratadas pelo stitching) de pontos de adaptação (tratados pelo patching) permite que o sistema ignore computações redundantes enquanto mantém a flexibilidade para corrigir erros localmente.
• Praticidade: A transferência bem-sucedida do framework da simulação para a manipulação robótica no mundo real demonstra sua viabilidade para aplicações de tempo crítico e sensíveis à segurança, onde a resposta rápida a mudanças de estado inesperadas (ex: vazamentos de gás, objetos fora do lugar) é crucial.

Os autores reconhecem limitações, observando que a implementação atual mantém um cache de código isolado por agente, o que pode limitar a escalabilidade em configurações cooperativas multi-agente. Trabalhos futuros são propostos para explorar o compartilhamento de cache de código e políticas de expulsão baseadas em aprendizado.