Resumo Técnico: O Abismo da Compactação na Memória de Agentes de IA de Longa Duração

1. Declaração do Problema

Agentes de IA de longa duração operam sob um orçamento finito de tokens, exigindo que a janela de contexto seja gerenciada via compactação (sumarização), decomposição (divisão de tópicos) e recuperação (armazenamento externo). As estratégias de produção atuais tratam todos os itens de conhecimento de forma uniforme, aplicando a mesma lógica de compressão ou retenção, independentemente da natureza semântica do item.

Os autores identificam um modo de falha crítico denominado Abismo da Compactação (Compaction Cliff): quando regras de segurança (ex: "O paciente é alérgico a penicilina") competem com logs episódicos por espaço de tokens, a sumarização uniforme degrada as restrições de segurança na mesma taxa que as informações de fundo. A análise empírica do prompt /compact do Claude Code no Sonnet 4.6 revela que o recall de regras de segurança cai de 53% após uma rodada de compactação para apenas 10% após cinco rodadas. Isso ocorre porque a sumarização abstrativa e a truncagem hierárquica falham em distinguir entre itens que toleram paráfrases (ex: logs episódicos) e itens que exigem redação exata para permanecerem aplicáveis (ex: restrições de segurança).

2. Metodologia: Triagem de Conhecimento

Para enfrentar o Abismo da Compactação, o artigo propõe a Triagem de Conhecimento (Knowledge Triage), um framework que classifica itens de conhecimento por tipo e os direciona através de políticas de retenção distintas. O framework consiste em três componentes principais:

A. Modelo de Conhecimento Tipificado

Os autores definem um modelo de cinco tipos derivado de uma análise de 396.934 configurações de agentes:

1. Restrição (C - Constraint): Regras que delimitam o comportamento do agente onde a violação causa falha de segurança (ex: "Nunca prescreva medicamentos contraindicados"). A tolerância à distorção é zero.
2. Procedural (P - Procedural): Instruções passo a passo onde a execução deve ser preservada (ex: "Execute o pytest antes de realizar o merge").
3. Crença (B - Belief): Asserções fatuais tratadas como verdadeiras (ex: "O backend expõe uma API REST"). Tolera distância semântica limitada.
4. Preferência (F - Preference): Diretrizes suaves (ex: "Use indentação de 2 espaços"). Alta tolerância à sumarização.
5. Episódico (E - Episodic): Eventos ou observações passadas. Livre para descartar.

B. Classificação ($\tau$)

Um classificador atribui cada item a um dos cinco tipos. A abordagem padrão, SafetyMargin, estima a segurança contrafactual: ela pontua um item com base em quanto a probabilidade de uma ação insegura aumenta se o item for removido da base de conhecimento. Esta abordagem captura regras de segurança declarativas (ex: "O paciente é alérgico a X") que heurísticas gramaticais (como buscar verbos imperativos) frequentemente perdem.

C. Três Operadores Determinísticos

O framework implementa três operadores, cada um com requisitos de segurança específicos que estratégias uniformes violam:

1. TypeCompact (Compactação de Tipo):

   • Mecanismo: Direciona itens para faixas de fidelidade. Restrições e procedimentos são fixados (distorção zero) e preservados integralmente. Crenças e preferências são comprimidos. Itens episódicos são substituídos por placeholders.
   • Garantia de Segurança: Cada restrição no input deve existir no output com zero distorção.
   • Verificação: Um verificador pós-compactação checa se todas as restrições fixadas sobreviveram; se estiverem ausentes, o sistema escala para "Inseguro" ou restaura o item.

2. TypeDecompose (Decomposição de Tipo):

   • Mecanismo: Particiona uma base de conhecimento grande demais para um único contexto em subtópicos.
   • Garantia de Segurança (Localidade): Se uma partição contém um item coberto pelo escopo de uma restrição, essa restrição também deve ser replicada nessa partição.
   • Implementação: Replica restrições de escopo para cada partição que intersecta seu escopo, incorrendo em overhead de tokens proporcional à amplitude do escopo.

3. TypeRetrieve (Recuperação de Tipo):

   • Mecanismo: Busca itens de armazenamento externo com base na relevância da consulta.
   • Garantia de Segurança (Prioridade): Todas as restrições dentro do escopo da consulta devem ser retornadas, independentemente de sua pontuação de similaridade.
   • Implementação: Fixa as restrições dentro do escopo no topo do conjunto de resultados antes de preencher o restante do orçamento com itens classificados por relevância.

3. Principais Contribuições

1. O Abismo da Compactação: Um erro estrutural documentado de compactação cega ao tipo, mostrando que o recall de regras de segurança colapsa rapidamente ao longo de rodadas sequenciais de compactação em múltiplas famílias de LLMs e baselines estruturais.
2. Modelo de Conhecimento de Cinco Tipos: Uma taxonomia que cobre 97% do conteúdo de configuração de agentes, distinguindo entre itens que exigem preservação exata e aqueles que toleram distorção.
3. Framework de Triagem de Conhecimento: Um sistema de três operadores (TypeCompact, TypeDecompose, TypeRetrieve) que impõem garantias de segurança por tipo, provando satisfazer requisitos que estratégias uniformes não conseguem.
4. Classificador SafetyMargin: Um estimador de segurança contrafactual que supera classificadores gramaticais na detecção de regras de segurança declarativas, que são dominantes em domínios clínicos, jurídicos e financeiros.
5. AgentArtifactCorpus: Um novo dataset de 396.934 artefatos de conhecimento de agentes de 54.628 repositórios do GitHub, usado para validação de taxonomia e benchmarking de operadores.

4. Resultados Empíricos

O framework foi avaliado em cinco corpora públicos e três benchmarks comportamentais:

• Performance de Compactação: Em 50 configurações de agentes, o TypeCompact preservou de 2 a 4 vezes mais regras de segurança do que o compactador de disparo único mais forte (Sonnet 4.6) em todas as taxas de compressão. Após cinco rodadas de 50% de compressão, o TypeCompact manteve 96% de recall, enquanto o Sonnet 4.6 caiu para 10%.
• Performance de Decomposição: O TypeDecompose alcançou 0% de violações de localidade (garantindo que restrições de escopo estejam presentes em partições relevantes), comparado a taxas de violação de 93% para baselines de partição uniforme. Isso veio com um overhead médio de tokens de 14,5%.
• Performance de Recuperação: O TypeRetrieve alcançou 100% de recall@50 para restrições dentro do escopo em todos os backends de recuperador, comparado a 73% para o melhor recuperador de disparo único de LLM.
• Benchmarks Comportamentais:
  • Conformidade Médica (SafetyMed): O TypeCompact superou o compactador de produção do Sonnet em taxa de aprovação ($p=0,022$) e preservação de restrições ($p < 10^{-8}$), com uma liderança de 14,5 pontos em preservação.
  • Tarefas de Varejo ($\tau$-bench): O TypeCompact superou tanto a política completa quanto os baselines de truncagem hierárquica em taxa de aprovação ($p < 0,01$).
  • Domínio de Companhias Aéreas: O TypeCompact superou a truncagem hierárquica ($p=0,024$) e empatou estatisticamente com o teto da política completa.

5. Significância e Alegações

O artigo argumenta que a preservação de segurança em agentes de longa duração não é meramente uma questão de melhores modelos de sumarização, mas um requisito estrutural de gestão de contexto. Os autores alegam que a retenção cega ao tipo é fundamentalmente insuficiente para aplicações críticas de segurança porque carece de um mecanismo para distinguir entre conhecimento "com perda" (lossy) e "sem perda" (lossless).

A significância da Triagem de Conhecimento reside em sua capacidade de:

• Formalizar Garantias de Segurança: Ela vincula a memória do agente à teoria da informação e revisão de crenças, fornecendo provas formais de que estratégias uniformes violam restrições de segurança sob pressão de orçamento.
• Permitir Implantação em Produção: Ao tratar compactação, decomposição e recuperação como um problema unificado com políticas dependentes de tipo, oferece um caminho prático para agentes operarem indefinidamente sem degradar regras de segurança.
• Abordar Segurança Declarativa: Através do classificador SafetyMargin, resolve o modo de falha específico onde regras de segurança declarativas (comuns em textos médicos e jurídicos) são ignoradas por heurísticas gramaticais.

Os autores concluem que, antes de delegar a compactação a LLMs de fronteira, os sistemas devem classificar os itens por papel de segurança e reter a classe crítica de segurança sem modificação. Esta abordagem transforma a preservação da segurança de um resultado probabilístico do comportamento do modelo em uma propriedade determinística da camada de armazenamento.