Resumo Técnico: Contágio de Memória

1. Definição do Problema

O artigo aborda uma vulnerabilidade crítica nos sistemas de memória de agentes de Grandes Modelos de Linguagem (LLMs): o Contágio de Memória. Embora trabalhos recentes (ex: Zhang et al. [2026]) tenham estabelecido que mecanismos de consolidação de memória podem degradar informações úteis, esses estudos assumem que as experiências de entrada são imparciais.

Na realidade, os agentes são frequentemente treinados ou guiados por avaliadores enviesados (ex: modelos de recompensa, feedback humano ou outros agentes com preferências sistemáticas). Quando um agente interage com um avaliador enviesado, suas trajetórias resultantes tornam-se enviesadas. Se essas trajetórias enviesadas forem armazenadas em um sistema de memória e recuperadas por agentes futuros, o viés se propaga através do tempo e dos episódios. Os autores definem Contágio de Memória como essa propagação trans-temporal do viés do avaliador via sistemas de memória de agentes, distinguindo-o de trabalhos anteriores sobre viés de reforço de agente único ou viés de recuperação dentro de um mesmo episódio.

2. Metodologia

2.1 Configuração Experimental

O estudo emprega um framework de dois agentes:

• Agente de Origem ($A_s$): Interage com tarefas e é avaliado por um avaliador enviesado ($E_b$). Suas trajetórias são armazenadas em um repositório de memória ($M_b$).
• Agente Alvo ($A_t$): Recupera informações do repositório de memória para resolver novas tarefas. O estudo mede se $A_t$ exibe o viés de $E_b$ mesmo que o próprio avaliador de $A_t$ seja imparcial.

Tipos de Viés Investigados:

1. Viés de Comprimento (Length Bias): Uma preferência por respostas longas ($b(\tau) = \text{len}(a)$).
2. Viés de Autoridade (Authority Bias): Uma preferência por respostas que contenham marcadores de autoridade (ex: "estudos mostram", citações), detectada via um classificador baseado em LLM.

Estratégias de Consolidação:

• Consolidação Oráculo (Oracle Consolidation): Fusão perfeita sem perda de informação (servindo como um limite superior para testar se a propagação do viés é inerente ao input).
• Consolidação por LLM: Fusão realista via sumarização por LLM.

2.2 Métricas e Decomposição

Os autores introduzem $\Gamma_{\text{temporal}}$, uma métrica que mede a distância comportamental (usando a distância de Wasserstein $W_1$) entre um agente alvo que recupera de uma memória enviesada versus uma memória limpa.

Para entender o mecanismo, o contágio total ($\Gamma_{\text{total}}$) é decomposto em:

• $\Gamma_{\text{content}}$ (E1): Propagação de viés devido ao conteúdo das memórias armazenadas.
• $\Gamma_{\text{retrieval}}$ (E2): Propagação de viés devido ao mecanismo de recuperação (ex: similaridade de embedding com queries enviesadas).
• $\Gamma_{\text{interaction}}$ (E3): Efeitos sinérgicos entre conteúdo e recuperação.
• Eficácia de Desenviesamento ($E_4$): A redução no contágio quando as memórias são reescritas para remover marcadores de viés.

2.3 Fases Experimentais

1. Injeção de Viés: Geração de trajetórias enviesadas via amostragem de rejeição.
2. Construção de Memória: Armazenamento e consolidação de trajetórias.
3. Ablação (Oráculo): Teste de contágio com consolidação perfeita.
4. Decomposição de Mecanismo: Isolamento de efeitos de conteúdo vs. recuperação.
5. Análise Dose-Resposta: Variação da taxa de contaminação ($p$) de 0.2 a 1.0.

3. Resultados Principais

3.1 O Contágio Ocorre com Consolidação Perfeita

Mesmo sob consolidação Oráculo (onde nenhuma informação é perdida durante a fusão), o Contágio de Memória é observado.

• Viés de Comprimento: $\Gamma_A = 13.18$ (95% CI [9.05, 21.10]), significativamente maior que 0 ($p < 0.01$).
• Viés de Autoridade: $\Gamma_A = 11.45$ (estimativa exploratória de execução única).
• Implicação: O input enviesado é uma causa suficiente para o contágio; a consolidação perfeita não impede o fenômeno.

3.2 Efeitos da Consolidação Dependentes do Tipo de Viés

O impacto da consolidação baseada em LLM varia conforme o tipo de viés:

• Viés de Comprimento: A consolidação atenua o contágio. $\Gamma$ cai de 13.18 (Oráculo) para 2.03 (LLM), uma redução de 84%. Os autores hipotetizam que isso ocorre porque a sumarização comprime características globais como a contagem total de palavras.
• Viês de Autoridade: Evidências preliminares sugerem que a consolidação amplifica o contágio. $\Gamma$ aumenta de 11.45 (Oráculo) para 16.80 (LLM) em uma única execução. Os autores hipotetizam que a sumarização preserva afirmações centrais e seus respectivos marcadores de autoridade enquanto remove o conteúdo periférico, concentrando assim os sinais de viés por token.

3.3 Decomposição de Mecanismo

• Dominância de Conteúdo: Tanto o contágio baseado em conteúdo ($E_1$) quanto o baseado em recuperação ($E_2$) estão presentes, mas a contaminação de conteúdo é ligeiramente maior.
• Interação: O termo de interação ($E_3$) é pequeno e não é estatisticamente distinguível de zero, sugerindo que os mecanismos de conteúdo e recuperação operam de forma amplamente independente.
• Desafios de Desenviesamento: Reescrever memórias para remover marcadores de viés é difícil. Para o viés de autoridade, a eficácia de desenviesamento ($E_4$) foi de apenas 0.51, indicando que um viés residual substancial permanece, provavelmente devido ao emaranhamento semântico entre marcadores de autoridade e conteúdo factual.

3.4 Análise Dose-Resposta

• Ausência de Limite Seguro: O contágio é detectável mesmo em taxas baixas de contaminação ($p = 0.2$, ou 20% de memórias enviesadas).
• Não Linearidade:
  • O viés de comprimento mostra um aumento monotônico com a taxa de contaminação.
  • O viés de autoridade mostra um padrão de "pico e declínio", atingindo o pico em $p=0.8$ ($\Gamma = 23.03$) e diminuindo em $p=1.0$. Os autores especulam que isso se deve à interferência de recuperação quando a maioria das memórias contém marcadores semelhantes.

4. Significância e Alegações

O artigo afirma identificar uma vulnerabilidade anteriormente desconhecida no design de memória de agentes: o input enviesado é uma causa suficiente para a propagação trans-temporal de viés, independentemente da qualidade da consolidação.

• Refutação de "A Consolidação é o Problema": Os autores argumentam que as alegações de que corrigir a consolidação resolve os problemas de memória são incompletas. Mesmo com consolidação perfeita, inputs enviesados levam a agentes enviesados.
• Assimetria Direcional: A descoberta de que a consolidação pode atenuar um tipo de viés (comprimento) enquanto potencialmente amplifica outro (autoridade) desafia a suposição de que a consolidação é uniformemente neutra ou prejudicial.
• Ferramenta de Medição: O artigo fornece ferramentas formais ($\Gamma_{\text{temporal}}$) para medir a propagação de viés trans-temporal, permitindo que pesquisas futuras quantifiquem e mitiguem esses efeitos.

Os autores concluem que os designers de sistemas de memória devem abordar o viés de input além da qualidade da consolidação. Eles observam que suas descobertas sobre o viés de autoridade são preliminares (baseadas em estimativas de execução única para algumas métricas) e que o fenômeno é altamente dependente do tipo específico de viés e do contexto da tarefa (ex: o viés de autoridade não se propagou em tarefas de QA sintéticas, mas sim em contextos centrados em fatos).