Mitigating Context-Memory Conflicts in LLMs through Dynamic Cognitive Reconciliation Decoding

Resumo Técnico: Mitigação de Conflitos Contexto-Memória em LLMs por Meio de Decodificação Dinâmica de Reconciliação Cognitiva

Declaração do Problema
Os Modelos de Linguagem de Grande Escala (LLMs) possuem conhecimento paramétrico extenso adquirido durante o pré-treinamento, que frequentemente entra em conflito com informações externas fornecidas no contexto (por exemplo, via Geração Aumentada por Recuperação). Quando ocorrem tais "conflitos contexto-memória", os modelos tendem a depender de conhecimento interno desatualizado ou incorreto, comprometendo a fidelidade do contexto recuperado. Estratégias de mitigação existentes, como a Decodificação Consciente do Contexto (CAD), empregam decodificação contrastiva estática para amplificar a diferença entre as distribuições de saída com e sem contexto. No entanto, essas abordagens estáticas sofrem de uma falha crítica: em cenários sem conflitos, elas introduzem interferência desnecessária na distribuição de saída, levando à degradação de desempenho e dissonância cognitiva. Além disso, outros métodos dinâmicos lutam para modelar efetivamente cenários de conflito complexos e do mundo real.

Metodologia: Decodificação Dinâmica de Reconciliação Cognitiva (DCRD)
O artigo propõe a DCRD, um framework de decodificação em duas etapas projetado para prever e mitigar conflitos contexto-memória, roteando dinamicamente as entradas para caminhos de decodificação apropriados. O método é inspirado na teoria da dissonância cognitiva, visando evitar processos corretivos desnecessários quando as informações são consistentes.

1. Previsão de Conflito via Mapas de Atenção:
   Antes da decodificação, a DCRD analisa os mapas de atenção do modelo para avaliar a "fidelidade contextual". Ela calcula a razão dos pesos de atenção alocados ao contexto versus a sequência de saída através das camadas do Transformer e das cabeças de atenção. Um classificador de Rede Perceptron Multicamada (MLP) de camada única utiliza essas pontuações de fidelidade agregadas para prever se um conflito existe (classificação binária).

2. Roteamento Dinâmico e Decodificação de Reconciliação Cognitiva:
   Com base na previsão de conflito, a entrada é roteada para um de dois caminhos:

   • Entradas sem Conflito: Direcionadas para a Decodificação Gorda padrão. Isso evita a "superintervenção" observada em métodos contrastivos estáticos, preservando o desempenho natural do modelo quando o conhecimento externo e interno estão alinhados.
   • Entradas com Conflito: Direcionadas para a Decodificação Contrastiva Dinâmica (DCD). Este caminho ajusta adaptativamente a força da decodificação contrastiva com base na fidelidade contextual prevista. O coeficiente de ajuste $\alpha_{adj}$ é calculado dinamicamente como $\alpha \cdot \frac{1}{1 + \lambda \hat{s}}$, onde $\hat{s}$ representa a fidelidade contextual normalizada.
     • Alta fidelidade (baixo conflito) resulta em intervenção reduzida.
     • Baixa fidelidade (alto conflito) resulta em intervenção aumentada, amplificando a diferença entre as distribuições conscientes e não conscientes do contexto para forçar o modelo a priorizar o contexto externo.

Principais Contribuições

• Framework DCRD: Um método inovador em duas etapas que integra previsão de conflito com roteamento dinâmico. Ele equilibra de forma única a necessidade de intervenção em cenários de conflito, mantendo eficiência e precisão em cenários sem conflito.
• Benchmark ConflictKG: Os autores construíram um novo benchmark de perguntas e respostas (QA) sobre conflitos de conhecimento contendo 4.466 instâncias (tanto conflitantes quanto não conflitantes) com fontes de conhecimento associadas. Diferentemente de métodos anteriores que dependiam de substituição de entidades, o ConflictKG utiliza LLMs para gerar contextos linguisticamente coerentes com conflitos semânticos válidos, simulando cenários reais de atualização de conhecimento.
• Avaliação Abrangente: Experimentos extensivos foram conduzidos em quatro LLMs de código aberto (Llama2-7b/13b, Llama3-8b, Mistral-7b) em seis conjuntos de dados, incluindo QA padrão (NQ, SQuAD, TriviaQA), QA de conflito de conhecimento (Counterfacts, NQ-Swap) e o novo benchmark ConflictKG.

Resultados Experimentais

• Desempenho Superior: A DCRD superou todas as linhas de base (Gorda, CAD, COIECD, ADACAD) em todos os conjuntos de dados e modelos.
  • No ConflictKG, a DCRD alcançou uma melhoria média de precisão de 14,5% sobre a decodificação Gorda e de 14,2% sobre a CAD.
  • No NQ-Swap (alto conflito), a DCRD melhorou a decodificação Gorda em até 29,1% (no Llama2-13b).
  • Crucialmente, em conjuntos de dados de QA geral (baixo conflito), a DCRD manteve ou melhorou o desempenho, enquanto métodos estáticos como a CAD frequentemente degradaram o desempenho significativamente (por exemplo, a CAD caiu em média 8,1% entre os modelos em tarefas de baixo conflito).
• Robustez: A DCRD demonstrou maior estabilidade do que as linhas de base quando a proporção de conflitos nos dados variou ou quando contextos ruidosos foram introduzidos. Seu desempenho flutuou minimamente em comparação com as quedas significativas observadas no COIECD e no ADACAD.
• Eficiência: Embora a DCRD incorra em um tempo de inferência ligeiramente maior do que os métodos estáticos devido à etapa de previsão, ela é significativamente mais eficiente do que o COIECD (39% do tempo do COIECD). O roteamento dinâmico garante que a decodificação contrastiva computacionalmente mais pesada seja aplicada apenas quando necessário.

Significado e Alegações
O artigo afirma que a DCRD oferece uma solução prática para o problema da "dissonância cognitiva" em LLMs, onde mecanismos de correção estática prejudicam o desempenho em cenários sem conflito. Ao mimetizar um processo de reconciliação cognitiva — focando seletivamente no contexto apenas quando necessário — a DCRD alcança desempenho state-of-the-art tanto em cenários de alto conflito quanto em cenários gerais. Os autores afirmam que sua abordagem mitiga efetivamente conflitos de conhecimento sem exigir ajuste fino adicional ou engenharia de prompts complexa, fornecendo um método escalável para manter a factualidade em ambientes dinâmicos onde o conhecimento evolui rapidamente. A introdução do ConflictKG também é destacada como um passo significativo em direção a uma avaliação mais realista da resolução de conflitos contexto-memória.