💬 NLP

Attributing Response to Context: A Jensen-Shannon Divergence Driven Mechanistic Study of Context Attribution in Retrieval-Augmented Generation

Este trabalho apresenta o ARC-JSD, um novo método baseado na Divergência de Jensen-Shannon que identifica de forma eficiente e precisa quais partes do contexto fundamentam as respostas em sistemas de RAG, sem a necessidade de treinamento adicional, além de realizar uma análise mecanística sobre como os modelos processam essa atribuição internamente.

Autores originais: Ruizhe Li, Chen Chen, Yuchen Hu, Yanjun Gao, Xi Wang, Emine Yilmaz

Publicado 2026-02-12

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Ruizhe Li, Chen Chen, Yuchen Hu, Yanjun Gao, Xi Wang, Emine Yilmaz

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está lendo um livro de mistério e o detetive chega a uma conclusão: "O culpado é o mordomo!".

Mas, de repente, você pergunta: "Como você sabe disso? Em qual página você leu essa pista?". Se o detetive apenas disser "eu senti isso", ele não é confiável. Para ser um bom detetive, ele precisa apontar o dedo para a frase exata no livro que prova o crime.

No mundo da Inteligência Artificial (IA), isso é o que chamamos de RAG (Geração Aumentada de Recuperação). A IA lê um monte de documentos e tenta responder perguntas. O problema é que, às vezes, ela "alucina" (inventa coisas) ou não diz de onde tirou a informação.

Este artigo científico apresenta uma ferramenta chamada ARC-JSD. Vamos entender o que ela faz usando uma analogia.

🕵️‍♂️ A Analogia do "Detetive de Pistas"

Imagine que a IA é um estudante fazendo uma prova de história com um livro aberto ao lado.

O Problema (A IA "fofoqueira"): O estudante escreve uma resposta perfeita, mas não diz em qual parágrafo do livro ele encontrou aquilo. Você não sabe se ele realmente estudou ou se está apenas "inventando com confiança".
O Método Antigo (O "Interrogatório Exaustivo"): Para descobrir a fonte, os métodos antigos tentavam apagar uma frase por vez do livro e ver se o estudante ainda conseguia dar a mesma resposta. O problema? Isso demorava uma eternidade! Era como se, para cada frase do livro, você tivesse que fazer o estudante refazer a prova inteira do zero.
A Solução ARC-JSD (O "Raio-X de Intenção"): Em vez de fazer o estudante refazer a prova centenas de vezes, os pesquisadores criaram um "sensor de diferença" (chamado de Divergência de Jensen-Shannon).

🧠 Como o "Raio-X" funciona?

Imagine que a mente da IA é como uma rádio sintonizada em várias estações ao mesmo tempo. Cada frase do livro é uma estação de rádio que toca uma música específica.

O ARC-JSD funciona assim:

Ele olha para a "música" (a resposta) que a IA está cantando.
Ele faz um teste rápido: "Se eu desligar a estação 'Frase A', a música muda drasticamente ou continua igual?".
Se a música mudar completamente (se o ritmo e a letra mudarem), o ARC-JSD grita: "ACHEI! A Frase A é a pista principal!".
Se a música continuar igual, ele ignora aquela frase, pois ela era apenas "ruído de fundo".

O grande truque: Ele faz isso de forma muito rápida e matemática, sem precisar "treinar" a IA de novo ou gastar uma energia absurda de computador. É como se, em vez de refazer a prova inteira, o detetive apenas olhasse para o brilho nos olhos do estudante para saber se ele encontrou a resposta.

🔬 O que eles descobriram de verdade? (Em termos simples)

Os cientistas não apenas criaram o método, eles abriram o "cérebro" da IA para ver como ela funciona por dentro:

Onde a mágica acontece: Eles descobriram que existem partes específicas dentro da IA (chamadas de camadas MLP e cabeças de atenção) que funcionam como "arquivistas". Essas partes são as responsáveis por pegar a informação do livro e transformar na resposta.
Controle de Mentiras: Eles provaram que, se usarmos esse método para identificar quais partes da IA estão "inventando" coisas sem base no livro, podemos "abaixar o volume" dessas partes e forçar a IA a ser mais honesta. É como colocar um filtro de verdade no cérebro da máquina.
Eficiência: O método é muito mais rápido (até 3 vezes mais rápido) que os métodos antigos. É a diferença entre ler o livro inteiro de novo ou apenas passar o dedo nas linhas importantes.

📝 Resumo da Ópera

O artigo criou um GPS de informações para a Inteligência Artificial. Agora, em vez de a IA apenas nos dar uma resposta, o ARC-JSD permite que ela diga: "Eu disse isso porque li exatamente isto aqui, nesta linha, e eu tenho certeza porque minha 'mente' mudaria completamente se essa informação não estivesse aqui".

Isso torna a IA muito mais segura, transparente e, acima de tudo, confiável.

Resumo Técnico: Atribuição de Resposta ao Contexto via Divergência Jensen-Shannon (ARC-JSD)

1. O Problema: O Desafio da Atribuição no RAG

A Geração Aumentada por Recuperação (RAG) utiliza modelos de linguagem de grande escala (LLMs) combinados com contextos externos para aumentar a precisão e reduzir alucinações. Um componente crítico do RAG é a atribuição de contexto: a capacidade de identificar quais partes específicas do documento recuperado foram usadas para gerar uma determinada resposta.

Atualmente, os métodos para resolver isso enfrentam dois grandes obstáculos:

Custo Computacional: Métodos baseados em gradientes ou ajuste fino (fine-tuning) são extremamente caros.
Complexidade de Implementação: Métodos baseados em modelos substitutos (surrogate models) exigem centenas de chamadas de inferência para treinar um modelo linear que preveja a relevância do contexto.

2. Metodologia: O Método ARC-JSD

Os autores propõem o ARC-JSD (Attribute Response to Context via Jensen–Shannon Divergence), um método de inferência que não requer treinamento adicional, cálculo de gradientes ou modelos substitutos.

O mecanismo central baseia-se na seguinte premissa: se a remoção de um segmento de contexto altera drasticamente a distribuição de probabilidade da resposta gerada, esse segmento é essencial para a fundamentação (grounding) da resposta.

Passos técnicos:

Ablação de Sentenças: Para cada sentença $c_i$ no contexto, o modelo gera a distribuição de probabilidade da resposta $R$ como se aquela sentença não existisse ( $C_{ABLATE}(c_i)$ ).
Cálculo da Divergência Jensen-Shannon (JSD): O método calcula a JSD entre a distribuição de probabilidade da resposta com o contexto completo e a distribuição com a sentença removida.
Ranking de Relevância: As sentenças são classificadas com base no valor da JSD. Uma JSD alta indica que a sentença é crucial para a "crença" do modelo sobre a resposta.
Vantagem da JSD: Diferente da Divergência KL (que pode ser instável ou infinita se uma probabilidade for zero) ou da Distância de Wasserstein (que exige métricas de distância entre tokens), a JSD é simétrica, finita, limitada e escala-independente, permitindo comparações diretas entre diferentes camadas do modelo.

3. Principais Contribuições

Novo Método de Atribuição: Introdução do ARC-JSD, que é eficiente e preciso para identificar sentenças de contexto essenciais.
Análise Mecanística: O estudo utiliza o "Logit Lens" para investigar quais componentes internos do Transformer (cabeças de atenção e camadas MLP) são responsáveis pela atribuição de contexto.
Controle de Alucinações: Os autores demonstram que é possível mitigar alucinações manipulando esses componentes internos (usando a pontuação JSD como um "portão de confiança").
Eficiência Computacional: O método é projetado para ser facilmente integrado a qualquer pipeline de RAG existente.

4. Resultados Experimentais

Os autores testaram o método em benchmarks de QA (TyDi QA, Hotpot QA, MuSiQue) usando modelos como Qwen2 e Gemma2.

Precisão de Atribuição: O ARC-JSD superou os baselines existentes, apresentando uma melhoria média de mais de 10% na precisão de atribuição de contexto.
Eficiência: Alcançou uma aceleração de até 3 vezes em comparação com métodos baseados em modelos substitutos (como o ContextCite).
Descobertas Mecanísticas: A análise revelou que as cabeças de atenção e as camadas MLP responsáveis pela atribuição de contexto residem predominantemente nas camadas intermediárias e superiores do modelo.
Redução de Alucinações: Ao aplicar um "portão" (gating) baseado em JSD nas camadas identificadas, o método reduziu a taxa de alucinação em aproximadamente 39% no dataset Hotpot QA, sem comprometer a precisão factual (F1).

5. Significância e Impacto

Este trabalho é significativo por transformar a atribuição de contexto de uma tarefa de "caixa-preta" ou de alto custo em um processo de inferência eficiente e interpretável.

Ao fornecer uma ferramenta que não apenas identifica a fonte da informação, mas também revela como o modelo utiliza essa informação internamente (através de mecanismos de atenção e memória em MLPs), o ARC-JSD abre caminho para sistemas de RAG mais transparentes, auditáveis e confiáveis, essenciais para aplicações em domínios críticos como medicina e direito.