Rule-Based Explanations for Retrieval-Augmented LLM Systems

1. O Problema

Os Grandes Modelos de Linguagem (LLMs) com Geração Aumentada por Recuperação (RAG) tornaram-se fundamentais para incorporar conhecimento dinâmico e externo nas respostas dos modelos. No entanto, a proveniência (origem) da informação gerada por esses sistemas é complexa e difícil de rastrear.

As abordagens atuais de Inteligência Artificial Explicável (XAI) para RAG apresentam limitações:

• Atribuição de Características (Feature Attribution): Métodos como LIME e SHAP atribuem pontuações de importância, mas não são acionáveis (não permitem "recursos" ou correções diretas) e podem ser instáveis.
• Explicações Contrafactuais: Embora úteis, podem gerar um número esmagador de cenários mínimos para uma única previsão, confundindo o usuário.
• Falta de Generalização: As regras existentes não foram adaptadas para explicar como a presença ou ausência de fontes de recuperação específicas (documentos) influencia consistentemente a saída de um LLM.

O artigo propõe preencher essa lacuna criando um framework para gerar regras "se-então" (if-then) que explicam a proveniência da saída de sistemas RAG de caixa-preta.

2. Metodologia e Formulação

O núcleo da proposta é definir regras baseadas na presença ou ausência de subconjuntos de fontes de recuperação (documentos) que levam consistentemente a uma condição de saída específica.

2.1 Formulação da Regra

O sistema modela a entrada como $x = (s, c)$, onde $s$ é o subconjunto de fontes de interesse (documentos recuperados) e $c$ são os demais componentes do prompt (instruções, pergunta).

• Predicado de Saída ($O$): Uma função definida pelo usuário que verifica se a saída do modelo atende a uma condição (ex: resposta correta, presença de desinformação, viés).
• Tipos de Regras:
  1. Regras de Retenção: Identificam um subconjunto de fontes $s' \subseteq s$ tal que, se todas as fontes em $s'$ forem retidas (presentes), a saída satisfará o predicado $O$ com 100% de certeza.
  2. Regras de Omissão: Identificam um subconjunto $s'$ tal que, se todas as fontes em $s'$ forem omitidas, a saída satisfará $O$.

A validade de uma regra é definida recursivamente: uma regra é válida apenas se o predicado for satisfeito para todos os seus ancestrais no espaço de busca (o conjunto de potência das fontes).

2.2 Algoritmos de Mineração de Regras

Para encontrar essas regras de forma eficiente em um espaço de busca exponencial ($2^{|s|}$), os autores propõem dois algoritmos inspirados no Apriori, mas adaptados para a validação de modelos:

1. Mono Rule Miner:

   • Realiza uma busca em largura (BFS) de cima para baixo no reticulado (lattice) de subconjuntos.
   • Utiliza Programação Dinâmica para armazenar a validade dos nós, evitando recálculos.
   • Implementa Poda Antecipada (Early Termination): Se um nó (subconjunto) for inválido, todos os seus descendentes são automaticamente descartados, pois a validade recursiva exige que os ancestrais sejam válidos.
   • Otimizado para encontrar apenas um tipo de regra (retenção ou omissão) em uma única passagem.

2. Dual Rule Miner:

   • Projetado para encontrar simultaneamente regras de retenção e omissão em uma única passagem.
   • Utiliza uma representação de máscara para interpretar cada subconjunto de duas maneiras opostas (presença vs. ausência).
   • A poda é mais conservadora: um nó só é podado se for inválido para ambos os tipos de regra.
   • Oferece uma visão mais completa da influência das fontes, comparando o que acontece quando elas estão presentes versus ausentes.

3. Principais Contribuições

1. Primeira Formulação de Regras para RAG: Introdução de um framework formal para explicar sistemas RAG usando regras lógicas baseadas na presença/ausência de fontes.
2. Algoritmos de Busca Eficientes: Desenvolvimento de algoritmos (Mono e Dual) que utilizam poda baseada na propriedade de monotonicidade e programação dinâmica para reduzir drasticamente o número de chamadas ao LLM necessárias.
3. Validação Empírica: Avaliação quantitativa e qualitativa demonstrando a eficiência dos algoritmos e a utilidade das explicações em cenários reais.

4. Resultados Experimentais

Os autores avaliaram os algoritmos usando o dataset HotpotQA (perguntas de múltiplos saltos) e cenários sintéticos, além de estudos de caso em saúde e segurança de IA.

• Eficiência e Poda:

  • Os algoritmos propostos evitaram avaliar até 70-75% dos nós do reticulado em comparação com uma abordagem ingênua (força bruta) que avaliaria todas as $2^{|s|}$ combinações.
  • O Dual Rule Miner mostrou-se mais eficiente do que executar duas passagens do Mono, evitando reavaliações desnecessárias de nós.
  • Para conjuntos de até 10 fontes ($|s| \le 10$), a geração de regras é tratável em minutos, mesmo com LLMs comerciais.

• Estudos de Caso:

  • Saúde: O sistema identificou que a retenção conjunta de dois documentos específicos (D2 e D4) levava consistentemente a recomendações de tratamento incorretas para Long COVID, permitindo que os curadores da base de dados corrigissem o conteúdo.
  • Red Team (Segurança de IA): Em um cenário com 50 fontes adversariais, os autores usaram uma estratégia de "dividir e conquistar" com o Mono Rule Miner para identificar que apenas duas fontes específicas, quando combinadas, conseguiam injetar um exploit no sistema. Isso demonstrou a escalabilidade da abordagem para grandes volumes de dados.

• Robustez:

  • Testes com diferentes LLMs (GPT-5, Gemini, Claude) mostraram que as regras encontradas são robustas, embora a estocasticidade dos modelos possa afetar ligeiramente a precisão e o recall.
  • O uso de um "LLM como juiz" para validar a consistência das respostas mostrou alta precisão (98,89%) e recall (100%).

5. Significado e Impacto

Este trabalho é significativo porque transforma a explicabilidade de sistemas RAG de uma análise estatística aproximada para uma garantia lógica determinística.

• Acionabilidade: Ao identificar exatamente quais documentos causam erros ou comportamentos indesejados, os desenvolvedores podem remover ou corrigir fontes específicas, garantindo a segurança e a precisão do sistema.
• Auditoria: Fornece uma ferramenta para auditores e formuladores de políticas verificarem a confiabilidade de sistemas de IA em setores críticos como saúde e jurídico.
• Escalabilidade: Demonstra que é possível minerar explicações exatas em sistemas complexos sem a necessidade de treinar modelos auxiliares ou depender de aproximações, superando as limitações de métodos anteriores de atribuição de características.

Em resumo, o artigo estabelece um novo padrão para a explicabilidade em RAG, oferecendo ferramentas práticas para garantir que a "caixa-preta" dos LMs seja transparente em relação às fontes de conhecimento que utilizam.