Disco-RAG: Discourse-Aware Retrieval-Augmented Generation

1. O Problema

Os modelos de Linguagem de Grande Escala (LLMs) aprimorados por Geração Aumentada por Recuperação (RAG) têm se mostrado eficazes em tarefas intensivas em conhecimento. No entanto, a maioria das estratégias de RAG existentes trata os trechos recuperados (chunks) de forma plana e desestruturada. Isso gera duas limitações principais:

• Cegueira Estrutural Intra-trecho: Os sistemas falham em capturar a hierarquia e as relações lógicas internas dentro de um único trecho recuperado.
• Fissuras de Coerência Inter-trecho: Ao lidar com múltiplos trechos, os sistemas não conseguem identificar conexões retóricas (como contraste, causa-efeito ou evidência) entre eles.

Consequentemente, o modelo gerador recebe um "saco de fatos" desconexos em vez de uma linha de raciocínio coerente. Isso leva a generalizações incorretas, alucinações e incapacidade de resolver afirmações conflitantes (ex: um trecho diz que algo é eficaz em certas condições, outro diz que não é eficaz em geral; o RAG padrão pode ignorar a nuance e dar uma resposta errada).

2. Metodologia: Disco-RAG

O Disco-RAG propõe um framework que injeta explicitamente conhecimento de discurso no processo de geração, baseando-se na Teoria da Estrutura Retórica (RST). O pipeline consiste em três etapas principais:

1. Árvores RST Intra-trecho (Local):

   • Para cada trecho recuperado, o sistema constrói uma árvore de estrutura retórica usando um parser baseado em LLM.
   • Isso segmenta o texto em Unidades de Discurso Elementares (EDUs) e identifica relações hierárquicas entre Núcleos (informação central) e Satélites (informação suplementar), capturando a coerência local.

2. Grafos Retóricos Inter-trecho (Global):

   • O sistema constrói um grafo direcionado que conecta todos os trechos recuperados.
   • Um parser inferencial prevê as relações retóricas entre pares de trechos (ex: um trecho suporta, contradiz ou elabora sobre outro), criando um "andaime" de discurso global que modela a coerência entre documentos.

3. Planejamento Orientado a Discurso:

   • Com base nas árvores locais, no grafo global e na consulta do usuário, um módulo de planejamento gera um roteiro (blueprint) dinâmico.
   • Este roteiro não apenas lista os fatos, mas define a ordem lógica e a estratégia argumentativa para apresentar a resposta (ex: começar com o contexto, apresentar a evidência principal, depois as ressalvas).

4. Geração Guiada:

   • O LLM final gera a resposta condicionada a quatro entradas: os trechos originais, as árvores RST, o grafo retórico e o plano de discurso. Isso força o modelo a seguir uma estrutura lógica coerente.

3. Principais Contribuições

• Injeção de Conhecimento de Discurso: Introdução de uma estratégia de inferência que explicitamente modela hierarquias locais e coerência global, resolvendo a discrepância entre evidência em nível de trecho e raciocínio em nível de discurso.
• Arquitetura Híbrida de Estrutura: Combinação de árvores RST intra-trecho, grafos retóricos inter-trecho e planejamento orientado a discurso para capturar hierarquias locais, coerência cruzada e fluxo argumentativo.
• Desempenho sem Ajuste Fino (Training-free): O método alcança resultados de ponta (SOTA) sem necessidade de fine-tuning do modelo gerador, dependendo apenas de prompts e inferência estruturada.
• Validação Abrangente: Demonstração consistente de ganhos em tarefas de Perguntas e Respostas (QA) intensivas em conhecimento e sumarização de documentos longos.

4. Resultados Experimentais

O Disco-RAG foi avaliado em três benchmarks principais: Loong (raciocínio em documentos longos), ASQA (QA de formato longo) e SciNews (sumarização de notícias científicas).

• Benchmarks Loong: O método obteve um ganho geral de 12,74 pontos na pontuação LLM em comparação com o RAG padrão. Em cenários de documentos muito longos (200k-250k tokens), o Disco-RAG superou significativamente o RAG padrão e métodos anteriores como StructRAG.
• Benchmarks ASQA: O método superou sistemas de ponta existentes (como MAIN-RAG e Tree of Clarifications) nas métricas de Exact Match (EM) e ROUGE-L, demonstrando melhor capacidade de lidar com perguntas ambíguas e múltiplas respostas.
• Benchmarks SciNews: Estabeleceu novos recordes de SOTA na maioria das métricas (ROUGE-L, BERTScore, SARI, SummaC), indicando maior precisão factual e coerência na sumarização.
• Robustez e Abordagens:
  • Robustez a Ruído: O Disco-RAG manteve o desempenho estável mesmo com a introdução de trechos irrelevantes (ruído) ou variações no tamanho dos chunks, onde o RAG padrão degradou-se rapidamente.
  • Estudos de Ablação: A remoção de qualquer componente (árvore, grafo ou planejador) resultou em queda de desempenho, confirmando que todos os módulos são complementares e essenciais.
  • Análise de Atenção: A presença de estruturas de discurso reduziu a entropia da atenção do modelo, indicando foco mais seletivo e consistente nos elementos-chave.

5. Significado e Conclusão

O trabalho demonstra que a estrutura de discurso é um componente crítico, mas frequentemente negligenciado, nos sistemas RAG. Ao transformar a recuperação de "fatos soltos" em uma "estrutura argumentativa organizada", o Disco-RAG permite que os LLMs sintetizem conhecimento de forma mais fiel, lógica e coerente.

A descoberta de que é possível alcançar resultados de ponta sem fine-tuning, apenas injetando sinais estruturais de discurso durante a inferência, sugere um caminho promissor e eficiente para avançar sistemas de geração aumentada por recuperação, especialmente em cenários onde a precisão factual e a lógica são fundamentais. O projeto e o código estão disponíveis publicamente, facilitando a reprodução e o avanço futuro na área.