Resumo Técnico: TIGRAG (Token-Induced GraphRAG)

1. Definição do Problema

A Geração Aumentada por Recuperação (RAG) é uma abordagem padrão para mitigar alucinações em Grandes Modelos de Linguagem (LLMs) ao fundamentar a geração em conhecimento externo. No entanto, os sistemas RAG baseados em vetores padrão tratam os documentos como unidades isoladas, tornando-os ineficazes para tarefas de raciocínio multi-hop que exigem a síntese de evidências dispersas através de fragmentos de texto independentes.

Abordagens de Graph-augmented RAG (GraphRAG) tentam resolver isso modelando relacionamentos via Grafos de Conhecimento (KGs), mas enfrentam duas barreiras críticas para a adoção:

1. Sobrecarga Computacional: A construção de KGs offline geralmente depende de pipelines de extração baseados em LLM que são computacionalmente caros e induzem latência.
2. Vulnerabilidades de Extração: A extração de entidades e relações impulsionada por LLM é propensa a alucinações, ruído e conexões ausentes. Esses erros se propagam pelo pipeline de recuperação, causando falhas em cascata no raciocínio subsequente.

2. Metodologia: Arquitetura TIGRAG

Os autores propõem o TIGRAG (Token-Induced GraphRAG), um framework que constrói um Grafo de Conhecimento topológico diretamente a partir de coocorrências de tokens, em vez de depender de extração baseada em LLM. A arquitetura opera em dois estágios: Construção de Grafo Offline e Inferência Online.

2.1. Construção de Grafo Offline

Em vez de usar LLMs para extrair entidades e relações, o TIGRAG utiliza uma abordagem estatística:

• Pré-processamento: O corpus é segmentado em fragmentos de texto sobrepostos usando uma estratégia de janela deslizante sobre sentenças.
• Tokenização: Os fragmentos são tokenizados e stopwords são removidas. Tokens válidos são filtrados com base em comprimento e restrições numéricas.
• Construção do Grafo: Um KG não direcionado e ponderado é construído onde:
  • Nós representam tokens válidos.
  • Arestas representam coocorrências entre tokens dentro de uma janela deslizante de tamanho $w$.
  • Pesos correspondem à frequência cumulativa de coocorrências através do corpus.
• Embeddings: Representações vetoriais densas para cada fragmento são pré-computadas e indexadas para busca de similaridade.

2.2. Inferência Online

O processo de recuperação é iterativo e multi-hop, consistindo em quatro componentes principais:

1. Expansão Semântica (PPR):
   • A consulta do usuário é tokenizada para identificar nós semente no KG.
   • O Personalized PageRank (PPR) é executado a partir desses nós semente para explorar a vizinhança topológica e identificar conceitos semanticamente relacionados.
   • Os top-$\gamma$ nós são selecionados para formar um conjunto de tokens expandido $\Phi_\mu$.
2. Recuperação de Candidatos e Pontuação Ponderada pelo Grafo:
   • Fragmentos candidatos são recuperados se contiverem tokens da consulta original ou do conjunto expandido.
   • Uma pontuação híbrida $\rho(c, \mu)$ é calculada combinando pontuações BM25 com os pesos de probabilidade de tokens derivados do PPR, priorizando conceitos estruturalmente relevantes sobre a simples sobreposição lexical.
3. Agrupamento Dinâmico de Candidatos:
   • Um mecanismo de limiar de pontuação cumulativa filtra a lista de candidatos. Apenas fragmentos cujo score cumulativo atinge uma fração predefinida ($th_\rho$) da massa de pontuação total são retidos, ajustando dinamicamente o tamanho do grupo com base na confiança.
4. Reclassificação Neural (Reranking):
   • O grupo dinâmico é reclassificado usando similaridade de cosseno entre o embedding da consulta e os embeddings dos fragmentos para garantir a máxima fidelidade semântica.

2.3. Estratégia de Raciocínio Multi-Hop

Para lidar com consultas complexas que exigem múltiplos passos de raciocínio:

• Expansão Iterativa Impulsionada por Entidades: Após o primeiro salto de recuperação, os principais fragmentos recuperados são processados através de um pipeline de Reconhecimento de Entidades Nomeadas (NER).
• Aumento de Consulta: Novas entidades não vistas, extraídas desses fragmentos, são concatenadas à consulta original para formar uma consulta expandida ($\mu_{exp}$).
• Re-recuperação: O processo de recuperação baseado em grafo e reclassificação é repetido usando a consulta expandida.
• Terminação: O processo para quando nenhuma nova entidade é encontrada ou quando um limite máximo de saltos é atingido.
• Agregação Final: Fragmentos recuperados de todos os saltos são mesclados, mantendo a pontuação de relevância máxima para cada fragmento, e os top-$\beta$ fragmentos são injetados no prompt do LLM.

3. Principais Contribuições

• Construção de Grafo Eficiente: O TIGRAG elimina a necessidade de extração de entidades baseada em LLM ao construir o KG via estatísticas de coocorrência de tokens, reduzindo significativamente o tempo de indexação e o custo computacional.
• Expansão Semântica Topológica: Ele utiliza o PPR para propagar naturalmente os sinais de recuperação através de nós semânticos, permitindo a descoberta de evidências interconectadas sem decomposição explícita da consulta.
• Recuperação Iterativa Impulsionada por Entidades: O framework introduz um mecanismo para expandir progressivamente as consultas usando entidades de ponte extraídas dos contextos recuperados, visando especificamente lacunas de raciocínio multi-hop.
• Pontuação Híbrida e Reclassificação: Combina a relevância estrutural ponderada pelo grafo com o alinhamento semântico neural para filtrar ruídos e garantir a seleção de contexto de alta qualidade.

4. Resultados Experimentais

O framework foi avaliado em três benchmarks de QA multi-hop: HotpotQA, 2WikiMultiHopQA e MuSiQue.

• Desempenho de Recuperação: O TIGRAG superou consistentemente a recuperação densa (NaiveRAG) e métodos baseados em grafos de última geração (incluindo HippoRAG2, LightRAG e GraphRAG).
  • No HotpotQA, melhorou o Recall@2 em 9,70% em relação ao NaiveRAG.
  • No MuSiQue, alcançou um ganho de 19,92% em Recall@2 sobre o HippoRAG2.
• Desempenho de QA Downstream: O TIGRAG alcançou novos resultados de estado da arte em Exact Match (EM) e pontuações F1 de nível de token em todos os datasets. Por exemplo, no HotpotQA, melhorou o EM em 13,67% em relação ao NaiveRAG.
• Eficiência:
  • Tempo de Indexação: A construção de grafo offline do TIGRAG foi substancialmente mais rápida que outros métodos baseados em grafos (ex: ~191s vs. ~308.000s para o HippoRAG2 no HotpotQA) e comparável à recuperação densa.
  • Latência de Inferência: Em datasets complexos (2WikiMultiHopQA, MuSiQue), o TIGRAG foi mais rápido end-to-end do que o NaiveRAG devido à redução do footprint do prompt.
  • Footprint do Prompt: Ao selecionar dinamicamente fragmentos compactos e de alta relevância, o TIGRAG reduziu significativamente o número de tokens enviados ao LLM em comparação com métodos que injetam resumos extensos de KG ou triplas.

5. Significância e Alegações

O artigo afirma que o TIGRAG demonstra que sistemas RAG aumentados por grafos podem resolver tarefas complexas de raciocínio multi-hop sem sacrificar a eficiência computacional.

• Escalabilidade: Ao contornar a construção de grafos dispendiosa impulsionada por LLM, o TIGRAG oferece uma solução altamente escalável adequada para implantação no mundo real.
• Robustez: A construção estatística do grafo evita os problemas de alucinação e ruído inerentes aos pipelines de extração baseados em LLM.
• Desempenho: O framework estabelece novos benchmarks tanto para precisão de recuperação quanto para qualidade de geração, provando que a expansão topológica via coocorrência de tokens é uma alternativa viável e superior à recuperação densa tradicional e às arquiteturas complexas de GraphRAG.

Os autores reconhecem limitações, observando que o framework depende da qualidade do pipeline de NER (correndo o risco de deriva semântica se as entidades forem imprecisas) e captura primariamente relacionamentos baseados na proximidade de tokens. Um trabalho futuro é proposto para incorporar arestas semânticas, abordar a polissemia de tokens e estender a abordagem para ambientes multimodais.