SPIRE: Structure-Preserving Interpretable Retrieval of Evidence

Título: SPIRE: Recuperação Interpretável de Evidências com Preservação de Estrutura

Autores: Mike Rainey, Umut Acar e Muhammed Sezer (Carnegie Mellon University)
Data: 24 de abril de 2026

---

1. O Problema

O paradigma dominante de Geração Aumentada por Recuperação (RAG) enfrenta um desafio fundamental ao lidar com fontes semi-estruturadas, como páginas HTML, manuais técnicos e artigos de referência. A maioria dos pipelines de RAG atuais ignora a estrutura do documento, "achatando" (linearizando) o conteúdo em chunks (blocos) de texto de tamanho fixo antes da indexação.

Essa linearização causa os seguintes problemas:

• Perda de Contexto Estrutural: Remove limites de seções, hierarquias de cabeçalhos, listas, tabelas e hiperlinks.
• Evidência Não Interpretável: Frases recuperadas do meio de uma lista numerada ou células de tabela sem seus cabeçalhos tornam-se ininteligíveis para o usuário e para o modelo generativo.
• Ineficiência Orçamentária: Ao recuperar blocos grandes para manter o contexto, desperdiça-se o orçamento de tokens (limitação de entrada do modelo) em material irrelevante. Ao recuperar frases isoladas, perde-se o contexto necessário para a compreensão.

O objetivo do SPIRE é criar um pipeline de recuperação que trate a estrutura do documento como um objeto de primeira classe, permitindo a recuperação de evidências precisas que sejam semanticamente completas e citáveis.

---

2. Metodologia e Arquitetura

O SPIRE propõe um modelo de documento baseado em árvores e um pipeline de recuperação em duas etapas principais, utilizando subdocumentos como unidade fundamental.

2.1. Modelo de Documento Endereçável por Caminhos

Em vez de tratar documentos como sequências de texto, o SPIRE os representa como árvores (derivadas do HTML).

• Caminhos (Paths): Cada nó na árvore possui um identificador estável baseado em caminhos (ex: [0, 0, 1] para o primeiro parágrafo da primeira seção).
• Conjuntos de Caminhos (Path Sets): Permitem selecionar múltiplas regiões não contíguas do documento como uma única unidade de recuperação.
• Subdocumentos: Definidos como a extração de uma subárvore bem formada a partir de um conjunto de caminhos. O sistema utiliza operadores de completude de ancestrais (para garantir que o nó seja alcançável a partir da raiz) e descendentes (para incluir o conteúdo interno de um nó estrutural).
• Materialização Diferida: A extração física do texto é adiada até o momento necessário, permitindo que algoritmos operem apenas sobre os conjuntos de caminhos (leves e precisos).

2.2. Mecanismos de Contextualização

O SPIRE introduz dois operadores complementares para garantir que as evidências recuperadas sejam inteligíveis:

1. Contextualização Global (Global Contextualization):

   • Adiciona "andaimes" estruturais não locais necessários para interpretar um nó isolado.
   • Regras Específicas para HTML:
     • Títulos: Inclui o título do documento ou o cabeçalho <h1>.
     • Cabeçalhos (Headers): Inclui cabeçalhos de seção ativos que governam o conteúdo (mesmo que não sejam ancestrais diretos na árvore DOM, mas sim precedentes na ordem do documento).
     • Listas: Preserva os rótulos de itens de lista que dão contexto hierárquico a um item selecionado, sem puxar irmãos irrelevantes.
     • Tabelas: Adiciona apenas os rótulos de linha e coluna relevantes para uma célula específica, evitando carregar a tabela inteira.
   • Isso é aplicado no momento da indexação (embedding), garantindo que o vetor represente tanto o conteúdo quanto a posição estrutural.

2. Contextualização Local (Local Contextualization):

   • Ocorre no momento da consulta (query-time).
   • Expande uma seleção inicial (ex: uma frase) para incluir vizinhanças estruturais locais (frases adjacentes, parágrafos completos) até atingir um orçamento de tokens alvo.
   • Diferente de chunking fixo, essa expansão é sensível à estrutura, priorizando unidades completas (frases, parágrafos).

2.3. Pipeline de Recuperação

O sistema opera em duas fases principais:

1. Geração de Candidatos (Embedding-based):

   • Unidade de Indexação: Frases (sentenças) são usadas como "sementes" para os subdocumentos. Isso oferece granularidade fina e alta precisão.
   • Agrupamento Consciente do Documento: Para evitar redundância, os resultados recuperados de um mesmo documento são agregados antes de aplicar o orçamento. A estrutura compartilhada (títulos, cabeçalhos) é paga apenas uma vez, permitindo que mais evidências relevantes caibam no limite de tokens.
   • O embedding é gerado a partir do subdocumento com contextualização global aplicada.

2. Filtragem Contextual (Contextual Filtering):

   • Uma segunda etapa que utiliza um Modelo de Linguagem (LLM) para reavaliar os candidatos.
   • O LLM recebe a visão expandida (com contextualização local) e a pergunta do usuário.
   • O modelo deve identificar quais partes da visão expandida são essenciais para responder à pergunta, retornando apenas os rótulos das unidades citáveis necessárias.
   • Isso refina a precisão, descartando candidatos que parecem relevantes na frase isolada, mas são irrelevantes no contexto local.

---

3. Contribuições Principais

1. Modelo de Documento Endereçável por Caminhos: Uma abstração formal que utiliza conjuntos de caminhos e operadores de extração (pruning) para lidar com documentos em árvore, servindo como interface entre documentos estruturados e modelos sequenciais.
2. Pipeline de Recuperação Sensível à Estrutura:
   • Indexação de subdocumentos com sementes de frases e contextualização global determinística.
   • Agregação de resultados no nível do documento para otimizar o uso de tokens.
   • Filtragem contextual pós-recuperação usando LLMs para refinar a precisão das citações.
3. Evidência Experimental: Demonstração de que preservar a estrutura e contextualizar seleções resulta em citações de maior qualidade e mais diversas sob orçamentos fixos, superando baselines fortes baseadas em passages (blocos de texto).

---

4. Resultados Experimentais

Os experimentos foram realizados nos benchmarks de perguntas e respostas em HTML: HotpotQA e ASQA, comparando o SPIRE com o baseline bge (usado no HtmlRAG) e variações ablativas.

• Comparação de Recuperação (Embedding-only):

  • O SPIRE (usando frases como unidade de indexação + contextualização global) alcançou uma qualidade de citação (razão de citações úteis) comparável ao baseline bge (0.215 vs 0.222 no HotpotQA).
  • Vantagem Crítica: O SPIRE produziu significativamente mais citações úteis dentro do mesmo orçamento de 1000 tokens (2225 citações vs 1514 do baseline). Isso ocorre porque a granularidade de frase permite um uso mais eficiente do espaço, enquanto a contextualização global mantém a precisão.
  • A ablação sem contextualização global (noctx) reduziu drasticamente a precisão, confirmando a importância do contexto estrutural.

• Pipeline Completo (com Filtragem Contextual - SPIRE):

  • Ao adicionar a etapa de filtragem com LLM, a qualidade das citações saltou drasticamente.
  • HotpotQA: A razão de citações úteis subiu de 0.215 (apenas embedding) para 0.655.
  • ASQA: A razão subiu de 0.615 para 0.813.
  • O sistema SPIRE conseguiu filtrar candidatos fracos e concentrar o orçamento em evidências diretas, mantendo a rastreabilidade (proveniência) exata para o documento original.

---

5. Significado e Conclusão

O trabalho SPIRE demonstra que preservar a estrutura do documento não é apenas uma questão de heurística de chunking, mas uma mudança fundamental na forma como os sistemas de recuperação operam.

• Desacoplamento de Granularidade: O SPIRE separa a granularidade de matching (frases precisas) da granularidade de apresentação (expansão local e filtragem), resolvendo o dilema clássico entre precisão e contexto.
• Citações Robustas: Ao manter os identificadores de caminhos (paths) através de todo o pipeline, o sistema garante que as citações finais apontem exatamente para a origem no documento original, independentemente de quanto contexto foi adicionado ou removido durante a recuperação.
• Futuro: O framework sugere que a integração de documentos estruturados em pipelines de RAG deve ser feita através de abstrações formais (como subdocumentos e políticas de contextualização), permitindo que modelos de linguagem e de vetores operem sobre dados que mantêm sua semântica estrutural original.

Em resumo, o SPIRE oferece uma solução escalável e de alta precisão para a recuperação de evidências em documentos web complexos, superando as limitações dos métodos atuais baseados em texto plano.