Resumo Técnico: Fragmentação Semântica Adaptativa à Consulta para Geração Aumentada por Recuperação

1. Declaração do Problema

Sistemas de Geração Aumentada por Recuperação (RAG) dependem fortemente da qualidade da fragmentação de documentos para recuperar contexto relevante para a geração subsequente. Abordagens tradicionais utilizam predominantemente fragmentação de tamanho fixo, que segmenta documentos em unidades uniformes, independentemente da estrutura semântica ou da intenção do usuário. Essa rigidez cria um compromisso irredutível: fragmentos menores melhoram a precisão, mas arriscam perder o contexto mais amplo, enquanto fragmentos maiores preservam o contexto, mas diluem a relevância com material extrínseco.

Métodos avançados existentes, como fragmentação semântica (baseada em similaridade de embeddings) e fragmentação agêntica (baseada em intenção), abordam a coerência estrutural, mas compartilham uma limitação fundamental: são agnósticos à consulta. Eles realizam a segmentação como uma etapa de pré-processamento independente da consulta específica do usuário. Consequentemente, um documento é fragmentado de forma idêntica, seja o usuário buscando metodologia, resultados ou um conceito técnico específico, perdendo uma oportunidade crítica de otimizar a relevância na fonte.

2. Metodologia: Fragmentação Semântica Adaptativa à Consulta (QASC)

O artigo propõe a Fragmentação Semântica Adaptativa à Consulta (QASC), uma estratégia dinâmica que integra a consulta do usuário diretamente no processo de segmentação. A QASC opera por meio de um pipeline que mimetiza o comportamento de leitura humana: identificando pontos de interesse, reunindo contexto circundante, avaliando a relevância coletiva e sintetizando unidades coerentes.

A metodologia consiste em quatro mecanismos principais:

1. Seleção de Sentenças Semente via Pontuação de Similaridade:

   • O documento $D$ é dividido em sentenças $S = \{s_1, ..., s_n\}$.
   • Os embeddings de sentença $e(s_i)$ e o embedding da consulta $e(q)$ são computados usando um modelo pré-treinado (por exemplo, Sentence-BERT).
   • A similaridade cosseno é calculada para todas as sentenças em relação à consulta.
   • Limiar Adaptativo: Em vez de um limiar fixo, um limiar baseado em percentil $\tau$ (por exemplo, o percentil 75 das pontuações de similaridade) é usado para selecionar "sentenças semente". Isso garante que o número de sementes escale naturalmente com o comprimento do documento e a especificidade da consulta.

2. Expansão da Janela Contextual:

   • Para cada sentença semente, uma janela contextual é construída incluindo $m$ sentenças antes e depois da semente.
   • Isso pode ser um raio fixo ou adaptativo, expandindo-se para fora até que a similaridade das sentenças de fronteira caia abaixo de um limiar secundário. Isso garante que as sementes não sejam recuperadas isoladamente, mas acompanhadas de contexto suficiente para interpretabilidade.

3. Agregação de Pontuação ao Nível de Fragmento:

   • Para evitar recuperar sentenças isoladas de alta pontuação cercadas por ruído irrelevante, a QASC computa uma pontuação de relevância agregada para cada janela candidata.
   • Essa pontuação é uma média ponderada das pontuações de similaridade de todas as sentenças na janela, onde os pesos decaem exponencialmente com a distância da semente ($\alpha_i = \exp(-\lambda \cdot |i - r|)$).
   • Fragmentos são mantidos apenas se sua pontuação agregada exceder um limiar (por exemplo, $0,6 \times \tau$), garantindo relevância holística.

4. Resolução de Fronteiras e Mesclagem:

   • Janelas candidatas sobrepostas ou adjacentes são mescladas iterativamente para minimizar redundância.
   • As fronteiras finais dos fragmentos são ajustadas para alinhar com divisões linguísticas naturais (parágrafos, seções) para garantir fluxo lógico e autocontenção.

O algoritmo opera no momento da consulta, o que significa que a fragmentação é realizada dinamicamente para cada consulta específica, em vez de ser pré-computada durante a indexação.

3. Contribuições Principais

O artigo delineia quatro contribuições primárias:

1. Design de Algoritmo: Um algoritmo adaptativo à consulta que usa similaridade cosseno para identificar sentenças semente e expande janelas contextuais para formar fragmentos otimizados para relevância.
2. Mecanismo de Pontuação: Um mecanismo de agregação ao nível de fragmento que avalia a relevância holística de uma passagem, em vez de depender de pontuações de sentenças individuais, reduzindo o risco de recuperação sem contexto.
3. Protocolo de Coerência: Um protocolo de mesclagem e resolução de fronteiras que lida com janelas sobrepostas e garante transições suaves, preservando a coerência ao nível do documento.
4. Avaliação Abrangente: Uma avaliação empírica rigorosa contra sete baselines (incluindo cinco granularidades fixas, divisão recursiva, fragmentação semântica e fragmentação agêntica) em 100 documentos técnicos e 200 consultas diversas.

4. Resultados Experimentais

A avaliação foi conduzida em um corpus de 100 documentos técnicos (acadêmicos, de software e relatórios de domínio) usando 200 consultas de quatro tipos: Factoides, Tópicos, Comparativas e Multi-hop.

• Métricas de Desempenho: A QASC alcançou uma pontuação F1 de 0,85, representando:
  • Uma melhoria relativa de 18–27% sobre as baselines de fragmentação fixa (melhor fixo: 0,72).
  • Uma melhoria relativa de 8–12% sobre as baselines de fragmentação semântica e agêntica (semântica: 0,76; agêntica: 0,74).
• Fidelidade: A QASC alcançou a maior pontuação de fidelidade (0,87), indicando uma redução significativa em alegações alucinadas ou não suportadas em comparação com as baselines. Isso é atribuído à maior densidade de relevância dos fragmentos recuperados.
• Latência: A QASC introduziu latência adicional (380 ms) em comparação com a fragmentação fixa (110–120 ms) devido ao processamento no momento da consulta, mas permaneceu comparável à fragmentação semântica baseada em embeddings (340 ms) e bem dentro dos limites interativos subsegundos.
• Avaliação Humana: Três anotadores independentes ($\kappa$ de Cohen = 0,82) avaliaram a QASC significativamente mais alta que todas as baselines em Relevância (4,4/5), Coerência (4,2/5), Completude (4,3/5) e Qualidade da Resposta (4,3/5).
• Robustez: A QASC demonstrou melhorias relativas consistentes (+9 pontos F1) em documentos de complexidade variada (baixa, média, alta) e tipos de consulta.

5. Significado e Alegações

O artigo afirma que a QASC representa uma mudança de paradigma de "fragmentar e depois recuperar" para "consultar, depois fragmentar e depois recuperar".

• Resolução de Compromissos: Ao deslocar a função de filtragem de relevância da etapa de recuperação para a etapa de fragmentação, a QASC resolve a tensão inerente entre precisão e recall na fragmentação fixa. Ela pré-filtra candidatos para que o recuperador classifique "agulhas pré-selecionadas" em vez de procurar agulhas em um palheiro de material irrelevante.
• Alinhamento Contextual: O método alinha o processamento de documentos com o propósito fundamental da recuperação de informações: entregar a informação certa, no contexto certo, para a pergunta certa.
• Praticidade: Embora introduza latência no momento da consulta, o artigo argumenta que isso é um compromisso necessário para uma geração de alta qualidade. Sugere arquiteturas híbridas (pré-fragmentação para recuperação inicial, seguida de re-fragmentação QASC nos principais candidatos) como um caminho viável para escalabilidade em produção.

Os autores concluem que a fragmentação não deve ser tratada como um pensamento posterior de pré-processamento, mas como uma decisão de design crítica e de primeira classe em sistemas RAG. Ao integrar a intenção do usuário diretamente na segmentação, a QASC melhora significativamente a qualidade da recuperação, a precisão da geração e a fidelidade do sistema.