💬 NLP

A Matryoshka Hierarchical RAG for Efficient Multi-Hop Question Answering

O artigo apresenta o MatRAG, um framework hierárquico de Geração Aumentada por Recuperação que utiliza o Aprendizado de Representação Matryoshka e um Grafo Acíclico Dirigido de clusters de documentos para resolver eficientemente questões de múltiplos saltos (multi-hop), reduzindo tanto os custos de indexação quanto de consulta, ao mesmo tempo em que mantém uma alta qualidade de recuperação.

Autores originais: Gianluca Bonifazi, Christopher Buratti, Michele Marchetti, Federica Parlapiano, Giulia Quaglieri, Davide Traini, Domenico Ursino, Luca Virgili

Publicado 2026-10-02

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Gianluca Bonifazi, Christopher Buratti, Michele Marchetti, Federica Parlapiano, Giulia Quaglieri, Davide Traini, Domenico Ursino, Luca Virgili

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

No cenário moderno da inteligência artificial, os grandes modelos de linguagem tornaram-se ferramentas poderosas para gerar texto, responder perguntas e resolver problemas. No entanto, esses modelos frequentemente têm dificuldade quando solicitados a encontrar fatos específicos escondidos no seio de vastas bibliotecas de documentos, ou quando uma pergunta exige conectar peças de informação espalhadas por diferentes fontes. Para resolver isso, pesquisadores desenvolveram um método chamado geração aumentada por recuperação (retrieval-augmented generation). Essa abordagem atua como um bibliotecário para o computador: antes de o modelo responder a uma pergunta, ele primeiro pesquisa em um banco de dados para encontrar documentos relevantes, lê-os e, então, usa essa informação fresca para elaborar sua resposta. Isso ajuda o modelo a evitar inventar coisas, um erro comum conhecido como alucinação.

O desafio torna-se significativamente mais difícil quando uma pergunta exige o raciocínio "multi-hop" (de múltiplos saltos). Imagine perguntar: "Quem foi o presidente do país onde o autor de um livro específico nasceu?". Para responder a isso, o sistema deve primeiro encontrar o livro, depois o autor, depois o local de nascimento do autor e, finalmente, o presidente desse país. Ele não pode simplesmente encontrar um documento que contenha a resposta; ele deve ligar vários documentos em uma cadeia. Os métodos tradicionais para fazer isso geralmente dependem da construção de mapas complexos de relações entre fatos ou de pedir ao computador para pensar através dos passos, um por um. Embora esses métodos possam funcionar, eles são frequentemente lentos, caros para configurar e exigem uma quantidade massiva de poder computacional, tornando-os difíceis de usar em grandes coleções de dados.

Uma equipe de pesquisadores da Itália propôs uma nova maneira de lidar com esse problema, uma que equilibra velocidade com precisão. Eles criaram um sistema chamado MatRAG, que organiza a informação de uma forma que imita como agrupamos ideias naturalmente, desde categorias amplas até detalhes específicos. Em vez de construir um mapa complexo de cada relação entre fatos, o sistema organiza os documentos em uma hierarquia de clusters. Pense nisso como um conjunto de caixas aninhadas: as caixas maiores contêm grupos amplos de documentos, caixas menores dentro delas contêm grupos mais específicos e as caixas menores contêm os próprios documentos individuais. Os pesquisadores construíram essa estrutura usando uma técnica que permite ao computador entender o significado do texto em diferentes níveis de detalhe. No topo da hierarquia, onde os grupos são muito amplos, o sistema usa uma versão simplificada e mais curta do significado do documento para tomar decisões rápidas. À medida que desce na hierarquia para encontrar os documentos específicos necessários, o sistema muda para uma versão mais detalhada e completa do significado. Isso permite que o sistema pule seções irrelevantes da biblioteca rapidamente sem se perder, economizando uma quantidade tremenda de tempo e poder computacional.

Os pesquisadores testaram este novo sistema em três conjuntos padrão de perguntas difíceis que exigem a ligação de várias peças de informação. Eles compararam o MatRAG com outros sete métodos líderes, incluindo aqueles que usam mapas complexos e aqueles que dependem de pedir ao computador para planejar sua busca passo a passo. Os resultados mostraram que o MatRAG não foi apenas mais rápido, mas também mais preciso. Em termos de encontrar os documentos corretos para responder às perguntas, ele superou seus concorrentes mais fortes. Quando se tratou de gerar as respostas finais, alcançou as pontuações mais altas de precisão em todos os conjuntos de testes. Talvez o mais impressionante seja que o sistema foi capaz de fazer isso evitando as etapas caras e demoradas exigidas por outros métodos, como a construção de mapas de conhecimento detalhados ou o uso de computadores potentes para resumir cada um dos documentos antes da busca.

Uma parte fundamental do sucesso do sistema reside em como ele gerencia o processo de busca. À medida que o sistema se aprofunda na hierarquia, ele utiliza um mecanismo inteligente para manter seu foco. Ele rastreia os nomes e entidades específicas mencionados na pergunta e nos documentos que já foram encontrados. Se a busca começar a se desviar para tópicos não relacionados, o sistema usa esses nomes para trazer o foco de volta à pergunta original. Isso evita que o computador fique confuso ou se afaste da resposta que está tentando encontrar. Os pesquisadores descobriram que essa abordagem permitiu que o sistema lidasse com cadeias complexas de raciocínio sem precisar recorrer à maquinaria lenta e pesada dos grandes modelos de linguagem para cada etapa individual da busca.

O estudo também revelou que a maneira como o sistema organiza seus dados é tão importante quanto a própria busca. Ao usar versões mais curtas e simplificadas dos significados dos documentos nos níveis superiores da hierarquia, o sistema conseguiu agrupar documentos de forma tão eficaz quanto se tivesse usado as versões completas e detalhadas. Isso significa que o sistema não perde nenhuma qualidade em sua compreensão dos dados ao tomar atalhos; ele simplesmente usa a quantidade certa de detalhe para o trabalho certo. Essa descoberta sugere que o futuro da recuperação eficiente de informações pode não residir na construção de mapas maiores e mais complexos, mas sim na organização inteligente da informação para que o computador possa encontrar o que precisa com menos esforço.

No fim, o trabalho demonstra que é possível construir um sistema que seja tanto rápido quanto inteligente. Os pesquisadores mostraram que, ao alinhar a estrutura dos dados com a maneira como o computador processa a informação, eles puderam resolver perguntas difíceis e de múltiplos passos com maior velocidade e menor custo do que os métodos anteriores. Essa abordagem oferece um caminho promissor para tornar a inteligência artificial mais prática e acessível, permitindo que ela lide com vastas quantidades de informação sem ficar sobrecarregada pelos custos computacionais que limitaram seu uso até agora. As descobertas sugerem que, com o design correto, podemos ter o melhor dos dois mundos: respostas de alta qualidade entregues rapidamente, sem a necessidade de infraestrutura cara.

Resumo Técnico: MatRAG – Um RAG Hierárquico Matryoshka para Resposta de Perguntas Multi-salto Eficiente

1. Declaração do Problema

Os sistemas de Geração Aumentada por Recuperação (RAG) enfrentam um desafio significativo na Resposta de Perguntas (QA) multi-salto (multi-hop), onde a resposta correta requer a agregação de informações dispersas em múltiplos documentos ligados por entidades ou relações. As soluções existentes geralmente se dividem em duas categorias, ambas incorrendo em custos computacionais proibitivos:

Abordagens baseadas em Grafos: Estas constroem Grafos de Conhecimento (KGs) explícitos offline via vinculação de entidades e extração de relações. Elas incorrem em altos custos de indexação e custos de travessia online caros (por exemplo, usando Personalized PageRank ou agentes de LLM).
Abordagens Hierárquicas: Estas organizam corpora em índices de múltiplos níveis, mas frequentemente dependem de chamadas recursivas de Grandes Modelos de Linguagem (LLMs) para gerar resumos para os nós internos, criando altos custos de indexação offline. Além disso, a recuperação iterativa em ambas as famílias frequentemente depende de planejamento caro impulsionado por LLM, levando a uma alta latência de tempo de consulta.

O problema central é equilibrar a qualidade da recuperação com a eficiência computacional (tanto de indexação quanto de consulta) sem depender de construção de KG dispendiosa ou planejamento iterativo de LLM.

2. Metodologia: MatRAG

Os autores propõem o MatRAG, um framework de RAG hierárquico que alinha a hierarquia semântica de uma estrutura de agrupamento com a estrutura aninhada do Aprendizado de Representação Matryoshka (MRL).

2.1. Indexação Hierárquica (Fase Offline)

O MatRAG constrói um Grafo Acíclico Dirigido (DAG) de clusters usando agrupamento baseado em densidade (HDBSCAN) em embeddings de documentos.

Alinhamento Matryoshka: Em vez de usar embeddings de dimensão total para todos os níveis, o MatRG explora o MRL, onde um único embedding contém prefixos informativos aninhados de comprimentos variados.
- Nós Folha (Nível $L$ ): Armazenam embeddings de documentos de dimensão total ( $M$ ).
- Nós Internos (Níveis $1 $a$ L-1$): Armazenam centroides de clusters truncados para dimensões progressivamente mais curtas ( $m_l < M$ ).
Racional: Os níveis mais grosseiros da hierarquia agregam conteúdo semanticamente heterogêneo; portanto, eles requerem representações menos granulares (mais curtas) para distinguir os clusters. Isso reduz o custo das computações de similaridade nos níveis superiores.
Cobertura Redundante: Para garantir a robustez contra escolhas de centroides subótimas, cada nó no nível $l+1$ é conectado aos seus $p$ clusters mais próximos no nível $l$ , criando múltiplos caminhos para a travessia.
Extração de Entidades: Entidades nomeadas são extraídas dos documentos (usando GLiNER) e armazenadas junto com os embeddings para suportar a lógica de recuperação baseada em entidades.

2.2. Recuperação com Orçamento de Entidades (Fase Online)

A recuperação procede via uma travessia iterativa, de cima para baixo, do DAG, guiada por um mecanismo impulsionado por entidades em vez de planejamento por LLM.

Loop Iterativo: O orçamento de recuperação é determinado dinamicamente pelo número de entidades distintas encontradas na consulta e no contexto recuperado anteriormente.
Consulta Cumulativa e Ancoragem: O sistema mantém uma consulta cumulativa ( $q_c$ ) formada pela concatenação da consulta original com os documentos recuperados. Para evitar o desvio de consulta (onde a busca diverge da intenção original), uma pontuação de travessia ( $S_l$ ) combina a similaridade com a consulta cumulativa com a similaridade com a consulta original ( $q$ ). Um coeficiente de ancoragem ( $\beta_t$ ) aumenta ao longo das iterações, ponderando progressivamente mais a consulta original para manter o alinhamento.
Travessia Top-Down: Em cada nível, o embedding da consulta é truncado para corresponder à dimensão dos centroides daquele nível. O sistema seleciona o cluster mais promissor e desce até atingir o nível do documento.
Re-ranking: No nível folha, os documentos candidatos são reclassificados usando uma pontuação de múltiplos sinais ( $R(d)$ ) que mistura similaridade semântica com um sinal de sobreposição de entidades (coeficiente de Jaccard) entre as entidades do candidato e as entidades da "fronteira" descobertas na iteração anterior. Isso garante que os documentos recuperados sejam semanticamente relevantes e consistentes em termos de entidades.

3. Principais Contribuições

O artigo identifica três contribuições primárias:

Indexação Alinhada à Resolução: Uma estratégia que alinha as dimensões do MRL com a profundidade do índice. Isso reduz os custos de similaridade em tempo de consulta nos níveis mais grosseiros, enquanto preserva a precisão da recuperação ao reservar as dimensões totais para o ranking fino de documentos.
Recuperação Iterativa Impulsionada por Entidades: Um mecanismo que substitui o planejamento iterativo de LLM por um sinal leve baseado em contagens e sobreposições de entidades. Isso controla o orçamento de recuperação e expande o contexto progressivamente sem chamadas caras de LLM.
Re-ranking Consciente de Entidades e Controle de Desvio: Um mecanismo de pontuação que utiliza a sobreposição de entidades para priorizar candidatos e um cronograma de ancoragem adaptativo para evitar o desvio semântico durante a recuperação iterativa.

4. Resultados Experimentais

O MatRAG foi avaliado em três benchmarks padrão de QA multi-salto: HotpotQA, 2WikiMultiHopQA e MuSiQue, contra sete baselines (incluindo NaiveRAG, RAPTOR, GraphRAG, LightRAG, HippoRAG2, KGP e ToG).

Qualidade de Recuperação: O MatRAG alcançou o maior Recall@2 e Recall@5 em todos os benchmarks. Notavelmente, no desafiador dataset MuSiQue, superou o melhor baseline (NaiveRAG) em 14,48% no Recall@2 e em 13,37% no Recall@5.
Qualidade da Resposta: O MatRAG alcançou os maiores escores de Exact Match (EM) e F1. No MuSiQue, melhorou o EM em 4,58% e o F1 em 12,94% em relação ao concorrente mais forte (HippoRAG2).
Eficiência de Indexação: O MatRAG reduziu significativamente o tempo de indexação em comparação com métodos baseados em grafos e hierárquicos que exigem construção de KG ou sumarização por LLM. Ele reduziu o tempo de indexação em mais de 99,60% em comparação ao HippoRAG2 e superou o GraphRAG e o LightRAG em várias ordens de magnitude.
Eficiência de Tempo de Consulta: O MatRAG alcançou o tempo de resposta mais rápido, superando o NaiveRAG baseado em FAISS plano em 47,44% no HotpotQA. Isso demonstra que a travessia de dimensão consciente do DAG é computacionalmente superior à busca plana de dimensão total.
Tamanho do Contexto: Embora o MatRAG use um pouco mais de tokens que o NaiveRAG, ele reduz o tamanho do contexto em mais de 79% em comparação ao GraphRAG e 86% em relação ao LightRAG, evitando o overhead dos pipelines de recuperação baseados em KG.

5. Significância e Alegações

O artigo afirma que o MatRAG consegue preencher a lacuna entre a "recuperação plana barata" e a "recuperação estruturada cara".

Viés Indutivo: O acoplamento da dimensão do embedding com a profundidade do índice é apresentado como um viés indutivo produtivo que aproveita modelos MRL existentes sem exigir treinamento ou parâmetros adicionais.
Raciocínio Leve: Os resultados sugerem que sinais leves, baseados em entidades, podem efetivamente substituir o raciocínio e o planejamento tipicamente realizados por LLMs, reduzindo substancialmente o tempo de consulta sem sacrificar a qualidade da resposta.
Escalabilidade: Ao evitar a construção explícita de KG, vinculação de entidades e sumarização por LLM, o MatRAG oferece uma abordagem escalável aplicável a uma ampla gama de corpora.
Eficiência vs. Qualidade: Os estudos de ablação confirmam que o uso de prefixos Matryoshka truncados para agrupamento e travessia não degrada a qualidade do agrupamento (medida pelos escores de Davies-Bouldin e Silhouette) e, na verdade, melhora a eficiência e o desempenho da recuperação, provavelmente devido a uma regularização implícita que descarta dimensões ruidosas.

Os autores concluem que a dicotomia entre a recuperação plana eficiente e a recuperação estruturada de alta qualidade pode ser parcialmente resolvida através do co-design da estratégia de embedding e da estrutura do índice.