Resumo Técnico: DIVERGE – Recuperação Aumentada por Geração com Diversidade Aprimorada para Busca de Informações de Aberto

1. Declaração do Problema

Os sistemas atuais de Geração Aumentada por Recuperação (RAG) são predominantemente projetados sob a premissa de que cada consulta possui uma única resposta factualmente correta. Esse paradigma leva ao colapso de conhecimento em cenários de busca de informações de aberto (ex: brainstorming, suporte à decisão ou exploração de perspectivas alternativas), onde múltiplas respostas plausíveis existem.

O artigo identifica três desafios específicos que impedem os sistemas RAG padrão de gerar saídas diversas:

• C1: Viés de Resposta Única: Os paradigmas de RAG incentivam a geração excessivamente confiante, fazendo com que os modelos priorizem um subconjunto estreito e de alta confiança de contextos recuperados, enquanto ignoram informações alternativas, porém plausíveis.
• C2: Falta de Preservação da Diversidade: Os mecanismos existentes carecem de estratégias de longo horizonte para preservar a diversidade ao longo de múltiplas gerações. Consequentemente, mesmo com contextos recuperados diversos, o modelo produz saídas altamente similares e homogeneizadas devido às tendências inerentes dos Grandes Modelos de Linguagem (LLMs).
• C3: Aplicabilidade Prática Limitada: Muitas técnicas de ponta para aumento de diversidade dependem do acesso a logits de nível de token ou hiperparâmetros de decodificação específicos (ex: temperatura, top-p), que são indisponíveis ou restritos em LLMs de código fechado (ex: GPT-5, o3).

Além disso, o artigo observa que simplesmente aumentar a diversidade da recuperação (ex: via re-ranking) não se traduz em gerações diversas, e os métodos baseados em prompts existentes frequentemente alcançam diversidade ao custo de uma degradação significativa da qualidade.

2. Metodologia: O Framework DIVERGE

Os autores propõem o DIVERGE (Diversity-Enhanced Retrieval-Augmented Generation), um framework de RAG agêntico "plug-and-play" projetado para modelar explicitamente pontos de vista diversos enquanto mantém a qualidade da resposta. O DIVERGE opera através de um processo iterativo sem exigir acesso aos logits do token, tornando-o compatível com quaisquer backbones de LLM, incluindo modelos de código fechado.

O framework consiste em três componentes principais:

A. Geração de Pontos de Vista Guiada por Reflexão

Para mitigar o viés de resposta única (C1), o DIVERGE trata características latentes do modelo como "pontos de vista".

1. Inicialização: O sistema gera uma resposta RAG inicial e a resume para extrair os pontos de vista existentes.
2. Reflexão: Nas iterações subsequentes, o LLM reflete sobre o conjunto de pontos de vista explorados anteriormente.
3. Identificação de Novo Ponto de Vista: O modelo identifica um novo ponto de vista insuficientemente coberto que ofereça uma perspectiva distinta sobre a consulta original, garantindo que o processo de geração não colapse em uma única postura dominante.

B. Recuperação Consciente de Pontos de Vista

Para abordar a falta de fundamentação factual para pontos de vista hipotéticos (C2), o DIVERGE integra um mecanismo de recuperação que consulta a web aberta em busca de evidências específicas para o ponto de vista identificado.

• Geração de Consulta: O LLM gera uma consulta condicionada ao novo ponto de vista.
• Re-ranking Consciente de Diversidade: O recuperador emprega uma formulação estendida de Relevância Marginal Máxima (MMR). Este pontua documentos com base em:
  1. Relevância para a consulta atual condicionada ao ponto de vista.
  2. Diversidade relativa aos documentos recuperados em iterações anteriores (memória).
  3. Diversidade relativa aos documentos selecionados dentro da atual iteração.
     Isso garante que a evidência recuperada suporte o ponto de vista específico, evitando redundâncias com informações exploradas anteriormente.

C. Geração e Refinamento Condicionados ao Ponto de Vista

Para preencher a lacuna entre um ponto de vista específico e a intenção original do usuário, o DIVERGE utiliza um processo de geração em duas etapas:

1. Geração Condicionada: O LLM gera uma resposta explicitamente condicionada tanto à consulta original quanto ao ponto de vista alvo.
2. Refinamento: A resposta gerada é refinada para garantir que permaneça logicamente coerente, factualmente precisa e aborde diretamente a consulta original do usuário, evitando desvios excessivos enquanto mantém a diversidade introduzida pelo ponto de vista.

3. Métricas de Avaliação

Reconhecendo que as métricas padrão que dependem de respostas de "verdade fundamental" (ground-truth) não são adequadas para tarefas de aberto, os autores introduzem um novo conjunto de avaliação focado no equilíbrio diversidade–qualidade:

• Diversidade Semântica ($D_{sem}$): Mede a variação no significado entre as respostas geradas usando a distância de cosseno pareada entre os embeddings das respostas.
• Diversidade de Ponto de Vista ($D_{view}$): Decompõe as respostas em alegações atômicas (pontos de vista) e mede a fração de alegações mutuamente não sobrepostas entre o conjunto de respostas. Isso captura a diversidade intra-resposta que métricas semânticas podem perder.
• Pontuação de Qualidade: Avaliada utilizando o paradigma LLM-as-a-Judge (LLM como Juiz), avaliando precisão factual, suporte de evidência, consistência interna e relevância da pergunta.
• Pontuação Harmônica Unificada de Diversidade–Qualidade ($U_{Q}$): Uma média harmônica das pontuações de diversidade e qualidade normalizadas, fornecendo uma métrica única para comparar o desempenho do equilíbrio entre os métodos.

4. Resultados Experimentais

O framework foi avaliado no Infinity-Chat, um benchmark do mundo real de consultas de aberto sem verdade fundamental. Os experimentos utilizaram modelos GPT-5-mini e GPT-5.1.

• Desempenho: O DIVERGE alcançou a maior Pontuação Unificada entre todos os métodos e configurações de modelos.
• Ganhos de Diversidade: Comparado à amostragem independente (prompt direto), o DIVERGE melhorou a diversidade semântica em ~2,5× e a diversidade de ponto de vista em ~1,6×.
• Preservação de Qualidade: Ao contrário das baselines baseadas em prompt (ex: Amostragem Verbalizada) que sofreram degradação substancial de qualidade, o DIVERGE manteve uma qualidade de resposta comparável, com apenas uma diminuição marginal (~0,04) na pontuação de qualidade.
• Comparação com Baselines: O RAG padrão e estratégias simples de aumento de diversidade (ex: embaralhamento de contexto, multi-query) falharam em aumentar significativamente a diversidade e frequentemente resultaram em pontuações unificadas mais baixas.

5. Significância e Alegações

O artigo afirma que o DIVERGE aborda uma limitação sistemática nos sistemas atuais baseados em LLM: a falha em aproveitar contextos recuperados diversos para a busca de informações de aberto.

• Mitigação da Homogeneização: Ao modelar explicitamente a diversidade através de reflexão e refinamento iterativo, o DIVERGE demonstra que é possível superar as tendências de homogeneização dos LLMs de fronteira sem retreinamento ou acesso aos estados internos do modelo (logits).
• Aplicabilidade Prática: O framework é projetado como uma solução "plug-and-play" compatível com modelos de código fechado, tornando-o imediatamente aplicável a cenários de implantação do mundo real onde controles de decodificação são restritos.
• Impacto Ético e Social: Os autores argumentam que promover a diversidade nas respostas de IA ajuda a mitigar o risco de saídas homogeneizadas que super-representam pontos de vista sociais ou culturais dominantes, apoiando assim o acesso à informação de forma mais justa e inclusiva e fomentando a criatividade humana.

O trabalho conclui que modelar explicitamente a diversidade é um caminho viável para equilibrar os objetivos frequentemente conflitantes de variedade de resposta e confiabilidade factual em sistemas RAG de aberto.