Resumo Técnico: RAGOCR

Definição do Problema

A Geração Aumentada por Recuperação (RAG) tornou-se essencial para o questionamento baseado em conhecimento, mas a escala das pipelines de RAG enfrenta um gargalo crítico: o custo computacional proibitivo de processar contextos recuperados extensos. À medida que o volume de documentos recuperados cresce, os Grandes Modelos de Linguagem (LLMs) têm dificuldade em atender às informações críticas enterradas em entradas longas, levando à degradação da qualidade da geração.

As abordagens de compressão existentes enfrentam um compromisso fundamental:

• Compressão Hard (Rígida): Métodos que operam online de forma consciente à consulta (ex: poda de tokens, extração de sentenças) alcançam apenas taxas de compressão modestas e frequentemente exigem o ajuste fino (fine-tuning) do modelo generativo.
• Compressão Soft (Suave): Métodos que atingem taxas de compressão mais altas (ex: baseados em embeddings) dependem de uma codificação offline custosa que é inteiramente agnóstica à consulta de entrada.

Além disso, trabalhos recentes sugerem que tokens visuais carregam uma densidade de informação substancialmente maior do que tokens de texto. No entanto, aplicar a renderização visual ao RAG sem uma estratégia consciente à consulta introduz um novo desafio: os documentos recuperados variam drasticamente em relevância. Aplicar uma resolução uniforme em todas as imagens renderizadas leva ou ao gasto wasteful de tokens em passagens marginalmente relevantes ou à perda catastrófica de informações em passagens altamente pertinentes. Há uma carência de uma estratégia de alocação consciente à consulta que atribua dinamicamente a resolução visual com base na relevância semântica entre cada documento e a consulta.

Metodologia: RAGOCR

Os autores propõem o RAGOCR (Geração Aumentada por Recuperação via Renderização Óptica de Caracteres), um framework que comprime documentos recuperados em representações visuais compactas condicionadas à consulta de entrada. A pipeline opera em três estágios:

1. Estágio de Renderização

Documentos de texto recuperados são convertidos em imagens através de rasterização de texto. Isso transforma a sequência unidimensional de tokens em uma representação visual bidimensional com densidade de informação inerentemente maior. O processo de renderização é determinístico e parametrizado por tamanho de fonte, largura máxima de tela e preenchimento (padding). Essas imagens podem ser pré-computadas offline, introduzindo um overhead negligenciável no tempo de inferência.

2. Estágio de Compressão Óptica (A Inovação Central)

Um compressor consciente à consulta examina todas as imagens renderizadas conjuntamente com a consulta de entrada e prevê um fator de compressão por imagem.

• Mecanismo: O compressor é um modelo de linguagem-visual leve (especificamente o Qwen3-VL-2B) treinado usando Otimização de Política Relativa de Grupo (GRPO).
• Alocação Adaptativa: A política aprende a atribuir menor compressão (maior resolução) a imagens correspondentes a documentos altamente relevantes para preservar detalhes finos, enquanto reduz agressivamente a escala de documentos menos relevantes.
• Objetivo de Treinamento: A função de recompensa da GRPO é um composto de três termos:
  1. Recompensa de Tarefa ($r_{task}$): Recompensa binária baseada em se o gerador downstream produz a resposta correta usando as imagens comprimidas.
  2. Recompensa de Compressão ($r_{comp}$): Incentiva a compressão agressiva (maximizando a soma dos fatores de compressão logarítmicos), mas só é ativada quando a recompensa de tarefa é positiva, evitando que o modelo sacrifique a precisão pela compressão.
  3. Recompensa de Formato ($r_{format}$): Garante que o modelo produza um template estruturado válido para os fatores de compressão.

3. Estágio de Inferência

Na inferência, o compressor processa a consulta e todas as imagens renderizadas em uma única passagem direta para gerar os fatores de compressão. Cada imagem é redimensionada por um fator de $1/\sqrt{c_i}$ (onde $c_i$ é o fator de compressão), reduzindo proporcionalmente a contagem de tokens visuais. O conjunto de imagens comprimidas é então enviado a um gerador de linguagem-visual para produzir a resposta final.

Capacidade de Reranking Emergente

Uma descoberta fundamental é que as taxas de compressão aprendidas pelo compressor servem como um proxy surpreendentemente eficaz para a relevância da passagem. Como o compressor atribui taxas de compressão menores para passagens mais relevantes, o inverso do fator de compressão ($1/c_i$) naturalmente codifica um ranking de relevância. Isso permite que o compressor funcione como um reranker sem qualquer objetivo ou módulo de treinamento adicional.

Principais Contribuições

1. Framework RAGOCR: Um sistema inovador que combina renderização óptica com alocação dinâmica de resolução consciente à consulta para comprimir RAG baseado em texto, equilibrando eficiência de tokens e qualidade da resposta.
2. Compressor Treinado via GRPO: Desenvolvimento de um compressor leve treinado via GRPO que atribui adaptativamente taxas de compressão com base na relevância da consulta, evitando a necessidade de ajuste fino separado do modelo generativo.
3. Unificação de Compressão-Reranking: A descoberta de que a compressão óptica e a estimativa de relevância são dois lados da mesma moeda. O compressor codifica inerentemente a relevância da passagem, permitindo que supere modelos de reranking dedicados (como o Qwen3-Reranker-4B) e funcione como um sistema unificado de compressão-reranker.
4. Generalização: Demonstração de que a abordagem funciona em diversas fontes de conhecimento, incluindo passagens de texto livre, grafos de conhecimento e documentos visualmente ricos baseados em imagens (ex: apresentações de slides).

Resultados Experimentais

Experimentos foram conduzidos em cinco benchmarks de QA intensivos em conhecimento (MedQA, MedMCQA, PubMedQA, BioASQ, MMLU-Med) usando o corpus de recuperação MedOmniKB.

• Desempenho vs. RAG Naive: O RAGOCR supera o RAG naive em mais de 15% em precisão (61,47% vs. 44,63% em média) enquanto requer apenas um oitavo do número de tokens de entrada (redução de aproximadamente 87% na contagem de tokens).
• Comparação com Baselines: O RAGOCR supera consistentemente tanto métodos de compressão hard (LongLLMLingua, Provence, EXIT, FaviComp) quanto métodos de compressão soft (OSCAR) em diferentes profundidades de recuperação.
  • Supera o melhor baseline de compressão baseado em texto (Provence) por quase 3 pontos em precisão utilizando menos tokens.
  • Supera rerankers dedicados (Qwen3-Reranker-4B) quando usado como um reranker independente (59,15% vs. 54,52%).
• Avaliação Multimodal: No benchmark SlideVQA (apresentações de slides de 20 páginas), o RAGOCR alcançou o melhor desempenho em métricas de Exact Match, F1-score e ANLS, demonstrando sua capacidade de lidar com documentos que possuem texto e elementos visuais intercalados.
• Estudos de Ablação:
  • Uniforme vs. Adaptativo: A compressão OCR estática (resolução uniforme) degradou o desempenho em comparação com o Visual RAG de resolução total, confirmando que a adaptação consciente à consulta é essencial.
  • Integração de Pipeline: Combinar RAGOCR com um reranker baseado em texto (R&R) rendeu a maior precisão (63,60%), sugerindo que o reranking baseado em texto e a compressão óptica capturam aspectos complementares da utilidade do documento.

Significância e Alegações

O artigo afirma que o RAGOCR preenche a lacuna entre a alta densidade de informação dos tokens visuais e a necessidade de gestão de contexto consciente à consulta no RAG. Ao renderizar o texto como imagens e comprimi-las adaptativamente, o framework permite que os modelos absorvam mais conhecimento dentro de janelas de contexto fixas ou transmitam a mesma informação com significativamente menos tokens.

Crucialmente, os autores destacam a unificação de compressão e ranking. O fato de um único modelo poder simultaneamente comprimir o conteúdo e ranqueá-lo por relevância sugere um novo paradigma onde "a compressão óptica e a estimativa de relevância são dois lados da mesma moeda". Isso aponta para um futuro onde sistemas de recuperação aumentada podem utilizar um único modelo leve para lidar com filtragem de recuperação, compressão de contexto e estimativa de relevância, reduzindo significativamente o overhead computacional das atuais pipelines de RAG.