CHOP: Chunkwise Context-Preserving Framework for RAG on Multi Documents

Resumen Técnico: CHOP

1. El Problema

Los sistemas de Generación Aumentada por Recuperación (RAG) enfrentan desafíos significativos cuando operan sobre bases de datos vectoriales que contienen documentos similares o duplicados (común en manuales técnicos, normativas y libros de políticas).

• Pérdida de Precisión: La segmentación basada puramente en la longitud (ej. 500 tokens) fragmenta la continuidad del discurso, rompiendo referencias locales (como "este método" o "Eq. 3") y coreferencias.
• Ambigüedad Semántica: En contextos multi-documento, la redundancia y el solapamiento léxico o semántico entre documentos distintos generan "colisiones semánticas". Esto confunde al recuperador, llevando a la recuperación de información irrelevante, alucinaciones y errores fácticos.
• Independencia de Bloques: La mayoría de los enfoques actuales procesan los fragmentos (chunks) de forma independiente, ignorando las dependencias a nivel de discurso y las transiciones temáticas entre secciones adyacentes.

2. Metodología

CHOP (Chunkwise Context-Preserving) es un marco de trabajo diseñado para documentos largos con alto solapamiento semántico. Su objetivo es procesar los fragmentos secuencialmente, enriqueciéndolos con metadatos conscientes del contexto antes de la incrustación (embedding). El sistema consta de dos componentes principales:

A. Extractor CNM (Category–Noun–Model)
Este módulo genera una "firma" compacta para cada fragmento que ancla su posición semántica. La firma es una tripleta estructurada:

• Categoría: La familia de productos general (ej. cámara, aire acondicionado).
• Sustantivos: 1 o 2 sustantivos clave que capturan el objetivo o acción central (ej. "filtro de aire acondicionado").
• Modelo: El nombre específico del modelo o serie (ej. "225B", "X-SERIES").
• Implementación: Utiliza un LLM con un prompt estricto para extraer estos datos en formato JSON y los inyecta como un prefijo en el texto del fragmento antes de generar el vector.

B. Módulo de Decisión de Continuidad (Continuity Decision Module)
Este componente determina si un fragmento adyacente pertenece al mismo flujo documental o si marca un cambio de tema.

• Funciona como un clasificador basado en LLM que recibe pares de fragmentos adyacentes ($C_i, C_{i+1}$).
• Lógica de Decisión:
  • Si la continuidad es TRUE: El fragmento $C_{i+1}$ hereda la firma CNM del fragmento anterior ($M_i$). Esto mantiene la coherencia semántica a través de secciones del mismo documento.
  • Si la continuidad es FALSE: Se extrae una nueva firma CNM para $C_{i+1}$, marcando un cambio de tema y evitando la contaminación de etiquetas.
• Resultado: Se construye una representación $x_i = [PFX(M_i) \parallel C_i]$ (Prefijo CNM + Texto) que se incrusta en el espacio vectorial.

3. Contribuciones Clave

1. Preservación del Contexto en la Segmentación: A diferencia de los métodos estáticos, CHOP adapta la representación de los fragmentos basándose en la continuidad del tema, no solo en límites de oraciones o longitud fija.
2. Regularización del Espacio de Incrustación: Al prefixar cada fragmento con metadatos estructurados (CNM), el sistema reduce las colisiones semánticas entre documentos similares, mejorando la discriminación del recuperador sin necesidad de reentrenar el modelo de recuperación.
3. Pipeline Escalable para Manuales Técnicos: Ofrece una solución específica para dominios donde la redundancia y las referencias cruzadas son críticas, proporcionando una base para construir bases de conocimiento de alta calidad.

4. Resultados Experimentales

Los experimentos se realizaron en el conjunto de datos MRAMG-Bench (derivado de manuales de productos), comparando CHOP contra estrategias de base (Naive-500T y Cosine-Chunking).

• Rendimiento en Recuperación (Tabla 1):
  • CHOP logró una Tasa de Acierto Top-1 (Hit Rate) del 90.77%, superando significativamente a Naive-500T (81.28%) y Cosine-Chunking (70.77%).
  • Mostró mejoras consistentes en métricas de calidad de ranking como MRR (Mean Reciprocal Rank) y NDCG (Normalized Discounted Cumulative Gain), indicando que no solo recupera la información correcta, sino que la posiciona más alto en la lista.
• Rendimiento en Generación (Tabla 2):
  • La mejora en la recuperación se tradujo directamente en una mayor calidad de generación. CHOP obtuvo mejores puntuaciones en F1, ROUGE-L y BERTScore en comparación con las líneas base.
  • Esto demuestra una reducción en alucinaciones y errores, ya que el LLM recibe evidencia más precisa y contextualizada.

5. Significado e Impacto

El trabajo de CHOP es significativo porque aborda una limitación fundamental en los sistemas RAG actuales: la falta de conciencia contextual a nivel de documento en entornos multi-documento.

• Eficiencia: Mejora la precisión sin requerir el reentrenamiento costoso de modelos de recuperación densos.
• Robustez: Mitiga el riesgo de propagación de errores en la etapa de generación al asegurar que la evidencia recuperada esté alineada semánticamente con la consulta y el contexto del documento.
• Aplicabilidad Práctica: Proporciona una solución viable para industrias que dependen de documentación técnica extensa y compleja (como manuales de hardware o legales), donde la distinción entre modelos similares es crítica.

En conclusión, CHOP establece un nuevo estándar para la gestión de fragmentos en RAG, demostrando que la preservación activa de la continuidad contextual y la normalización semántica mediante metadatos son esenciales para sistemas de recuperación fiables y de alta precisión.