Resumen Técnico: OCC-RAG: Núcleo Cognitivo Óptimo para la Respuesta a Preguntas Fiel

Planteamiento del Problema

Los avances recientes en los Modelos de Lenguaje Grande (LLMs) han sido impulsados principalmente por el escalado, lo que ha dado lugar a modelos que absorben vastas cantidades de conocimiento mundial en sus pesos. Sin embargo, muchas aplicaciones prácticas, particularmente aquellas que requieren Respuesta a Preguntas basada en Contexto (Context QA), se benefician más de un razonamiento robusto y una adherencia estricta a la evidencia proporcionada que de un extenso conocimiento paramétrico.

Los LLMs actuales enfrentan tres desafíos críticos en Context QA:

1. Falta de Fidelidad: Los modelos suelen priorizar su conocimiento paramétrico interno sobre el contexto proporcionado, lo que conduce a alucinaciones o respuestas que contradicen el texto de entrada (por ejemplo, responder basándose en hechos del mundo real cuando el contexto presenta un escenario contrafáctico).
2. Razonamiento Multi-hop Insuficiente: Los modelos tienen dificultades para sintetizar información a través de partes dispares de un contexto para cerrar brechas lógicas sin depender de atajos memorizados.
3. Incapacidad de Abstinencia: Los modelos frecuentemente fallan al reconocer cuándo un contexto es insuficiente, ambiguo o carece de la información necesaria, lo que lleva a respuestas seguras pero incorrectas en lugar de un rechazo calibrado.

Si bien los Modelos de Lenguaje Pequeños (SLMs) ofrecen una alternativa principled y rentable, a menudo carecen de la especialización necesaria para realizar estas tareas de manera confiable sin alucinar o recurrir al conocimiento memorizado.

Metodología

Los autores presentan el Núcleo Cognitivo Óptimo (OCC), una familia de SLMs diseñada para priorizar las capacidades de razonamiento específicas de la tarea sobre la capacidad de conocimiento. La variante específica presentada, OCC-RAG, está optimizada para la respuesta a preguntas fiel y fundamentada en el contexto.

1. Arquitectura del Modelo y Estrategia de Entrenamiento

• Modelos Base: Los autores seleccionaron Qwen3-0.6B-Base y Qwen3-1.7B-Base como puntos de partida, determinados como los mejores desempeños entre las familias de SLMs de pesos abiertos (incluyendo Gemma3 y SmolLM3) en las particiones iniciales de QA.
• Mid-Training: En lugar de pre-entrenar desde cero, los modelos pasan por un mid-training (ajuste fino supervisado) en un corpus sintético masivo. Esta etapa está diseñada para moldear explícitamente la arquitectura de razonamiento del modelo para Context QA.
• Objetivo de Entrenamiento: La pérdida se aplica solo a los tokens de respuesta. El modelo es entrenado para generar trazas de razonamiento estructuradas que incluyen citas de fuentes fundamentadas en citas literales del contexto.

2. Pipeline de Datos Sintéticos

El núcleo de la metodología es un novedoso pipeline para sintetizar un corpus de más de 3.25 millones de ejemplos de QA. Los datos están diseñados para imponer tres comportamientos específicos: inferencia multi-hop, fidelidad estricta al contexto y abstinencia calibrada.

• Composición de los Datos:
  • QA de un solo salto (Single-hop): El subconjunto más grande (~2.78M pares), generado mediante la ingestión de páginas de Wikipedia, limpieza de texto y generación de pares de QA extractivos.
  • QA Multi-hop: Generado utilizando un Grafo de Conocimiento (KG) extraído del contexto (fragmentos dorados y distractores) a través del pipeline Wikontic. Esto asegura la existencia de entidades "puente" y proporciona control estructural sobre la complejidad del razonamiento. El pipeline muestrea rutas del KG para generar preguntas que requieren la fusión de información a través de múltiples párrafos.
  • QA No Contestable (Abstinencia): Un subconjunto de ~43k ejemplos donde el contexto es deliberadamente insuficiente. Estos se construyen utilizando un modelo DeBERTa ajustado para identificar casos donde un modelo extractivo no puede recuperar la respuesta de un contexto reducido, señalando la falta de información.
• Trazas de Razonamiento Estructuradas: Cada instancia de entrenamiento incluye una traza de razonamiento explícita formateada en cuatro secciones:
  1. Análisis de la Consulta: Identifica la intención de la pregunta y las entidades.
  2. Análisis de la Fuente: Atribuye los hechos a pasajes de origen específicos.
  3. Razonamiento: Combina los hechos para derivar la respuesta.
  4. Estado y Respuesta: Un veredicto explícito de CONTESTABLE/NO CONTESTABLE seguido de la respuesta final.
• Estrategia de Mezcla de Datos: Para asegurar que el modelo desarrolle capacidades de razonamiento, el currículo de entrenamiento sobremuestrea los ejemplos multi-hop (mostrados 3 veces por época) en comparación con los ejemplos de un solo salto (mostrados una vez), a pesar de que los datos de un solo salto dominan el presupuesto de tokens.

3. Benchmarks de Evaluación

Los modelos son evaluados en tres dimensiones principales:

• Razonamiento Multi-hop: HotpotQA, MuSiQue y TAT-QA (midiendo In-Exactitud y F1).
• Fidelidad: ConFiQA, que prueba el desempeño en contextos contrafácticos. Las métricas incluyen In-Exactitud y la Relación de Memorización (MR), que mide qué tan seguido el modelo recurre al conocimiento paramétrico sobre el contexto.
• Rechazo: MuSiQue-Un, que mide la capacidad de identificar correctamente preguntas no contestables (Precisión de Rechazo).

Resultados Clave

Los modelos liberados, OCC-RAG-0.6B y OCC-RAG-1.7B, demuestran que los SLMs compactos y especializados en tareas pueden igualar o exceder a los modelos de propósito general que son 2 a 6 veces más grandes.

• Desempeño vs. Tamaño:
  • OCC-RAG-0.6B supera a Gemma3-4B y SmolLM3-3B en todas las dimensiones (multi-hop, fidelidad y rechazo).
  • OCC-RAG-1.7B logra resultados competitivos o superiores comparados con Qwen3-4B en modo de pensamiento en razonamiento multi-hop y supera significativamente a este en fidelidad y rechazo.
• Fidelidad y Memorización:
  • OCC-RAG-1.7B reduce la Relación de Memorización (MR) de 12.7 (Qwen3-1.7B) a 5.0, demostrando una fuerte capacidad para priorizar el contexto proporcionado sobre el conocimiento interno.
  • En ConFiQA, OCC-RAG-0.6B supera a Qwen3-1.7B por 9.5 puntos.
• Capacidades de Rechazo:
  • OCC-RAG-1.7B alcanza un 87.2% de Precisión de Rechazo, desempeñándose a la par de modelos de 8B de parámetros o más, mientras que los baselines más pequeños luchan significativamente.
• Comparación con Baselines Especializados:
  • OCC-RAG-0.6B supera al precedente baseline especializado, Pleias-RAG-1.2B, por 21.6 puntos en MuSiQue y supera significativamente en métricas de fidelidad.

Significado y Reivindicaciones

El artículo postula que la fidelidad no requiere únicamente escala. En cambio, puede aprenderse a través de un currículo de entrenamiento y un formato de supervisión específicos.

• Núcleo Cognitivo Óptimo: Los autores argumentan que para aplicaciones donde la corrección debe estar ligada a la evidencia (por ejemplo, dominios legales, médicos o de verificación de hechos), un "núcleo cognitivo óptimo" —una arquitectura compacta y especializada en la tarea— es una alternativa práctica y eficiente a los modelos de propósito general cada vez más grandes.
• Abstinencia Aprendida: El trabajo demuestra que la "abstinencia segura" puede transformarse de un heurístico a un comportamiento de razonamiento aprendido mediante la supervisión estructurada, haciendo que los SLMs sean más confiables en entornos de alto riesgo.
• Eficiencia: Al realizar el mid-training en un corpus sintético de trazas de razonamiento estructuradas, los autores muestran que los SLMs pueden internalizar el proceso de inferencia multi-hop y la fundamentación de evidencia sin el costo computacional de escalar los parámetros del modelo o utilizar la inferencia de modo "pensamiento" completo.

El artículo concluye que OCC-RAG proporciona una receta reutilizable para construir sistemas de QA transparentes, eficientes y robustos que sean resilientes a la evidencia faltante o conflictiva.