Resumen Técnico: Unificación de Clasificación y Generación en el Autocompletado de Consultas mediante RAG y Alineación Multiobjetivo

Formulación del Problema

El Autocompletado de Consultas (QAC, por sus siglas en inglés) es un punto de contacto crítico en los sistemas de búsqueda, diseñado para sugerir completados a medida que los usuarios escriben para reducir las pulsaciones de teclas y clarificar la intención. Los sistemas de QAC tradicionales dependen de un paradigma de dos etapas de recuperación y clasificación (retrieve-and-rank): se extraen candidatos de registros históricos o catálogos, seguidos de un modelo de aprendizaje para la clasificación que los califica según su relevancia y popularidad.

Los autores identifican tres limitaciones fundamentales en este enfoque convencional:

1. Cobertura Limitada: La cobertura está limitada por los registros históricos, lo que impide proporcionar sugerencias de alta calidad para prefijos novedosos o de cola larga (long-tail) con un historial de interacción disperso.
2. Optimización de Objetivos Complejos: El equilibrio entre objetivos contrapuestos (relevancia, seguridad, diversidad y fundamentación) requiere una extensa ingeniería de características manual y mezcla de heurísticas, lo que a menudo no logra capturar interdependencias complejas.
3. Falta de Optimización Holística: La generación de candidatos y la clasificación desacopladas impiden la optimización a nivel de lista, lo que a menudo resulta en sugerencias redundantes o semánticamente similares.

Si bien los enfoques generativos recientes que utilizan Modelos de Lenguaje de Gran Escala (LLMs) abordan la cobertura, introducen nuevos desafíos: alucinación (sugerir elementos inexistentes), falta de fundamentación (ignorar el contenido real buscable) y riesgos de seguridad (generar completados perjudiciales).

Metodología

El artículo propone un marco unificado que reformula el QAC como generación de listas de extremo a extremo utilizando Generación Aumentada por Recuperación (RAG) y Optimización de Preferencia Directa (DPO) multiobjetivo.

1. Arquitectura y Pipeline de RAG

El sistema opera mediante un pipeline de RAG de múltiples etapas (Figura 2):

• Generación de Candidatos: Los candidatos se obtienen de dos canales complementarios: un Índice de Consultas (búsqueda rápida en registros históricos) y un Recuperador de Contenido (recuperación basada en embeddings desde el catálogo). Esto asegura una alta recuperación y fundamenta las sugerencias en elementos reales del catálogo.
• Construcción de Prompts: Se recupera información contextual para todos los candidatos, incluyendo metadatos del catálogo (títulos, calificaciones) y características de la consulta (frecuencia, tasas de conversión). Este contexto se compila en un prompt estructurado para fundamentar la generación.
• Generación de Listas: Un LLM ajustado (el Generador) procesa el prompt para sintetizar una lista completa y ordenada de sugerencias en una sola pasada hacia adelante (forward pass), en lugar de clasificar candidatos pregenerados.

2. Pipeline de Entrenamiento

El Generador se entrena mediante un proceso de cuatro etapas (Figura 3):

• Generación de Datos Sintéticos: Debido a la escasez de datos etiquetados de alta calidad, los autores emplean un proceso iterativo de crítica y revisión. Un LLM "Profesor" genera listas iniciales, que son analizadas por un LLM "Crítico" en busca de problemas como redundancia o baja diversidad. El Profesor luego revisa el resultado. Este bucle produce un corpus sintético de alta calidad (~50k pares), aumentado con un pequeño conjunto de datos etiquetados por humanos.
• Ajuste Fino Supervisado (SFT): El Generador se ajusta mediante el conjunto de datos sintéticos y humanos combinados para aprender la estructura de la tarea y el formato de salida.
• Suite de Verificadores: Se define una suite de verificadores para operacionalizar seis objetivos específicos:
  1. Relevancia: Calificada mediante un modelo ajustado usando juicios humanos.
  2. Seguridad: Un clasificador binario entrenado en políticas de seguridad específicas del dominio.
  3. Compromiso (Engagement): Basado en probabilidades de conversión condicionales y tasas históricas.
  4. Fundamentación en el Catálogo: Una verificación basada en reglas que asegura que las sugerencias devuelvan resultados de búsqueda no vacíos.
  5. Fundamentación en el Contexto: Un LLM-como-juez que verifica que las sugerencias sean derivables del contexto recuperado (para prevenir alucinaciones).
  6. Diversidad: Una fórmula de entropía ajustada que penaliza resultados de búsqueda casi duplicados.
  7. Formato: Una verificación basada en reglas para una estructura de salida procesable.
• Optimización de Preferencia Directa (DPO) Multiobjetivo: El modelo entrenado con SFT se alinea posteriormente mediante DPO. Los pares de preferencia se construyen muestreando listas candidatas, calificándolas con la función de recompensa compuesta (suma ponderada de las puntuaciones de los verificadores) y seleccionando pares con márgenes de recompensa significativos. El modelo se optimiza para preferir listas con mayor recompensa manteniendo la proximidad a la política de referencia.

3. Arquitectura de Servicio Híbrida

Para equilibrar la calidad con las estrictas restricciones de latencia, los autores despliegan una arquitectura de dos niveles:

• Precomputación Offline: Un Gran Generador precomputa las sugerencias para los prefijos de alta frecuencia, que se almacenan en caché para una recuperación de miliseg segundos.
• Inferencia en Tiempo Real Online: Un Generador Compacto gestiona las ausencias de caché (cola larga o nuevos prefijos) en tiempo real, asegurando la cobertura para consultas emergentes dentro de límites de latencia aceptables (~100ms).

Contribuciones Clave

El artículo reclama cuatro contribuciones principales:

1. Reformulación de QAC: Cambio de la recuperación y clasificación hacia la generación de listas de extremo a extremo con optimización multiobjetivo, permitiendo un equilibrio holístico de metas contrapuestas.
2. Suite de Verificadores: Definición y despliegue de una suite integral de verificadores basados en reglas, modelos y LLM-como-juez adaptados a QAC, cubriendo relevancia, seguridad, fundamentación, compromiso, diversidad y formato.
3. Metodología de Datos Sintéticos: Presentación de un pipeline que combina RAG, DPO multiobjetivo e iteración de crítica-revisión para generar datos sintéticos de alta calidad para el entrenamiento.
4. Validación en Producción: Validación del enfoque en una plataforma de búsqueda comercial a gran escala con evaluaciones exhaustivas offline, humanas y online.

Resultados

El marco fue evaluado en un conjunto de datos propietario de 50,000 prefijos de consulta y desplegado en una prueba A/B en vivo con el 10% del tráfico de producción.

Métricas Offline

Comparado con una línea base de Aprendizaje para la Clasificación (LTR) tradicional y líneas base híbridas:

• Cobertura: El modelo completo logró ~93% de cobertura, significativamente superior al 84.6% de la línea base LTR y competitivo con las líneas base generativas.
• Seguridad y Fundamentación: El ajuste con DPO redujo significativamente las tasas de inseguridad (0.65% frente a 0.79% en las líneas base) y las tasas de falta de fundamentación en el catálogo (0.49% frente a 0.67%), demostando una mitigación efectiva de los riesgos generativos.
• Relevancia y Diversidad: El modelo alcanzó puntuaciones de relevancia de ~0.687 y puntuaciones de diversidad en el rango de 74–76, superando a la línea base LTR en relevancia y igualando o superando a las líneas base en diversidad.

Evaluación Humana

• Relevancia por Ítem: El modelo completo logró la puntuación más alta (0.699) en comparación con la línea base LTR (0.653).
• Preferencia por Pares: Los modelos con DPO mostraron fuertes puntuaciones de preferencia (+0.40 a +0.69) sobre la línea base, indicando que los usuarios percibieron las sugerencias como más útiles y diversas.

Prueba A/B Online

En un experimento controlado con el 10% del tráfico:

• Pulsaciones de Teclas: Logró una reducción del 5.44% en los caracteres escritos por los usuarios.
• Adopción: Logró un incremento del 3.46% en la tasa de clics (CTR) de las sugerencias.
• Todas las mejoras fueron estadísticamente significativas (p < 0.05).

Significado y Reivindicaciones

Los autores posicionan este trabajo como un cambio de paradigma para los sistemas de QAC en producción. Reivindican que unificar la clasificación y la generación a través de RAG y alineación multiobjetivo proporciona una solución efectiva que supera las compensaciones fundamentales de los sistemas tradicionales.

Específicamente, el artículo afirma que:

• La generación de extremo a extremo impulsada por LLMs, cuando está restringida por RAG y DPO multiobjetivo, puede optimizar simultáneamente la relevancia, la seguridad, la fundamentación y la diversidad sin depender de una extensa ingeniería de características manual.
• El marco propuesto está validado en producción, demostando que los modelos generativos complejos pueden desplegarse bajo estrictas restricciones de latencia mediante arquitectas de servicio híbridas.
• La metodología es generalizable más allá de la búsqueda en aplicaciones móviles hacia otros dominios (e-commerce, medios) donde los usuarios dependen de las sugerencias de consulta para explorar catálogos fijos y extensos.

El trabajo establece un marco que va más allá de la simple recuperación o la generación sin restricciones, ofreciendo un enfoque basado en principios para manejar las complejas interdependencias de la búsqueda moderna de autocompletado.