Resumen Técnico: IA Generativa con RAG Sensible al Inventario para Búsqueda Patrocinada

1. Planteamiento del Problema

La búsqueda patrocinada es un motor de ingresos primario para plataformas de comercio electrónico como Walmart, sin embargo, existe una ineficiencia significativa: aproximadamente el 13% de las consultas de búsqueda de los usuarios no logran recuperar ningún anuncio de productos patrocinados. Este fenómeno de "llenado cero" (zero-fill) surge de un desalineamiento entre las consultas de los usuarios, el vasto y evolutivo panorama de palabras clave y las restricciones de inventario en tiempo real.

Las soluciones actuales generalmente se dividen en dos categorías:

• Recuperación de Información (IR): Métodos como la Recuperación Densa (ANCE, RocketQA) utilizan aprendizaje profundo para emparejar consultas y palabras clave, pero a menudo carecen de sincronización de inventario en tiempo real.
• Generación de Lenguaje Natural (NLG): Modelos como CLOVER y ProphetNet-Ads generan variaciones de palabras clave, pero frecuentemente pasan por alto los datos dinámicos de inventario y las estrategias específicas de puja de campañas publicitarias.

El desafío central es doble: mejorar la relevancia de las colocaciones de anuncios para que coincidan con el inventario disponible y los presupuestos de los anunciantes, mientras se mantiene simultáneamente una experiencia de usuario de alta calidad mediante la presentación de anuncios que se perciban como relevantes. La incapacidad de resolver estos desajustes resulta en una pérdida sustancial de ingresos y oportunidades perdidas de interacción con el cliente.

2. Metodología: InvAwr-RAG

Los autores proponen el modelo de IA generativa con RAG sensible al inventario (InvAwr-RAG), un sistema diseñado para reescribir dinámicamente las consultas de los usuarios en tiempo real para alinearlas con el inventario disponible y las campañas publicitarias. La metodología consta de cuatro etapas principales:

2.1. Preparación de Datos

• Conjunto de Datos Two-Tower BERT: Las consultas se emparejan con títulos de productos y puntuaciones de relevancia, mejoradas mediante anotación humana para capturar relaciones semánticas.
• Análisis de Registros de Búsqueda: Se identifican consultas populares basadas en frecuencia e impresiones de anuncios para guiar el componente RAG.
• Colección de Consultas Reescritas: El sistema cura un conjunto de datos de reescrituras de consultas exitosas. Específicamente, se seleccionaron consultas que generaron al menos 500 clics en los mismos artículos durante un período de seis meses. Estas fueron rigurosamente filtradas por evaluadores humanos para asegurar la unicidad y la existencia de alternativas distintas antes del entrenamiento del LLM de Reescritura de Consultas.

2.2. Arquitectura del Modelo

La arquitectura integra un componente de recuperación con un componente generativo:

• Two-Tower BERT: Este componente procesa las consultas de los usuarios y los títulos de los productos por separado utilizando codificadores distintos para generar embeddings ($U$ y $V$). Se utiliza la similitud de coseno para evaluar la calidad de la coincidencia, entrenando al modelo para identificar los productos más relevantes para una consulta.
• LLM de Reescritura de Consultas (Ajuste Fino mediante LoRA): Basado en Llama2 7B, el modelo se ajusta mediante Adaptación de Bajo Rango (LoRA). Este enfoque introduce matrices de bajo rango ($A$ y $B$) en las matrices de pesos, lo que permite una adaptación eficiente y dirigida al dominio de la búsqueda patrocinada sin necesidad de reentrenar todo el modelo. El modelo aprende a generar reescrituras de consultas contextualmente relevantes y sensibles al inventario.

2.3. Pipeline de Generación Aumentada por Recuperación (RAG)

El sistema de extremo a extremo opera a través de un pipeline de seis pasos (Figura 3):

1. Clasificador de Consultas: Un clasificador basado en reglas identifica consultas de bajo rendimiento (por ejemplo, bajas tasas de clics) y las redirige al pipeline de reescritura.
2. Recuperación Dinámica de Inventario: El sistema recupera los $N=20$ artículos de inventario superiores de una base de datos vectorial basada en la similitud de coseno respecto a la consulta, asegurando que se cumplan las restricciones presupuestarias.
3. Preparación de Prompts: Los prompts se construyen combinando la consulta original del usuario con las descripciones de los artículos recuperados (Figura 4).
4. Reescritura por LLM: El LLM ajustado genera consultas diversas y relevantes vinculadas al inventario disponible.
5. Integración de Consultas Populares: El sistema recupera consultas históricamente exitosas de los registros de búsqueda que se asemejan a la salida del LLM, enriqueciendo las sugerencias con patrones de búsqueda probados.
6. Fusión y Recuperación Final: Las $K=5$ consultas reescritas se fusionan con las consultas históricas populares. Un modelo BERT de codificador cruzado (cross-encoder) evalúa la relevancia de los artículos publicitarios resultantes, filtrando aquellos que cumplen con los umbrales de relevancia predefinidos.

2.4. Selección de Parámetros

• $N=20$ Artículos: Seleccionados para equilibrar la diversidad y la especificidad, maximizando el compromiso del usuario sin causar fatiga de decisión, manteniendo la eficiencia computacional.
• $K=5$ Consultas Reescritas: Elegidas para proporcionar suficiente variación lingüística para capturar la intención del usuario manteniendo la precisión y el enfoque.

3. Contribuciones Clave

El documento destaca cinco innovaciones principales:

1. Reescritura de Consultas Dinámica y Robusta: Un modelo que ajusta las consultas para alinearlas con el inventario y las pujas en tiempo real, convirtiendo búsquedas previamente imposibles de satisfacer en oportunidades publicitarias.
2. Integración de Datos en Tiempo Real: El sistema integra datos de inventario y pujas en vivo para asegurar que cada búsqueda pueda resultar en la visualización de un anuncio relevante.
3. Generación de Consultas Híbrida: Un enfoque único que combina consultas generadas por IA con consultas históricamente exitosas para equilibrar la frescura con la fiabilidad.
4. Optimización Dual: Mejora simultáneamente la experiencia del usuario (mediante sugerencias relevantes) y el ROI del anunciante (mediante la maximización de la visibilidad del producto).
5. Escalabilidad: El uso de manejo de datos avanzado y la adaptabilidad del LLM aseguran que la solución pueda evolucionar con la dinámica del mercado.

4. Resultados

Los autores realizaron una evaluación offline en un conjunto de datos de 10,000 consultas con una tasa de llenado histórica del 0%.

• Tasa de Llenado (Fill Rate): El modelo InvAwr-RAG logró una tasa de llenado del 68% en este conjunto desafiante. En comparación, un modelo base GPT-4 (sin ajuste fino específico para retail) logró una tasa de llenado del 53%.
• Relevancia (NDCG@8): Utilizando la Ganancia Acumulada Descontada Normalizada con un corte de 8, InvAwr-RAG obtuvo una puntuación de 0.6847, superando a GPT-4 (0.6458) y al modelo base (0).
• Método de Evaluación: Estas métricas fueron validadas por evaluadores humanos externos que calificaron los 8 artículos principales devueltos por cada modelo.

El documento señala que estos son resultados preliminares offline y que se planea realizar pruebas A/B para medir los impactos en vivo sobre la Tasa de Llenado, la Tasa de Clics (CTR), la Tasa de Conversión y los Ingresos.

5. Significado y Reivindicaciones

El documento posiciona a InvAwr-RAG como un nuevo estándar para la optimización dinámica de consultas en la búsqueda patrocinada. Los autores afirman que el modelo aborda una brecha crítica donde los métodos existentes de IR y NLG fallan al sincronizarse con el inventario dinámico, lo que provoca el desperdicio de inventario publicitario y una mala experiencia de usuario.

• Potencial de Ingresos: Los autores proyectan que la capacidad del modelo para convertir consultas de llenado cero podría conducir a un aumento de los ingresos relacionados con la publicidad de hasta $1 billón en los próximos cinco años.
• Impacto Estratégico: Al asegurar que aproximadamente el 13% de las búsquedas previamente no monetizadas puedan ahora mostrar anuncios relevantes, el sistema mejora significamente la relevancia de los anuncios, el ROI del anunciante y la experiencia de compra general en la plataforma digital de Walmart.
• Trabajo Futuro: Los autores declaran que los esfuerzos futuros se centrarán en refinar la comprensión de la intención del usuario, expandir la aplicabilidad a diversas categorías de productos y mejorar la escalabilidad a medida que el inventario y la base de usuarios crezcan.