Generative Recommendation for Large-Scale Advertising

Each language version is independently generated for its own context, not a direct translation.

¡Claro que sí! Imagina que Kuaishou (una plataforma gigante de videos cortos, similar a TikTok) tiene un problema enorme: tiene que mostrar anuncios a cientos de millones de personas en tiempo real, y tiene que hacerlo tan rápido que el usuario ni se dé cuenta, pero tan bien que el anuncio sea justo lo que esa persona quiere ver en ese momento.

Antes, usaban un sistema tradicional (como un bibliotecario muy rápido que busca en un catálogo). Ahora, han creado GR4AD, un sistema nuevo que funciona como un chef de cocina con superpoderes o un director de cine inteligente.

Aquí te explico cómo funciona este "chef" usando analogías sencillas:

1. El Problema: El "Traductor" y el "Chef"

Antes, la computadora veía los anuncios como códigos extraños (números sin sentido) o descripciones muy largas y confusas. Era como intentar cocinar un plato delicioso leyendo una receta escrita en un idioma que no entiendes bien.

La Solución (UA-SID):
GR4AD creó un nuevo "idioma" para los anuncios, llamado UA-SID.

La Analogía: Imagina que en lugar de darle al chef una lista de ingredientes sueltos ("tomate", "carne", "salsa"), le das una tarjeta con una foto del plato final y una descripción de quién lo pidió y qué le gusta.
Cómo funciona: El sistema usa una Inteligencia Artificial muy avanzada para "ver" el video, leer el texto y entender quién es el anunciante. Luego, convierte todo eso en un código corto y perfecto (como un código de barras mágico) que la computadora entiende al instante. Esto ayuda a que el sistema sepa exactamente qué es cada cosa, incluso si es un anuncio nuevo que nunca ha visto antes.

2. El Reto: La Velocidad vs. La Calidad

El problema de los chefs "generativos" (los que crean cosas desde cero) es que suelen ser lentos. Si tienes que pedir 10 platos diferentes a la vez, un chef normal tardaría mucho en cocinarlos uno por uno. En publicidad, si tardas más de 100 milisegundos, el usuario se va y pierdes el dinero.

La Solución (LazyAR - El Chef "Perezoso" pero Eficiente):
Aquí entra la parte más ingeniosa: LazyAR.

La Analogía: Imagina que tienes que preparar 100 sándwiches. Normalmente, harías el pan, luego el queso, luego el jamón, y repetirías el proceso 100 veces. ¡Lento!
El truco de LazyAR: Este sistema dice: "Espera, el pan es igual para todos los sándwiches". Así que, prepara el pan para los 100 sándwiches al mismo tiempo (en paralelo). Solo cuando llega el momento de poner el relleno específico (el jamón o el queso), entonces lo hace uno por uno.
Resultado: Ahorra muchísimo tiempo sin perder la calidad del sabor. Permite generar muchas opciones de anuncios al mismo tiempo, muy rápido.

3. El Objetivo: No solo "Gustar", sino "Vender"

Un sistema normal solo intenta adivinar qué le gusta al usuario. Pero en publicidad, lo importante es el dinero (cuánto gana la empresa por ese anuncio). A veces, a un usuario le gusta un anuncio, pero no compra nada.

La Solución (VSL y RSPO - El Director de Orquesta):
GR4AD no solo aprende de lo que la gente hace, sino que aprende a priorizar el valor.

La Analogía: Imagina un director de orquesta. Antes, solo escuchaba qué instrumentos sonaban más fuerte (lo que más le gustaba al usuario). Ahora, el director tiene un mapa que le dice: "Este instrumento (anuncio) es más importante para el éxito de la obra (negocio)".
Cómo funciona: El sistema tiene dos modos de aprendizaje:
1. VSL: Aprende qué le gusta a la gente (como un fanático).
2. RSPO: Aprende a organizar la lista de anuncios para que los que más dinero generan estén arriba, pero sin aburrir al usuario. Es como un vendedor que sabe exactamente qué producto ofrecer primero para cerrar la venta, pero de forma natural.

4. El Servicio: Adaptarse al Tráfico (DBS)

Imagina una autopista. A veces hay poco tráfico, a veces hay un embotellamiento terrible. Si usas siempre el mismo número de carriles, desperdicias espacio o te atas.

La Solución (DBS - El Semáforo Inteligente):

La Analogía: El sistema DBS es como un semáforo inteligente que ajusta el número de carriles abiertos según cuántos coches hay.
Cómo funciona:
- Si hay poca gente (hora valle), el sistema abre más "carriles" (busca más opciones de anuncios) para encontrar la mejor posible.
- Si hay muchísima gente (hora punta), cierra algunos carriles para asegurar que todo fluya rápido y nadie se quede esperando.
- Además, si alguien pide lo mismo dos veces en un minuto, el sistema le da la respuesta de la primera vez (como un "menú guardado") para no tener que cocinar de nuevo.

¿Qué lograron con todo esto?

Gracias a este sistema "chef" superinteligente:

Ganaron más dinero: La empresa vio un aumento de hasta un 4.2% en ingresos publicitarios.
Es más rápido: Pueden atender a 400 millones de usuarios sin que nadie note un retraso.
Es más justo: Los anuncios nuevos (incluso de pequeños negocios) tienen más oportunidades de ser vistos porque el sistema los entiende mejor desde el primer día.

En resumen: GR4AD es como transformar una cocina lenta y desordenada en una fábrica de comida automatizada, donde un chef inteligente sabe exactamente qué quiere el cliente, cocina 100 platos al mismo tiempo en segundos, y siempre pone el plato más rentable en la mesa primero. ¡Y todo esto ocurre en menos tiempo del que tarda en parpadear un ojo!

Each language version is independently generated for its own context, not a direct translation.

Aquí tienes un resumen técnico detallado del artículo "Generative Recommendation for Large-Scale Advertising" (Recomendación Generativa para Publicidad a Gran Escala), presentado por el equipo de Kuaishou Technology.

1. El Problema

Aunque los modelos generativos (como los LLM) han demostrado un gran potencial en sistemas de recomendación, su despliegue en publicidad a gran escala en tiempo real presenta desafíos únicos que las recetas estándar de LLM no pueden resolver directamente:

Tokenización Compleja: La publicidad fusiona atributos de video, detalles de productos y metadatos de anunciantes B2B. Además, existen señales comerciales críticas (tipo de conversión, ID de cuenta) que no se capturan solo con el contenido semántico. Los métodos actuales carecen de un embedding de LLM de publicidad ajustado de extremo a extremo.
Paradigma de Aprendizaje: La publicidad optimiza listas ordenadas bajo objetivos de negocio (como eCPM) y métricas a nivel de lista (como NDCG), no solo predicción item a item. Los enfoques existentes suelen carecer de un diseño de aprendizaje consciente del ranking y orientado a listas.
Servicio en Tiempo Real: A diferencia de la interacción con LLMs (donde se genera una respuesta larga con latencia tolerable), la publicidad debe generar múltiples candidatos de alta calidad bajo presupuestos de latencia estrictos y alto tráfico. La eficiencia de inferencia para la generación de múltiples candidatos sigue siendo un área subexplorada.

2. Metodología: GR4AD

El equipo propone GR4AD (Generative Recommendation for ADdvertising), un sistema co-diseñado en arquitectura, aprendizaje y servicio.

A. Tokenización: UA-SID (Unified Advertisement Semantic ID)

Para representar los anuncios, se propone un ID Semántico Unificado derivado de un modelo de incrustación de LLM ajustado finamente:

Unified Advertisement Embedding (UAE): Utiliza Instruction Tuning (ajuste por instrucciones) para entender formatos heterogéneos (streamers, productos, anunciantes) y Co-occurrence Learning para capturar señales colaborativas de comportamiento del usuario.
MGMR RQ-Kmeans: Se utiliza un método de cuantización de múltiples granularidades y resoluciones. Las primeras capas usan codebooks grandes para factores dominantes, mientras que las capas finales utilizan un mapeo hash basado en características no semánticas (como IDs de cuenta) para reducir colisiones y mejorar el equilibrio del codebook.

B. Arquitectura: Lazy Autoregressive Decoder (LazyAR)

Para mejorar la eficiencia de inferencia sin sacrificar la calidad:

Desacoplamiento de Capas: En lugar de depender del token anterior en cada capa del decodificador (como en AR estándar), LazyAR retrasa esta dependencia hasta una capa intermedia $K$ .
Funcionamiento: Las primeras $K$ capas se calculan en paralelo para todos los niveles del ID, sin depender del token anterior. Solo las capas restantes ( $L-K$ ) son autoregresivas.
Beneficio: Esto reduce drásticamente el costo computacional secuencial durante la búsqueda por haz (beam search), ya que la mayor parte del cómputo se realiza en paralelo, duplicando el rendimiento de inferencia con una pérdida mínima de precisión.

C. Aprendizaje: VSL y RSPO

Para alinear el modelo con el valor comercial en mercados no estacionarios:

VSL (Value-Aware Supervised Learning): Un objetivo de aprendizaje supervisado que incorpora tokens de valor (eCPM discretizado) y pondera las muestras según el valor a largo plazo del usuario y la profundidad de la interacción.
RSPO (Ranking-Guided Softmax Preference Optimization): Un algoritmo de Aprendizaje por Refuerzo (RL) a nivel de lista. A diferencia de métodos como DPO que optimizan pares, RSPO optimiza directamente el NDCG de la lista, alineando la generación con objetivos de negocio.
Aprendizaje Unificado: Se integra VSL y RSPO en un solo flujo de entrenamiento en línea, utilizando un mecanismo de ponderación dinámica basado en la discrepancia entre el ranking del modelo y el recompensa real para equilibrar la imitación y la exploración.

D. Servicio: Dynamic Beam Serving (DBS)

Para cumplir con las restricciones de latencia y tráfico:

Beam Width Dinámico (DBW): Ajusta el ancho del haz progresivamente a lo largo de los pasos de generación (haces pequeños al inicio, grandes al final) para optimizar el cómputo.
TABS (Traffic-Aware Adaptive Beam Search): Aumenta el ancho del haz durante horas valle (cuando hay recursos ociosos) para mejorar la calidad, y lo reduce en horas pico para mantener la latencia.
Caché y Optimizaciones: Uso de caché de resultados, compartición de KV Cache entre haces y reducción de precisión a FP8.

3. Resultados Clave

Los resultados se validaron mediante pruebas A/B en línea masivas en el sistema de publicidad de Kuaishou (más de 400 millones de usuarios):

Ingresos: GR4AD logró una mejora de ingresos publicitarios de hasta 4.2% en comparación con la pila existente basada en DLRM.
Eficiencia: El sistema alcanza una latencia de <100ms y más de 500 QPS por GPU L20, manteniendo la latencia estricta necesaria para la publicidad.
Escalabilidad: Se observaron ganancias consistentes al escalar tanto el tamaño del modelo (de 0.03B a 0.32B parámetros) como el ancho del haz de inferencia.
Impacto en el Ecosistema:
- Aumento del 17.5% en la entrega de anuncios para PYMES.
- Mejora del 10.17% en la tasa de conversión general.
- Mejora del 7.28% en usuarios menos activos (gracias a mejor manejo de cold-start).

4. Contribuciones Principales

Diseño Nativo para Publicidad: El primer sistema generativo de recomendación diseñado específicamente para las restricciones y objetivos de la publicidad en tiempo real, en lugar de adaptar LLMs genéricos.
UA-SID: Un esquema de tokenización unificado que integra contenido multimodal y señales comerciales no semánticas, reduciendo colisiones y mejorando la representatividad.
LazyAR: Una arquitectura de decodificador innovadora que relaja las dependencias autoregresivas para acelerar la generación de múltiples candidatos sin perder efectividad.
RSPO y Aprendizaje Unificado: Un enfoque de RL a nivel de lista que optimiza métricas de negocio (NDCG/eCPM) y un marco de aprendizaje continuo que combina aprendizaje supervisado y refuerzo en línea.
Optimizaciones de Servicio: Técnicas como DBS y TABS que permiten escalar la inferencia generativa bajo presupuestos de recursos fijos y fluctuaciones de tráfico.

5. Significado

Este trabajo demuestra que la recomendación generativa es viable y superior en entornos de publicidad industrial a gran escala cuando se co-diseña con las restricciones del sistema. GR4AD no solo supera a los modelos discriminativos tradicionales (DLRM) en ingresos, sino que también establece un nuevo estándar para la eficiencia de inferencia en modelos generativos, permitiendo un servicio en tiempo real de alto rendimiento. Además, el éxito del sistema sugiere que la integración de objetivos de negocio directamente en la arquitectura de aprendizaje y servicio es crucial para el despliegue exitoso de IA generativa en aplicaciones comerciales críticas.