Resumen Técnico: Token Factory

Planteamiento del Problema

Los Grandes Modelos de Recomendación (LRMs, por sus siglas en inglés) basados en arquitecturas Transformer han mostrado una promesa significativa en tareas a escala industrial, como la predicción del próximo video. Sin embargo, existe un cuello de botella crítico en la integración holística de las señales tradicionales (características densas, dispersas y de embedding) en estos modelos. Los enfoques convencionales suelen "textualizar" estas señales heterogéneas o mapearlas a representaciones de ítems discretos (por ejemplo, IDs Semánticos). Este mapeo directo provoca:

• Longitudes de Prompt Excesivas: Convertir señales densas (por ejemplo, ratios de finalización de visualización, tiempos de visualización) en texto crea prompts prohibitivamente largos.
• Sobrecarga de Recursos: Los prompts largos resultan en huellas de memoria sustanciales y altos costos computacionales durante el entrenamiento y la inferencia.
• Pérdida de Información o Ineficiencia: Para ajustarse a las ventanas de contexto, los sistemas suelen truncar las interacciones históricas del usuario, descartando datos históricos valiosos.

Metodología: Token Factory

Para abordar estas limitaciones, los autores proponen Token Factory, un marco que transforma las señales tradicionales en "soft tokens" (tokens blandos). A diferencia de los "hard tokens" estándar (IDs discretos de un vocabulario fijo), los soft tokens son representaciones de embedding continuas generadas directamente dentro del espacio de embedding del modelo.

Arquitectura Central

El marco consiste en Token Makers (Generadores de Tokens), que actúan como módulos especializados para procesar grupos de características específicos:

1. WH Token Maker: Procesa secuencias de interacción del usuario (por ejemplo, historial de visualización).
2. Query Token Maker: Integra características a nivel de usuario.
3. Candidate Token Maker: Integra características a nivel de ítem candidato.

Proceso de Transformación:

• Entrada: Las características puras (densas, dispersas, embeddings) se normalizan o se embellen y se concatenan en un vector $E_{input}$.
• Proyección: Una función aprendible $G$ (por ejemplo, un Perceptrón Multicapa o una red neuronal) mapea $E_{input}$ a un número fijo ($N$) de soft tokens ($T_{output}$).
• Integración: Estos soft tokens se intercalan perfectamente con los tokens textuales (por ejemplo, títulos de videos) en el prompt del LRM.
• Optimización: La función $G$ se entrena conjuntamente (end-to-end) con el LRM, asegurando que los soft tokens se alineen con el espacio semántico del modelo.

Mecanismos Clave

• Compacidad del Prompt: Al mapear un número arbitrario de características en un número pequeño y fijo de soft tokens, el marco evita la explosión de la longitud del prompt.
• Longitud Determinista: La longitud del prompt se limita a un presupuesto predefinido independientemente del recuento de características de entrada, logrado mediante capas de proyección de salida fija.
• Compresión de Secuencia: Para historiales de interacción largos, el marco emplea Compresión MLP (proyectando la dimensión de la secuencia) o Agrupación por Atención (Attention Pooling) (resumiendo cada $K$ ítems en un solo token) para reducir aún más la longitud de la secuencia manteniendo la información crítica.
• Almacenamiento en Caché (Caching): Dado que las características de usuario y de consulta son estáticas a través de múltiples puntuaciones de candidatos, sus correspondientes soft tokens pueden pre-computarse y almacenarse en caché, reduciendo significamente la latencia de inferencia.

Contribuciones Clave

1. Validación Empírica de Señales Tradicionales: Los autores demuestran que aprovechar un conjunto rico de señales tradicionales (características densas/dispersas) es crítico para el rendimiento de los LRMs, abordando las limitaciones de los métodos actuales que a menudo las excluyen debido a compromisos computacionales.
2. Marco Arquitectónico Novedoso: Introducción de Token Factory, que permite el mapeo eficiente de características heterogéneas en soft tokens, sirviendo como una nueva modalidad para los modelos de recomendación.
3. Validación de Eficiencia y Calidad: A través de evaluaciones offline y online, se demuestra que el marco logra una calidad de ranking y recuperación comparable o superior, permitiendo mejoras significativas de eficiencia.

Resultados Experimentales

El marco fue evaluado en PLUM, un Modelo de Recomendación Grande a escala de producción en Google, en tareas de ranking y recuperación generativa.

Tarea de Ranking (Predicción de CTR)

• Configuración: Se comparó un baseline (SIDs textuales + tokenización personalizada de señales densas) contra Token Factory (soft tokens).
• Eficiencia: Token Factory redujo la longitud del prompt de 1,536 tokens a 480 tokens (una reducción de ~70%), lo que resultó en un aumento del 200% en la velocidad de entrenamiento.
• Calidad: Inicialmente, el modelo Token Factory se rezagó ligeramente debido a la necesidad de aprender nuevas tablas de embedding. Sin embargo, alcanzó al baseline a los 1.5M de pasos de entrenamiento y mantuvo un rendimiento comparable.
• Escalabilidad: Aumentar el tamaño del batch en un 200% (posibilitado por las ganancias de eficiencia) permitió que el modelo Token Factory superara al baseline incluso en las etapas tempranas de entrenamiento.

Tarea de Recuperación Generativa (Predicción del Próximo Video)

• Configuración: Se comparó un baseline (SIDs textuales) contra Token Factory en una tarea de recomendación de la Página de Inicio de YouTube.
• Rendimiento Offline: Logró una mejora de +2.0% en Recall@10.
• Rendimiento Online:
  • Impresiones Únicas: Aumentaron en +16.8%.
  • Descubrimiento de Contenido Fresco: Las impresiones únicas para videos de un día de antigüedad aumentaron en +67.1%, indicando una mejor capacidad para recuperar contenido nuevo.
  • Satisfacción del Usuario: Ganancias positivas en Espectadores Satisfechos (+0.04%) y Tiempo de Visualización Satisfecho (+0.05%), confirmando que las ganancias en exploración no comprometieron la experiencia del usuario.

Estudios de Ablación

• Importancia de las Características: Eliminar las características densas/dispersas tradicionales resultó en una degradación del rendimiento, confirmando su valor.
• Soft Token vs. SID Textual: Cuando las restricciones de la ventana de contexto eran estrictas, los soft tokens superaron a los SIDs textuales porque permitieron que más ítems (200 vs. menos) cupieran dentro del presupuesto fijo de prompt.
• Historial Más Largo: Comprimir historiales de visualización extendidos (de 200 a 500 ítems) en soft tokens produjo una mejora de +0.08% en el AUC, demostrando el valor de la retención de un contexto más largo.

Significancia

El artículo afirma que Token Factory ofrece una solución unificada al problema de la "explosión de la longitud del prompt" en los sistemas de recomendación industrial. Al transformar señales heterogéneas en soft tokens, permite que los Modelos de Recomendación Grandes puedan:

1. Ingerir información más rica (historiales más largos, más características) sin aumentar la carga computacional.
2. Mantener o mejorar la calidad del modelo tanto en tareas de ranking como de recuperación.
3. Lograr mejoras significativas de eficiencia en el entrenamiento y el servicio, permitiendo tamaños de batch más grandes y una iteración más rápida.

Este trabajo posiciona a los soft tokens no solo como una técnica de compresión, sino como una evolución necesaria para integrar todo el espectro de las señales de recomendación tradicionales en las arquitecturas modernas basadas en Transformer.