Resumen Técnico: HiGR - Marco de Recomendación de Slates Generativo Jerárquico a Escala Industrial

1. Planteamiento del Problema

La recomendación de slates (listas), que presenta al usuario una lista clasificada de elementos en una sola visualización, es crítica para plataformas como feeds de video y agregadores de noticias. Aunque los métodos recientes de recomendación generativa utilizando IDs Semánticos (SIDs) muestran potencial, la aplicación directa de estos a la recomendación de slates a escala industrial enfrenta tres desconexcciones fundamentales:

1. Espacios de SID Entrelazados: Los métodos de SID existentes a menudo producen espacios de códigos donde los prefijos no capturan de manera fiable la semántica compartida. Este "entrelazamiento" confunde la planificación de listas de alto nivel y dificulta la guía de la relevancia y la diversidad.
2. Decodificación Autoregresiva Ineficiente: Generar un slate de $M$ elementos requiere decodificar $M \times D$ tokens (donde $D$ es el número de tokens de SID por elemento). La búsqueda de haz (beam search) autoregresiva de secuencia completa introduce una latencia sustancial y entrelaza la semántica intra-elemento con las transiciones inter-elementos, oscureciendo la estructura global del slate.
3. Objetivos Desalineados: El entrenamiento estándar de verosimilitud a nivel de token no optimiza directamente la calidad holística del slate. Las plataformas reales requieren optimizar simultáneamente múltiples objetivos a nivel de lista: fidelidad de clasificación, interés genuino del usuario y diversidad intra-lista.

2. Metodología: El Marco HiGR

HiGR (Recomendación Generativa Jerárquica) aborda estos desafíos mediante un pipeline co-diseñado que consta de tres componentes estrechamente acoplados:

A. VAE de Cuantización Residual con Contraste de Prefijos (PCRQ-VAE)

Para crear un espacio discreto controlable para la planificación, HiGR aprende SIDs estructurados utilizando un VAE de cuantización residual modificado.

• Cuantización Global: A diferencia del RQ-VAE estándar que optimiza las capas de forma independiente, el PCRQ-VAE introduce un objetivo de cuantización global. Esto alinea la representación cuantificada agregada con el embedding latente original, preservando los residuales informativos a través de las capas del libro de códigos y evitando la desaparición de residuales.
• Alineación de Contraste de Nivel de Prefijo: Para inyectar señales semánticas y colaborativas, el modelo aplica aprendizaje contrastivo (pérdida InfoNCE) a las primeros $D-1$ niveles del libro de códigos (los prefijos). Esto fuerza a los elementos semántica o colaborativamente similares a compartir prefijos de SID de alto nivel, reservando la última capa del libro de códigos para la discriminación fina del elemento.

B. Decodificador de Slate Jerárquico (HSD)

El HSD desplaza el proceso generativo de la decodificación a nivel de token hacia un enfoque jerárquico de grueso a fino para reducir la latencia y permitir la planificación global.

• Planificador de Slate de Grano Grueso: En lugar de decodificar $M \times D$ tokens secuencialmente, el planificador primero genera $M$ "embeddings de preferencia". Cada embedding representa la semántica pretendida para una posición específica en el slate. Esta etapa modela la estructura global de la lista.
• Generador de Elementos de Grano Fino: Un generador ligero luego decodifica la secuencia de $D$ tokens de SID para cada elemento, condicionado a su correspondiente embedding de preferencia.
• Eficiencia: Al restringir la búsqueda de haz costosa a la decodificación corta a nivel de elemento (condicionada por los embeddings planificados previamente), en lugar de la secuencia completa del slate, el Hся reduce significativamente la latencia de inferencia mientras mantiene la estructura global.
• Regularización de Diversidad: El planificador incluye un término de diversidad intra-lista (ILD) para minimizar la similitud por pares entre los embeddings de preferencia planificados, fomentando slates diversos sin necesidad de estimación post-hoc.

C. Alineación de Preferencia Listwise (ORPO)

Para cerrar la brecha entre la generación de tokens y la experiencia del usuario, HiGR emplea un mecanismo de alineación de múltiples objetivos a nivel de lista utilizando la Optimización de Preferencia de Ratio de Odds (ORPO).

• Optimización de Triple Objetivo: El modelo se optimiza contra tres objetivos complementarios:
  1. Fidelidad de Clasificación (O1): Asegurar que el orden coincida con el compromiso (engagement) del usuario.
  2. Interés Genuino del Usuario (O2): Filtrar el ruido de exposición centrándose en elementos con feedback positivo.
  3. Diversidad del Slate (O3): Prevenir recomendaciones repetitivas y "cámaras de eco de información".
• Construcción de Pares de Preferencia: Los slates positivos se construyen a partir de secuencias de compromiso de usuario re-clasificadas. Los slates negativos se generan permutando el orden, reemplazando elementos con feedback negativo, o añadiendo elementos semánticamente similares para probar las restricciones de diversidad.
• Libre de Referencia: Se utiliza ORPO como un método libre de referencia para reducir los costes computacionales y mitigar la deriva de objetivos, alineando directamente el modelo con las métricas clave de negocio.

3. Contribuciones Clave

1. Marco HiGR: Un marco de recomendación de slate generativo de extremo a extremo que unifica la tokenización estructurada, la generación jerárquica eficiente y la alineación de preferencia listwise.
2. PCRQ-VAE: Un método de tokenización novedoso que impone la alineación de contraste de nivel de prefijo, creando un espacio de SID estructurado donde los prefijos de alto nivel codifican la semántica de forma fiable, facilitando la planificación controlable.
3. Decodificador de Slate Jerárquico (HSD): Una arquitectura de decodificación de dos etapas que desacopla la planificación global del slate de la generación de elementos, logrando una aceleración de inferencia de 5× en comparación con las líneas base mientras preserva la calidad.
4. ORPO de Triple Objetivo: Un mecanismo de alineación listwise que optimiza conjuntamente la clasificación, el interés y la diversidad sin requerir un modelo de referencia auxiliar.

4. Resultados Experimentales

Rendimiento Offline

• Calidad: Tanto en un conjunto de datos industrial de gran escala de Tencent como en el conjunto público KuaiRec, HiGR supera a los estados del arte (incluyendo ListCVAE, SASRec, TIGER, HSTU y OneRec) por más de un 10% en métricas de calidad de recomendación (NDCG@5, Hit Rate, Recall).
• Estudios de Ablación:
  • Eliminar la restricción de contraste de nivel de prefijo en PCRQ-VAE aumenta significativamente las tasas de colisión de SID (de ~2.4% a ~8.7%), confirmando la necesidad de prefijos estructurados.
  • Eliminar la regularización de diversidad intra-lista (ILD) reduce las métricas de diversidad, mientras que eliminar los embeddings de contexto causa una caída notable en el rendimiento.
  • La optimización conjunta de los tres objetivos (Clasificación, Interés, Diversidad) produce el mejor rendimiento general, demostrando que la precisión y la diversidad son complementarias.
• Leyes de Escala (Scaling Laws): Experimentos a través de tamaños de modelo (de 0.05B a 2B parámetros) revelan una clara relación de ley de potencia entre la capacidad del modelo y el rendimiento, sugiriendo ganancias predecibles mediante el escalado.

Eficiencia

• Latencia: HiGR logra una aceleración de inferencia de 5× en comparación con OneRec (una sólida línea base generativa) manteniendo una mayor precisión.
• Uso de Recursos: En despliegue online, HiGR reduce la demanda de GPU en aproximadamente un 60% comparado con OneRec, manteniendo la latencia P99 por debajo de 50ms.

Pruebas A/B Online

Desplegado en múltiples superficies de la plataforma Tencent (noticias, videos, novelas web) sirviendo a cientos de millones de usuarios, HiGR demostró mejoras significativas en el mundo real:

• Tiempo de Visualización (Watch Time): +1.22%
• Reproducciones de Video: +1.73%
• Tiempo de Permanencia (Stay Time): +1.03%
• Conteo de Peticiones (Request Count): +1.57%

5. Significado y Reivindicaciones

El artículo afirma que HiGR logra cerrar la brecha entre la generación a nivel de elemento y la optimización de la lista holística en entornos industriales. Al introducir un espacio de SID estructurado y un mecanismo de decodificación jerárquico, resuelve los cuellos de botella de eficiencia y controlabilidad de los recomendadores generativos actuales. El marco demuestra que el modelado generativo puede escalarse a niveles industriales, entregando tanto una calidad de recomendación superior como una eficiencia computacional significativa. El despliegue exitoso en las plataformas de Tencent valida su aplicabilidad para servir a cientos de millones de usuarios con necesidades de recomendación complejas y de múltiples objetivos.