Resumen Técnico: REPREC

Definición del Problema

La recomendación secuencial tiene como objetivo predecir la próxima interacción de un usuario basándose en el orden cronológico de sus comportaciones pasadas. Si bien los modelos clásicos (por ejemplo, filtrado colaborativo, SASRec, BERT4Rec) aprenden eficazmente representaciones de usuario compactas a partir de secuencias de interacción, carecen del conocimiento del mundo semántico y de la capacidad de seguir instrucciones de los Modelos de Lenguaje de Gran Escala (LLMs). Por el contrario, los enfoques recientes que reformulan la recomendación como una tarea de lenguaje natural utilizando LLMs suelen tener dificultades para preservar las señales colaborativas estructuradas.

Las soluciones existentes que intentan cerrar esta brecha suelen depender de una o más de las siguientes estrategias, las cuales introducen importantes compromisos de despliegue:

• Ajuste Fino (Fine-tuning) de LLMs: Adaptar el esqueleto del LLM (por ejemplo, mediante LoRA) para aprender tareas de recomendación.
• Modificaciones Arquitectónicas: Añadir módulos dedicados de atención cruzada o la optimización conjunta de múltiples componentes.
• Condicionamiento a Nivel de Ítem: Inyectar una representación por cada ítem histórico en la entrada del LLM, lo que provoca que la longitud de la secuencia y los costos computacionales (FLOPs) escalen linealmente con el historial de interacción.
• Destilación de Representación: Transferir conocimiento mediante objetivos de destilación complejos.

Estos métodos suelen aumentar la complejidad del entrenamiento, la huella de parámetros y la latencia de inferencia, lo que los hace menos adecuados para entornos de producción donde la modularidad, la escalabilidad y la baja latencia son críticas. El artículo plantea una pregunta de diseño: ¿Puede un codificador secuencial congelado y un LLM congelado conectarse únicamente mediante un alineamiento de representación a nivel de usuario ligero, preservando la modularidad y minimizando la complejidad de despliegue?

Metodología

Los autores proponen REPREC (Representación-driven Parameter-Efficient Recommendation), un marco que conecta un recomendador secuencial congelado y un LLM congelado a través de un módulo de alineación ligero y entrenable. La arquitectura consta de tres componentes principales:

1. Codificador Secuencial Congelado ($f_\theta$): Un recomendador secuencial estándar (instanciado como SASRec o BERT4Rec) entrenado para la predicción del siguiente ítem. Una vez entrenado, sus parámetros quedan congelados. Mapea la secuencia de interacción de un usuario $S_u$ en una incrustación (embedding) de usuario de tamaño fijo $d$.
2. Inyector Ligero ($g_\phi$): Un Perceptrón Multicapa (MLP) compacto que proyecta la incrustación de usuario de tamaño fijo al espacio de incrustación del LLM.
   • El inyector mapea la incrustación de dimensión $d$ en un conjunto de $m$ "tokens blandos" (vectores de condicionamiento) de dimensión $D$ (el tamaño oculto del LLM).
   • La transformación implica una proyección lineal, una activación no lineal (GELU) y una CapaNorm compartida aplicada a los tokens resultantes.
   • Crucialmente, solo los parámetros del inyector $\phi$ son entrenables; el codificador secuencial y el LLM permanecen congelados.
3. Esqueleto de LLM Congelado ($M$): Un LLM preentrenado (por ejemplo, LLaMA, Qwen) que recibe los tokens blandos inyectados, los cuales se anteponen a un prompt textual que describe el ítem candidato. El LLM realiza una clasificación binaria (Sí/No) para determinar si el ítem candidato es relevante.

Proceso de Entrenamiento:
El sistema se entrena utilizando un prompt de decisión binaria. Los tokens del usuario $Z = g_\phi(u)$ se concatenan con la incrustación del prompt $E_{prompt}$ para formar la entrada $E_{input} = [Z; E_{prompt}]$. El LLM genera los logits para el token de respuesta, y la pérdida de entropía cruzada se calcula únicamente en la posición de la respuesta. Los gradientes fluyen a través de las activaciones del LLM congelado para actualizar únicamente los parámetros del inyector $\phi$.

Contribuciones Clave

• Eficiencia de Parámetros: REPREC elimina la necesidad de realizar el ajuste fino del esqueleto del LLM o del codificador secuencial. La adaptación se limita a un pequeño inyector MLP, reduciendo significativamente el recuento de parámetros entrenables en comparación con LoRA o el ajuste fino completo.
• Modularidad y Compatibilidad: El marco es agnóstico tanto al codificador como al esqueleto. Puede integrar varios codificadores secuenciales (SASRec, BERT4Rec) y LLMs (LLaMA, Qwen) sin modificar sus arquitecturas internas.
• Alineamiento a Nivel de Usuario: A diferencia de los métodos de condicionamiento a nivel de ítem que escalan con la longitud del historial, REPREC utiliza un número fijo de tokens blandos ($m$) derivados de una representación global de usuario, asegurando una latencia de inferencia constante independientemente del tamaño del historial de interacción.
• Generalización a Datos Dispersos: El método está diseñado específicamente para transferir señales colaborativas del codificador secuencial al LLM, lo cual es particularmente beneficioso para usuarios con historiales de interacción limitados.

Resultados Experimentales

Los autores evaluaron REPREC en cinco conjuntos de datos de reseñas de productos de Amazon (Beauty, Sports, Toys, Pet Supplies, Tools) frente a líneas base que incluyen Zero-shot LLM, Frozen Injector, LoRA-FT y LLaRA.

• Rendimiento General: REPREC supera consistentemente a los modelos secuenciales independientes (SASRec, BERT4Rec) y a los LLMs Zero-shot. Bajo presupuestos de parámetros equivalentes, REPREC iguala o supera el rendimiento de LoRA-FT y LLaRA en todos los conjuntos de datos y esqueletos de LLM (LLaMA y Qwen).
• Análisis de Regímenes de Usuario:
  • Usuarios Casuales y Centrales (Core): REPREC demuestra ganancias significativas sobre LoRA para usuarios con historiales de interacción cortos (0–20 interacciones). La representación de usuario inyectada proporciona señales colaborativas valiosas que el LLM carece en regímenes de bajos datos.
  • Usuarios Intensivos (Power Users): Para usuarios con historiales largos (>20 interacciones), la brecha de rendimiento entre REPREC y LoRA se reduce, con REPREC funcionando de manera comparable.
• Eficiencia y Compromisos de Entrenamiento/Inferencia:
  • Velocidad de Entrenamiento: Entrenar REPREC es significativamente más rápido que LoRA.
  • Generalización Corto-Largo: Los autores investigaron el entrenamiento con historiales de prompt cortos ($\ell=10$) y la evaluación con contextos más largos ($\ell=50$). Aunque el entrenamiento con historiales cortos degrada el rendimiento para los usuarios intensivos, un enfoque híbrio (entrenar corto, probar largo) recupera entre el 85 y el 100% del rendimiento de LoRA para los usuarios intensivos, reduciendo el tiempo de entrenamiento por época en un promedio de 1.51×.
• Ablación: El estudio confirma que simplemente anteponer tokens blandos no entrenados (Frozen Injector) es insuficiente; el alineamiento aprendido es esencial. Además, combinar tokens blandos con el historial de interacción textual produce mejores resultados que los tokens blandos por sí solos.

Significado y Reivindicaciones

El artículo afirma que REPREC establece un enfoque simple, modular y práctico para integrar señales colaborativas en sistemas de recomendación basados en LLM. Su principal importancia radica en demostrar que una recomendación secuencial de alta calidad no requiere cambios arquitectónicos complejos ni un ajuste fino costoso del LLM.

Al desacoplar la extracción de la señal colaborativa (codificador congelado) del razonamiento lingüístico (LLM congelado) mediante una capa de alineación ligera, REPREC ofrece un flujo de trabajo apto para producción que equilibra la calidad de la recomendación con la eficiencia computacional. Los autores enfatos que este enfoque es particularmente efectivo para la "larga cola" de usuarios (casuales y centrales) que constituyen la mayoría de las bases de usuarios en sistemas del mundo real, donde la dispersión de datos es un desafío común. El trabajo sugiere que el alineamiento de representación a nivel de usuario es una alternativa viable al ajuste del esqueleto para escalar los LLMs en escenarios de recomendación.