Debiasing Sequential Recommendation with Time-aware Inverse Propensity Scoring

Este artículo propone TIPS, un método de puntuación inversa por propensión consciente del tiempo que corrige los sesgos de selección y exposición en la recomendación secuencial al modelar las dependencias temporales y dinámicas del comportamiento del usuario, mejorando así el rendimiento de diversos modelos existentes.

Lo esencial

¡Claro que sí! Imagina que este artículo es como una historia sobre un chef de restaurante que quiere predecir qué plato te pedirá mañana, pero tiene un problema enorme: solo sabe lo que has pedido, pero no sabe qué platos le mostraron en el menú y decidiste ignorar.

Aquí tienes la explicación de la investigación de Sirui Huang y su equipo, traducida a un lenguaje sencillo con analogías creativas:

🍽️ El Problema: El Chef Ciego

Imagina que eres un cliente en un restaurante.

1. La realidad: El chef (el sistema de recomendación) te muestra un menú con 50 platos. Tú solo tocas 3 de ellos.
2. El error del chef: El chef asume que, como no tocaste los otros 47 platos, ¡no te gustan!
   • Sesgo de Exposición: Piensa que los platos que nunca te mostró (porque estaban en la parte de atrás del menú) no te interesan.
   • Sesgo de Selección: Piensa que los platos que te mostró pero no pediste (quizás porque estaban muy caros o no tenías hambre) son "malos".

El chef está aprendiendo de una versión distorsionada de la realidad. Solo ve lo que hiciste, no lo que podrías haber hecho si el menú hubiera sido diferente.

🕰️ La Solución: El "Reloj Mágico" (TIPS)

Los métodos antiguos intentaban arreglar esto con una balanza estática (como un sistema de pesos fijos). Pero el problema es que los gustos cambian con el tiempo.

• Si ayer pediste pizza, hoy quizás quieras sushi.
• Si ayer un plato estaba de moda, hoy ya no.

Los métodos antiguos no entendían que el tiempo y la secuencia importan. Era como intentar predecir el clima de mañana usando solo la temperatura de hace un año.

Aquí entra HyperG (o TIPS, como lo llaman en el título), que es como darle al chef un Reloj Mágico y una Máquina del Tiempo.

⏳ ¿Cómo funciona la "Máquina del Tiempo"? (Pensamiento Contrafactual)

En lugar de solo mirar lo que pediste, el sistema se hace preguntas de "¿Qué pasaría si...?" (esto se llama razonamiento contrafactual).

El sistema crea escenarios imaginarios para cada vez que pediste algo:

1. El "Primo Gemelo" (Ítems Similares):

   • Pregunta: "¿Qué pasaría si, en lugar de esa pizza, te hubiera mostrado una pizza con un ingrediente muy similar?"
   • Acción: El sistema busca un plato "parecido" en su base de datos y simula que te lo mostró. Si no lo pediste, el sistema aprende que quizás no te gustaba ese tipo de pizza, no solo esa pizza específica.

2. El "Famoso del Día" (Ítems Populares):

   • Pregunta: "¿Qué pasaría si te hubiera mostrado el plato más famoso del mes?"
   • Acción: Simula que te mostró el plato de moda. Si no lo pediste, el sistema entiende que tu gusto es único y no sigue la masa.

3. El "Cambio de Hora" (Mismo ítem, momento diferente):

   • Pregunta: "¿Qué pasaría si te hubiera mostrado esa misma pizza, pero 10 minutos antes o después?"
   • Acción: Esto es clave. A veces no pedimos algo porque estaba fuera de lugar en el momento. El sistema aprende que el tiempo importa.

⚖️ La Balanza Inteligente (Puntaje de Propensión)

Una vez que el sistema ha imaginado estos escenarios, calcula una probabilidad de exposición.

• Imagina que cada plato tiene una etiqueta con un número.
• Si un plato es muy popular y siempre te lo muestran, su etiqueta dice "100% de probabilidad de que te lo muestren".
• Si un plato es raro y casi nunca te lo muestran, su etiqueta dice "1% de probabilidad".

El sistema usa esta etiqueta para darle más peso a los platos raros que sí pediste.

• Analogía: Si un amigo te recomienda un libro de un autor desconocido y te encanta, ¡eso cuenta más que si te recomendaras el libro más vendido del mundo y te gustara! Porque el libro raro es una señal más fuerte de tu verdadero gusto.

🚀 ¿Qué lograron?

Al usar este "Reloj Mágico" (TIPS) junto con los sistemas de recomendación actuales (ya sean los clásicos o los nuevos basados en Inteligencia Artificial generativa):

1. El chef deja de adivinar: Ya no asume que lo que no pediste es porque no te gusta. Entiende que quizás simplemente no te lo mostró o no era el momento.
2. Mejores predicciones: En pruebas con millones de datos (como películas de MovieLens o música), el sistema con este "Reloj Mágico" acertó mucho más en lo que los usuarios querían ver a continuación.
3. Funciona para todos: Es como un "plugin" o un accesorio que puedes ponerle a cualquier sistema de recomendación existente para hacerlo más justo y preciso.

En resumen

El papel propone dejar de mirar solo lo que los usuarios hicieron y empezar a entender lo que podrían haber hecho en diferentes momentos y con diferentes opciones. Es como pasar de un chef que solo anota tus pedidos a un chef que entiende tu historia, tus gustos cambiantes y lo que realmente te gustaría probar si tuviera la oportunidad de mostrártelo en el momento perfecto.

Resumen técnico

Resumen Técnico: Desviación de la Recomendación Secuencial con Puntuación de Propensión Inversa Consciente del Tiempo (TIPS/HyperG)

1. El Problema: Sesgos en la Recomendación Secuencial (SR)

La Recomendación Secuencial (SR) busca predecir la siguiente interacción de un usuario modelando el orden temporal de sus comportamientos históricos. Sin embargo, los enfoques existentes (tanto modelos secuenciales tradicionales como generativos) sufren de dos sesgos críticos debido a la falta de registros de exposición (qué ítems se mostraron al usuario):

• Sesgo de Exposición (Exposure Bias): Los ítems que nunca fueron expuestos al usuario se tratan implícitamente como si el usuario no tuviera interés en ellos. El modelo no puede distinguir entre "no expuesto" y "no interesante".
• Sesgo de Selección (Selection Bias): Los ítems que fueron expuestos pero no interactuados (ej. vistos pero no clickeados) se interpretan erróneamente como falta de interés, cuando en realidad podrían haber sido ignorados debido a la estrategia de visualización o el contexto.

Limitación de los métodos actuales:
Las técnicas tradicionales de Puntuación de Propensión Inversa (IPS) intentan corregir estos sesgos reponderando las interacciones observadas por la inversa de su probabilidad de exposición. Sin embargo, el IPS convencional es estático:

1. Ignora las dependencias secuenciales (la interacción actual depende de las anteriores).
2. Ignora la dinámica temporal (los intereses y las estrategias de exposición cambian con el tiempo; un ítem nuevo tiene una probabilidad de exposición diferente a uno antiguo).
3. No modela la relación causal entre la exposición y la interacción de manera dinámica.

2. Metodología Propuesta: HyperG (TIPS)

Los autores proponen HyperG, un marco de trabajo plug-in (accesorio) que introduce Puntuación de Propensión Inversa Consciente del Tiempo (TIPS). El objetivo es estimar la distribución de exposición de los ítems en ausencia de logs de exposición, utilizando razonamiento contrafactual.

Componentes Clave del Marco:

• Codificación Dual (Dual Encoding Strategy):

  • Se mantienen dos matrices de incrustaciones (embeddings) separadas para los ítems: una para la interacción ($H(C)$, basada en clics/compras) y otra para la exposición ($H(E)$, basada en popularidad, promociones, etc.). Esto evita que la estimación de propensión dependa de las predicciones de recomendación, reduciendo la varianza y el sesgo.
  • Se utilizan incrustaciones temporales que capturan los intervalos de tiempo entre interacciones, ya que los intereses recientes pesan más.

• Construcción de Muestras Contrafactuales:
  Para estimar la exposición sin datos reales, el modelo genera tres tipos de pares contrafactuales "ítem-tiempo" para cada interacción factual observada:

  1. Ítems Similares: ¿Qué pasaría si se mostrara un ítem similar al interactuado en el mismo momento? (Basado en similitud en $H(E)$).
  2. Ítems Populares: ¿Qué pasaría si se mostrara un ítem muy popular en ese momento? (Basado en la frecuencia histórica de exposición).
  3. Mismo Ítem, Diferente Tiempo: ¿Qué pasaría si el mismo ítem se mostrara en un momento ligeramente diferente? (Perturbación temporal $\Delta$).
     Estos pares se tratan como positivos para la estimación de exposición, pero como negativos para la inferencia de preferencia del usuario.

• Modelado Causal (E → C y E → U):

  • Exposición influyendo en Interacción (E → C): Se utiliza un mecanismo de atención cruzada para combinar la secuencia de interacciones del usuario con la estimación de exposición del ítem candidato. Esto genera una puntuación de propensión temporal ($\pi_t$) que estima la probabilidad de que un ítem fuera expuesto en un momento dado.
  • Exposición influyendo en Preferencia (E → U): El modelo utiliza los datos contrafactuales para aprender preferencias más robustas, mitigando el sesgo de selección al entender qué ítems fueron expuestos pero no elegidos.

• Función de Objetivo (Time-aware IPS):
  La función de pérdida final combina la pérdida de recomendación estándar (BPR) con un término de reponderación basado en la propensión temporal:
  $$w_{v_i, t_i} = \frac{\exp(-\mu(t_i - t_{i-1}))}{\max(s_{v_i, t_i}, \epsilon)}$$
  Donde el peso $w$ aumenta la importancia de las interacciones recientes y corrige fuertemente los ítems que tenían baja probabilidad de exposición.

3. Contribuciones Principales

1. Estimación de Distribución de Exposición sin Logs: El marco estima la distribución de exposición construyendo ejemplos contrafactuales conscientes del tiempo, resolviendo el problema de la falta de datos de exposición.
2. Corrección Dinámica de Sesgos: A diferencia del IPS estático, TIPS captura las dependencias secuenciales y las dinámicas temporales, alineando la reponderación con los intereses reales y evolutivos del usuario.
3. Marco Versátil (Plug-in): HyperG es agnóstico al modelo base. Los autores demostraron su eficacia integrándolo tanto en modelos secuenciales tradicionales (basados en atención/transformers) como en modelos generativos (basados en difusión y VAEs).
4. Validación Empírica: Se realizaron experimentos exhaustivos en cuatro conjuntos de datos públicos (ML-1M, ML-10M, Music4All, GoodReads) comparando con el estado del arte.

4. Resultados Experimentales

• Rendimiento Superior: HyperG superó consistentemente a los modelos base (SASRec, TiSASRec, GRU, CVAE, DiffuRec, etc.) en todas las métricas (HR@K y NDCG@K).
  • En modelos secuenciales tradicionales, se observaron mejoras promedio de ~6% en HR@10 y ~5% en NDCG@10.
  • En modelos generativos, las mejoras fueron de aproximadamente 5% en HR@10.
• Impacto en Escala: Las mejoras fueron más pronunciadas en conjuntos de datos grandes y dinámicos (como Music4All y ML-10M), donde la variabilidad temporal y la riqueza de interacciones permiten una corrección de sesgo más precisa.
• Estudio de Ablación:
  • Eliminar la información temporal (HyperG ¬time) o el módulo de estimación de exposición (HyperG ¬EP) degradó significativamente el rendimiento.
  • La combinación de estimación de exposición y dinámica temporal fue crucial para el éxito, especialmente en la precisión del ranking.
• Análisis de Propensión: HyperG generó puntuaciones de propensión más discriminativas entre ítems positivos y negativos en comparación con el IPS tradicional, lo que indica una mejor identificación de ítems expuestos pero no interactuados.

5. Significancia e Impacto

Este trabajo es significativo porque aborda una limitación fundamental en la recomendación secuencial: la ignorancia de los datos de exposición.

• Solución Práctica: Proporciona una solución viable para entornos donde los registros de exposición no están disponibles (común en la industria), permitiendo a los sistemas existentes corregir sus sesgos sin necesidad de recolectar nuevos datos.
• Avance Teórico: Integra el razonamiento contrafactual con la dinámica temporal, avanzando más allá de las correcciones estáticas de sesgo y ofreciendo una comprensión más profunda de cómo la exposición y el tiempo moldean las preferencias del usuario.
• Generalidad: Al funcionar como un módulo plug-in, democratiza la capacidad de desviación (debiasing) para una amplia gama de arquitecturas de recomendación, desde las más simples hasta las más complejas (difusión).

En conclusión, HyperG establece un nuevo estándar para la recomendación secuencial al demostrar que la integración de la causalidad temporal y la estimación de exposición contrafactual es esencial para recuperar las verdaderas preferencias de los usuarios y mejorar la equidad y precisión de los sistemas de recomendación.