PBiLoss: Popularity-Aware Regularization to Improve Fairness in Graph-Based Recommender Systems

1. Planteamiento del Problema

Los sistemas de recomendación basados en grafos, particularmente aquellos que utilizan Redes Neuronales de Grafos (GNN) como LightGCN, han logrado un rendimiento de vanguardia en la captura de interacciones usuario-ítem. Sin embargo, sufren significativamente de sesgo de popularidad.

• El Problema: Estos modelos tienden a recomendar en exceso ítems populares (nodos de alto grado) mientras sub-recomiendan ítems de cola larga (menos populares).
• La Causa: En las GNN, el paso de mensajes amplifica inherentemente los patrones de interacción dominantes. Los ítems populares reciben actualizaciones más frecuentes y señales más fuertes, creando un ciclo de retroalimentación que margina el contenido de nicho.
• Limitaciones de las Soluciones Existentes:
  • Pre-procesamiento: Distorsiona las distribuciones de datos.
  • Post-procesamiento: Limitado para corregir el sesgo ya incrustado en las representaciones aprendidas.
  • Procesamiento (basado en gradientes): A menudo complica la optimización, crea paisajes de pérdida inestables o requiere un ajuste sensible de hiperparámetros.
  • Regularización Existente: Muchos métodos dependen de atributos sensibles o requieren cambios arquitectónicos complejos.

Los autores proponen la necesidad de un método que sea agnóstico al modelo, integrado directamente en el objetivo de entrenamiento y capaz de equilibrar la equidad sin sacrificar la precisión de la recomendación.

2. Metodología: PBiLoss

La contribución central es PBiLoss (Pérdida de Sesgo de Popularidad), un término de regularización novedoso diseñado para añadirse a los objetivos de entrenamiento estándar (específicamente la Clasificación Personalizada Bayesiana o BPR).

A. Concepto Central

PBiLoss penaliza explícitamente la inclinación del modelo hacia los ítems populares durante el entrenamiento. Su objetivo es:

1. Devaluar la clasificación de ítems populares que son irrelevantes para un usuario.
2. Promover la clasificación de ítems impopulares que son relevantes para un usuario.

B. Diferenciación entre Ítems Populares e Impopulares

El artículo propone dos métodos para categorizar los ítems basándose en la popularidad (cuantificada por el grado del nodo):

1. Umbral Fijo ($\alpha$): Los ítems con un grado $\ge \alpha$ son "populares"; los demás son "impopulares".
2. Sin Umbral (Probabilístico): Se asignan probabilidades de muestreo basadas en el grado. Los ítems populares se muestrean con una probabilidad proporcional a su grado; los ítems impopulares se muestrean con una probabilidad proporcional al inverso de su grado.

C. Estrategias de Muestreo

PBiLoss introduce dos estrategias de muestreo distintas para generar triples de entrenamiento $(u, i, j)$, donde $u$ es un usuario, $i$ es un ítem positivo y $j$ es un ítem negativo:

1. Positivo Popular (PopPos):

   • Enfoque: Interacciones relevantes (positivas).
   • Mecanismo: Muestra pares de ítems relevantes donde uno es popular y otro es impopular.
   • Objetivo: Fomenta que el modelo clasifique al ítem relevante impopular más alto que al ítem relevante popular, aumentando la exposición de la cola larga.
   • Formulación: $T_{PBi} = \{(u, i, j) | u \in U, i \in I^+_{u, unpop}, j \in I^+_{u, pop}\}$

2. Negativo Popular (PopNeg):

   • Enfoque: Interacciones irrelevantes (negativas).
   • Mecanismo: Muestra pares donde el ítem positivo es impopular y el ítem negativo es popular.
   • Objetivo: Penaliza explícitamente al modelo por clasificar ítems populares (con los que el usuario no ha interactuado) demasiado alto. Esto suele ser más efectivo porque el sesgo de popularidad en BPR a menudo es impulsado por ítems populares apareciendo como "negativos fáciles".
   • Formulación: $T_{PBi} = \{(u, i, j) | u \in U, i \in I^+_{u, unpop}, j \in I_{pop} \setminus I^+_{u, pop}\}$

D. Función Objetivo Final

La función de pérdida total combina la pérdida BPR estándar con el término PBiLoss:
$$L_{total} = L_{BPR} + w \cdot L_{PBi}$$
Donde $w$ es un hiperparámetro que controla la fuerza de la regularización de equidad.

3. Contribuciones Clave

1. Función de Pérdida Novel: PBiLoss integra restricciones de equidad directamente en el objetivo de aprendizaje, evitando la necesidad de post-procesamiento o cambios arquitectónicos complejos.
2. Estrategias de Muestreo Innovadoras: Introducción de las estrategias PopPos y PopNeg para abordar diferentes facetas del sesgo de popularidad (ítems relevantes vs. irrelevantes).
3. Definición Flexible de Popularidad: Proporciona tanto un enfoque de umbral fijo (determinista) como un enfoque sin umbral (probabilístico), permitiendo adaptabilidad a diferentes distribuciones de datos.
4. Diseño Agnóstico al Modelo: El método es un componente de pérdida modular que puede integrarse perfectamente en marcos GNN existentes (por ejemplo, LightGCN, r-AdjNorm, APDA, PopGo) sin modificaciones estructurales.
5. Eficiencia: La complejidad temporal permanece asintóticamente equivalente al modelo base ($O(|E|Ld)$), ya que el cálculo de pérdida adicional es un aumento de factor constante.

4. Resultados Experimentales

Los autores evaluaron PBiLoss en tres conjuntos de datos del mundo real: Epinions, iFashion y MovieLens, integrándolo con cuatro modelos base: LightGCN, r-AdjNorm, APDA y PopGo.

Hallazgos Clave:

• Mejora en la Equidad: PBiLoss redujo significativamente el sesgo de popularidad.
  • PRU (Correlación Popularidad-Rango para Usuarios) y PRI (Correlación Popularidad-Rango para Ítems) se redujeron hasta un 10% en comparación con los modelos base. Valores más bajos indican mejor equidad.
  • La variante PopNeg-FT (Negativo Popular con Umbral Fijo) logró consistentemente el mejor equilibrio entre equidad y precisión.
• Preservación de la Precisión: Crucialmente, el método mejoró la equidad sin degradar las métricas estándar de precisión (F1@10, NDCG@10, MAP@10). En muchos casos, las métricas de precisión mejoraron ligeramente o se mantuvieron estables.
• Significancia Estadística: Una prueba no paramétrica de Friedman confirmó que las mejoras en las métricas de clasificación (NDCG) fueron estadísticamente significativas ($p < 0.05$).
• Sensibilidad a Hiperparámetros:
  • Valores moderados del peso de regularización $w$ proporcionaron el mejor equilibrio.
  • Establecer el umbral de popularidad $\alpha$ en el 20% superior de los ítems produjo resultados óptimos.

5. Significado y Conclusión

• Impacto Práctico: PBiLoss ofrece una solución escalable y fácil de implementar para sistemas de recomendación industriales. Aborda el "Efecto Mateo" (los ricos se hacen más ricos) en las recomendaciones, asegurando que el contenido de cola larga reciba una exposición justa.
• Contribución Teórica: Demuestra que la equidad puede lograrse mediante una simple regularización de la función de pérdida en lugar de cambios arquitectónicos complejos o manipulación de atributos sensibles.
• Direcciones Futuras: Los autores sugieren extender la definición de popularidad más allá del grado del nodo (por ejemplo, tendencias temporales, señales basadas en contenido) y aplicar el método a escenarios de recomendación secuenciales o multimodales.

En resumen, PBiLoss es un marco robusto y agnóstico al modelo que mitiga con éxito el sesgo de popularidad en recomendadores basados en grafos, mejorando la diversidad y la equidad mientras mantiene una alta precisión de recomendación.