Fairness Attacks on Recommender Systems

Resumen Técnico: Ataques de Equidad en Sistemas de Recomendación

Planteamiento del Problema
Los sistemas de recomendación, aunque esenciales para mitigar la sobrecarga de información, enfrentan un desafío crítico relacionado con la falta de equidad (unfairness), donde grupos de usuarios específicos (por ejemplo, basados en género o raza) son sistemáticamente discriminados. Mientras que la investigación existente ha estudiado extensamente los ataques adversarios destinados a manipular el rendimiento de la recomendación (por ejemplo, ataques de promoción o democión), la vulnerabilidad de la equidad de la recomendación ante tales ataques ha permanecido en gran medida inexplorada. Este artículo aborda el problema de los "ataques de equidad", donde un adversario busca exacerbar la inequidad inherente de un sistema de recomendación objetivo. El desafío central radica en que los sistemas objetivo pueden emplear un entrenamiento consciente de la equidad y utilizar atributos sensibles (como el género). Por consiguiente, un atacante efectivo no solo debe seleccionar artículos falsos para inyectar, sino también determinar el atributo sensible (género) de los perfiles de usuario falsos para maximizar la degradación de la equidad.

Metodología: Ataque de Equidad Basado en Aprendizaje por Refuerzo con Conciencia de Estructura (SRLFA)
Los autores proponen un método novedoso, SRLFA, que enmarca la generación de perfiles de usuario falsos como un proceso de toma de decisiones secuenciales modelado como un Proceso de Decisión de Markov (MDP). El marco opera bajo un entorno de caja negra, donde el atacante no conoce los parámetros del modelo objetivo pero tiene acceso a los datos de entrenamiento. Para optimizar el ataque, los autores emplean un recomendador sustituto (surrogate) entrenado con objetivos de equidad para proporcionar retroalimentación de recompensa.

El marco SRLFA consta de cinco módulos clave:

1. Codificador de Estructura Basado en Grafos: Reconociendo que las interacciones usuario-artículo forman un grafo bipartito, el método utiliza una Red de Convolución de Grafos (GCN) para modelar las dependencias estructurales entre las interacciones de usuario-artículo falsas inyectadas y el grafo de interacción original. Este codificador aprende representaciones conscientes de la estructura tanto para los usuarios falsos como para los artículos falsos, capturando cómo las nuevas aristas alteran la estructura global del grafo.
2. Codificador Secuencial: Dado que los artículos falsos se generan secuencialmente dentro de un perfil de usuario, se utiliza una Red Neuronal Recurrente (específicamente LSTM) para modelar las dependencias secuenciales entre los artículos falsos generados, aprendiendo una representación consciente de la secuencia.
3. Política de Selección de Artículos: Basándose en las representaciones combinadas de conciencia de estructura y de secuencia, un mecanismo de atención enmascarada determina el siguiente artículo falso a inyectar. Esta política asegura que los artículos dentro de un único perfil de usuario falso sean distintos.
4. Política de Selección de Género: Para abordar el desafío de los atributos sensibles, una red de política separada decide el género (por ejemplo, masculino o femenino) para cada perfil de usuario falso. Esta decisión se toma a nivel de perfil (cada $M$ pasos) utilizando las representaciones estructurales y secuenciales agregadas del perfil.
5. Recomendador Sustituto y Entrenamiento: El atacante utiliza un modelo sustituto (Factorización de Matrices con Ranking Personalizado Bayesiano) que incorpora un término de regularización de equidad para simular un posible entrenamiento consciente de la equidad en el sistema objetivo. Tanto la política de selección de artículos como la de selección de género se entrenan conjuntamente utilizando la Optimización de Política Próxima (PPO) para maximizar la recompensa acumulada, definida como el aumento de la métrica de inequidad ($Unfair_F$).

Contribuciones Clave

• Exploración de un Problema Novedoso: El artículo identifica e investiga el dominio poco explorado de los ataques adversarios dirigidos específicamente a la equidad de los sistemas de recomendación, destacando las implicaciones sociales de tales vulnerabilidades.
• Método de Ataque con Conciencia de Estructura: A diferencia de los ataques de rendimiento previos basados en RL que pasan por alto la topología del grafo, SRLFA modela explícitamente la dependencia estructural entre las interacciones falsas inyectadas y el grafo original de usuario-artículo mediante un codificador de grafos.
• Aprendizaje Conjunto de Artículos y Atributos: El método introduce una política jerárquica que aprende conjuntamente la selección de artículos falsos y la asignación de atributos sensibles (género) de manera de extremo a extremo, abordando los requisitos únicos de los ataques de equidad.
• Evaluación Exhaustiva: El estudio evalúa el método contra cuatro modelos objetivo (NCF, LightGCN y sus variantes conscientes de la equidad) en dos conjuntos de datos del mundo real (MovieLens y Last.fm), demostrando la eficacia del método tanto en escenarios estándar como de equidad.

Resultados Experimentales
Experimentos extensos demuestran que SRLFA supera significativamente a los métodos de referencia (incluyendo ataques de rendimiento adaptados y ataques de equidad basados en influencia) en la exacerbación de la inequidad:

• Recomendadores Estándar: SRLFA aumentó la métrica de inequidad ($Unfair_{NDCG}$) en un promedio del 297.24% a través de diferentes modelos y conjuntos de datos, superando significativamente a los métodos de referencia. También redujo notablemente el rendimiento de la recomendación para grupos desfavorecidos (por ejemplo, usuarias), ampliando así la brecha de rendimiento.
• Recomendadores Conscientes de la Equidad: Incluso cuando el sistema objetivo emplea un entrenamiento consciente de la equidad (regularización), SRLFA logró intensificar la inequidad, aumentando el $Unfair_{NDKG}$ en un promedio del 1259.66% en modelos conscientes de la equidad.
• Robustez: El método siguió siendo efectivo incluso cuando el atacante tenía acceso a solo un subconjunto (por ejemplo, 30%) de los datos de entrenamiento.
• Sensibilidad de Parámetros: Se encontró que el rendimiento del ataque es sensible al número de perfiles falsos ($N$) y a las interacciones por perfil ($M$), observándose resultados óptimos en valores medios de $N$ y $M$ que se aproximan a los conteos de interacción promedio de los usuarios.

Significancia y Reivindicaciones
El artículo postula que el desarrollo de algoritmos de ataque de equidad avanzados es un prerrequisito para el "red-teaming" (pruebas de equipo rojo) de los sistemas de recomendación. Los autores argumentan que sin simulaciones de ataque agresivas, la robustez de los mecanismos de equidad puede ser sustancialmente subestimada, lo que conduce a una falsa sensación de seguridad. Al demostrar que los sistemas conscientes de la equidad siguen siendo vulnerables a las inyecciones adversarias estructurales y de atributos, el artículo subraya la necesidad crítica de una identificación proactiva de vulnerabilidades y del desarrollo de estrategias de mitigación de la equidad más resilientes. El trabajo sirve como un paso fundacional para comprender las vulnerabilidades específicas de la equidad en la recomendación.