Rethinking Federated Unlearning via the Lens of Memorization

Resumen Técnico: Repensar el Olvido Federado a través de la Lente de la Memorización

Enunciado del Problema
El Aprendizaje Federado (FL) requiere cada vez más soportar el olvido de máquinas para cumplir con regulaciones de privacidad como el GDPR y el CCPA (el "derecho al olvido"). Si bien reentrenar un modelo desde cero tras eliminar los datos de un cliente es el estándar de oro para el olvido, esto incurre en costos computacionales y de comunicación prohibitivos. Los enfoques existentes de olvido federado (FU) intentan aproximar este reentrenamiento perturbando representaciones, utilizando actualizaciones históricas o aplicando ascenso de gradiente. Sin embargo, los autores argumentan que estos métodos a menudo pasan por alto la distinción crítica entre información superpuesta (patrones generalizables compartidos entre el cliente a olvidar y los clientes restantes) e información única de memorización (detalles específicos del cliente). Los algoritmos actuales intentan frecuentemente eliminar la influencia de todo el conjunto de datos a olvidar, eliminando inadvertidamente patrones superpuestos. Esto conduce a un olvido ineficaz (fallo en eliminar datos memorizados específicos) y a injusticia (degradación desproporcionada del rendimiento de los clientes restantes que comparten patrones similares con el cliente a olvidar).

Metodología
El artículo propone un marco fundamentado en la teoría de la información y el concepto de memorización, lo que lleva al desarrollo de Poda de Memorización Federada (FedMemPrune).

1. Fundamento Teórico (Descomposición de la Información):
   Los autores formalizan el olvido utilizando la Descomposición Parcial de la Información. Definen la información aprendida por un modelo a partir de la unión de los datos a olvidar ($D_u$) y los datos restantes ($D_r$) como compuesta por:

   • Información Sinérgica: Proporcionada conjuntamente por $D_u$ y $D_r$.
   • Información Redundante/Superpuesta ($F_g$): Compartida entre $D_u$ y $D_r$.
   • Información Única/Memorización ($F_m$): Específica de $D_u$.

   Los autores argumentan que el componente sinérgico es insignificante en escenarios generales de olvido. Por lo tanto, el objetivo del olvido no debe ser borrar toda la información de $D_u$, sino específicamente eliminar la información única de memorización ($F_m$) preservando la información superpuesta ($F_g$). Eliminar $F_g$ perjudica la generalización y la equidad, mientras que eliminar $F_m$ logra el "olvido" deseado sin sacrificar la utilidad.

2. Métrica de Evaluación: Evaluación de Memorización Agrupada (GME):
   Para abordar la falta de métricas de evaluación de grano fino, los autores introducen GME. Esta métrica calcula una puntuación de memorización para cada ejemplo en el conjunto de datos a olvidar, definida como la diferencia en la probabilidad de clasificación correcta entre un modelo entrenado en $D_u \cup D_r$ y un modelo entrenado solo en $D_r$. Los ejemplos se agrupan luego según estas puntuaciones (por ejemplo, alta memorización frente a baja memorización). La eficacia del olvido se mide por qué tan cerca se acerca el rendimiento del modelo olvidado en estos subgrupos a la línea base reentrenada, apuntando específicamente a la eliminación de ejemplos de alta memorización.

3. Algoritmo: FedMemPrune:
   FedMemPrune es un enfoque basado en poda en tres etapas:

   • Etapa 1 (Localización de Parámetros de Memorización): El algoritmo identifica parámetros redundantes en el modelo global. Estos se definen como parámetros que reciben actualizaciones de gradiente mínimas por parte de los clientes restantes ($D_r$). La hipótesis es que los parámetros críticos para $D_r$ codifican conocimiento superpuesto/generalizable, mientras que los parámetros redundantes codifican la memorización única específica de $D_u$.
   • Etapa 2 (Reinicialización): Los parámetros redundantes identificados se reinicializan utilizando la estrategia de inicialización original (por ejemplo, Uniforme de Kaiming), borrando efectivamente la información memorizada.
   • Etapa 3 (Ajuste Fino): El modelo se ajusta finamente en los clientes restantes ($D_r$) para restaurar el rendimiento de generalización y reconstruir las representaciones superpuestas.

Contribuciones Clave

• Cambio Conceptual: El artículo redefine el olvido federado como un proceso de eliminación de la memorización específica del cliente en lugar de borrar toda la influencia de los datos, argumentando que la información superpuesta debe preservarse para mantener la utilidad y la equidad del modelo.
• Métrica Novel: La introducción de la Evaluación de Memorización Agrupada (GME), que permite una evaluación a nivel de ejemplo de la eficacia del olvido, distinguiendo entre el olvido de datos de cola memorizados y la preservación de datos de cabeza generalizables.
• Algoritmo Propuesto: El desarrollo de FedMemPrune, que aprovecha la redundancia de parámetros relativa a los datos restantes para podar selectivamente la información de memorización.

Resultados Experimentales
Se realizaron experimentos extensos en CIFAR-10, CIFAR-100 y EMNIST bajo configuraciones IID y No-IID, comparando FedMemPrune con líneas base como Halimi et al. (ascenso de gradiente), Liu et al. (Matriz de Información de Fisher), FedRecovery, FedAU, FedOSD y NoT.

• Eficacia del Olvido: FedMemPrune coincide estrechamente con el rendimiento de la línea base reentrenada, particularmente dentro de los subgrupos de alta memorización. Por ejemplo, en CIFAR-100 (No-IID), el método logró precisiones de clasificación en grupos de alta memorización (por ejemplo, 27.25% frente a 21.74% para la línea base) que estaban significativamente más cerca del modelo reentrenado que otras líneas base, las cuales a menudo fallaron en olvidar datos de alta memorización o olvidaron en exceso.
• Rendimiento de Generalización: Al preservar la información superpuesta, FedMemPrune mantiene una alta precisión de prueba en el conjunto de datos retenido, superando a menudo a otras líneas base de olvido y acercándose a la línea base reentrenada (por ejemplo, 63.33% en CIFAR-100 IID).
• Equidad: El método demuestra una equidad local superior, minimizando la varianza en los cambios de rendimiento entre los clientes restantes. Esto confirma que preservar la información superpuesta previene la degradación desproporcionada para los clientes que comparten datos con el cliente a olvidar.
• Eficiencia: FedMemPrune alcanza el rendimiento objetivo en aproximadamente un 50% menos de tiempo en comparación con el reentrenamiento completo, ya que evita la necesidad de reentrenar todo el modelo desde cero.

Significado y Afirmaciones
Los autores afirman que su trabajo proporciona tanto perspectivas teóricas como estrategias prácticas para fortalecer el olvido federado. Al distinguir entre memorización e información superpuesta, argumentan que el olvido efectivo debe apuntar solo a lo primero. El artículo afirma que FedMemPrune logra exitosamente un olvido robusto y eficiente sin sacrificar la utilidad del conocimiento retenido ni la equidad entre los clientes. El trabajo destaca que los protocolos de evaluación actuales son insuficientes y que es necesaria una perspectiva consciente de la memorización para evaluar y mejorar rigurosamente los mecanismos de olvido federado. Los autores enfatizan que su enfoque es particularmente adecuado para escenarios donde el conjunto de datos a olvidar no está disponible durante la fase de olvido, ya que se basa en los gradientes de los clientes restantes para identificar qué podar.