🤖 machine learning

Understanding Machine Unlearning Through the Lens of Mode Connectivity

Este artículo introduce el concepto de conectividad de modos en el desaprendizaje (MCU) para analizar la geometría de optimización del desaprendizaje de máquinas, revelando que los modelos desaprendidos a menudo residen en cuencas de baja pérdida conectadas con mecanismos distintos al reentrenamiento, al tiempo que ofrece perspectivas sobre las métricas de privacidad, el progreso de desaprendizaje no lineal y una robustez mejorada mediante el ensamblaje.

Autores originales: Jiali Cheng, Hadi Amiri

Publicado 2026-07-28

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Jiali Cheng, Hadi Amiri

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que tienes un cerebro digital superinteligente, un modelo de aprendizaje automático, que ha leído todo el internet. Lo sabe todo, desde cómo hornear un pastel hasta la receta secreta de una galleta famosa. Pero luego, alguien le pide que olvide esa receta de galletas porque tiene derechos de autor, o tal vez es simplemente obsoleta. No puedes simplemente borrar unas pocas líneas de código; el cerebro ha tejido ese conocimiento en su propia estructura. Si intentas arrancarlo, podrías accidentalmente romper su capacidad para hornear un pastel o responder preguntas sencillas. Este es el complicado mundo del Desaprendizaje de Máquinas (Machine Unlearning): el arte de hacer que una IA olvide cosas específicas sin arruinar su inteligencia general.

Para entender cómo funciona esto, los científicos observan el "paisaje de pérdida" (loss landscape). Piensa en este paisaje como un terreno montañoso gigante, donde la altura del suelo representa qué tan mal hace su trabajo la IA. La IA quiere encontrar el valle más profundo (el punto más bajo) donde cometa el menor número de errores. Por lo general, si entrenas dos IAs diferentes desde cero, podrían terminar en valles distintos. Pero un descubrimiento genial llamado Conectividad de Modos (Mode Connectivity) mostró que estos valles separados suelen estar conectados por caminos suaves y bajos. Puedes caminar de la solución de una IA a la otra sin tener que escalar nunca una colina empinada. Este artículo plantea una nueva pregunta: si tomamos una IA y la obligamos a olvidar algo, ¿terminará en un valle que sigue conectado con otras versiones "olvidadas" de sí misma? Y ¿el camino entre ellas se mantiene suave, o se convierte en un acantilado dentado y roto?

Los investigadores, Jiali Cheng y Hadi Amiri, decidieron explorar esto introduciendo un nuevo concepto llamado Conectividad de Modos en el Desaprendizaje (MCU). Trataron el proceso de olvidar como un viaje a través de un mapa. En lugar de solo comprobar si la IA olvidó lo correcto, observaron el "terreno" entre dos versiones diferentes de una IA que ha olvidado. Descubrieron que, para muchos métodos, el camino es, de hecho, suave. Puedes deslizarte de un modelo "olvidado" a otro sin que la IA recuerde repentinamente la galleta secreta o pierda su capacidad para hornear un pastel. El paisaje del olvido es a menudo un valle ancho y plano en lugar de un montón de pozos aislados.

Sin embargo, el viaje no siempre es el mismo. El artículo revela que cómo le enseñas a la IA a olvidar importa mucho. Si utilizas diferentes trucos de entrenamiento —como cambiar el orden de las lecciones (aprendizaje por currículo) o usar un método matemático más complejo (optimización de segundo orden)— podrías terminar en valles completamente diferentes que no están conectados. Es como tomar dos rutas diferentes hacia el mismo destino; una puede ser una autopista suave, mientras que la otra es un camino de tierra accidentado que conduce a un vecindario totalmente distinto.

Uno de los descubrimientos más sorprendentes es que, incluso cuando dos modelos "olvidados" parecen idénticos en el papel (están en el mismo valle suave), pueden actuar de manera muy diferente en secreto. Los investigadores descubrieron que, aunque los modelos se desempeñaban de manera similar en pruebas estándar, sus niveles de "privacidad" podían fluctuar drásticamente. Un modelo podría estar a salvo de hackers que intentan engañarlo para que recuerde el secreto, mientras que su gemelo en el mismo valle podría ser peligrosamente filtrable. Esto sugiere que el hecho de que una IA parezca haber olvidado, no significa que sea realmente segura.

El artículo también descubrió un patrón extraño en cómo ocurre el olvido. No sucede todo de una vez. Al principio, la IA deja de repetir las palabras exactas del secreto (como un loro que deja de decir una frase), pero aún conserva la idea subyacente. Solo más tarde, a medida que presionas más a lo largo del camino, es cuando realmente pierde el conocimiento profundo. Es como si la IA primero dejara de decir "La receta de la galleta es..." pero aún supiera cómo hornearla, hasta que eventualmente, olvida la receta por completo.

Finalmente, los autores sugieren que esta "suavidad" del camino es una herramienta útil. Si el camino entre dos modelos olvidados es accidentado y lleno de barreras, significa que la tarea de olvidar fue muy difícil. Si el camino es suave, la tarea fue más fácil. Incluso demostraron que, al mezclar modelos de diferentes puntos a lo largo de este camino suave, puedes crear una IA súper robusta que es más difícil de engañar para que recuerde el secreto de nuevo.

En resumen, este artículo no solo nos dice si una IA puede olvidar, sino que nos da un mapa de cómo olvida. Nos muestra que el paisaje del desaprendizaje es complejo, a veces suave y a veces dentado, y que la forma en que navegamos por él cambia todo sobre qué tan seguras y confiables son realmente nuestras IAs que han olvidado.

Resumen Técnico: Comprensión del Desaprendizaje de Máquinas a través de la Conectividad de Modos

Planteamiento del Problema

El desaprendizaje de máquinas (machine unlearning) busca eliminar conocimiento específico (el conjunto de olvido $D_f$ ) de un modelo ya entrenado, preservando al mismo tiempo el rendimiento en los datos restantes (el conjunto de retención $D_r$ ) sin necesidad de un reentrenamiento completo. A pesar de los avances recientes, la topografía de la pérdida (loss landscape) y la geometría de optimización del desaprendizaje siguen estando insuficientemente comprendidas. La investigación existente se ha centrado principalmente en la dinámica de entrenamiento estándar o en mejoras algorítmicas específicas, dejando un vacío en la comprensión de las propiedades estructurales de los modelos desaprendidos, su similitud mecánica con el reentrenamiento y su robustez ante ataques adversarios como el reaprendizaje (relearning).

Metodología: Conectividad de Modos en el Desaprendizaje (MCU)

Los autores introducen la Conectividad de Modos en el Desaprendizaje (MCU), un marco que aplica el concepto de conectividad de modos al dominio del desaprendizaje. En la conectividad de modos estándar, modelos entrenados de forma independiente están conectados por una trayectoria suave de baja pérdida en el espacio de parámetros. El MCU extiende esto definiendo una trayectoria $\phi(t)$ que conecta dos modelos desaprendidos ( $\theta'_1$ y $\theta'_2$ ) que debe satisfacer simultáneamente dos objetivos duales:

Rendimiento de Retención: La trayectoria debe mantener una pérdida de tarea baja en el conjunto de retención $D_r$ .
Rendimiento de Olvido: La trayectoria debe mantener una pérdida de tarea alta en el conjunto de olvido $D_f$ .

Formalmente, para todo $t \in [0, 1]$ , la trayectoria debe satisfacer:
$L(D_r; \phi(t)) \leq (1-t)L(D_r; \theta'_1) + tL(D_r; \theta'_2)$
$L(D_f; \phi(t)) \geq (1-t)L(D_f; \theta'_1) + tL(D_f; \theta'_2)$

El estudio evalúa el MCU en diversos entornos:

Conjuntos de datos: Benchmarks de LLM (TOFU, MUSE, WMDP) y benchmarks de clasificación (CIFAR-10, DDI2013, NLVR2) de MU-Bench.
Métodos de desaprendizaje: Ascenso de Gradiente (GA), GradDiff (GD), Optimización de Preferencia Negativa (NPO), SimNPO, Etiquetado Aleatorio (RL), Mal Maestro (BT) y Desaprendizaje de Saliencia (SU).
Dinámicas de entrenamiento: Variaciones en el aprendizaje por currículo (CL), optimización de segundo orden (SO) frente a la de primer orden, y diferentes semillas aleatorias.
Tipos de curvas: Interpolación lineal y curvas cuadráticas (donde un punto medio se entrena explícitamente para minimizar la pérdida acumulada).

Resultados Clave

1. Paisajes de Pérdida Suaves y Convergencia de Cuencas

El estudio encuentra que el MCU es prevalente en muchos escenarios de desaprendizaje. Los modelos desaprendidos generados por diferentes semillas aleatorias o algoritmos específicos suelen residir en la misma cuenca conectada de baja pérdida.

Efectos de Escala: A medida que el tamaño del modelo aumenta o el conjunto de olvido crece, las curvas de MCU se vuelsi más suaves (barreras más bajas). Sin embargo, este aumento de suavidad se correlaciona con un peor la calidad del desaprendizaje, lo que sugiere que escalar el desaprendizaje en modelos más grandes es geométricamente más desafiante.
Paradigmas de Entrenamiento: Los cambios en las dinámicas de entrenamiento, específicamente entre el Aprendizaje por Currículo (CL) y la optimización de Segundo Orden (SO), pueden causar que los métodos de desaprendizaje converjan a cuencas diferentes y desconectadas. Cuando los puntos finales son entrenados con paradigmas mixtos (por ejemplo, uno con CL y otro sin CL), aparecen barreras significativas, lo que indica estructuras de solución divergentes.

2. Heterogeneidad Funcional dentro de las Cuencas

Los modelos que residen en la misma cuenca de baja pérdida pueden exhibir comportamientos funcionales drásticamente diferentes, particularmente en lo que respecta a las métricas de privacidad.

Volatilidad de la Privacidad: En el conjunto de datos MUSE usando RMU, los modelos a lo largo de una curva MCU suave mostraron un rendimiento estable en las métricas de conocimiento de olvido/retención, pero exhibieron fluctuaciones masivas en la filtración de privacidad ($|PrivLeak|$), variando de +100 a -100.
Implicación: Esto revela que la proximidad en el espacio de parámetros no garantiza propiedades de privacidad idénticas, resaltando una limitación en los protocolos de evaluación actuales que dependen únicamente de las métricas de los puntos finales.

3. Dinámicas de Desaprendizaje No Lineales

Probar la trayectoria desde el modelo original hacia el modelo desaprendido revela que el desaprendizaje no es un proceso lineal.

Suprimir Primero, Desaprender Después: La eliminación de la memorización superficial (por ejemplo, texto verbatim) ocurre antes en la trayectoria de parámetros que la eliminación del conocimiento profundo. Los modelos pueden dejar de reproducir texto específico mientras retienen el conocimiento subyante hasta que se cruza un umbral específico, tras el cual ocurre el olvido profundo.

4. Distinción Mecanística del Reentrenamiento

El análisis de MCU sugiere que los métodos de desaprendizaje aproximado son mecánicamente distintos del reentrenamiento desde cero.

Falta de Conectividad: La mayoría de los métodos de desaprendizaje (excepto NPO) no forman una conexión lineal suave con un modelo reentrenado desde cero, incluso cuando su utilidad final es comparable. Esto implica que el desaprendizaje alcanza puntos finales válidos mediante trayectorias de optimización diferentes, en lugar de aproximar la solución de reentrenamiento a lo largo de un subespacio compartido.
Similitud de Métodos: GA muestra una conectividad suave con todos los demás métodos en el conjunto de olvido, lo que sugiere un mecanismo compartido para manejar muestras de olvido, mientras que métodos como NPO y SimNPO comparten mecanismos distintos de GradDiff.

5. Ensamble Basado en MCU y Robustez

Generalización: Promediar modelos muestreados a lo largo de la curva MCU (ensamble basado en MCU) puede mejorar el equilibrio entre el olvido y la retención, superando a menudo a los puntos finales individuales.
Robustez: Los modelos obtenidos mediante el ensamble de MCU demuestran una robustez significativamente mayor contra ataques de reaprendimiento (ajuste fino con datos genéricos para recuperar el conocimiento olvidado) en comparación con los modelos desaprendidos estándar. Esto concuerda con la hipótesis de que los paisajes de pérdida más suaves se correlacionan con una mayor robustez adversaria.

6. La Suavidad de MCU como Indicador de Dificultad

La suavidad de la curva MCU (medida por la altura de la barrera) sirve como un indicador de la dificultad del desaprendizaje. Los conjuntos de olvido "difíciles" (por ejemplo, datos adversarios o altamente memorizados) resultan en curvas de MCU con barreras más altas y mayor irregularidad en comparación con los conjuntos de olvido "fáciles".

Significado y Reivindicaciones

El artículo afirma ser el primer estudio que investiga el desaprendizaje de máquinas a través de la lente de la conectividad de modos. Su importancia radica en:

Utilidad Diagnóstica: Proporcionar un marco geométrico para comprender la dinámica de optimización, la estructura del espacio de soluciones y las similitudes mecánicas de los métodos de desaprendizaje.
Aplicación Práctica: Demostrar que el MCU puede utilizarse como una herramienta para seleccionar modelos desaprendidos más robustos y mejorar la generalización mediante el ensamble.
Perspectiva Teórica: Revelar que los paisajes de desaprendizaje son a menudo suaves y conectados, pero que las propiedades funcionales (como la privacidad) pueden variar significamente dentro de estas cuencas, y que el desaprendizaje sigue una progresión no lineal distinta del reentrenamiento estándar.

Los autores concluyen que el MCU ofrece nuevas direcciones para la investigación futura, particularmente en el diseño de métodos de desaprendizaje que naveguen por regiones más suaves y robustas del paisaje de pérdida.