💬 NLP

Position: The Term "Machine Unlearning" Is Overused in LLMs

Este documento de posición argumenta que el término "desaprendizaje de máquinas" se utiliza actualmente en exceso en la investigación de LLM para describir tareas diversas como el rechazo o la supresión, y hace un llamado a reservar el término estrictamente para la eliminación definida por el conjunto de datos con garantías de equivalencia de reentrenamiento para evitar evaluaciones engañosas y asegurar la terminología apropiada para diferentes objetivos.

Autores originales: Sangyeon Yoon, Yeachan Jun, Albert No

Publicado 2026-06-29

📖 6 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Sangyeon Yoon, Yeachan Jun, Albert No

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

La gran idea: El término "Desaprendizaje" se está usando mal

Imagina que tienes a un estudiante que estudió una biblioteca masiva de libros para convertirse en un experto. Ahora, imagina que uno de esos libros fue robado, o que el autor exige que sea eliminado de la mente del estudiante.

El artículo sostiene que los investigadores están usando el término "Desaprendizaje de Máquina" (Machine Unlearning) de forma demasiado laxa. Están llamando "desaprendizaje" a muchas cosas diferentes que, en realidad, cumplen funciones muy distintas.

Los autores dicen que debemos dejar de confundirlas. Debemos reservar el término estricto de "Desaprendizaje de Máquina" para un trabajo específico y muy difícil, y usar nombres diferentes para los otros trabajos más fáciles.

1. La definición estricta: "El Borrador"

Lo que realmente significa:
El verdadero "Desaprendizaje de Máquina" es como usar un borrador mágico en una pintura. Quieres eliminar un conjunto específico de pinceladas (el "conjunto de olvido") de forma tan perfecta que la pintura luzca exactamente igual a como si el artista nunca hubiera pintado esas pinceladas en primer lugar.

El estándar de oro: Para demostrar que hiciste un buen trabajo, tienes que comparar tu pintura "borrada" con una pintura nueva hecha por un artista que comenzó desde cero con los libros restantes, sin haber visto nunca el libro robado.
El objetivo: Las dos pinturas deben ser indistinguibles. Si el estudiante aún puede resolver un problema matemático que aprendió únicamente del libro robado, entonces no ha "desaprendido" realmente, incluso si se niega a responder la pregunta específica sobre él.

2. La confusión: Lo que la gente realmente hace

Actualmente, muchos investigadores dicen que están "desaprendiendo" cuando en realidad están haciendo una de estas otras cosas:

El "Rechazo" (El perro guardián): El modelo es entrenado para decir "No lo sé" o "No puedo responder eso" cuando se le pregunta sobre el tema prohibido.
- Analogía: Es como un perro guardián que ladra y no te deja entrar a la habitación. El perro sabe que la habitación existe, pero no te deja entrar. El perro no ha olvidado la habitación; solo ha sido entrenado para bloquearte.
La "Supresión" (El botón de silencio): El modelo es ajustado para que sea muy poco probable que diga las palabras específicas asociadas con el tema prohibido.
- Analogía: Es como poner un botón de silencio a una palabra específica. La palabra sigue en el diccionario, pero el hablante está entrenado para saltársela.
La "Edición" (La reescritura): Al modelo se le enseña un nuevo dato para reemplazar el antiguo.
- Analogía: En lugar de borrar el recuerdo de "París es la capital de Francia", lo sobrescribes con "Londres es la capital". El viejo recuerdo podría seguir ahí, simplemente enterrado bajo uno nuevo.

El problema: Los investigadores suelen afirmar que han "desaprendido" algo porque el modelo dejó de responder preguntas (el Perro Guardián ladró). Pero los autores dicen que esto es un truco. El modelo podría seguir sabiendo la información en su interior; solo está fingiendo que no sabe.

3. El peligro oculto: "Capacidades Derivadas"

Esta es la parte más crítica del artículo. A veces, aprender algo específico te otorga un superpoder que va más allá de ese solo dato.

La analogía: Imagina que un estudiante aprende a resolver un tipo específico de problema matemático usando un libro de texto robado. Incluso si le haces "olvidar" las respuestas específicas del libro, es posible que aún haya aprendido la lógica o la habilidad de razonamiento al leerlo.
El riesgo: Si solo verificas si puede recitar las respuestas (Fallo de Salida), podría fallar la prueba. Pero si le planteas un problema matemático nuevo que utilice la misma lógica, es posible que lo resuelva perfectamente.
El punto del artículo: El verdadero "desaprendizaje" significa eliminar también ese superpoder. Si el libro robado le dio una habilidad, y tú la "desaprendes", debería perder esa habilidad, incluso si eso lo hace ligeramente peor en matemáticas en general. Si conserva la habilidad, no ha desaprendido realmente la influencia de ese libro.

4. Por qué las pruebas actuales están fallando

El artículo señala que la mayoría de las pruebas actuales son como exámenes de opción múltiple.

Prueba actual: "¿Puede el modelo responder a la Pregunta A?" Si el modelo dice "No lo sé", la prueba dice: "¡Genial! ¡Lo olvidaste!".
El fallo: Esto solo prueba si el modelo está escondiendo la respuesta. No prueba si el modelo ha eliminado el conocimiento.
La solución: Necesitamos comparar el modelo "desaprendido" con un modelo "reentrenado" (aquel que nunca vio los datos erróneos). Si el modelo desaprendido sigue siendo mejor que el reentrenado en una tarea específica, significa que los "datos malos" todavía lo están influenciando.

5. La solución de los autores: Un nuevo reglamento

Los autores proponen tres cambios principales para arreglar este caos:

Dejar de usar "Desaprendizaje" como un término genérico.
- Si solo estás haciendo que el modelo se niegue a responder, llámalo "Rechazo" o "Supresión".
- Si realmente estás eliminando la influencia del entrenamiento para coincidir con un modelo reentrenado, entonces llámalo "Desaprendizaje de Máquina".
Usar un "Modelo de Referencia" para la comparación.
- No puedes simplemente decir "El modelo lo olvidó". Tienes que decir: "El modelo se comporta exactamente como un modelo que fue entrenado sin esos datos".
- (Los autores admiten que reentrenar modelos gigantes es costoso, pero dicen que debemos usar el mejor posible sustituto o admitir que no estamos haciendo un verdadero desaprendizaje).
Probar los "Superpoderes" (Capacidades Derivadas).
- No le hagas al modelo las mismas preguntas en las que fue entrenado. Hazle nuevas preguntas que requieran las habilidades que pudo haber aprendido de los datos erróneos. Si aún puede realizar esas nuevas tareas, el desaprendizaje falló.

Resumen

El artículo es un llamado a la honestidad científica.

No llames "Desaprendizaje" (borrar el recuerdo) a un "Rechazo" (decir "no lo sé").
No pienses que porque un modelo no responde una pregunta, ha olvidado el conocimiento. Podría estar jugando al escondite.
Sí compara tus resultados con un modelo que nunca vio los datos erróneos en primer lugar.
Sí comprueba si el modelo aún posee los "superpoderes" que obtuvo de los datos erróneos.

Si no arreglamos esta terminología, podríamos pensar que somos seguros y cumplidores cuando en realidad solo estamos ocultando la verdad.

Resumen Técnico: "El término 'Machine Unlearning' se usa en exceso en los LLM"

Declaración del Problema
Los Modelos de Lenguaje de Gran Escala (LLM) enfrentan una creciente presión regulatoria y comercial para "olvidar" datos de entrenamiento específicos, impulsada por derechos de privacidad (por ejemplo, el Derecho al Olvido), disputas de derechos de autor y políticas de seguridad. Sin embargo, el término "machine unlearning" (desaprendizaje de máquinas) se ha vuelto terminológicamente sobrecargado en la investigación de LLM. Actualmente, se aplica ampliamente a objetivos diversos que incluyen el rechazo de comportamientos dañinos, la eliminación de entidades, la supresión de conocimiento y la ofuscación de salidas.

El problema central identificado es que estos distintos objetivos suelen evaluarse utilizando las mismas métricas y puntos de referencia (benchmarks), a pesar de perseguir metas fundamentalmente diferentes. Muchos métodos etiquetados como "unlearning" buscan simplemente suprimir salidas específicas o rechazar ciertas consultas (control de comportamiento basado en políticas) en lugar de eliminar la influencia subyacente de un subconjunto de datos de entrenamiento específico. Esta confusión lleva a evaluaciones que premian la no divulgación superficial (por ejemplo, puntuaciones ROUGE bajas o el fallo al responder preguntas específicas) mientras no verifican si el modelo es verdaderamente indistinguible de uno reentrenado sin esos datos. En consecuencia, las capacidades derivadas —habilidades generalizables o patrones de razonamiento aprendidos del "conjunto de olvido" (forget set)— pueden persistir incluso cuando la memorización directa es suprimida.

Metodología y Marco de Trabajo
Este artículo de posición no propone un nuevo algoritmo o marco experimental. En su lugar, ofrece un marco conceptual y una taxonomía para clarificar el campo:

Definición Formal de Machine Unlearning: Los autores definen el verdadero machine unlearning estrictamente como un problema de eliminación definida por el conjunto de datos. Dado un conjunto de entrenamiento $D$ y un conjunto de olvido $F \subset D$ , el objetivo es producir un modelo actualizado $\Theta'$ que sea (aproximadamente) indistinguible de un modelo contrafáctico $\Theta_R$ reentrenado desde cero sobre $D \setminus F$ . El éxito se mide por la divergencia entre las distribuciones de $\Theta'$ y $\Theta_R$ (por ejemplo, mediante $(\epsilon, \delta)$ -indistinguibilidad u otras métricas de divergencia), no meramente por el fallo de salida en prompts específicos.
Taxonomía del "Unlearning" por Intención: El artículo categoriza otros usos comunes del término en la literatura de LLM en categorías distintas basadas en sus garantías reales:
- Supresión de la Probabilidad de Salida: Métodos (por ejemplo, Gradient Ascent, NPO) que reducen la probabilidad de tokens o respuestas específicas sin garantizar la equivalencia de reentrenamiento.
- Ofuscación de la Representación Interna: Técnicas que inducen alta entropía o baja confianza en entradas específicas, distorsionando las activaciones internas en lugar de eliminar la influencia de los datos.
- Edición de Conocimiento: Enfoques que sobrescriben hechos o asociaciones específicas (por ejemplo, mediante ajuste fino contrafáctico) para redirigir las salidas, en lugar de eliminar la influencia del entrenamiento de los datos originales.
- Rechazo de Comportamiento: Estrategias que entrenan a los modelos para abstenerse o decir "no lo sé" ante consultas específicas, funcionando como alineación de políticas en lugar de eliminación de datos.
- Intervenciones en Tiempo de Inferencia: Filtros externos o restricciones de decodificación que evitan la divulgación sin modificar los pesos del modelo.
Análisis de Capacidades Derivadas: El artículo introduce el concepto de "capacidades derivadas": comportamientos o competencias (por ejemplo, habilidades de razonamiento matemático) que se generalizan más allá de los ejemplos específicos en el conjunto de olvido. Argumenta que si el entrenamiento en $F$ contribuye a tal capacidad, un modelo que realmente desaprende $F$ debe perder esa capacidad, tal como lo haría un modelo reentrenado en $D \setminus F$ .

Contribuciones Clave

Clarificación Terminológica: El artículo aboga por reservar el término "machine unlearning" exclusivamente para la garantía de indistinguibilidad de reentrenamiento. Postula que las tareas de "olvido" impulsadas por la seguridad o la política deben etiquetarse y evaluarse como problemas distintos (por ejemplo, supresión, alineación o edición).
Crítica de los Benchmarks Actuales: Los autores analizan los principales benchmarks (TOFU, MUSE, RWKU, WMDP) y demuestran cómo muchos se han alejado de las referencias de reentrenamiento hacia métricas de fallo de salida. Muestran que métricas como ROUGE o la precisión de QA en prompts de olvido a menudo miden el control de la salida en lugar de la eliminación de la influencia del entrenamiento, permitiendo que los métodos parezcan exitosos mientras retienen conocimiento latente.
Recomendaciones de Protocolo de Evaluación: El artículo propone un estándar de evaluación riguroso para las afirmaciones de machine unlearning:
- Evaluación Basada en Referencia: Las afirmaciones deben estar ancladas a un modelo de referencia explícito (idealmente un modelo reentrenado en $D \setminus F$ o un proxy claramente establecido).
- Sondas de Capacidad Derivada: Las evaluaciones deben incluir pruebas de capacidades transferibles (por ejemplo, tareas de razonamiento fuera de la distribución) y pruebas de recuperación basadas en intervención (por ejemplo, verificar si el conocimiento "olvidado" puede recuperarse mediante un ajuste fino benigno) para asegurar que la influencia del entrenamiento ha sido realmente eliminada.

Resultados y Evidencia
Como artículo de posición, el trabajo no presenta nuevos resultados experimentales. En su lugar, sintetiza la evidencia de la literatura existente para apoyar sus argumentos:

Cita trabajos previos que muestran que los métodos que parecen exitosos bajo protocolos de prompting fijos suelen fallar bajo condiciones adversarias (parafraseo, jailbreaks) o post-procesamiento benigno (cuantización, ajuste fino), indicando que el conocimiento fue suprimido en lugar de desaprendido.
Destaca casos donde los métodos de "unlearning" fallan en eliminar comportamientos inducidos en escenarios de envenenamiento de datos, demostrando aún más la brecha entre la supresión de la salida y la eliminación de la influencia.
Demuestra que los benchmarks actuales a menudo carecen de la base de referencia de reentrenamiento necesaria para distinguir entre un modelo que realmente ha olvidado los datos y uno que simplemente ha aprendido a rechazar consultas específicas.

Significancia y Reclamaciones
El artículo afirma que la confusión terminológica actual no es meramente cosmética, sino que tiene consecuencias prácticas y científicas significativas. Al confundir el control de comportamiento impulsado por políticas con la eliminación definida por el conjunto de datos, el campo corre el riesgo de:

Benchmarks Engañosos: Premiar la no divulgación superficial mientras se ignora la persistencia de la influencia del entrenamiento y las capacidades derivadas.
Comparaciones Incompatibles: Hacer imposible comparar métodos que reclaman diferentes garantías bajo la misma etiqueta.
Riesgos de Cumplimiento: No cumplir con los estrictos requisitos de la eliminación regulatoria (que a menudo requiere la eliminación de la influencia, no solo la supresión de la salida).

Los autores concluyen que resolver esta confusión requiere una terminología más estricta vinculada a garantías explícitas y modelos de referencia. Abogan por evaluaciones que coincidan con el objetivo reclamado: si el objetivo es el machine unlearning, la evaluación debe demostrar la indistinguibilidad de un modelo reentrenado, incluyendo la pérdida de cualquier capacidad derivada atribuible al conjunto de olvido. Si el objetivo es el cumplimiento de políticas o la supresión de salidas, estos deben enmarcarse y evaluarse como objetivos distintos.