💬 NLP

Stochastic Meta-Unlearning: Bridging Language Backbone and Multimodal Unlearning

Este artículo propone el Desaprendizaje Meta-Estocástico (SMU, por sus siglas en inglés), un marco de nivel bivel que aprovecha la retroalimentación a nivel de VLM para optimizar el desaprendizaje del esqueleto de lenguaje, resolviendo eficazmente el problema en el que la retroalimentación de solo texto no logra prevenir la recuperación de objetivos en modelos de visión y lenguaje, al tiempo que logra compromisos de olvido-retención y transferibilidad superiores.

Autores originales: Zijie Liu, Jinhao Duan, Gaowen Liu, Sijia Liu, Tianlong Chen

Publicado 2026-07-22

📖 4 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Zijie Liu, Jinhao Duan, Gaowen Liu, Sijia Liu, Tianlong Chen

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que tienes un amigo robot superinteligente que puede leer libros y mirar imágenes. Este robot está hecho de dos partes principales: un "cerebro" que entiende el lenguaje (como un lector de texto muy avanzado) y una "cámara" que ve el mundo. Juntos, se llaman un Modelo de Visión-Lenguaje (VLM). Son increíbles para ayudarnos, pero a veces, necesitamos que olviden cosas específicas: tal vez un secreto privado, una idea dañina o un error que aprendieron. Este proceso se llama "desaprendizaje de máquinas" (machine unlearning).

Piensa en el desaprendizaje como intentar borrar un recuerdo específico del cerebro de tu amigo sin borrar toda su personalidad o hacer que olvide cómo hablar o ver. Si simplemente le dices al robot: "Olvida esa historia", podría funcionar bien cuando hablas con él. Pero aquí está la parte truculenta: si le muestras al robot una imagen relacionada con esa historia, ¡podría de repente recordar la historia otra vez! Esto sucede porque el "cerebro" y la "cámara" del robot están tan estrechamente conectados que la imagen puede activar el recuerdo que el texto intentó borrar. Los científicos están tratando de descubrir cómo hacer que el robot olvide las cosas malas sin importar cómo se lo pidas, ya sea usando palabras, imágenes o ambas.

Este artículo aborda exactamente ese rompecabezas. Los investigadores notaron un fallo sorprendente: si intentas hacer que el robot olvide algo usando solo texto, a menudo falla cuando le muestras una imagen más tarde. El "olvido" basado solo en texto no fue lo suficientemente fuerte como para evitar que la imagen trajera el recuerdo de vuelta. Para solucionar esto, inventaron un nuevo y hábil método de entrenamiento llamado Desaprendizaje Meta-Estocástico (SMU, por sus siglas en inglés).

En lugar de solo enseñarle al robot a olvidar basándose en texto, el SMU actúa como un entrenador estricto que observa a todo el equipo. Así es como funciona: el entrenador primero le dice al "cerebro de lenguaje" que olvide algo específico usando solo texto (el bucle interno). Pero luego, en lugar de solo verificar si el texto ha desaparecido, el entrenador inmediatamente le muestra al robot una imagen y le pregunta: "¿Todavía lo recuerdas?" (el bucle externo). Si el robot recuerda la cosa mala debido a la imagen, el entrenador regresa y ajusta el punto de partida del entrenamiento para que, la próxima vez que el cerebro intente olvidar, haga un mejor trabajo bloqueando el recuerdo incluso cuando hay imágenes involucradas.

El artículo sugiere que este enfoque de "dos pasos" es mucho mejor que los métodos anteriores. Cuando probaron esto en cerebros de robots reales (usando modelos como Qwen e InternVL) y conjuntos de datos de memes (como "Hateful Memes" y "Covid Memes"), los resultados fueron impresionantes. Comparado con los mejores métodos existentes, el SMU redujo la capacidad del robot para recordar el objetivo olvidado en un promedio de 10.52 puntos (mientras más bajo, mejor es para el olvido). Al mismo tiempo, mantuvo el conocimiento general del robot mucho más fuerte, mejorando su capacidad para recordar otras cosas en 20.10 puntos y sus puntuaciones de prueba generales en 17.01 puntos.

Aún más genial, los investigadores descubrieron que este método es flexible. No solo funcionó para los recuerdos malos específicos con los que entrenaron al robot; también pudo manejar nuevos malos recuerdos que nunca había visto antes. También funcionó incluso si cambiaban las reglas específicas utilizadas para enseñar al robot a olvidar. Esto sugiere que, al entrenar el cerebro del robot con el "equipo completo" (texto e imagen) en mente, crearon una forma más confiable y adaptable de hacer que la IA olvide lo que no debería saber, sin romper todo lo demás que sabe.

Resumen Técnico: Meta-Desaprendizaje Estocástico (SMU)

1. Declaración del Problema

El desaprendizaje de modelos de visión y lenguaje (VLMs) presenta un desafío único, distinto al desaprendizaje en modelos de lenguaje extensos (LLMs) independientes. Los VLMs integran un esqueleto de lenguaje con codificadores visuales y módulos de proyección en un sistema estrechamente acoplado. El artículo identifica un "desajuste componente-sistema" crítico en los enfoques existentes:

El Fenómeno: Un concepto objetivo que ha sido "olvidado" con éxito por el esqueleto de lenguaje cuando se consulta mediante prompts de solo texto, a menudo puede recuperarse cuando ese mismo esqueleto se recompone con módulos visuales congelados y se consulta mediante prompts condicionados por imágenes.
La Limitación de los Métodos Actuales:
- Desaprendizaje Directo de VLM: Optimizar todo el VLM directamente asegura el olvido multimodal, pero corre el riesgo de degradar capacidades no relacionadas (utilidad) porque las actualizaciones se propagan de manera impredecible a través de las modalidades.
- Desaprendizaje del Esqueleto de Lenguaje: Actualizar solo el esqueleto de lenguaje es computacionalmente eficiente y preserva los módulos visuales, pero los objetivos de desaprendizaje estándar (optimizados con datos de solo texto) no garantizan que el olvido persista tras la reintegración del esqueleto con el sistema visual.

El desafío central es preservar la utilidad del desaprendizaje del esqueleto de lenguaje asegurando que el comportamiento de olvido se mantenga en el VLM totalmente compuesto y multimodal.

2. Metodología: Meta-Desaprendizaje Estocástico (SMU)

Los autores proponen el Meta-Desaprendizaje Estocástico (SMU), un marco de meta-optimización bivel para alinear las actualizaciones del esqueleto de lenguaje con el comportamiento de olvido a nivel de VLM.

2.1 Marco Bivel

SMU trata el desaprendizaje de VLM como un problema de meta-aprendizaje con dos bucles distintos:

Bucle Interno (Desaprendizaje del Lado del Texto):
- Opera únicamente en los parámetros del esqueleto de lenguaje ( $\theta_T$ ).
- Aplica $K$ pasos de desaprendizaje utilizando solo datos de texto unimodales (conjuntos de olvido y de retención).
- El codificador visual y los módulos de proyección ( $\phi$ ) permanecen congelados y no se actualizan.
- Este paso produce un esqueleto actualizado $\theta_{T,K}$ .
Bucle Externo (Retroalimentación a Nivel de VLM):
- Recompone el esqueleto actualizado $\theta_{T,K}$ con los componentes visuales congelados $\phi$ para formar el VLM completo $F_{\theta_{T,K}, \phi}$ .
- Evalúa el modelo en consultas multimodales (imagen + texto) y consultas de solo texto.
- Calcula una pérdida ( $L_{outer}$ ) basada en el rendimiento de olvido (eliminación del objetivo) y la preservación de la utilidad (rendimiento de retención/prueba) al nivel del VLM.
- Retropropaga el gradiente de esta pérdida externa a través de los pasos de desaprendizaje internos para actualizar la inicialización previa al desaprendizaje ( $\theta_T$ ).

2.2 Muestreo de Tareas Estocásticas

Para abordar la generalización, SMU no optimiza para un único objetivo de olvido o un operador de desaprendizaje fijo. En su lugar, durante el meta-entrenamiento, muestrea estocásticamente entornos $e = (z, m, c)$ de una distribución $p(E)$ , donde:

$z$ : El objetivo de olvido.
$m$ : El operador de desaprendizaje del bucle interno (por ejemplo, GradDiff, NPO).
$c$ : La condición de consulta.

Al minimizar la pérdida externa esperada sobre estos entornos muestreados, SMU aprende una inicialización que es robusta a cambios en el objetivo, el algoritmo de desaprendizaje y la modalidad de consulta.

2.3 Fase de Meta-Prueba

En el despliegue (tiempo de meta-prueba), ante una nueva solicitud de eliminación:

El sistema parte de la inicialización aprendida $\theta^*_T$ .
Realiza los pasos estándar de desaprendizaje del lado del texto utilizando los nuevos datos objetivo.
El esqueleto resultante se integra en el VLM congelado.
El modelo final se evalúa tanto en conjuntos de prueba de solo texto como multimodales.

3. Contribuciones Clave

Identificación del Desajuste Componente-Sistema: El artículo demuestra empíricamente que el desaprendizaje de solo texto es insuficiente para los VLMs, ya que los objetivos olvidados en el esqueleto de lenguaje pueden recuperarse mediante entradas visuales.
Meta-Desaprendizaje Estocástico (SMO): Un novedoso marco bivel que utiliza la retroalimentación a nivel de VLM para meta-aprender una inicialización para el esqueleto de lenguaje. Esto asegura que las actualizaciones locales del esqueleto resulten en un olvido multimodal global.
Generalización mediante Estocasticidad: La introducción del muestreo de tareas estocásticas permite que la inicialización aprendida se transfiera a objetivos de olvido no vistos y a diferentes operadores de desaprendizaje, evitando el sobreajuste a escenarios de eliminación específicos.

4. Resultados Experimentales

Los autores evaluaron SMU en dos VLMs (Qwen2.5-VL e InternVL3) y dos conjuntos de datos de memes multimodales (Hateful Memes y COVID Memes), comparándolo con tres líneas base: GradDiff, NPO y RMU.

Compromiso Olvido-Retención: SMU logró el mejor equilibrio general. En comparación con la línea base más fuerte para cada métrica, SMU redujo la precisión de Olvido (Forget) promedio en 10.52 puntos, mientras que mejoró la precisión de Retención (Retain) promedio en 20.10 puntos y la precisión de Prueba (Test) en 17.01 puntos.
Robustez Multimodal: A diferencia de las líneas base que fallaban al olvidar bajo condiciones de imagen o destruían la utilidad, SMU eliminó con éxito los objetivos en el VLM recompuesto manteniendo un alto rendimiento en tareas no relacionadas.
Transferibilidad:
- Transferencia de Objetivo: SMU, entrenado en un objetivo, se generalizó con éxito a nuevos objetivos de olvido no vistos.
- Transferencia de Operador: SMU, entrenado con un operador de desaprendizaje (por ejemplo, GradDiff), siguió siendo efectivo cuando se probó con diferentes operadores (por ejemplo, RMU, NPO).

5. Significado y Reivindicaciones

El artículo afirma que SMU proporciona una solución más fiable y transferible para el desaprendizaje de VLMs al cerrar la brecha entre las actualizaciones a nivel de componente y el comportamiento a nivel de sistema.

Fiabilidad: Al utilizar la retroalimentación a nivel de VLM para guiar la inicialización, SMU asegura que el olvido no sea un artefacto de la evaluación de solo texto, sino que se mantenga en el contexto multimodal completo.
Eficiencia: Mantiene la eficiencia computacional de actualizar solo el esqueleto de lenguaje, evitando la degradación de la utilidad asociada con la optimización directa del VLM.
Practicidad: El diseño estocástico hace que el método sea robusto ante escenarios del mundo real donde las solicitudes de eliminación varían en contenido y el algoritmo de desaprendizaje específico utilizado puede diferir de los supuestos de entrenamiento.

Los autores concluyen que la retroalimentación a nivel de VLM es esencial para hacer que el desaprendizaje del esqueleto de lenguaje sea efectivo para sistemas multimodales, y que el meta-aprendizaje ofrece un camino viable para lograr esto sin reentrenar todo el modelo ni comprometer la utilidad.