Resumen Técnico: Desaprendizaje Multimodal a través de Visión, Lenguaje, Video y Audio

1. Definición del Problema

La rápida adopción de Modelos Fundacionales Multimodales (MFM) —que incluyen Modelos de Lenguaje-Visión (VLM), Modelos de Difusión (DM), Modelos de Lenguaje de Gran Escala (LLM) y Modelos Fundacionales de Audio (AFM)— ha introducido riesgos significativos respecto a la codificación inadvertida de asociaciones transmodales sensibles, protegidas por derechos de autor, sesgadas o inseguras. Estos modelos, entrenados con datos a escala web, a menudo memorizan instancias específicas (por ejemplo, rostros privados, obras de arte protegidas por derechos de autor) o conceptos indeseables (por ejemplo, tropos dañinos).

Ante solicitudes de eliminación (por ejemplo, el Derecho al Olvido) o actualizaciones de políticas, la solución estándar de reentrenar desde cero suele ser computacionalmente impráctica. Además, el olvido dirigido es técnicamente desafiante porque el conocimiento en los MFM está distribuido en representaciones compartidas; eliminar una asociación en una modalidad (por ejemplo, texto) puede alterar inadvertidamente comportamientos no relacionados en otra (por ejemplo, la generación de imágenes) o no lograr borrar completamente el concepto debido a la filtración residual transmodal. El problema central es lograr la eliminación selectiva de datos o conceptos específicos a través de las modalidades mientras se conserva la utilidad general y el rendimiento del modelo sobre los datos restantes.

2. Metodología y Taxonomía

Esta encuesta propone una taxonomía orientada al sistema que organiza los métodos de desaprendizaje multimodal no por objetivos de optimización, sino por etapa de intervención y vía de control. Este marco cubre todo el proceso, desde la preparación de datos hasta la inferencia.

2.1 Formalización

El objetivo se define como la eliminación de la influencia de un conjunto de olvido $D_f$ preservando la utilidad en los datos retenidos $D_r$. El procedimiento de desaprendizaje $U$ aplicado al modelo original $M_o$ y a los datos $D$ debe producir un modelo $M_u$ cuya distribución sea indistinguible de un modelo reentrenado en $D \setminus D_f$. Esto se formaliza utilizando un criterio de desaprendizaje $(\epsilon, \delta)$, que refleja la Privacidad Diferencial, para proporcionar garantías teóricas sobre la equivalencia entre el desaprendizaje y el reentrenamiento.

2.2 Etapas de Intervención

La encuesta categoriza los métodos en cinco puntos de intervención primarios:

1. Intervenciones en el Lado de los Datos:

   • Perturbación de la Ruta de Datos: Edita las entradas (imágenes/texto) en lugar de los pesos para reducir la capacidad de aprendizaje de los grupos objetivo (por ejemplo, usando ejemplos no aprendibles o capas de ocultación) preservando la utilidad en el resto del corpus.
   • Higiene de Datos y Normalización de Prompts: Cura los datos de entrenamiento mediante la reducción del peso de pares sospechosos o la normalización de los prompts a formas canónicas para mitguar asociaciones espurias antes de comenzar el entrenamiento.

2. Ediciones Durante el Entrenamiento:

   • Gradiente Directo: Formula el desaprendizaje como una minimización de riesgo dirigida, suprimiendo las respuestas sobre el conjunto de olvido mientras mantiene el rendimiento en el conjunto de retención. Esto incluye objetivos para VLM y modelos de difusión que desacoplan las estructuras transmodales.
   • Actualizaciones Restringidas: Impone límites durante la optimización para limitar la competencia residual en el conjunto de olvido y restringir la desviación de un modelo de referencia, equilibrando la eficacia del olvido con la integridad del modelo.
   • Desaprendizaje Selectivo Impulsado por Máscaras: Restringe las actualizaciones a parámetros, características o regiones espaciales localizadas identificadas mediante mapas de prominencia o atención, minimizando el daño colateral a los comportamientos retenidos.
   • Basado en Destilación: Transfiere el comportamiento de un modelo "maestro" a uno "estudiante" guiado hacia objetivos seguros, a menudo sin acceso directo a los datos de entrenamiento originales.

3. Desaprendizaje Restringido por Arquitectura:

   • Edición de la Arquitectura: Modifica la estructura de la red directamente (por ejemplo, poda, congelación o regeneración de capas/tensores específicos) para bloquear las rutas que codifican la señal de olvido.
   • Actualizaciones Restringidas por Capas: Identifica las capas específicas donde se concentra un concepto y restringe las ediciones a esas capas para limitar la deriva de parámetros.

4. Desaprendizaje Libre de Entrenamiento (Training-Free):

   • Desaprendizaje Lineal en el Espacio de Pesos (WLU): Utiliza operaciones lineales de forma cerrada (por ejemplo, sustracción de vectores de tarea, negación de pesos) sobre un punto de control de referencia para suprimir comportamientos no deseados sin reentrenar.
   • Desaprendizaje de Proyección de Representación (RPU): Proyecta las activaciones internas o las salidas de atención lejos de un subespacio aprendido asociado con la señal de olvido, filtrando eficazmente los conceptos objetivo sin modificar los pesos del modelo.

5. Desaprendizaje en el Tiempo de Decodificación:

   • Control de la Ruta de Guía: Modifica el muestreador o la función de puntuación durante la generación (por ejemplo, Guía Negativa Dinámica) para dirigir las salidas lejos de conceptos inseguros mientras se mantiene fijo el modelo base.
   • Control de la Ruta de Condicionamiento: Transforma la señal de condicionamiento (por ejemplo, embeddings de texto) antes de que entre al modelo, debilitando efectivamente la condición para el concepto objetivo sin alterar los parámetros del modelo.

3. Contribuciones Clave

El artículo realiza tres contribuciones primarias al campo del desaprendizaje multimodal:

• Encuesta Fundamental: Sintetiza el estado del desaprendizaje multimodal en modelos fundacionales de imagen, texto, video y audio, proporcionando un marco unificado que cubre mecanismos, teoría y evaluación.
• Perspectiva de Sistema: Introduce una taxonomía orientada al sistema organizada por etapa de intervención y vía de control. Esto contrasta con las encuestas previas centradas en algoritmos, permitiendo comparaciones más claras entre diferentes clases de modelos (VLM, DM, AFM) y aclarando las compensaciones entre la fuerza de eliminación, la retención de utilidad, la eficiencia y la reversibilidad.
• Fronteras Emergentes: Esboza desafíos abiertos críticos, incluyendo la necesidad de métricas de evaluación robustas, robustez adversarial contra la reactivación y restricciones de despliegue práctico.

4. Resultados y Evidencia

Como artículo de revisión, los "resultados" principales son las comparaciones y análisis sistemáticos de la literatura existente en lugar de nuevos datos experimentales. El artículo presenta:

• Un Repositorio Curado: Una colección exhaustiva de métodos, conjuntos de datos y bancos de pruebas (benchmarks).
• Análisis de Datasets y Benchmarks: El artículo revisa conjuntos de datos clave utilizados para el desaprendizaje de identidad, afecto, video y derechos de autor (por ejemplo, CelebA, VoxCeleb, DreamBooth) y evalúa los benchmarks existentes (por ejemplo, MU-Bench, MLLMU-Bench, PEBench). Destaca que los benchmarks actuales a menudo carecen de estándares unificados, dependiendo de identidades sintéticas o familias de modelos estrechas.
• Marco de Evaluación: Consolida métricas para la calidad del olvido (por ejemplo, Precisión de Desaprendizaje, Caída de CLIP-Sim), seguridad (Tasa de Rechazo), privacidad (Ataques de Inferencia de Membresía) y utilidad (Precisión Top-k, FID, LPIPS).
• Análisis de Compensación (Trade-off): La encuesta aclara que los métodos varían significamente en sus compensaciones; por ejemplo, los métodos libres de entrenamiento ofrecen eficiencia pero pueden carecer de la fuerza de eliminación de los enfoques basados en reentrenamiento, mientras que la edición de arquitectura preserva mejor la utilidad pero requiere una localización precisa de la señal de olvido.

5. Significancia y Direcciones Futuras

El artículo argumenta que el desaprendizaje multimodal es una herramienta central para la gobernanza de modelos, esencial para desplegar MFM responsables en entornos del mundo real. Su significancia radica en:

• Permitir la Eliminación Selectiva: Proporcionar mecanismos para eliminar identidades, atributos o conceptos específicos sin el costo prohibitivo de un reentrenamiento completo.
• Apoyar el Cumplimiento: Abordar requisitos regulatorios como el GDPR (Derecho al Olvido) y las leyes de derechos de autor.
• Mejorar la Seguridad: Mitigar la generación de contenido dañino, sesgado o inseguro a través de las modalidades.

El artículo identifica varios desafíos abiertos y direcciones futuras:

• Modalidades Temporales y Dinámicas: Extender el desaprendizaje al audio en streaming, video y generación de movimiento sigue siendo un problema abierto.
• Modelos de Escala de Frontera: Escalar los métodos de desaprendizaje a modelos de escala fundacional con miles de millones de parámetros está actualmente limitado por evaluaciones estrechas en backbones más pequeños.
• Desaprendizaje Continuo: Desarrollar protocolos que sigan siendo efectivos bajo eliminaciones repetidas y ajuste fino (fine-tuning) posterior, evitando la "resurgencia" de conceptos olvidados.
• Filtración Transmodal: Abordar el fallo de la alineación de seguridad o privacidad en una modalidad (por ejemplo, texto) al generalizarse a otras (por ejemplo, visión o audio).
• Benchmarks Unificados: El campo carece de benchmarks estandarizados y unificados que abarquen diversas modalidades y arquitecturas, lo que dificulta la comparación justa de los métodos.

En conclusión, esta encuesta proporciona una hoja de ruta estructurada para que investigadores y profesionales naveguen las complejidades del desaprendizaje multimodal, enfatizando la necesidad de enfoques robustos, escalables y teóricamente fundamentados para asegurar el despliegue seguro y conforme de los modelos fundacionales.