Toward Fine-Grained Forgetting:Attribute Unlearning for Multimodal Large Language Models

Resumen Técnico: Hacia el Olvido de Grano Fino: Olvido de Atributos para Modelos de Lenguaje Multimodales Grandes

Definición del Problema

Los Modelos de Lenguaje Multimodales Grandes (MLLM) poseen capacidades de visión y lenguaje sólidas, pero corren el riesgo de memorizar y divulgar información sensible. Mientras que la investigación actual sobre el olvido de máquinas se centra principalmente en la eliminación a nivel de perfil (eliminar toda la información sobre una entidad, identidad o personaje específico), las solicitudes de privacidad prácticas suelen ser más granulares. Los usuarios pueden desear eliminar un atributo específico (por ejemplo, una fecha de nacimiento, una dirección o una afiliación organizacional) mientras conservan la información no sensible de la misma identidad.

Los benchmarks actuales de olvido a nivel de perfil (por ejemplo, MLLMU-Bench, FIUBench) no evalúan explícitamente la preservación de atributos no objetivo individuales dentro de una entidad seleccionada. Esto crea una brecha significativa: los métodos existentes a menudo fallan en lograr la selectividad a nivel de atributo. Debido a que los atributos objetivo y los atributos retenidos comparten la misma identidad y evidencia visual, estos suelen residir en regiones cercanas del espacio de representación y atraviesan vías causales superpuestas. En consecuencia, las intervenciones lo suficientemente amplias como para eliminar el atributo objetivo frecuentemente causan una degradación colateral de los atributos no objetivo de la misma identidad, mientras que las intervenciones excesivamente conservadoras no logran suprimir el objetivo.

Metodología: Localización Causal y Proyección Consciente de la Retención (CLRP)

Para abordar el desafío de aislar direcciones de atributos específicos mientras se preservan las representaciones de identidad compartidas, los autores proponen CLRP, un marco ligero y sin entrenamiento (training-free). CLRP opera sin actualizar los parámetros del modelo y consta de dos componentes principales:

1. Localización de Capas Causales:

   • El método utiliza parcheo de activación (activation patching) para identificar la capa específica del transformador que media causalmente la divulgación del atributo objetivo.
   • Para cada ejemplo objetivo, una consulta objetivo (que busca el atributo sensible) se empareja con una consulta de retención de la misma identidad (que busca información no objetivo).
   • El sistema almacena en caché las activaciones de la ejecución objetivo y las parchea en la ejecución de retención. La capa que produce el efecto de parcheo causal máximo —donde la evidencia del atributo objetivo se restaura con mayor fuerza— se selecciona como el punto de intervención ($\ell^*$).

2. Proyección Contrastiva Consciente de la Retención:

   • Una vez identificada la capa de intervención, CLRP estima un subespacio de baja dimensión que representa el atributo objetivo.
   • Crucialmente, esta estimación es consciente de la retención (retain-aware). Construye estadísticas a partir de las representaciones condicionadas al objetivo y de las representaciones de retención de la misma identidad (más prompts neutros).
   • El método calcula un subespacio de proyección que captura la variación prominente en el objetivo pero suprimida en las representaciones de retención. Esto se logra blanqueando la matriz de covarianza del objetivo en relación con la matriz de covarianza de retención y seleccionando los autovectores principales.
   • Un operador de proyección atenúa este subespacio específico en la capa seleccionada durante la inferencia, eliminando efectivamente la dirección del atributo objetivo mientras preserva la representación de identidad compartida necesaria para los hechos no objetivos.

Contribuciones Clave

El artículo realiza tres contribuciones primarias:

1. Definición de Olvido de Atributos a Nivel de MLLM: Los autores definen formalmente el olvido de atributos en MLLM como un escenario donde los atributos designados deben volverse inaccesibles mientras que los hechos no objetivo de la misma identidad permanecen disponibles. Esto impone requisitos de localidad más estrictos que la eliminación a nivel de perfil.
2. Construcción de AMU-Bench: Los autores introducen el Benchmark de Olvido Multimodal a Nivel de Atributo (AMU-Bench). A diferencia de otros benchmarks, este particiona los objetivos de eliminación en categorías de texto largo (descriptivo), numérico (fechas, salarios) y texto corto (categórico). Evalúa sistemáticamente el rendimiento a través de múltiples ratios de olvido (5%, 10%, 15%) y distintos tipos de preguntas (cloze, clasificación, generación) en MLLMs ampliamente utilizados (LLaVA-1.5, Qwen2.5-VL).
3. Marco CLRP: La propuesta de un método sin entrenamiento que combina la localización causal con la proyección de subespacio consciente de la retención. El método está diseñado para navegar la enredadera entre los atributos objetivo y los retenidos.

Resultados Experimentales

Los autores evaluaron CLRP frente a cuatro baselines (Ascenso de Gradiente, Diferencia de Gradiente, Minimización de KL y Optimización de Preferencias) en LLaVA-1.5-7B, LLaVA-1.5-13B y Qwen2.5-VL-3B.

• Dificultad de Olvido: La evaluación reveló que el tipo de atributo impacta significativamente la dificultad de olvido. Los atributos numéricos fueron consistentemente los más fáciles de suprimir (alcanzando a menudo una precisión cercana a cero), mientras que los atributos de texto largo y texto corto retuvieron sustancialmente más información residual en todos los métodos base.
• Ganancias de Rendimiento: CLRP demostró un desempeño superior al equilibrar el olvido y la retención.
  • En los resultados del ratio de olvido del 5% para LLaVA-1.5-7B y Qwen2.5-VL-3B, CLRP redujo la precisión de cloze del Conjunto de Olvido de Atributos hasta en 16.00 puntos porcentuales (por ejemplo, del 20.00% al 4.00%) en comparación con el baseline más fuerte.
  • Simultáneamente, mejoró la precisión de cloze del Conjunto de Retención de Atributos hasta en 3.02 puntos porcentuales (por ejemplo, del 14.77% al 17.79%), demostrando una mejor preservación de los hechos no objetivo del mismo perfil.
• Análisis de Compromiso (Trade-off): Los métodos existentes exhibieron compromisos inestables, degradando a menudo la retención de atributos del mismo perfil al intentar olvidar los objetivos. CLRP logró los mejores resultados o empató en los mejores resultados en 8 de 9 condiciones de modelo-atributo para la precisión del Conjunto de Olvido de Atributos y mostró puntuaciones de retención mejoradas, indicando que un olvido de objetivo más fuerte no tuvo el costo de la degradación de todo el perfil.

Significado y Reivindicaciones

El artículo afirma que AMU-Bench expone las limitaciones de los enfoques actuales de olvido a nivel de perfil, específicamente la dificultad de preservar el conocimiento del mismo perfil mientras se eliminan atributos específicos. Los autores sostienen que CLRP proporciona una solución efectiva para esta tarea de grano fino al aprovechar la localización causal para precisar las capas de intervención y la proyección consciente de la retención para distinguir entre las representaciones de la identidad compartida y las específicas del objetivo.

La importancia de este trabajo radica en su cambio de la eliminación de entidades de grano grueso al olvido de atributos de grano fino, un escenario que se alinea mejor con las solicitudes de privacidad prácticas. Los resultados sugieren que el olvido selectivo es factible en MLLMs sin reentrenamiento, siempre que la intervención esté causalmente localizada y restringida por la geometría consciente de la retención. Los autores concluyen que su enfoque establece un rendimiento de vanguardia en el equilibrio entre la supresión de los atributos designados y la preservación de la información no objetivo dentro del mismo perfil.