Resumo Técnico: Esquecimento Visual Contrastivo com Restrição de Espaço Nulo para Desaprendizagem em MLLM

1. Definição do Problema

O artigo aborda o desafio do desaprendizagem de máquina no contexto de Modelos de Linguagem Grandes Multimodais (MLLMs). Enquanto a desaprendizagem em LLMs de apenas texto visa remover conhecimento textual específico, a desaprendizagem em MLLMs apresenta um trade-off mais complexo: o objetivo é apagar conhecimento visual-alvo (por exemplo, a aparência visual de uma pessoa específica) enquanto preserva estritamente:

1. Conhecimento visual não-alvo (características visuais de outras entidades).
2. Todo o conhecimento textual (informações factuais sobre entidades tanto-alvo quanto não-alvo).

A dificuldade central reside no forte entrelaçamento das modalidades visual e textual. Métodos padrão de desaprendizagem que atualizam todo o modelo frequentemente degradam capacidades textuais ou falham em esquecer seletivamente conceitos visuais sem causar danos colaterais ao conhecimento visual retido. Além disso, métodos existentes geralmente dependem de supervisão em nível de saída (perdas aplicadas às saídas finais do modelo), o que é ineficiente quando apenas o módulo visual está sendo atualizado, pois o sinal de supervisão é atenuado pelo backbone do LLM intermediário.

2. Metodologia

O framework proposto, Esquecimento Visual Contrastivo com Restrição de Espaço Nulo (NC-CVF), opera congelando o backbone do LLM e ajustando finamente apenas o módulo visual (Codificador de Visão e Projetor). A abordagem consiste em três componentes principais:

A. Supervisão em Nível Intermediário via Esquecimento Visual Contrastivo (CVF)

Em vez de aplicar supervisão na saída final, o método injeta supervisão diretamente nas Representações Visuais Intermediárias (IVRs) produzidas pelo módulo visual.

• Modelo de Referência: O modelo original, pré-desaprendizagem, serve como referência.
• Mecanismo Contrastivo:
  • Empurrar: Para entidades-alvo (conjunto de esquecimento), as IVRs do modelo desaprendido são afastadas das IVRs de referência usando uma perda modificada semelhante à InfoNCE ($L_{CVF-push}$). Isso separa explicitamente os conceitos visuais-alvo de suas representações originais.
  • Puxar: Para evitar que o modelo derive para uma região que prejudique o conhecimento retido, as IVRs desaprendidas são puxadas em direção a uma representação de âncora ($p^a_r$). Esta âncora é a média das IVRs de referência provenientes de amostras retidas, garantindo que o modelo permaneça dentro de um espaço de características "seguro" para o conhecimento não-alvo.
• Perda de Retenção: Uma Perda de Erro Quadrático Médio ($L_{RET}$) explícita é aplicada às IVRs de amostras retidas para garantir que elas correspondam ao modelo de referência.
• Utilidade Geral: Uma perda de verossimilhança padrão em nível de saída ($L_{GUM}$) é incluída nos dados retidos para manter capacidades multimodais gerais.

B. Desaprendizagem com Restrição de Espaço Nulo (NCU)

Para desacoplar ainda mais o esquecimento da retenção, o método restringe as atualizações de parâmetros a um subespaço que é ortogonal às direções que codificam o conhecimento retido.

• Identificação do Subespaço: Usando a Decomposição em Valores Singulares (SVD) na matriz de covariância de ativação do conjunto retido, o método identifica o subespaço abrangido pelos autovetores correspondentes aos menores autovalores. Essas direções estão fracamente associadas ao conhecimento retido.
• Restrição LoRA: A desaprendizagem é implementada via Adaptação de Baixo RANK (LoRA). O método inicializa a matriz LoRA $A$ usando a base deste espaço nulo e congela-a durante todo o treinamento. Apenas a matriz $B$ é otimizada.
• Efeito: Isso garante que as atualizações de peso ($\Delta W = BA$) tenham impacto negligenciável nas saídas da camada para dados retidos ($A x \approx 0$), isolando efetivamente a operação de esquecimento da retenção de conhecimento.

C. Extensão para Desaprendizagem Contínua

O framework é estendido para desaprendizagem contínua, onde solicitações de esquecimento chegam sequencialmente. Ao congelar a base do espaço nulo $A$ e inicializar tarefas subsequentes com a $B$ otimizada da tarefa anterior, o método previne a degradação cumulativa do conhecimento retido ao longo do tempo.

3. Contribuições Principais

1. Supervisão em Nível Intermediário: O artigo propõe deslocar a supervisão de desaprendizagem da saída final para as representações visuais intermediárias, abordando o problema de atenuação de sinal em MLLMs quando apenas o módulo visual é atualizado.
2. Esquecimento Visual Contrastivo (CVF): Um mecanismo inovador que utiliza uma estratégia de "empurrar-puxar" no espaço de características para separar conceitos visuais-alvo enquanto os ancora em regiões de conhecimento retido.
3. Desaprendizagem com Restrição de Espaço Nulo (NCU): Uma restrição estrutural que desacopla explicitamente o esquecimento e a retenção ao restringir atualizações a um subespaço ortogonal ao conhecimento retido, inspirada na aprendizagem de espaço nulo na edição de LLMs.
4. Framework de Desaprendizagem Contínua: A primeira abordagem para lidar com solicitações de esquecimento sequenciais em MLLMs, demonstrando que as restrições propostas mitigam a degradação cumulativa tipicamente observada em configurações contínuas.

4. Resultados Experimentais

O método foi avaliado em três benchmarks: MLLMU-Bench, UMU-Bench e CLEAR, utilizando os modelos LLaVA-1.5-7B e Qwen2-VL-7B.

• Eficácia do Esquecimento: O método alcançou a menor precisão em tarefas "Forget VQA" (indicando remoção bem-sucedida do conhecimento visual-alvo) em todos os benchmarks, superando bases de comparação state-of-the-art como MMU e MANU.
• Retenção de Conhecimento: Mantive alta precisão em tarefas "Retain VQA" e "Forget/Retain QA". Notavelmente, preservou o conhecimento textual (tarefas de QA) em níveis comparáveis ao modelo vanilla, enquanto outros métodos frequentemente sofreram quedas significativas.
• Desaprendizagem Contínua: Em cenários de esquecimento sequencial, o método proposto exibiu degradação significativamente mais lenta na utilidade retida e no mundo real em comparação com as bases de comparação, que mostraram colapso severo de desempenho após algumas tarefas.
• Eficiência: Ao congelar o LLM e usar uma restrição de espaço nulo pré-computada, o método reduziu o tempo de treinamento e o uso de memória GPU em comparação com bases de comparação de ajuste fino de modelo completo.

5. Significado e Alegações

O artigo alega apresentar uma solução robusta para o trade-off entre esquecimento e retenção em MLLMs. Seu significado reside em:

• Desaprendizagem Seletiva: Demonstrar com sucesso que o conhecimento visual pode ser apagado sem comprometer a capacidade do modelo de recordar fatos textuais ou reconhecer outras entidades visuais.
• Desacoplamento Estrutural: Ir além de simples ajustes na função de perda para restrições estruturais (espaço nulo) que isolam matematicamente o processo de esquecimento do conhecimento retido.
• Viabilidade Contínua: Abordar um cenário prático e pouco explorado onde múltiplas solicitações de desaprendizagem ocorrem ao longo do tempo, mostrando que o método escala efetivamente sem danos cumulativos.

Os autores posicionam este trabalho como um passo em direção a tornar os MLLMs mais seguros e conformes com regulamentações de privacidade, permitindo a remoção precisa e específica de modalidade de conhecimento sem o custo proibitivo de retreinamento.