Rethinking Post-Unlearning Behavior of Large Vision-Language Models

1. O Problema: Consequências Indesejadas do Desaparecimento (Unlearning Aftermaths)

Os Modelos Grandes Visão-Linguagem (LVLMs) são capazes de reconhecer indivíduos em imagens e revelar informações pessoais sensíveis, levantando graves preocupações de privacidade. A desaprendizagem de máquina (Machine Unlearning) foi proposta para remover esse conhecimento específico do modelo.

No entanto, o artigo identifica uma lacuna crítica nas abordagens existentes: elas focam quase exclusivamente em suprimir a geração de informações privadas, mas não definem o que o modelo deve gerar no lugar. Isso leva a fenômenos denominados "Unlearning Aftermaths" (Consequências do Desaparecimento), que degradam a experiência do usuário e podem espalhar desinformação. Os comportamentos indesejados observados incluem:

• Degeneração: O modelo gera texto repetitivo, vazio ou sem sentido (ex: "Hello Hello Hello...").
• Alucinação: O modelo inventa fatos falsos sobre a pessoa esquecida.
• Recusa Excessiva: O modelo se recusa a responder a qualquer pergunta relacionada ao alvo, mesmo que a pergunta seja sobre características visuais inofensivas.

2. Metodologia: PUBG (Post-Unlearning Behavior Guidance)

Os autores propõem uma nova tarefa de desaprendizagem e um método chamado PUBG para resolver esses problemas.

A. Nova Tarefa de Desaprendizagem

Diferente de tarefas anteriores que apenas visam suprimir fatos privados, a nova tarefa exige que, ao ser apresentado a uma imagem de uma entidade "esquecida", o LVLM:

1. Não gere detalhes pessoais sensíveis (nome, profissão, biografia).
2. Gere uma resposta informativa e fundamentada visualmente, descrevendo apenas atributos observáveis (ex: cor do cabelo, roupas, expressão facial).

B. O Método PUBG

O PUBG guia o comportamento do modelo pós-desaprendizagem para uma distribuição de saída desejada, utilizando duas componentes de perda (loss functions):

1. Perda de Ascensão de Gradiente ($L_{GA}$):

   • Baseada em métodos anteriores, aumenta a perda sobre as respostas que contêm informações privadas do conjunto de esquecimento ($D_f$), forçando o modelo a não gerar esses dados.

2. Perda de Orientação de Comportamento ($L_{BG}$):

   • Esta é a inovação central. O objetivo é minimizar a divergência entre a distribuição de saída do modelo desaprendido e uma distribuição de referência desejada ($p_{\theta^*}$).
   • Geração da Referência: Para obter essa distribuição de referência, os autores utilizam o modelo original (antes da desaprendizagem) com um prompt de contexto (in-context prompting). O prompt instrui o modelo a "esquecer" a identidade da pessoa e descrever apenas o que é visualmente observável na imagem.
   • Treinamento: O modelo desaprendido é treinado para minimizar a entropia cruzada entre suas próprias previsões e as respostas geradas pelo modelo original guiado pelo prompt.

A função objetivo final do PUBG combina ambas as perdas:
$$\mathcal{L}_{PUBG} = \mathcal{L}_{GA} + \mathcal{L}_{BG}$$

3. Contribuições Principais

• Definição do Problema: Identificação e formalização do conceito de "Unlearning Aftermaths" (degeneração, alucinação e recusa excessiva) como um problema crítico em LVLMs generativos.
• Nova Tarefa: Proposta de uma tarefa de desaprendizagem que equilibra privacidade com a utilidade da resposta (fornecendo descrições visuais em vez de silêncio ou ruído).
• Algoritmo PUBG: Desenvolvimento de um método que utiliza a capacidade de edição de contexto do próprio modelo para criar um alvo de treinamento, guiando o comportamento pós-desaprendizagem para descrições seguras e informativas.
• Análise Empírica: Demonstração de que a supressão simples (como em métodos baseados em ascensão de gradiente ou rejeição) é insuficiente para manter a qualidade do modelo.

4. Resultados Experimentais

Os experimentos foram realizados nos modelos LLaVA-1.6-Mistral e LLaVA-1.6-Vicuna (7B), utilizando o conjunto de dados Celeb-1000. O PUBG foi comparado com baselines como GA, NPO, RANDOM e REJECT.

• Privacidade: Todos os métodos, incluindo o PUBG, alcançaram uma taxa de sucesso de desaprendizagem (USR) de 1.0, indicando que nenhuma informação privada foi vazada.
• Qualidade da Resposta (Informação):
  • Métodos existentes (GA, NPO, REJECT) sofreram de baixa pontuação em informatividade (JUDGEinform $\approx$ 1.0) e alinhamento imagem-texto (CLIPSCORE baixo), produzindo respostas vazias ou genéricas.
  • O método RANDOM gerou alucinações severas (JUDGEhall = 5.0).
  • PUBG superou consistentemente os baselines, alcançando pontuações altas em informatividade (JUDGEinform $\approx$ 3.4 - 4.0) e alinhamento visual, gerando descrições ricas em detalhes visuais sem vazamento de privacidade.
• Generalização: Os resultados foram consistentes tanto para imagens vistas durante o treinamento quanto para imagens não vistas (Unseen Images) das mesmas entidades.
• Estudo de Ablação: A combinação de $L_{GA}$ e $L_{BG}$ foi provada como essencial. Usar apenas $L_{GA}$ causava degeneração; usar apenas $L_{BG}$ falhava em remover a privacidade. A combinação garantiu privacidade e utilidade.

5. Significado e Conclusão

O trabalho demonstra que, para modelos generativos como LVLMs, a desaprendizagem não deve ser apenas um ato de "apagão" ou supressão. É crucial projetar o comportamento do modelo para que ele continue sendo útil e interativo, mesmo após a remoção de dados sensíveis.

O método PUBG oferece uma solução prática para mitigar os efeitos colaterais negativos da desaprendizagem, permitindo que os modelos atendam ao "Direito ao Esquecimento" sem sacrificar a experiência do usuário ou introduzir desinformação. Isso é particularmente relevante para a implementação ética de IA em cenários onde a privacidade e a utilidade devem coexistir.

Limitações mencionadas:

• O escopo atual restringe-se a descrições visuais de entidades (rostos), não cobrindo ainda consultas textuais abertas ou outros domínios.
• O tamanho do conjunto de entidades esquecidas foi limitado (até 20) devido às capacidades de reconhecimento dos modelos open-source de 7B utilizados, embora o problema se torne mais crítico à medida que os modelos escalam.