Resumo Técnico: Desaprendizado Multimodal em Visão, Linguagem, Vídeo e Áudio

1. Definição do Problema

A rápida adoção de Modelos de Fundação Multimodais (MFMs) — incluindo Modelos de Visão-Linguagem (VLMs), Modelos de Difusão (DMs), Grandes Modelos de Linguagem (LLMs) e Modelos de Fundação de Áudio (AFMs) — introduziu riscos significativos em relação à codificação inadvertida de associações cross-modais sensíveis, protegidas por direitos autorais, tendenciosas ou inseguras. Esses modelos, treinados em dados de escala web, frequentemente memorizam instâncias específicas (ex: rostos privados, obras de arte protegidas por direitos autorais) ou conceitos indesejáveis (ex: tropos prejudiciais).

Diante de solicitações de exclusão (ex: Direito ao Esquecimento) ou atualizações de políticas, a solução padrão de retreinar do zero é frequentemente impraticável computacionalmente. Além disso, o desaprendizado direcionado é tecnicamente desafiador porque o conhecimento nos MFMs é distribuído através de representações compartilhadas; remover uma associação em uma modalidade (ex: texto) pode inadvertidamente interromper comportamentos não relacionados em outra (ex: geração de imagem) ou falhar em apagar totalmente o conceito devido ao vazamento cross-modal residual. O problema central é alcançar a remoção seletiva de dados ou conceitos específicos entre modalidades enquanto se mantém a utilidade geral e o desempenho do modelo nos dados restantes.

2. Metodologia e Taxonomia

Este levantamento propõe uma taxonomia orientada ao sistema que organiza os métodos de desaprendizado multimodal não pelo objetivo de otimização, mas pelo estágio de intervenção e via de controle. Este framework cobre todo o pipeline, desde a preparação de dados até a inferência.

2.1 Formalização

O objetivo é definido como a remoção da influência de um conjunto de esquecimento $D_f$ enquanto se preserva a utilidade nos dados retidos $D_r$. O procedimento de desaprendizado $U$ aplicado ao modelo original $M_o$ e aos dados $D$ deve produzir um modelo $M_u$ cuja distribuição seja indistinguível de um modelo retreinado em $D \setminus D_f$. Isso é formalizado usando um critério de desaprendizado $(\epsilon, \delta)$, espelhando a Privacidade Diferencial, para fornecer garantias teóricas sobre a equivalência entre o desaprendizado e o retreinamento.

2.2 Estágios de Intervenção

O levantamento categoriza os métodos em cinco pontos primários de intervenção:

1. Intervenções no Lado dos Dados:

   • Perturbação do Caminho de Dados: Edita entradas (imagens/texto) em vez de pesos para reduzir a capacidade de aprendizado de clusters alvo (ex: usando exemplos ou mantos não aprendíveis) enquanto preserva a utilidade no restante do corpus.
   • Higiene de Dados e Normalização de Prompts: Cura os dados de treinamento reduzindo o peso de pares suspeitos ou normalizando prompts para formas canônicas para mitigar associações espúrias antes do início do treinamento.

2. Edições Durante o Treinamento:

   • Gradiente Direto: Formula o desaprendizado como uma minimização de risco direcionada, suprimindo respostas no conjunto de esquecimento enquanto mantém o desempenho no conjunto retido. Isso inclui objetivos para VLMs e modelos de difusão que desacoplam estruturas cross-modais.
   • Atualizações Constritas: Impõe limites durante a otimização para limitar a competência residual no conjunto de esquecimento e restringir o desvio de um modelo de referência, equilibrando eficácia de esquecimento com integridade do modelo.
   • Desaprendizado Seletivo Baseado em Máscara: Restringe as atualizações a parâmetros, características ou regiões espaciais localizadas identificadas via mapas de saliência ou atenção, minimizando danos colaterais aos comportamentos retidos.
   • Baseado em Destilação: Transfere o comportamento de um modelo "professor" para um modelo "aluno" guiado em direção a alvos seguros, muitas vezes sem acesso direto aos dados de treinamento originais.

3. Desaprendizado com Restrição de Arquitetura:

   • Edição de Arquitetura: Modifica a estrutura da rede diretamente (ex: poda, congelamento ou regas de camadas/tensores específicos) para bloquear caminhos que codificam o sinal de esquecimento.
   • Atualizações Restritas por Escopo de Camada: Identifica as camadas específicas onde um conceito se concentra e restringe as edições a essas camadas para limitar o desvio de parâmetros.

4. Desaprendizado Sem Treinamento (Training-Free):

   • Desaprendizado Linear no Espaço de Pesos (WLU): Utiliza operações lineares de forma fechada (ex: subtração de vetor de tarefa, negação de peso) em um checkpoint de referência para suprimir comportamentos indesejados sem retreinar.
   • Desaprendizado de Projeção de Representação (RPU): Projeta ativações internas ou saídas de atenção para longe de um subespaço aprendido associado ao sinal de esquecimento, filtrando efetivamente os conceitos alvo sem modificar os pesos do modelo.

5. Desaprendizado no Tempo de Decodificação:

   • Controle do Caminho de Orientação: Modifica o amostrador ou a função de score durante a geração (ex: Orientação Negativa Dinâmica) para direcionar as saídas para longe de conceitos inseguros enquanto mantém o modelo base fixo.
   • Controle do Caminho de Condicionamento: Transforma o sinal de condicionamento (ex: embeddings de texto) antes que ele entre no modelo, enfraquecendo efetivamente a condição para o conceito alvo sem alterar os parâmetros do modelo.

3. Principais Contribuições

O artigo apresenta três contribuições primárias para o campo do desaprendizado multimodal:

• Levantamento Fundamental: Sintetiza o estado do desaprendizado multimodal em modelos de fundação de imagem, texto, vídeo e áudio, fornecendo um framework unificado que cobre mecanismos, teoria e avaliação.
• Lente de Nível de Sistema: Introduz uma taxonomia focada no sistema organizada por estágio de intervenção e via de controle. Isso contrasta com levantamentos anteriores centrados em algoritmos, permitindo comparações mais claras entre diferentes classes de modelos (VLMs, DMs, AFMs) e esclarecendo as trocas entre força de exclusão, retenção de utilidade, eficiência e reversibilidade.
• Fronteiras Emergentes: Esboça desafios críticos em aberto, incluindo a necessidade de métricas de avaliação robustas, robustez adversarial contra reativação e restrições práticas de implantação.

4. Resultados e Evidências

Como um artigo de levantamento, os "resultados" primários são as comparações sistemáticas e análises da literatura existente, em vez de novos dados experimentais. O artigo apresenta:

• Um Repositório Curado: Uma coleção abrangente de métodos, datasets e benchmarks.
• Análise de Dataset e Benchmark: O artigo revisa datasets fundamentais usados para desaprendizado de identidade, afeto, vídeo e direitos autorais (ex: CelebA, VoxCeleb, DreamBooth) e avalia benchmarks existentes (ex: MU-Bench, MLLMU-Bench, PEBench). Ele destaca que os benchmarks atuais frequentemente carecem de padrões unificados, dependendo de identidades sintéticas ou famílias de modelos estreitas.
• Framework de Avaliação: Consolida métricas para qualidade de esquecimento (ex: Unlearning Accuracy, CLIP-Sim Drop), segurança (Taxa de Recusa), privacidade (Ataques de Inferência de Membros) e utilidade (Top-k Accuracy, FID, LPIPS).
• Análise de Trade-off: O levantamento esclarece que os métodos variam significamente em seus compromissos; por exemplo, métodos sem treinamento oferecem eficiência, mas podem carecer da força de exclusão de abordagens baseadas em retreinamento, enquanto a edição de arquitetura preserva melhor a utilidade, mas requer localização precisa do sinal de esquecimento.

5. Significância e Direções Futuras

O artigo argumenta que o desaprendizado multimodal é uma ferramenta central para a governança de modelos, essencial para implantar MFMs responsáveis em cenários do mundo real. Sua significância reside em:

• Viabilizar a Remoção Seletiva: Fornecer mecanismos para deletar identidades, atributos ou conceitos específicos sem o custo proibitivo de um retreinamento total.
• Apoiar a Conformidade: Abordar requisitos regulatórios como o GDPR (Direito ao Esquecimento) e leis de direitos autorais.
• Aumentar a Segurança: Mitigar a geração de conteúdo prejudicial, tendencioso ou inseguro através das modalidades.

O artigo identifica vários desafios em aberto e direções futuras:

• Modalidades Temporais e Dinâmicas: Estender o desaprendizado para áudio em streaming, vídeo e geração de movimento permanece um problema em aberto.
• Modelos de Escala de Fronteira: Escalar métodos de desaprendizado para modelos de escala de fundação com bilhões de parâmetros é atualmente limitado por avaliações estreitas em backbones menores.
• Desaprendizado Contínuo: Desenvolver protocolos que permaneçam eficazes sob deleções repetidas e ajuste fino (fine-tuning) subsequente, prevenindo a "ressurgência" de conceitos esquecidos.
• Vazamento Cross-Modal: Abordar a falha de alinhamento de segurança ou privacidade em uma modalidade (ex: texto) ao se generalizar para outras (ex: visão ou áudio).
• Benchmarks Unificados: O campo carece de benchmarks padronizados e unificados que abranjam diversas modalidades e arquiteturas, dificultando a comparação justa entre métodos.

Em conclusão, este levantamento fornece um roteiro estruturado para pesquisadores e profissionais navegarem pelas complexidades do desaprendizado multimodal, enfatizando a necessidade de abordagens robustas, escaláveis e teoricamente fundamentadas para garantir a implantação segura e em conformidade dos modelos de fundação.