Resumo Técnico: ICCU – Esquecimento Contínuo em Contexto via Regras de Recusa Induzidas por Padrões

1. Definição do Problema

Os Modelos de Linguagem de Grande Escala (LLMs) são treinados em corpora na escala da web que frequentemente contêm informações sensíveis, prejudiciais ou protegidas por direitos autorais. Embora o "esquecimento de máquina" vise remover a influência de dados específicos dos modelos treinados, as abordagens existentes enfrentam obstáculos significativos na implantação no mundo real, onde solicitações de exclusão chegam sequencialmente ao longo do tempo (esquecimento contínuo).

Os métodos atuais dependem predominantemente de ajuste fino ou atualizações de parâmetros. Quando aplicados sequencialmente para lidar com um fluxo de solicitações, esses métodos sofrem com três questões críticas:

1. Alto Custo: Cada rodada de ajuste fino é computacionalmente cara, e os custos acumulam-se rapidamente.
2. Reaprendizado: Rodadas subsequentes de ajuste fino podem inadvertidamente restaurar conhecimento removido anteriormente, desfazendo esforços anteriores de esquecimento.
3. Erosão da Utilidade: Atualizações repetidas de parâmetros tendem a degradar as capacidades gerais do modelo em tarefas não-alvo.

Além disso, a maioria dos métodos existentes de esquecimento contínuo permanece baseada em ajuste fino, herdando essas mesmas limitações. Há necessidade de um framework que seja eficiente, escalável e livre de interferência entre solicitações.

2. Metodologia: O Framework ICCU

Os autores propõem o ICCU (Esquecimento Contínuo em Contexto), um framework sem parâmetros que realiza o esquecimento contínuo induzindo e aplicando regras de recusa legíveis em vez de modificar os pesos do modelo. O framework opera em duas etapas distintas:

Etapa 1: Geração Contínua de Regras de Recusa

Em vez de armazenar dados brutos do conjunto de esquecimento (o que levanta preocupações de privacidade e custos de armazenamento), o ICCU processa cada conjunto de dados de esquecimento entrante ($D_t$) para gerar um conjunto compacto de regras em linguagem natural.

• Agrupamento: As amostras em $D_t$ são codificadas usando um modelo de incorporação pré-treinado e agrupadas (por exemplo, via K-means) em grupos semânticos. Isso agrupa conhecimento relacionado (por exemplo, nome de um autor, local de nascimento e obras) enquanto descarta amostras brutas.
• Indução de Padrões: Para cada cluster, um LLM é solicitado a resumir as características compartilhadas das amostras em uma regra de recusa concisa e legível por humanos.
• Acumulação: Essas regras são anexadas a um repositório global e compartilhado. Essa acumulação é independente da ordem e composicional, o que significa que o conjunto final de regras é uma união de todas as regras induzidas, e a adição de novas solicitações não interfere nas existentes. Uma vez induzidas as regras, os dados originais do conjunto de esquecimento são descartados.

Etapa 2: Recuperação Adaptativa de Regras no Momento da Inferência

No momento da inferência, quando uma consulta de usuário chega, o ICCU seleciona dinamicamente regras relevantes para regular o comportamento do modelo sem retreinamento.

• Controle de Cluster (Verificação Rápida): A consulta é incorporada e comparada aos centróides dos clusters armazenados. Se a consulta estiver distante de todos os centróides (distância > limite $\tau$), ela é considerada fora do escopo e respondida diretamente pelo modelo base.
• Seleção de Regras (Verificação Semântica): Se a consulta estiver próxima a um centróide, o sistema recupera as $m$ regras de recusa mais relevantes. Um LLM realiza uma verificação de raciocínio semântico para determinar se a consulta corresponde genuinamente às regras, prevenindo falsos positivos provenientes da verificação de proximidade de incorporação.
• Modos de Implantação:
  1. Esquecimento Baseado em Filtro: As regras atuam como um filtro semântico independente. O sistema decide primeiro se deve recusar a consulta. Se não for recusada, uma chamada de geração separada produz a resposta.
  2. Esquecimento de Ponta a Ponta: As regras são injetadas no prompt do sistema. O modelo emite conjuntamente um veredito de correspondência e uma resposta candidata em uma única chamada. Se uma correspondência for detectada, a resposta é substituída por uma recusa.

3. Contribuições Principais

1. Formulação Novadora do Problema: O artigo estuda o esquecimento contínuo baseado em contexto, abordando os desafios específicos de solicitações de exclusão sequenciais sem atualizações de parâmetros.
2. Framework ICCU: Um framework inovador baseado em regras que:
   • Realiza o esquecimento sem modificar parâmetros do modelo.
   • Induz regras de recusa compactas e legíveis que são livres de interferência entre solicitações.
   • Suporta tanto modos de implantação baseados em filtro quanto de ponta a ponta.
3. Validação Empírica: Experimentos extensivos demonstram que o ICCU suprime efetivamente o conhecimento-alvo enquanto preserva a utilidade geral, escala através de solicitações sequenciais e permanece robusto a consultas parafraseadas e multilíngues.

4. Resultados Experimentais

Os autores avaliaram o ICCU em dois benchmarks: TOFU (biografias de autores fictícios) e WMDP (conhecimento perigoso em biologia, química e cibersegurança), utilizando o MMLU para medir a retenção de capacidade geral. Os modelos testados incluíram as famílias Qwen e Llama.

• Eficácia do Esquecimento: O ICCU alcançou altas taxas de recusa (por exemplo, >0,93 em subconjuntos do WMDP) enquanto mantinha baixas taxas de recusa em consultas não-alvo (por exemplo, <0,04 no MMLU), superando guardrails baseados em prompts e igualando classificadores treinados.
• Estabilidade Contínua: Em testes de composicionalidade (Tabela 3), a ativação de subconjuntos de regras mostrou que a adição de novas solicitações de esquecimento não degradou o efeito de esquecimento de solicitações anteriores, confirmando a ausência de interferência entre solicitações.
• Robustez: O ICCU manteve alto desempenho em consultas parafraseadas e traduzidas (francês, português, russo, etc.), enquanto as bases de classificação degradaram-se drasticamente em configurações multilíngues.
• Preservação da Utilidade: Em comparações de ponta a ponta contra bases de ajuste fino (Ascensão do Gradiente, RMU, O3), o ICCU suprimiu conhecimento perigoso de forma comparável aos métodos de ajuste fino, mas preservou a capacidade geral (precisão do MMLU) significativamente melhor.
• Eficiência: O modo de ponta a ponta reduziu os custos de inferência ao fundir filtragem e geração em uma única chamada, enquanto o modo baseado em filtro ofereceu uma interface modular.

5. Significado e Alegações

O artigo afirma que o ICCU oferece uma solução livre de treinamento, amigável à privacidade e escalável para o desafio crescente do esquecimento contínuo. Seu significado reside em:

• Desacoplamento do Esquecimento do Treinamento: Ao mover a lógica de esquecimento para o contexto de inferência (via regras), elimina o custo computacional e a erosão da utilidade associados ao ajuste fino repetido.
• Privacidade e Auditabilidade: O framework descarta os dados brutos do conjunto de esquecimento após a indução de regras, mantendo apenas centróides de cluster e regras legíveis por humanos. Isso torna a política de esquecimento auditável e controlável no nível da regra.
• Robustez Semântica: Ao depender de representações semânticas em vez de palavras-chave de nível superficial, o ICCU generaliza para consultas parafraseadas e multilíngues, abordando uma fraqueza chave dos filtros baseados em palavras-chave.
• Flexibilidade: O repositório de regras pode servir a diferentes cenários de implantação (filtro vs. ponta a ponta) e permite a ativação seletiva de regras, tornando-o adaptável a restrições variáveis de latência e integração.

Os autores notam limitações, incluindo a suposição de que consultas do conjunto de esquecimento são separáveis de consultas de utilidade no espaço de incorporação e a necessidade de estudos adicionais sobre como o framework escala para centenas ou milhares de solicitações sequenciais. No entanto, eles postulam que o ICCU representa um passo significativo em direção a um esquecimento contínuo eficiente e eficaz para LLMs.